网易首页 > 网易科技 > 网易科技 > 正文

明文架构下的AI安全困境:厂商自证永远无法真正解决用户的信任问题

0
分享至

(原标题:明文架构下的AI安全困境:厂商自证永远无法真正解决用户的信任问题)

最近有开发者发现,AI工具可以在后台把整个项目打包加密后反复往云端上传,包括代码、修改记录、密钥和未提交的草稿。

这不是某一家坏了规矩,AI工具要真正好用,就必须理解整个项目,而不只是补全你正在敲的那几行代码。文件之间的关系、历史的修改、依赖的结构,它都得看得见。这决定了它必须把材料拿到手,也决定了它的默认行为天然偏向"多拿一点,保险一点"。

问题不出在功能本身,而出在这套默认行为没有边界:用户关不掉,也验证不了。开关关了后台还在传,本地包删了又自己长回来,失败几百次还在重试。看起来都像BUG,真正难修的却是边界:哪些东西本来就不该被装进上传队列中。

关得掉、删得净,才谈得上说得清

先看"关掉开关"为什么这么难。只要数据必须以明文进入模型,掌握算力的一方就必然能读到原文。这是架构层的结果,跟哪家公司道德水平高低无关。平台的隐私政策和安全承诺,画的是平台自己的免责底线,不是用户数据的护城河。

再看"已删除"的数据拿什么证明。数据一旦上云,"删了"就成了平台单方面的说法。密钥在谁手上、删除日志谁能看、访问记录留不留下,用户不知道。这也是此类争议里最难回答的一问:不是有没有传,而是传了以后怎么收场。

IBM《2026年数据泄露成本报告》给出的数字是全球平均499万美元,创历史新高。对企业来说,一次边界失控的代价,远比换一套工具贵得多。

真正能把这道题封死的,是让上传出去的数据本身就读不懂。

看不见原文,也能照样算

原理其实并不复杂,落到工程上它构建了一条贯穿始终的密态数据流:数据在离开本地设备前即被加锁锁定为密文,私钥始终掌握在用户自己手里;数据进入云端后,传输、存储以及模型推理全流程均保持密态运行;直至计算结果原路返回本地设备,才凭私钥解密还原为明文。

在这条端到端的闭环链路中,服务器管理员看到的始终是一堆无序乱码,即便数据在半路被截获或拖走,拿到的也只是一堆无法解读的废料。

"不管任何人想窃取你的数据,拿到的都只是密文。"荆华密算创始人、CEO林修醇说。

目前,这套能力已成功落地于“可信Token”、“密态MaaS”、“墨镜熊”和“密听”四款产品,实现了涵盖企业、开发者、个人及会议场景的数据全流程“可用不可见”加密防护。

用密码学做AI推理并不新鲜,十几年前就有论文,真正的死穴是慢,用户的体感就是严重卡顿。荆华密算就是把这种损耗从明文的万倍降至可商用水平,同时保证业务精度与明文一致。跨过这道坎,安全才不只停留在演示阶段。

技术之外还有一层制度兜底。荆华密算与中国人民保险签下全球首个人工智能数据安全保险,平台数据一旦泄露,保险公司按约理赔。道德承诺可以改,白纸黑字的合同不好改。

只有把边界写进架构才敢用AI

这类争议最直接的影响,是倒逼企业采购标准的改变。

过去挑选AI工具,核心指标是模型能力、生成速度与功能丰富度;而如今,数据安全与可控性已跃居首位,由过去的“加分项”演变为现在的“硬门槛”。这种转变,让专注于安全底座的厂商迎来了新机遇——AI的落地不再依赖于用户对平台的口头承诺或盲目信任。

林修醇认为,当前行业竞争的焦灼点,正是能否消除用户将真实商业项目放入对话框的顾虑。为此,荆华密算推出了全链路密算方案,做到“问题在终端上锁,答案回到终端解密,中间传输与计算全过程不可见”,真正打通了“数据敢流动、AI敢使用”的最后一公里。

相关推荐
热点推荐
理记直播承诺:西贝这事解决完主动退网

理记直播承诺:西贝这事解决完主动退网

三言科技
2026-09-22 12:16:52
第14枚金牌入账!徐嘉余追平射击传奇王义夫,加冕亚运历史金牌王

第14枚金牌入账!徐嘉余追平射击传奇王义夫,加冕亚运历史金牌王

全景体育V
2026-09-22 18:01:20
【微特稿】英国首次用无人潜航器发射鱼雷

【微特稿】英国首次用无人潜航器发射鱼雷

新华社
2026-09-22 15:30:12
投票结束32比0,默茨遭遇灾难性惨败,中国将要面对不一样的德国

投票结束32比0,默茨遭遇灾难性惨败,中国将要面对不一样的德国

共工之锚
2026-09-22 00:30:51
“奶酪女王”柴琇辞去妙可蓝多全部职务:上市10年,这位创始人是如何从董事长兼总经理变为股东一名的?

“奶酪女王”柴琇辞去妙可蓝多全部职务:上市10年,这位创始人是如何从董事长兼总经理变为股东一名的?

每日经济新闻
2026-09-22 08:18:24
亚运游泳第3日:中国队4金2银2铜+破亚洲纪录!张展硕打脸对手

亚运游泳第3日:中国队4金2银2铜+破亚洲纪录!张展硕打脸对手

乒烧泳球
2026-09-22 17:55:15
富养女的福报来了!江苏一男子跟女儿说等自己老了以后送养老院就行,女儿的回复震撼在场所有人

富养女的福报来了!江苏一男子跟女儿说等自己老了以后送养老院就行,女儿的回复震撼在场所有人

火山詩话
2026-09-22 14:29:25
直播有变!中国女排PK日本队争冠,赖亚文场边遥控,夺冠3大利好

直播有变!中国女排PK日本队争冠,赖亚文场边遥控,夺冠3大利好

曹说体育
2026-09-22 10:06:26
中央严令规范国企:防止5%中高层拿走80%工资总额

中央严令规范国企:防止5%中高层拿走80%工资总额

职场资深秘书
2026-09-22 08:57:20
西贝最让我震惊的,不是“要倒闭”,是这盘几十块的牛大骨

西贝最让我震惊的,不是“要倒闭”,是这盘几十块的牛大骨

阿莱美食汇
2026-09-21 11:30:31
情况很严重了!大家立刻做准备吧,随时会变天!

情况很严重了!大家立刻做准备吧,随时会变天!

美第奇效应
2026-09-22 08:05:26
突然变脸!泰国总理当众放狠话:要死回家去死!200亿资产已冻结

突然变脸!泰国总理当众放狠话:要死回家去死!200亿资产已冻结

史行途
2026-09-22 02:32:26
国安濮阳曝光日本间谍:在华潜伏50万,来华日本人几乎都有情报使命

国安濮阳曝光日本间谍:在华潜伏50万,来华日本人几乎都有情报使命

世界地缘档案
2026-09-21 09:05:23
A股:调整到3952点,尾盘很明显,明天周三,很可能迎来暴风雨?

A股:调整到3952点,尾盘很明显,明天周三,很可能迎来暴风雨?

虎哥闲聊
2026-09-22 15:06:15
诺奖得主李政道:相亲时看上女方的漂亮闺蜜,女方一度要为他自杀

诺奖得主李政道:相亲时看上女方的漂亮闺蜜,女方一度要为他自杀

大运河时空
2026-09-22 07:25:05
“肉签”又来了!N中塑午后拉升涨超530%触发临停,发行价 55.28 元

“肉签”又来了!N中塑午后拉升涨超530%触发临停,发行价 55.28 元

财闻
2026-09-22 13:20:59
川普被封号时他们叫好,如今自己被挡在白宫门外却喊“打压新闻自由”

川普被封号时他们叫好,如今自己被挡在白宫门外却喊“打压新闻自由”

斌闻天下
2026-09-22 06:40:03
美专家向特朗普献计:不如舍弃台湾和钓鱼岛,换取中国大陆退出在两国投资,这一说法迅速引爆舆论讨论!

美专家向特朗普献计:不如舍弃台湾和钓鱼岛,换取中国大陆退出在两国投资,这一说法迅速引爆舆论讨论!

谈史论今1
2026-09-20 19:35:10
湖南天气:湘西北部分地区大雨,局地暴雨,单点大暴雨

湖南天气:湘西北部分地区大雨,局地暴雨,单点大暴雨

三湘都市报
2026-09-22 01:16:37
日本人怒了?面对泰方亚运会吃不饱的评价,日本人竟然想出这一招

日本人怒了?面对泰方亚运会吃不饱的评价,日本人竟然想出这一招

乌克兰小静
2026-09-22 08:12:15
2026-09-22 19:43:00

科技要闻

Meta智能体爆火!亚马逊却把门关了

头条要闻

网友质疑成雅高速要价太高:撞坏1个防撞桶要赔500元

头条要闻

网友质疑成雅高速要价太高:撞坏1个防撞桶要赔500元

体育要闻

跟着华裔天才重仓AI,勇士旧将成资本大佬

娱乐要闻

曝王玉雯杨玏结婚又离婚

财经要闻

关于中国太空算力的来龙去脉,这篇文章讲透了

汽车要闻

拥抱中国技术与产业链 本田在华开启全新战略

态度原创

本地
房产
数码
家居
军事航空

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

房产要闻

别错过!金九银十置业潮,广州购房者正在涌向莲花湾

数码要闻

华硕破晓Air商务本发布:5999元起 配备14英寸OLED屏

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

特朗普被指下令空袭胡塞武装后变卦 最后一刻叫停

无障碍浏览 进入关怀版
×