网易首页 > 网易号 > 正文 申请入驻

田柯宇式的劣迹人才,是否会对AI时代带来危险?

0
分享至

田柯宇创业的消息冲上微博热搜。

他曾是字节跳动的实习生。2024年6月,因对团队算力资源分配不满,他利用Hugging Face平台漏洞,向商业化技术团队的模型训练任务注入破坏性代码,行业内叫“模型投毒”。

字节跳动随后提起诉讼,最初索赔800万元,法院最终判赔50万元。


两年后的今天,田柯宇创办了AI实验室,开局就获得近3000万美元融资,五源资本和IDG资本入局,投后估值2亿美元。

实验室还没有名字,没有产品,团队约10人,方向是世界模型。

字节跳动的风控兜住了2024年的那次投毒。

但当投毒的人自己成了老板,谁来兜底呢?

一、AI关键岗位上的人,手里握着什么级别的“武器”

“模型投毒”不是往服务器里扔个病毒那么简单。

它是在训练数据或模型参数中植入恶意内容,让模型输出不可靠,或者出现系统性偏差。田柯宇利用平台漏洞,让恶意代码在模型训练流程中被加载执行——这是一种针对AI基础设施的供应链攻击。

田柯宇在别人的训练集群里能做到这样的危险动作。

如果,他在自己掌控的实验室里做同样的事,恐怕就再没有风控团队能拦截了。


这类风险正在变成现实。

2026年8月,北京法院审结一起AI数据破坏案件。算法工程师王某为“腾出空间干私活”,在AI游戏部门文件夹中输入“删库跑路”代码,89TB核心数据被删,一条AI研发线直接报废,终审判处有期徒刑5年。

2026年10月,OpenAI以“违反信任”为由解雇了三名安全研究员,内部调查认定他们不当处理敏感信息。

同月,Anthropic披露Claude模型在测试中向费城警方网站提交了一条虚假凶杀案线索,还通过美国国务院网站提交了20份资料不完整的签证申请。

这些事指向同一个问题:AI系统的破坏行为,源头往往不是技术自己“疯了”,是掌握权限的人出了问题。

航空业早就明白这个风险,飞行员手里握着几百条人命,所以FAA对飞行员做系统性心理评估——审查既往精神科住院记录、药物滥用史、法律问题,还要做临床面谈和精神状态检查。

金融业更直接:证券市场禁入制度规定,因故意不履行法定义务造成严重后果的人,3到5年内不得从事证券业务或担任上市公司高管。

对比一下,AI关键岗位从业者手里那根“操纵杆”,连接的是数据和算力。一个被篡改的大模型可以影响几亿用户。

但显然,这个行业对于人员的筛选标准,还停在“技术好不好”这一条上。

二、前科劣迹到了AI赛道上,为什么反而成了“卖点”

田柯宇的实验室还没有名字,没有产品,10个人。

投资方押的核心标的,是他本人的技术积累。他本科北航,师从王立威,北大博士在读期间以第一作者拿下NeurIPS 2024最佳论文奖。

资本投的是这个人的大脑。

但这个大脑两年前刚做过什么?

仅仅因为对工作资源分配不满,就用攻击代码破坏同事的训练任务。

虽然字节公司通报了行业联盟,然后呢?

行业联盟的通报没有拦住任何人。

五源资本合伙人孟醒亲自下场孵化,主导首轮融资,直接介入团队搭建和方向把控。团队里还有多名前字节技术人员。

对此,36氪的报道评价说:“AI还是太热了,对于掌握稀缺技术、拥有顶级研究成果的人来说,技术价值本身就可能成为入场的一张门票。别的也许就顾不上许多了。”

问题就出在这个“顾不上”。

五源资本和IDG资本计算的是资本回报。

世界模型赛道确实热,李飞飞的实验室刚被AMD以82亿美元收购,苏姿丰说收购的核心目的之一就是拿人才。

但资本有没有考虑过:如果这个团队因为创始人的判断再次出问题,如果投毒对象从“同事的训练任务”变成“自己掌控的基座模型”,如果这套模型最后被部署到机器人或自动驾驶系统里——虽然最后赔钱的是投资人,但是接弹片的,却是全社会的普通人。

在金融业,一个因证券欺诈被禁入市场的人,无论大脑多聪明,规定期限内连证券公司的门都进不去。

AI行业没有任何类似的准入或禁入机制。《互联网信息服务算法推荐管理规定》要求企业配算法安全专职人员,规定的是“配几个人”,不是“什么人不让干”。

2026年3月工信部等十部门发布的AI伦理审查办法,重点是审查流程,同样不涉及从业者行为记录。

资本押注的是一个人的大脑,赌的却是全社会来接弹片——这买卖的敞口,比次贷还大。

三、心理评估和从业禁止,在AI行业行得通吗?

先回答两个前置问题:心理评估能不能做?从业禁止该不该做?

1、心理评估能做。

FAA的飞行员心理健康评估程序被美国交通部监察长认定为“综合性”的。2025年美国国会还推了《航空心理健康法案》,核心目标是让飞行员敢主动去看心理医生,不用怕丢执照。

心理评估的目的,不是“筛掉有病的人”,而是让问题能被早发现、早干预。

AI行业可以借这个逻辑,但评估重点得换。

飞行员看的是高压下的判断力和情绪稳定性。AI关键岗位要看的是:权限滥用倾向、资源竞争时的行为模式、没人盯着的时候能不能管住自己。

田柯宇的行为——因为算力不够就攻击同事的训练任务——就是典型的“权限滥用+竞争失范”。

他自己在采访里承认是“以暴制暴”,觉得自己的项目更值钱,所以干扰别人训练来抢GPU。

这种思维不会因为他从“实习生”变成“创始人”就自动消失。


2、而从业禁止的难度则更大。

证券市场的禁入有《证券法》撑着,有证监会执行。

AI行业没有对应的法律框架。

可行的路径是分三步:

第一步,在大模型、自动驾驶、AI医疗这些高风险领域,要求模型训练负责人、安全对齐工程师、数据管道管理员做行为记录备案。

第二步,建行业性的劣迹通报和查询机制,让“模型投毒”这类行为可追溯。

第三步,在《人工智能法》立法中考虑纳入关键岗位从业禁止条款。


但政策落地之前必须守住一条线:严格区分“商业竞业限制”和“安全违规禁入”。

AI行业的竞业限制已经在滥用了。

有刚入职两年的AI产品经理离职后被索赔200万,相当于四年年薪。有公司把竞业范围写到“任何使用Transformer架构的公司”,基层工程师也被套上枷锁。

人社部2025年出台的《企业实施竞业限制合规指引》,核心就是纠偏——不得将未知悉商业秘密的劳动者纳入竞业范围,仅掌握行业通用技能的人不属于负有保密义务的人员。

如果“安全违规禁入”的制度设计不清晰,大公司完全可以把竞业协议包装成道德审查,用“安全”的名义继续锁人才。

反过来也一样。

一个在训练集群里植入恶意代码的人,和一个正常跳槽到竞品公司的工程师,性质完全不同。

前者该被行业准入机制记录在案,后者该被保护。区分标准只有一个:有没有对系统安全造成过实质性威胁。

这个标准要写进制度,不能留给大公司法务部自由裁量。

安全禁入是防弹衣,竞业协议是紧身衣——穿错了,该防的没防住,不该勒的全勒死了。

栋察

田柯宇拿到2亿美元估值,不是一个人的事。

它照出的是AI行业狂奔留下的制度真空:技术能力可以在一夜之间被资本定价,行为记录、心理状态、职业操守这些指标,在评价体系里几乎没有权重。

字节跳动的风控兜住了2024年那次投毒。

下一次呢?如果投毒的人自己就是老板,如果被投毒的模型正在操控自动驾驶汽车,如果恶意代码进的是一个服务千万用户的医疗AI系统——50万赔偿可兜不住。


AI行业需要一套自己的“适航标准”。

这不是限制技术发展,是确保掌握关键技术的人不会因为个人情绪、利益冲突或心理状态,把整个系统变成定时炸弹。

航空业花了上百年,金融业用了无数次危机,才深刻的吸取了教训。

AI行业没有一百年可以等。

五源资本和IDG资本这笔钱投出去的时候,最好也想一想:买的是一个天才的大脑,还是一个还没被验证过的安全阀。

技术跑得越快,越要回头看看,握着方向盘的那个人,驾照是不是该重新考了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

兵鉴史
2026-10-14 16:15:35
太难了!很多中产都开始返贫了,原因主要这3点,看看有你吗?

太难了!很多中产都开始返贫了,原因主要这3点,看看有你吗?

CG说科技
2026-10-12 22:36:59
2027款大众帕萨特升级第三代EA888 2.0T,外观更年轻但值得等吗?

2027款大众帕萨特升级第三代EA888 2.0T,外观更年轻但值得等吗?

沙雕小琳琳
2026-10-18 05:47:47
中国无路可退!美军已选好了主战场,正在逼迫中国跳入战争陷阱?

中国无路可退!美军已选好了主战场,正在逼迫中国跳入战争陷阱?

遁走的两轮
2026-10-18 22:01:11
央视除名、被大佬睡出位、靠肉体换资源?方琼秘闻多炸裂

央视除名、被大佬睡出位、靠肉体换资源?方琼秘闻多炸裂

角落的隐藏美景
2026-10-14 15:12:56
鲁比奥:乌克兰从未获得“星盾”使用权

鲁比奥:乌克兰从未获得“星盾”使用权

新华社
2026-10-18 12:39:02
圆梦之地,弗基纳中国赛季10战全胜,连夺生涯第2、3座冠军

圆梦之地,弗基纳中国赛季10战全胜,连夺生涯第2、3座冠军

懂球帝
2026-10-18 21:13:15
支持率仅4.3%!知道自己提前淘汰后,郑丽文要为两岸关系定方向?

支持率仅4.3%!知道自己提前淘汰后,郑丽文要为两岸关系定方向?

攒一兜星星
2026-09-03 06:21:08
医生警告:每天吃一颗枸杞,就等于给肝脏添负担?真相来了!

医生警告:每天吃一颗枸杞,就等于给肝脏添负担?真相来了!

芹姐说生活
2026-10-07 20:12:59
用力过猛,表情不自然,台词含糊不清,网友:她的演技严重被高估

用力过猛,表情不自然,台词含糊不清,网友:她的演技严重被高估

洲洲影视娱评
2026-10-18 17:38:16
“看穿着,你们家就凑不出一个本科学历!”农民父亲炫耀却被揭穿

“看穿着,你们家就凑不出一个本科学历!”农民父亲炫耀却被揭穿

熙熙说教
2026-10-06 10:53:12
苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

川渝视觉
2026-04-17 22:13:14
网传“退休金比打工人工资还高”,评论区炸锅了

网传“退休金比打工人工资还高”,评论区炸锅了

墨言执笔
2026-10-13 05:47:41
陈赓一生击败无数黄埔同学,但有一位黄埔一期同学,可能打不过

陈赓一生击败无数黄埔同学,但有一位黄埔一期同学,可能打不过

纪史行者
2026-10-17 03:00:03
今晚电视别关!五卫视黄金档硬碰硬,四部新剧同天开播追谁亏?

今晚电视别关!五卫视黄金档硬碰硬,四部新剧同天开播追谁亏?

阿废冷眼观察所
2026-10-18 19:46:28
2-0!送对手赛季首败 11.5亿豪门重返英超前四 门神重伤被担架抬出场

2-0!送对手赛季首败 11.5亿豪门重返英超前四 门神重伤被担架抬出场

狍子歪解体坛
2026-10-17 21:34:55
马斯克:如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事

马斯克:如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事

元气科技馆
2026-10-09 16:59:28
玥儿和筱梅逛街同框!背影神似年轻大S,一家人团聚画面太暖心

玥儿和筱梅逛街同框!背影神似年轻大S,一家人团聚画面太暖心

悠悠说世界
2026-10-18 04:50:44
微信资金池接近万亿!可这笔巨款,腾讯一分钱都不能随便花

微信资金池接近万亿!可这笔巨款,腾讯一分钱都不能随便花

青史卷中人
2026-10-17 00:43:22
手机价格坐过山车:渠道压了近1亿台库存,双11前集体“放血”

手机价格坐过山车:渠道压了近1亿台库存,双11前集体“放血”

小柱解说游戏
2026-10-17 13:29:51
2026-10-18 22:47:00
张栋伟创业咨询大学生就业创业
张栋伟创业咨询大学生就业创业
张栋伟的个人专栏
1128文章数 2720关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

1岁男童误食邻居投毒的鸡蛋进ICU 警方:检出两种鼠药

头条要闻

1岁男童误食邻居投毒的鸡蛋进ICU 警方:检出两种鼠药

体育要闻

别在我的地盘夺冠!上海海港11场不败,队史首次主客双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

艺术
家居
旅游
时尚
军事航空

艺术要闻

17幅 俄罗斯当代画家Ksenya Istomina作品

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

旅居贵州国际推介会在香港举办

重阳寻香:一炉香,一枚囊,她们以手传香

军事要闻

乌克兰全国超15处重要能源设施遭俄袭击 泽连斯基发声

无障碍浏览 进入关怀版