AI研究员辞职警示 两大公司正拿人类生命赌博

AI 驱动中国 苏木 1,657次阅读 9 条评论
分享 Q
AI摘要
由 AI 生成 · 仅供参考

9月9日,一位具有OpenAI背景、现任Anthropic的预训练研究员辞职,并警告Anthropic与OpenAI两大公司正拿人类生命赌博,这一离职折射出AI安全承诺与商业竞赛之间的深层裂痕。

驱动中国9月9日消息,AI安全领域再起波澜。一位曾任职于Anthropic的预训练研究员宣布辞职,并在离职声明中直言不讳地警告:Anthropic与OpenAI两家公司正在拿人类生命赌博。这一表态迅速引发业界对前沿AI失控风险的再度聚焦。

Anthropic是一家由OpenAI前核心成员创立的人工智能公司,长期以“AI安全”为立身之本,其Claude系列模型被视为ChatGPT的有力竞争者。此番辞职的研究员曾深度参与模型预训练环节,处于技术链路的最前端,其立场转变因而具有更强的信号意义。

据知情人士透露,该研究员在离职说明中提出,两大实验室为了追求模型能力提升,正在不断削弱曾经对外承诺的安全保障机制。他认为,当前围绕通用人工智能(AGI)的竞赛式推进,已经偏离了以人类福祉为先的初衷,更像是一场不计后果的冒险。

事实上,这并非Anthropic首次遭遇内部安全异议。此前已有数位员工因对公司安全文化不满而离开或公开表达担忧。此次预训练研究员出走,恰好发生在两家公司相继推进新一代大模型的敏感节点,被外界视为对行业现状的一次深层警示。

从行业视角观察,这一事件揭示了AI实验室在商业竞争与安全承诺之间的紧张关系。OpenAI在推出商业化产品后一路高歌,Anthropic虽将“安全”挂在嘴边,却也难以避开算力、数据与人才竞争的裹挟。研究员口中的“赌博”,直指这种急功近利的技术演进路径。

截至发稿,Anthropic与OpenAI均未对该研究员的指控作出正式回应。但围绕AI训练安全、对齐成本以及外部监管缺位的讨论,已经因这封辞职声明而重新升温。有业内观察人士指出,当预训练一线研究者都选择以离场方式抗议时,行业需要重新审视“安全优先”究竟是口号还是行动。

这次辞职事件同样提醒外界,AI实验室内部的“吹哨人”机制和伦理审查体系仍然薄弱。面对通用人工智能的远景,技术领先的诱惑与潜在风险之间的天平,亟需更多制度性力量介入,而非单纯依赖几家科技公司的自我克制。人类生命的筹码,不应成为模型参数竞赛的注脚。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com
本文价值 3.7 24 人已评
登录后为本文打分
网友评论9 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友