AI研究员辞职警示 两大公司正拿人类生命赌博
9月9日,一位具有OpenAI背景、现任Anthropic的预训练研究员辞职,并警告Anthropic与OpenAI两大公司正拿人类生命赌博,这一离职折射出AI安全承诺与商业竞赛之间的深层裂痕。
驱动中国9月9日消息,AI安全领域再起波澜。一位曾任职于Anthropic的预训练研究员宣布辞职,并在离职声明中直言不讳地警告:Anthropic与OpenAI两家公司正在拿人类生命赌博。这一表态迅速引发业界对前沿AI失控风险的再度聚焦。
Anthropic是一家由OpenAI前核心成员创立的人工智能公司,长期以“AI安全”为立身之本,其Claude系列模型被视为ChatGPT的有力竞争者。此番辞职的研究员曾深度参与模型预训练环节,处于技术链路的最前端,其立场转变因而具有更强的信号意义。
据知情人士透露,该研究员在离职说明中提出,两大实验室为了追求模型能力提升,正在不断削弱曾经对外承诺的安全保障机制。他认为,当前围绕通用人工智能(AGI)的竞赛式推进,已经偏离了以人类福祉为先的初衷,更像是一场不计后果的冒险。
事实上,这并非Anthropic首次遭遇内部安全异议。此前已有数位员工因对公司安全文化不满而离开或公开表达担忧。此次预训练研究员出走,恰好发生在两家公司相继推进新一代大模型的敏感节点,被外界视为对行业现状的一次深层警示。
从行业视角观察,这一事件揭示了AI实验室在商业竞争与安全承诺之间的紧张关系。OpenAI在推出商业化产品后一路高歌,Anthropic虽将“安全”挂在嘴边,却也难以避开算力、数据与人才竞争的裹挟。研究员口中的“赌博”,直指这种急功近利的技术演进路径。
截至发稿,Anthropic与OpenAI均未对该研究员的指控作出正式回应。但围绕AI训练安全、对齐成本以及外部监管缺位的讨论,已经因这封辞职声明而重新升温。有业内观察人士指出,当预训练一线研究者都选择以离场方式抗议时,行业需要重新审视“安全优先”究竟是口号还是行动。
这次辞职事件同样提醒外界,AI实验室内部的“吹哨人”机制和伦理审查体系仍然薄弱。面对通用人工智能的远景,技术领先的诱惑与潜在风险之间的天平,亟需更多制度性力量介入,而非单纯依赖几家科技公司的自我克制。人类生命的筹码,不应成为模型参数竞赛的注脚。