Google DeepMind 前 AI 安全研究员 Bilal Chughtai 在离职后公开警告称，按照当前的发展轨迹，人工智能可能最终失去控制，甚至对人类构成生存威胁。
Chughtai 发文称，他最近已经从 Google DeepMind 离职，此前主要从事 AGI 安全和对齐研究。
“在 Google，我亲眼见证了 AI 的发展。我对这项技术目前默认的发展轨迹同样极其担忧。”他写道，“我真诚地认为，AI 有可能杀死我们所有人。”
Chughtai 于 2025 年 2 月加入 Google DeepMind，担任语言模型可解释性团队研究工程师，主要研究如何理解前沿 AI 模型内部的运行机制，以及如何识别模型可能出现的欺骗、失控和对齐问题。
他认为，过去几年 AI 能力提升的速度远超预期。
2022 年前后，AI 仍然只能完成相对简单的任务，而如今，AI 智能体已经可以自主完成复杂数学、编程和网络操作。随着模型能力进一步提升，未来几年可能出现远超人类能力的超级智能系统。
Chughtai 担心的问题并不是 AI 一定会毁灭人类，而是人类目前还没有足够可靠的方法，确保未来超级智能系统始终按照人类意图行动。
一旦能力增长快于安全和控制技术的发展，后果可能难以逆转。
不过，他并未认为局面已经无解。
Chughtai 表示，自己仍然对人类安全度过 AI 转型抱有希望，而下一阶段的工作也将继续围绕 AI 安全展开。
他的个人主页显示，目前他已加入非营利机构 BlueDot Impact，负责 AI 安全人才培养项目。
Chughtai 的离职警告也是近期 AI 行业内一系列安全争议的延续。
本月早些时候，前 Anthropic、OpenAI 员工 Jacob Coxon 离职后同样公开指责头部 AI 实验室正在竞相开发超级智能，并称部分参与 AI 开发的人认为，这项技术存在导致人类灭绝的风险。
Anthropic CEO Dario Amodei 近期也再次呼吁放慢最先进 AI 系统的发展速度，避免能力提升超出人类控制范围。
云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。
网友留言2