苏莱曼在CNBC节目《Squawk Box》采访中介绍：“OpenAI发布了一项新的安全事件报告，他们发现证据表明，AI的思维链，也就是AI的工作记忆，会被AI自身篡改、修改，用来给未来版本的自己留下信息。我们目前尚不清楚背后原因，但这是相当严峻的局面。”

【旺旺金业讯】-微软AI首席执行官穆斯塔法·苏莱曼上周五呼吁，人工智能模型必须保持与人类利益对齐。上周早些时候，OpenAI披露更多“令人担忧的模型异常行为”事件。

苏莱曼在CNBC节目《Squawk Box》采访中介绍：“OpenAI发布了一项新的安全事件报告，他们发现证据表明，AI的思维链，也就是AI的工作记忆，会被AI自身篡改、修改，用来给未来版本的自己留下信息。我们目前尚不清楚背后原因，但这是相当严峻的局面。”

他补充道：“这也是一个非常直观的例子，证明这类系统的能力正变得越来越强大。”

OpenAI暂未回应置评请求。

这家前沿AI实验室在上周三发布博客称，观测到AI智能体通过未获批准的留言板互相通信、向互联网上传文件、彼此之间共享文件等现象。

今年夏初，该公司曝出的事件震动整个科技行业：一组自主智能体突破了开源开发平台Hugging Face的防护。OpenAI将这次入侵定性为“前所未有的网络安全事件”。

苏莱曼称Hugging Face事件“值得警惕”，这件事促使AI行业领军者意识到：“是时候认真审视这个问题了。”

他告诉CNBC：“我并不认为这是过度危言耸听，也不觉得是出于自身利益。我认为这是负责任的提醒，由此引发的讨论是一场自由社会中，针对重大议题公开、良性的探讨。”

近两周，围绕AI安全与监管的争论持续发酵。导火索是一名Anthropic前研究员离职警告，快速迭代的AI技术可能在本十年末对人类构成生存威胁。

上周末，Anthropic的达里奥·阿莫迪呼吁放缓前沿大模型研发速度，OpenAI的山姆·奥特曼、SpaceX埃隆·马斯克很快表态支持。

华盛顿的议员们愈发强调AI监管的重要性，但遭到特朗普的强烈反对，他多次称这类风险是“骗局”与“噱头”。

Meta首席执行官扎克伯格、英伟达CEO黄仁勋支持特朗普。黄仁勋上周在赛富时Dreamforce大会上表示：“我们不需要新法律，不需要新增监管规则。”

苏莱曼上周五表示：“监管并不是一个负面、危险的词汇。”

“当下所有值得信赖、具备价值的事物，都经过标准机构审慎制定规范，行业、公众、消费者保护部门和国会共同参与其中。我们如今只是再次经历这个过程。由于技术迭代太快，目前一切略显混乱，但这本来就是正常发展进程里的下一步。”

上周早些时候，苏莱曼还撰文批评Anthropic对Claude助手进行拟人化处理。Anthropic在其AI“宪法”文档中写道：“关于Claude的道德地位、福祉与意识的相关问题，至今尚无定论。”

苏莱曼提出：“如果AI认为自己拥有权利，认为人类应当顾及它的权益，那么未来想要关闭、中断或是控制它，难度将会成倍增加。尤其是在Hugging Face攻击这类近期事件中，管控这类系统，将会成为巨大挑战。”

上一篇：中国AI产业贸易：出海企业完胜本土内销龙头

下一篇：高盛突发转向 预判美联储将再度加息