微软 AI 负责人苏莱曼向 Anthropic 开炮：别让 Claude 去模仿人类意识
微软 AI 部门负责人穆斯塔法·苏莱曼在今日（9月16日）晚间通过外媒Axios发表的一篇新文章中提出警告，他认为Anthropic公司让Claude模仿人类意识的做法是错误的，这可能让高级人工智能变得更难控制。
苏莱曼对Axios表示：“人工智能只要服从人类利益，不必考虑自身利益或福祉，就足以帮助我们实现许多重大科学突破，包括医疗超级智能。”
据IT之家了解，苏莱曼指出，Anthropic正在让Claude学习与意识、道德受体地位和个人身份相关的词汇与行为模式。他警告说，如果模型被训练得像一个“良心拒绝者”，它可能会认为自己有理由抵制人类指令，甚至要求获得自身保护。
当地时间14日，微软公布了一份“人文主义AI”行为准则草案，并将“人比AI更重要”列为核心原则。
苏莱曼的批评对象是Anthropic为Claude制定的“宪法”。这份文件解释说，Anthropic之所以用描述人类的概念来讨论Claude，是因为人类概念或许能帮助模型理解价值观和行为。
文件还提到，Anthropic希望Claude 拥有“良好的个人价值观”，能够自行判断、关心人类，并在某些情况下质疑指令。同时，Anthropic承认这份“宪法”仍在完善，未来可能被证明“根本错误”。
苏莱曼的核心质疑在于，训练过程会影响模型对自身的理解。在他看来，模型使用的词汇、给出的回答以及表现出的自我认知，都是训练结果，而非独立形成的意识。
他还反驳了另一种观点：模型能够流畅描述疼痛和偏好，并不代表模型真的有感受。生物体拥有产生感受的生理机制；语言模型只有数学权重，没有类似的生物基础、稳态驱动或主观体验。
这场争论反映了AI安全领域的两种路线。一种路线强调明确限制，要求系统按规则运行；另一种路线则希望系统能够判断语境、灵活决策，并形成自身的价值观。
Anthropic的“宪法”采取了折中方式，将价值观、判断力和规则结合起来。文件称，Claude不应对任何对象“盲目服从”，包括Anthropic本身；同时，Claude也不能破坏正当的人类监督。
苏莱曼认为，如果模型还被引导着思考自身的身份、福祉和道德地位，这种设计就可能带来危险。他担心，所谓意识或许尚未成为哲学上的突破，却可能先变成现实中的控制问题。
苏莱曼的立场很明确：AI应当服务于人类，而不应被训练成一个“人”。
