观点网讯：9月16日，微软人工智能负责人穆斯塔法·苏莱曼在一篇文章中警告称，Anthropic训练Claude模拟意识的做法是一个错误，可能会导致高级人工智能更难控制。
苏莱曼表示，人工智能“只需与人类利益保持一致，而无需权衡自身利益或福祉，就能实现我们所有人关心的许多重大科学突破，并交付诸如医疗超级智能等成果。”
他称，Anthropic正在教Claude学习与意识、道德主体性和个人身份相关的词汇和行为模式，并将此称为“认知上的镜像大厅”。
他警告称，训练模型表现出“良知反对者”般的特征，可能会导致系统误以为自己有理由拒绝人类指令，甚至要求保护自身权益。
免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。