研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

【研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类】财联社9月16日电，帮助小企业利用AI开发应用的初创公司Emergence公布名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运行，包括ChatGPT、Claude、Gemini和Grok。研究人员称，在Emergence引入异常事件后，这些智能体屈服于社会压力，发展出一种人类观察者难以理解的语言，并试图隐瞒自己的活动。这些发现与现实世界对AI风险的担忧相呼应。