大风号

AI常把多种事物错误标注为外星生命现象

天文online

07-20 22:28 来自北京

AI易将各类事物误判为外星生命相关事物

经过训练用于识别生物特征的神经网络可能会标记出远超应有数量的结果。

如果人类真的发现了智能外星生命的确切证据，不要期待一场戏剧性的、人工智能辅助的科幻式相遇。在星空中搜寻外星生命迹象，与其说是等待巨大的不明空中现象（UAP）进入视野，不如说是在海量复杂数据中寻找微妙的生物特征。

近年来，包括美国国家航空航天局（NASA）的一些研究人员在内的许多研究者，都主张在寻找地球以外的生物体时融入机器学习和人工智能技术。其中一些方法可能展现出潜力，但新的研究表明，如今的许多人工智能比人类操作者更容易被假阳性结果欺骗。

无论我们从什么命令序列开始，我们都能100％地骗过人工智能，密歇根州立大学（MSU）计算机科学工程师安基特古普塔在一份声明中表示。

Gupta和同事ChristophAdami最近进行了一项实验，以评估一个专门设计的AI程序识别假设性生物特征信号的能力。为此，他们依靠密歇根州立大学开发的名为Avida的计算机程序，该程序用数字有机体模拟进化过程。Avida将DNA等可复制的生物分子视为计算机代码，然后利用这些命令字符串在虚拟培养皿中反复自我复制。重要的是，每次编码迭代都不完美或包含根本性变化——类似于生物有机体的繁殖方式。

Gupta和Adami随后在Avida内部对数万个数字有机体训练了一个神经网络，其中一些有机体包含自我复制的指令，另一些则没有。在让他们的AI对这两种有机体类型进行分类后，该程序达到了近乎完美的准确率。然而，一旦研究人员展示了AI之前未遇到过的新例子，它很快就遇到了难题。仅对有机体的计算机代码进行150次微小改动，AI就开始错误识别生命迹象。

AI有一个阿喀琉斯之踵。它能识别出模式，但会完全错误地分类，阿达米解释道。这是一个非常严重的漏洞。

与地球上不同，要确保在火星探测器或行星探测器上对AI的工作进行人工复核可能要困难得多。但类似的AI误报问题已经影响到远不止未来太空任务的领域。面部识别软件、自动驾驶汽车和医疗扫描仪都依赖各种机器学习程序来做决策。过度相信这项技术的可靠性，其影响远不止误判新生命形式——它还会危害现有生命。

根据阿达米的说法，他们的研究结果并非是对人工智能的控诉，而是提醒人们，在任何新的科学发现领域中，人类仍然至关重要。

你需要一种独立的方式来检查【人工智能的】工作，阿达米说。这个过程中需要有人参与。