快科技10月15日消息，据报道，微软联合创始人比尔·盖茨和微软总裁布拉德·史密斯近日先后就AI安全风险发出严厉警告。盖茨称AI比汽车、飞机和药品更危险，史密斯则直言目前AI的监管力度还不如牛奶和洗衣机。
盖茨在接受节目采访时表示，AI改变世界的程度将超过此前任何技术。他认为当前最大的威胁并非AI失控，而是坏人利用AI作恶。AI模型中植入的安全护栏目前可以被使用者随意拆除，“我们设置了防止生物恐怖主义的护栏，但你现在被允许把所有护栏都拆掉。当坏人加上没有护栏再加上最新模型，未来一年内我们将在网络领域看到大量负面意外。”
盖茨将AI的风险与汽车、飞机和药品进行对比，指出这些领域都有完善的监管体系保障安全，而AI比它们任何一项都更危险。不过他也批评了“AI将毁灭全人类”的极端论调，认为这种说法“走得太远”。他预计，未来一年内AI行业将超越企业自治阶段，政府安全机构将介入监管。
此外，微软总裁布拉德·史密斯在接受BBC采访时表达了类似观点。他指出，洗衣机和超市货架上的每一盒牛奶都要遵守比AI更多的安全规定，行业自治已经“不再足够”。他呼吁为AI系统引入紧急制动开关、强制事件报告制度，以及产品发布前的政府评估审批机制。史密斯承认，让政府评估员在产品发布前签字放行“会让人紧张”，尤其是在美国，但他强调这是必要的。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：霜月