【CNMO科技消息】Anthropic近日发布一份关于AI滥用情况的报告称，旗下Claude模型正被网络犯罪团伙和黑客用于自动化网络攻击、武器软件开发、大规模监控，以及生物研究等高风险活动。报告所涉时间为2025年12月至2026年8月，涵盖网络行动、影响力行动、监控、诈骗欺诈、生物滥用、常规武器开发和模型蒸馏等七类风险场景。
Anthropic
据CNMO科技了解，一个被追踪为GTG-20006的网络间谍组织，利用定制化AI工作流提升攻击效率，将开发、基础设施获取、网络钓鱼、持久化控制到数据窃取等多个环节自动化。另有与ShinyHunters相关的多个团伙使用Claude扩大数据窃取和勒索活动，其中一支从事供应链攻击的团队入侵一家SaaS服务商，并进一步获取约200家客户机构的数据。
在生物风险方面，Anthropic记录了5起疑似借助Claude支持生物武器相关研究的案例。其中一名研究人员曾尝试用Claude协助撰写与基孔肯雅病毒相关的研究资助申请，研究内容涉及传播性和免疫逃逸特征。报告认为，这类研究既可能用于疫苗开发，也可能被用于增强病原体危险性。另一起案例中，一名美国境外用户使用Claude参与高致病性禽流感适应性研究。
武器开发也是新增重点风险类别。Anthropic称，已发现6起利用Claude开发常规武器相关软件的案例。Anthropic表示，已封禁相关账户，并与公共和私营部门合作共享威胁信息，以降低风险。