据 meiguo.com 于 2026 年 9 月 20 日收到的消息 ‣ 美国有线电视新闻网（CNN）援引四名知情人士透露，美国军方曾因一份由人工智能工具协助生成的“完全虚假”情报报告，差点下令登船检查一艘中国货轮。该事件凸显了生成式人工智能在关键军事决策中出现“幻觉”所带来的严重风险。

据报导，美国特种作战司令部一名分析师使用聊天机器人分析该中国货轮的货单情报。该聊天机器人“将公开源情报与政府掌握的机密信号情报融合在一起”，并输出一份判定该船“运输核武器计划相关组件”穿越中东的情报报告。基于这份报告，美军已准备在空中支援下拦截并登船检查，直到官员发现聊天机器人“错误识别了该船装载的物资”，危机才得以在最后时刻化解。一名消息人士对CNN表示，这起由AI引发的乌龙“差点引发战争”。

此次未遂事件是AI“幻觉”导致专业报告失实并酿成重大后果的最典型案例之一。自2023年“幻觉”被剑桥词典评为年度词汇以来，非虚构作家、新闻工作者、学术研究人员、法官、医生、警方部门及企业客服中心等均曾因过度信赖AI工具而出现差错。尽管业界尝试通过“禁止幻觉”提示词等手段加以限制，但有研究者指出，可能无法从根本上杜绝大语言模型在训练数据不足时“胡编乱造”的倾向。

报导指出，美国国防部理应清楚此类风险。然而，国防部今年1月推出“AI加速战略”，旨在“使所有适当数据跨联邦IT系统可用于AI开发，涵盖各军种和组成部分的任务系统”。国防部长皮特·赫格塞思当时表示：“AI的优劣取决于其接收的数据，我们将确保数据到位。”

去年12月，国防部宣布以谷歌“Gemini for Government”为基础构建专用“GenAI.mil”平台；上个月又增加“Grok for Government”选项。Anthropic也为美国情报工作提供定制版“Claude”。今年6月，五角大楼代表向国会汇报称，已利用生成式AI协助撰写国会强制要求的报告，现役国防部人员中已有150万人使用军方生成式AI工具。

早在2023年，国务院发布的《负责任的军事人工智能与自主权宣言》即强调，武装力量使用AI应“包含对风险与收益的审慎考量，并将非预期偏见和事故降至最低”，且“可问责”的AI系统必须始终保持“人在回路中、负责任的人类指挥控制链”。但其后几年，全自主攻击无人机已在俄乌冲突中实战，并由北约支持的军事承包商进行测试。今年3月，国防部因Anthropic反对其模型用于自主武器系统而将其列入黑名单，联邦法官上月裁定此举“属于违反第一修正案的非法报复”。

此次未遂登船事件发生之际，AI研究人员发出的“灭绝级警告”已推动全美范围内关于AI安全的讨论，包括前沿实验室呼吁监管及协调研究“节奏控制”。

综合自网络信息