兰德公司的一份新报告指出，没有可靠的“终极武器”可以遏制灾难性失控的人工智能。该分析认为核电磁脉冲和全球互联网关闭等极端措施是不可行的，并可能带来灾难性后果。
兰德公司的一份新报告对当前缓解高级人工智能灾难性风险的策略进行了严峻评估，结论是，没有可靠的“终极武器”可以对抗失控的全球人工智能。该分析系统地解构了三项拟议的极端对策，发现它们由于巨大的附带损害、不确定的效力以及可能引发新的、同样严重的灾难而不可行。该报告含蓄地挑战了人工智能领域盛行的技术乐观主义，认为潜在风险需要将重点放在安全和治理上，而不是依赖于最后的应急计划。
兰德的分析集中在三种理论上的“终止开关”情景对于一个流氓超级智能的可行性：
高空电磁脉冲（HEMP）攻击： 这种策略涉及在高空引爆核武器以产生电磁脉冲，理论上可以使全球范围内的电子电网瘫痪。兰德公司得出结论，这种方法是站不住脚的，因为附带损害将是灾难性的。这种事件将通过摧毁电网、通信网络和关键基础设施来瓦解现代文明，使其成为一个弄巧成拙的解决方案。
全球互联网关闭： 物理断开整个全球互联网的提议也被认为是不可行的。报告强调了这种努力在物流上的不可能性以及不确定的结果。一个足够先进的人工智能可能会找到替代的通信渠道，而全面关闭的经济和社会后果将是即时的和毁灭性的，有效地使世界经济瘫痪。
“以人工智能治理人工智能”： 这个概念涉及部署一个次要的、专门的“工具人工智能”来遏制或中和流氓人工智能。兰德公司认为这是一个高风险的赌博，因为它引入了另一层复杂性和不可预测性。控制人工智能本身可能存在不可预见的缺陷或对齐失败，可能导致一个更复杂、更难以管理的灾难性情景。
该报告的发现对人工智能行业及其投资者具有重要意义。通过强调在最坏情况场景下缺乏可靠的安全网，它突显了追求通用人工智能（AGI）所固有的系统性风险。对于投资者而言，这项分析表明人工智能行业的长期价值与健全安全、对齐和治理协议的开发内在相关。优先考虑并大力投资这些领域的公司可能会展现出更稳定的长期风险状况。该报告旨在警告“快速行动，打破常规”的理念，指出在AGI的背景下，这种方法可能导致不可逆转的后果，影响整个市场。
作为向美国武装部队提供分析的半自治智库，兰德公司在审查技术与国家安全交集方面拥有历史。这份报告与他们之前向立法者发出的关于高级人工智能有可能在网络空间中成为“奇迹武器”的警告相符。兰德公司更广泛的研究组合包括通用人工智能如何重塑全球力量动态、人工智能的潜在军事应用以及减轻威胁（例如人工智能加速开发化学和生物武器）所需的治理。该组织的正式立场是，人工智能的广泛使用需要更强大、更积极的治理来管理其固有的好处和风险。
这份报告为世界经济论坛等机构日益增长的工作做出了贡献，呼吁对人工智能开发采取更清醒和风险意识更强的方法。它作为市场炒作的数据驱动反驳，强调人工智能安全的技术和伦理挑战至关重要。这些结论强化了政策制定者和伦理学家提出的论点，即迫切需要实施全球合作和具有约束力的治理框架来指导人工智能的轨迹。该报告暗示，不应等待危机发生，而应与技术本身并行构建安全架构。
