AI安全新警示：Anthropic的新模型“Mythos”是否过于危险？
2019年，OpenAI曾以“过于危险”为由延迟发布GPT-2，如今，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）再次对该公司最新的AI模型“Mythos”发出了类似警告。
核心担忧：强大的网络攻防能力
据Anthropic称，Mythos的能力远超以往任何模型，尤其是在发现软件漏洞方面表现惊人。它不仅能修复漏洞，还能主动进行攻击。目前，Mythos已在所有主流操作系统和浏览器中发现了严重漏洞，甚至包括一个潜伏了27年的未知漏洞。
业界的反应与应对
与以往的营销噱头不同，此次警告得到了科技界的严肃对待。Anthropic发起了“Glasswing项目”，旨在让各大科技巨头（包括苹果、谷歌、Linux基金会和CrowdStrike）在模型公开发布前，利用Mythos强化自身的网络防御。头部企业的积极参与，侧面印证了该威胁的真实性与紧迫性。
商业与地缘政治的博弈
- 商业动机： 虽然Anthropic宣称此举旨在安全防护，但该项目也为其带来了巨大的商业利益。未来Mythos的收费标准将是其前代模型Opus的五倍。
- 国家安全矛盾： “Glasswing项目”可能引发美国政府的不满。由于美国政府习惯囤积“零日漏洞”用于情报与军事目的，如果Mythos大规模修复了这些漏洞，将直接削弱美国的网络武器库。这势必加剧Anthropic与美国国防部之间本已紧张的关系。
结语
即便Anthropic采取了审慎的发布策略，但AI技术的扩散难以阻挡。随着其他实验室（尤其是缺乏安全监管的开源实验室）跟进研发出同类模型，如何平衡AI的防御价值与潜在的安全风险，将成为未来技术治理的重大课题。