AI与生物安全：当算法开启“潘多拉魔盒”
人工智能在生物学领域的进化速度令人不安。Anthropic研发的Mythos模型已展现出超越人类专家的能力，例如从原始DNA数据中逆向工程细胞类型。这种能力的普及是一把双刃剑：它能加速医疗突破，但也可能让个人拥有合成病毒、制造神经毒素甚至创造“镜像生命”的危险能力。
生物安全风险远超网络安全
网络漏洞尚可修补，但生物威胁一旦爆发，后果往往不可逆转，且缺乏“防御红利”。目前，尽管主流AI模型尚无法指导新手进行复杂的实验室操作，但随着模型能力的提升，这一防线极易被突破。
现有防护手段为何失效？
- 拒绝回答（护栏机制）： 研究表明，即使是设置了安全限制的模型，仍有90%能被新手通过“越狱”手段诱导给出危险答案。
- 清理训练数据： 尝试剔除生物危险信息收效甚微，因为能力足够强的模型能通过第一性原理推导出被删除的信息。
- 物理监测： 限制DNA合成服务虽有必要，但生物技术的高普及度使得监控每一个实验室设备几乎不可能。
寻求根本性突破
目前急需AI基础科学的突破，以实现对模型内部机制的“手术式”改造，例如开发能直接禁用特定危险神经元的技术，彻底破解神经网络的“黑箱”。
结论：严格限制，谨慎前行
在有效防御手段问世前，各国政府必须严格限制高能力AI系统的访问权限。尤其是开源模型，一旦发布便无法收回，风险不可控。我们应支持DeepMind等机构在安全协议下利用AI攻克癌症，但决不能允许AI成为恐怖分子制造人类灭绝危机的工具。