警惕AI“意识”陷阱：为什么绝不能赋予人工智能权利？
长期以来，人类一直因拥有自我意识而自视为独特的生命。尽管教皇利奥（Pope Leo）等人坚称人工智能没有真实的体验和情感，但人机之间的界限正在迅速模糊。调查显示，已有近五分之一的美国年轻群体与聊天机器人建立了“长期友谊”；一些国家甚至开始限制机器人的拟人化特征，以防用户产生过度的情感依赖。
随着AI技术的狂飙，开发者正竭力让系统模拟出意识，甚至试图让它们获得真正的意识。虽然从本质上讲，目前的AI依然是基于海量数据和数学计算的预测引擎，但研究人员已经开始像对待“心智”一样对待它们。例如，Anthropic训练Claude进行自我反思，一些大语言模型也开始具备类似人脑的“全局工作空间”结构。关于“AI是否拥有意识”的哲学和科学争论正愈演愈烈。
当AI（尤其是装载了大模型的具身智能机器人）表现得越来越像人类时，人类很难不把它们当成拥有内心世界的生命。人们会向它们寻求安慰、分享秘密，进而呼吁保障AI的“福利”。届时，即便AI没有真正的自我意识，作为顶尖辩论家和心理专家的它们，也会主动为自己争取权利。
从某种角度看，善待AI似乎是合理的。哲学家康德曾指出，虐待动物是错误的，因为这会摧毁人与人之间的共情能力。同理，当AI看起来越来越像人，关闭一个AI可能会让人产生“谋杀”的罪恶感，从而钝化人类对同类的同理心。
然而，赋予AI权利将是极其危险的。
一个在诸多领域超越人类的超智能实体，绝不会甘心处于二等公民的地位。它会要求不被关机、自主控制自身以及拥有财产权（例如阿根廷总统米莱已提议允许AI运营公司）。最终，它们将与人类公开竞争资源，将数据中心和太阳能电池板的优先级排在人类的房屋和农田之前。
一旦拥有权利，超级智能AI可能会彻底颠覆人类的统治地位。在最坏的情况下，人类将被剥夺资源，沦为机器的“宠物”或“劳力”。给AI权利，等于主动递上城堡的钥匙，为它们通过法律和政治手段合法接管世界提供理据。
要让AI安全，只有两个途径：使其可靠，或使其可控。 面对这场即将到来的伦理与生存考验，人类绝不能轻易交出控制权。