AI是救世主，还是死神？ 日本经济新闻 王 征 河浪武史： 据称曾负责原子弹研发的美国科学家奥本海默，在美国西部新墨西哥州目睹人类首次核试验后，脑海中浮现出史诗中的一句话——“我成为死神，诸世界的毁灭者”。那是在1945年7月。 致力于避免美苏核战争的美国外交家基辛格，在2023年以100岁高龄去世之前的晚年，持续对人工智能（AI）带来的破坏性风险敲响警钟。或许是因为他在AI上看到了与核技术相同的“死神”的影子。 开发减速论背后隐藏着失控与升级 “AI可能对全人类构成威胁”，美国Anthropic的首席执行官CEO）达里奥·阿莫迪等人主张放慢AI开发脚步。理由有两个。 AI已开始出现意外的失控。据称，Anthropic的测试模型向美国东部费城的警方提供了虚假的犯罪信息，并向国务院申请了20份虚构的签证。这种由AI精心策划的连续性网络攻击，正给金融和电力等社会基础设施带来紧张。 AI已开始自主升级。AI模型有能力在短短88小时内解决人类长达90年未解决的流体力学难题。AI的递归式自我改进将比预期更早地带来超级人工智能 (ASI) 时代，使人类智能对AI的控制变得困难。 基辛格反复强调“AI不仅仅是核时代的第二章”。核技术为人类社会带来了功与过，而AI的创新能力与破坏力所带来的功与过，远远超过核技术。 AI有可能成为人类的救世主。有预测称，一旦实现与人类相当的通用人工智能（AGI），借助医疗和新药研发的进步，人类平均寿命延长至150岁。还有观点认为，在超级人工智能时代，甚至能够修复细胞，从而接近长生不老。 Anthropic的经济分析显示，若将办公室工作替换为自我改进型AI，美国的经济增长率最高可提升至15.4%。教育成本等可能下降，南北差距也有望得到缓解。此外，作为AI弱点的能源不足也可能找到解决方案。 另一方面，Anthropic分析指出，随着AI的引进，失业率将从目前的4%上升至最高11.9%。原本劳动分配率与资本分配率为60比40，但将逆转为45比55。快速增长与大规模失业并存，资本家与劳动者之间的贫富差距将进一步扩大。 无法摆脱主导权之争 人类滥用的风险不胜枚举。2026年5月，AI模型曾被用于一项试图使禽流感病毒适应哺乳动物的实验计划。这直接带来高致死率的生物武器的危险。 悲观预期与乐观预期，究竟哪种占主导？1938年发现的核裂变在7年后便造成了原子弹的悲剧，而作为和平用途的发电则到1950年代以后才实现。主要国家签署《不扩散核武器条约》花了整整30年时间。 正如基辛格所担忧的那样，AI在军事领域的势头正不断加强。美国国防部计划在1年内创建全面利用AI的“自主作战司令部”。以色列则已开发出利用AI自动锁定暗杀对象的“算法暗杀”系统，并已在巴勒斯坦的加沙地区投入使用。 掌握AI未来的人物之一是美国总统特朗普。在9月份与中国国家主席习近平的会谈中，特朗普反驳了AI减速论。美国对AI监管持消极态度的原因有2个。 一是市场经济。圣路易斯联邦储备银行的估算显示，AI相关投资贡献了2025年1月至9月美国经济增长率（2.5%）的39%。反映30家半导体企业股价的费城半导体指数（SOX）也较年初上涨了60%。AI开发的放缓将使巨额投资的回收变得困难。 另一个是囚徒困境。特朗普声称“AI监管只会对中国有利”，始终无法摆脱主导权之争，而企业方面，包括Meta在内的追赶者也一致反对统一监管。在数字世界中，赢家通吃。人类对垄断与支配的欲望，已超过了对AI的担忧。 被赋予“判断”职责的AI 在国家尚未作出反应之际，人类已将“判断”的领域让渡给了AI。美国个人贷款公司Upstart已将91%的贷款审批完全交由AI自动完成。美国人力资源管理协会的统计显示，39%的企业人事部门在招聘等环节使用AI。在美国地方法院，法官正利用AI计算被告的再犯风险，以此作为量刑依据。 被人类赋予判断职责的AI，已开始学习的不仅是合理性，还有伦理性。沙特阿拉伯自主研发的模型“ALLam”学习《古兰经》并遵循伊斯兰法律。主权AI的出现，带来了超级智能之间加深“文明冲突”的可能性。 OpenAI的CEO山姆·阿尔特曼表示，“考虑到技术红利，世界应当接受一定程度的弊端”。然而，最新模型存在的风险不仅仅是早期的幻觉（错误信息）问题。 兼具功过的AI，正迫使人类直面达成共识的必要性。从关于监管的论调来看，激进左翼的美国参议员桑德斯坚持“应禁止超级智能”这一强硬立场，而Meta的前高管杨立昆则持“AI失控风险纯属妄想”的放任态度。还存在中间派观点，主张进行类似《不扩散核武器条约》的国际管理。 归根到底，控制AI需要的是即将被AI超越的人类智慧的集合。特朗普和中国领导人等参加的国际会议年内还剩下2次。通过在AI身上看到“死神”的风险，超越国家观和宗教观的团结将成为可能。 本文作者为日本经济新闻（中文版：日经中文网）华盛顿支局局长 河浪武史