俄报分析为何美国人工智能领军企业联合呼吁放缓发展步伐 “放缓”发展的首要目标是迫使美国政府对行业实施严格监管，从而以繁琐的官僚程序扼杀潜在中小型竞争者和中国公司的优势。其次，此举还可以转移国会等机构对大型人工智能企业一系列法律问题的注意力。再次，此举一方面为企业树立了形象，另一方面又为大模型可能被人恶意使用而引发的诉讼找到了“政府监管不力”这个背锅侠。 【本刊讯】俄罗斯《消息报》网站9月16日发表德米特里·米古诺夫的一篇文章，题为《反抗人工智能：美国大企业如何靠人工智能恐惧症赚钱》，副题为《人工智能研发者呼吁放缓发展以应对竞争》，摘要如下： 美国大型人工智能研发企业OpenAI、Anthropic和太空探索技术公司（SpaceX）的负责人同时呼吁放缓人工智能发展。这些企业注意到了与人工智能快速进步相关的末日威胁。然而，显然，人工智能领军企业老板们的主要动机并非对人类命运的担忧，而是更为实际的物质利益。市场最大的玩家为何口头上反对这个市场的发展，其利益何在？《消息报》对此进行了分析。 蜜蜂反对蜂蜜 Anthropic公司首席执行官达里奥·阿莫代伊关于人工智能快速发展带来威胁的警告性言论，几乎没有让人感到惊讶。一两年前他就持这一立场。这次OpenAI、谷歌“深层思维”公司的负责人与他持相同立场，这一点更值得玩味。而最令人惊讶的是，太空探索技术公司首席执行官埃隆·马斯克也表示了支持——他对这个行业一向有“独特见解”。这种一致令投资者也颇感意外。短时间内，市值屡创新高（虽然利润微薄甚至严重亏损）的主要人工智能公司的股价在纳斯达克交易中一度下跌。 事实上，这里的算盘相当精细，但也一目了然。“放缓”发展的主要目标，是迫使国家——首先当然是美国——对该行业实施严格监管。如果政府从立法层面认定人工智能是蕴藏致命危险的技术，下一步就是设置壁垒。 拟议措施中必然包括：对数据中心实行强制国家许可、要求每次发布前进行安全审查、对神经网络的任何意外行为严格追究法律责任。 对于OpenAI（背后有微软的无限预算）或Anthropic（由亚马逊和谷歌资助）这类企业而言，花费数亿美元聘请律师、审计师和合规部门只是常规运营成本。对于小型独立初创企业、学术实验室和开源项目，这些要求将是致命的。这不仅涉及独立开发者，也涉及中国公司——近几个月来，美欧媒体大量提及开源模式构成的危险。繁琐的官僚程序将抵消它们所有优势。理想情况下，计划中的限制当然不仅针对美国公司，而且通过合规程序，将遏制扩展到所有与美国有大量贸易和合作的国家。 难以回答的问题 关于人工智能将在5年或10年内毁灭人类的讨论对人工智能巨头来说之所以有利，还有许多其他原因。例如，转移国会议员和其他国家监管机构对大型科技公司相当实际的法律问题的注意力。 高科技巨头经常不得不面对难以回答的问题。利用受版权保护的材料训练算法的依据是什么？（《纽约时报》、作家协会和视觉艺术家们提出了数十亿美元诉讼。）如何解决亿万个人数据未经授权使用的问题？如何应对算力市场垄断？在美国参议院听证会上讨论“机器起义风险”，对资本而言，比回答关于知识产权的犀利法律问题并支付数十亿美元版权赔偿要安全得多。 金钱说话 将人工智能老板们的公开声明与真实的企业战略相比较，其立场显得尤为含混。上述公司中没有一家哪怕停止一天采购芯片和训练下一代模型。相反，OpenAI首席执行官萨姆·奥尔特曼继续在中东和亚洲寻找数万亿美元，用于建设超大规模的数据中心。 加利福尼亚州SB 1047法案的遭遇很典型。2024年，该州政界试图从抽象对话转向实际行动，提出要对算法造成灾难性损害的开发者直接追究法律责任。OpenAI正式反对该法案，动用了全部游说资源。一旦国家试图对企业实施真正的惩罚机制，企业在“安全”方面的热情便瞬间蒸发。 实施许可证制度的建议还暗藏另一个法律伎俩。把发放大模型运行许可的权力交给国家，企业就把部分责任转嫁给了国家。 如果未来政府认证过的人工智能大模型被坏人用于编写恶意代码或入侵金融基础设施，开发者将获得完美的法庭辩护理由。他们可以声称，该模型通过了国家规定的所有测试，获得了许可，因此责任在于监管机构本身。在这种情况下，严格管控充当了保险单和免于数十亿美元集体诉讼的赎罪券。此外还有强大的公关效果：公司将自己塑造成负责任的前瞻者，愿意为地球福祉牺牲利润。 本周，分析师凯文·巴斯对Anthropic的财务状况进行了调查，发现“独立”组织美国模型评估和威胁研究组织（METR）——该组织本应检查公司产品的安全性——实际上是阿莫代伊公司的重要投资者。这个设计看起来无懈可击：某家公司的人工智能是否会毁灭人类，将由事实上受其控制的组织来评判。“对自己人一切好说，对外人则依法办事。” 反应与前景 人为放缓美国科技产业的想法，不出所料地遭到现任政府的坚决反对。美国总统唐纳德·特朗普将放缓呼吁定性为公然的破坏行为。从保守派权势集团的角度看，人工智能发展是一场军备竞赛。任何限制美国企业的法规都被视为对国家安全的直接破坏。 美国政客的担忧有着铁一般的依据：北京不打算放缓。中国公司（百度、阿里巴巴、腾讯）近几个月实现了强劲飞跃，以质优价廉的开源解决方案涌向全球市场。对中国而言，美国关于暂停的讨论听起来像是邀请其在全球南方市场拿下主导地位。美国企业试图在美国国内建立监管壁垒，将导致技术发展中心最终向亚洲转移。 现代大型科技公司的经济模式排除了真正暂停的可能性。该行业依靠巨额投资运转。仅今年以来，用于采购设备和数据中心建设的资金就达数千亿美元。 投资者基于神经网络能力将不间断指数级增长的预期，将美国科技板块市值评估为数万亿美元。真正物理性地停止研发哪怕半年，都会引发多米诺骨牌效应。市场会意识到新产品不会按期出现，来自付费用户的收入无法覆盖电力和芯片成本。还应考虑到，人工智能及相关产业实际上支撑着整个美国股市。如果它们开始下滑，其他一切都会崩溃。 正因如此，不会出现任何真正关停服务器的情况。关于末日的警告信将继续发表，企业领导层将继续呼吁成立各种委员会。在这些讨论的掩护下，人工智能巨头将继续争夺全球市场，力求建立对自身最有利的规则。（魏良磊译）