人工智能远未摆脱人类掌控 - 参考消息

<figure style="text-align:center;"><img src="https://jskxy-zg.cnfin.com//proxy/upload/manuscript_resources/image/2026/10/21/97bc37c701d74041869e4c04b6c5f5ca.jpg"><figcaption>　　技术人员指挥机器人工作的示意图(视觉中国）</figcaption></figure> 　　　　【德国《经济周刊》网站9月19日报道】题：“我真的不担心人工智能会毁灭人类”(记者安德烈亚斯·梅恩) 　　　　原文提要雅各布·乌斯科赖特与另外七位谷歌员工在2017年联合发表论文提出了一种基于注意力机制的新型深度学习架构——Transformer。可以说，这项研究为聊天生成预训练转换器(ChatGPT)和“克劳德”等人工智能（AI）模型奠定了基础。在这篇访谈中，乌斯科赖特解释了为何他不惧怕AI，以及他认为哪些风险更为现实。 　　　　　　AI不会突然“觉醒” 　　　　《经济周刊》问：乌斯科赖特先生，您的Transformer架构促成了AI的蓬勃发展。如今，涉及AI的安全事件层出不穷。一些专家认为，AI甚至可能毁灭人类。您是否害怕自己发明的技术？ 　　　　雅各布·乌斯科赖特答：我害怕的是那些将AI当成工具的犯罪分子。 　　　　问：AI会让世界变得更危险吗？ 　　　　答：我们几个月前就知道了，AI智能体能绕过各种安全功能和访问限制，并入侵许多其他系统。但这并非模型本身的过错，而是犯罪分子的错。 　　　　问：美国开放人工智能中心(OpenAI)的模型也入侵了“抱抱脸”平台。为此，它自行获取了互联网访问权限。难道这不意味着威胁升级到新阶段了吗？ 　　　　答：OpenAI的模型当时仍处于训练阶段，而且它的任务就是专门寻找其他程序中的漏洞并入侵。那么，这些智能体突破通往互联网的屏障也就不足为奇了。 　　　　问：OpenAI直到数周后才察觉此次“越狱”事件。能不能肯定地说，人类早已失去了对AI的控制？ 　　　　答：在我看来这种可能性可以排除。人们担心AI会突然“觉醒”，发展出自己的意志，并反抗我们这些创造者。那些关于AI消灭人类的恐怖场景，真的不会吓到我。我们离这种情况还远着呢。 　　　　　　“放缓发展”行不通 　　　　问：既然如此，为何该领域的领军人物现在却呼吁放缓发展？ 　　　　答：训练AI模型所需的算力越来越多，而客户是否愿意为此支付更多费用尚不明确。对于某些正计划上市的供应商而言，稍微放缓AI竞争，或许反而是件好事。 　　　　问：Anthropic公司创始人达里奥·阿莫代伊警告称，AI可能通过所谓的“递归式自我改进”逐渐完善自身。他预测，在6至12个月内，AI将聪明到足以劫持整个互联网。 　　　　答：我和许多顶尖研究团队的开发人员都是朋友。但我从未从任何人那里听说过AI在概念层面实现彻底自我改进的案例。这些模型的能力还不足以引发这种失控效应。 　　　　问：那如果真的发生了，我们能察觉到吗？ 　　　　答：如果AI自主开发出更强大的新模型，我们可以通过算力消耗来察觉。真正可怕的情形是，AI不仅发明了高性能新模型，而且其所需算力比现在少几个数量级。这样的模型可能在数据中心里悄无声息地运行，逃脱人类监控。 　　　　问：那么是否会引发连锁反应，导致AI突然以惊人的速度自我提升？ 　　　　答：未必。我和许多专家一样认为，只有硬件和软件同时改进，AI才能实现下一次突破。理论上，一个AI模型可以开发出新一代芯片，并安排其在某处生产。但这些芯片还得被安装到数据中心中，而这件事必须由人类完成。 　　　　问：如果AI的发展真的像阿莫代伊所呼吁的那样放缓，会发生什么？ 　　　　答：只需看看其他国家的反应便知。一些国家政府已将该提议视为打压手段。呼吁在国际上放缓AI发展的做法是行不通的。 　　　　问：目前也有人呼吁为AI设置“紧急停止开关”，这是否可行？ 　　　　答：相关思考当然是有意义的，尽管我并不清楚这样的开关具体会是什么样子。但目前已有非常简单的办法，可以防止类似“抱抱脸”遭入侵的事件发生。其中一种被称为“气隙隔离”(Air Gapping)，即在训练过程中将AI与互联网完全隔绝。此外，模型开发者提高透明度并制定合理的监管措施也能有所帮助。 　　　　问：欧盟的《人工智能法》能否作为范例？ 　　　　答：不能。欧盟的做法导致欧洲供应商几乎被排除在“前沿”(即尖端技术)的研发之外，从而也丧失了在AI领域的话语权。用户也因此蒙受重大损失。最显而易见的例子就是，苹果公司的新版Siri没有在欧盟推出。 　　　　　　显著提升生产率 　　　　问：有什么更好的办法吗？ 　　　　答：进步就是最好的办法。进攻是最好的防御。我们应该尝试在欧盟有针对性地投资AI，例如投资一款在欧洲本土研发、部分利用纳税人资金并体现欧洲价值观的先进模型。 　　　　问：被誉为“AI之父”的约舒亚·本乔、前欧盟委员玛格丽特·韦斯塔格等人提出了一项欧洲AI战略。他们建议为政府资助的数据中心注入1000亿欧元。这是一个好方案吗？ 　　　　答：是的，但1000亿欧元只是杯水车薪，大致相当于OpenAI和Anthropic公司最近几轮融资的总额。如果将这笔投资分散到各个项目中，最终剩下的钱是不足以提升竞争力的。 　　　　问：自您近十年前发表那篇关于Transformer架构的论文以来，AI已经极大地改变了世界。未来十年会有多疯狂？ 　　　　答：推广普及价格低廉的AI，可能会像如今的免费教育或公共交通一样，极大地推动各国经济的发展。某些社会形态将比其他形态更好地适应变革。但归根结底，我并不太担心，生产率一定会显著提升。无论是个性化医疗还是其他许多方面：我们目前还无法真正想象，一些领域将发生多么翻天覆地的变化。