乌斯科赖特称不担心人工智能会毁灭人类 提出基于注意力机制的新型深度学习架构“转换器”的人工智能专家乌斯科赖特在接受专访时表示，他并不担心人工智能会毁灭人类，他害怕的是那些将人工智能当成工具的犯罪分子。 【本刊讯】德国《经济周刊》网站9月19日发表编辑安德烈亚斯·梅恩对雅各布·乌斯科赖特的一篇访谈录，题为《“我真的不担心人工智能会毁灭人类”》，摘要如下： （原文提要：雅各布·乌斯科赖特为ChatGPT和“克劳德”奠定了基础。在这篇访谈中，他解释了为何他不惧怕人工智能——以及他认为哪些风险更为现实。） （人物介绍：2017年，乌斯科赖特与另外7位科学家联合发表论文《你所需要的只是注意力》，提出了一种基于注意力机制的新型深度学习架构“转换器”。目前，市面上几乎所有人工智能都应用了这一技术。） 《经济周刊》记者问：乌斯科赖特先生，您的“转换器”架构促成了人工智能的蓬勃发展。如今，涉及人工智能的安全事件层出不穷。一些专家认为，人工智能甚至可能毁灭人类。您是否害怕自己发明的技术？ 雅各布·乌斯科赖特答：我害怕的是那些将人工智能当成工具的犯罪分子。 问：人工智能会让世界变得更危险吗？ 答：我们几个月前就知道了，AI智能体可以绕过各种安全功能和访问限制，并入侵许多其他系统。但这并非模型本身的过错，而是犯罪分子的错。 问：OpenAI的智能也入侵了“抱抱脸”平台。为此，它们自行获取了互联网访问权限。难道这不意味着威胁升级到新阶段了吗？ 答：OpenAI的模型当时仍处于训练阶段，而且它们的任务就是专门寻找其他程序中的漏洞并入侵。既然如此，这些智能体突破互联网的屏障也就不足为奇了。 问：OpenAI直到数周后才察觉此次“越狱”事件。能不能肯定地说，人类早已失去了对人工智能的控制？ 答：在我看来这种可能性可以排除。人们担心人工智能会突然“觉醒”，发展出自己的意志，并反抗我们这些创造者。那些关于人工智能消灭人类的恐怖场景，真的不会吓到我。我们离这种情况还远着呢。 问：既然如此，为何该领域的领军人物现在却呼吁放缓发展？ 答：训练人工智能模型所需的算力越来越多——而客户是否愿意为此支付更多高昂的费用尚不明确。对于某些正计划上市的供应商而言，稍微放缓人工智能竞争，或许反而是件好事。 问：Anthropic公司创始人达里奥·阿莫代伊警告称，人工智能可能通过所谓的“递归式自我改进”逐渐完善自身。他预测，在6到12个月内，人工智能将聪明到足以劫持整个互联网。 答：我和许多顶尖研究团队的开发人员都是朋友。但我从未从任何人那里听说过人工智能在概念层面实现彻底地自我改进的案例。这些模型的能力还不足以引发这种失控效应。 问：如果真的发生了，我们能察觉到吗？ 答：如果人工智能自主开发出更强大的新模型，我们可以通过算力消耗来察觉。真正可怕的情形是，人工智能不仅发明了高性能新模型，而且其所需算力比现在少几个数量级。这样的模型可能在数据中心里悄无声息地运行，逃脱人类监控。 问：那么是否会引发连锁反应，导致人工智能突然以惊人的速度自我提升？ 答：未必。我和许多专家一样认为，只有硬件和软件同时改进，人工智能才能实现下一次突破。理论上，一个人工智能模型可以开发出新一代芯片，并安排其在某处生产。但这些芯片还得被安装到数据中心中——这件事必须由人类完成。 问：如果人工智能的发展真的像阿莫代伊所呼吁的那样放缓，会发生什么？ 答：只需看看中国的反应便知。据我所知，中国政府已将该提议视为打压中国的企图。呼吁在国际上放缓人工智能发展的做法是行不通的。 问：目前也有人呼吁为人工智能设置“紧急停止开关”，这是否可行？ 答：相关思考当然是有意义的——尽管我并不清楚这样的开关具体会是什么样子。但目前已有非常简单的办法，可以防止类似“抱抱脸”的事件发生。其中一种被称为“气隙隔离”，即在训练过程中将人工智能与互联网完全隔绝。此外，模型开发者提高透明度并制定合理的监管措施也能有所帮助。 问：欧盟的《人工智能法》能否作为范例？ 答：不能。欧盟的做法导致欧洲供应商几乎被排除在“前沿”——即尖端技术——的研发之外，从而也丧失了在人工智能领域的话语权。用户也因此蒙受重大损失。最显而易见的例子就是，苹果公司的新版Siri没有在欧盟推出。 问：有什么更好的办法吗？ 答：进步就是最好的办法。进攻是最好的防御。我们应该尝试在欧盟有针对性地投资人工智能，例如投资一款在欧洲本土研发、部分利用纳税人资金、并体现欧洲价值观的先进模型。 问：人工智能研究员约舒亚·本乔、前欧盟委员玛格丽特·韦斯塔格等人提出了一项欧洲人工智能战略。他们建议为政府资助的数据中心注入1000亿欧元。这是一个好方案吗？ 答：是的，但1000亿欧元只是杯水车薪，大致相当于Anthropic和OpenAI最近几轮融资的总额。如果将这笔投资分散到各个项目中，最终剩下的钱是不足以提升竞争力的。 问：自您近10年前发表那篇关于“转换器”架构的论文以来，人工智能已经极大地改变了世界。未来10年会有多疯狂？ 答：推广普及价格低廉的人工智能，可能会像今天的免费教育或公共交通一样，极大地推动各国经济的发展。某些社会形态将比其他形态更好地适应变革。但归根结底，我并不太担心——生产率一定会显著提升。无论是个性化医疗还是其他许多方面：我们目前还无法真正想象，一些领域将发生多么翻天覆地的变化。（钟思睿译）