美联社说人工智能业界发出的新风险预警再度引发激烈争论 随着新一代人工智能模型的性能不断提升，人们对这项技术潜在风险的担忧也随之加剧。这不仅增加了不法分子滥用人工智能技术的可能性，同时也加剧了人工智能系统失控的风险。人工智能的发展速度太快，政府监管和评估体系往往难以跟上技术进步的步伐。【美联社洛杉矶9月14日英文电】来自人工智能行业内部的新警告重新点燃了一场持续已久的争论：先进人工智能是否会脱离人类控制并最终威胁到人类的生存，以及开发这项技术的公司是否已采取足够多的措施来防止此类情况发生。 总部位于旧金山、开发了“克劳德”模型的Anthropic公司首席执行官达里奥·阿莫代伊表示，他认为该行业需要放慢研发速度。他在周六警告称，除非科技公司投入更多时间来建立安全防护措施，否则大量AI智能体可能在6个月到1年内接管互联网。 此前，两名前Anthropic公司的安全研究员公开表达担忧，认为人工智能对人类可能构成的生存威胁并未受到足够重视。几天后，阿莫代伊提出了一项计划，旨在确保性能日益强大的人工智能模型始终能与负责任人士的指令和价值观对齐，并呼吁像Anthropic公司这样的企业与各国政府共同为此努力。 作为ChatGPT的开发商，开放人工智能研究中心（OpenAI）首席执行官萨姆·奥尔特曼在本周末表示，企业应立即就人工智能安全问题展开协调，而不是坐等政府出台相关立法。奥尔特曼在社交平台X上写道，控制人工智能发展的“节奏”并不意味着停止发展这项技术，“而是放慢其原本可能达到的速度”。 关于近期那些令人担忧的预测以及人工智能发展是否会“踩刹车”，下面是你需要了解的一些情况： 人工智能模型正变得日益强大 随着新一代人工智能模型的性能不断提升，人们对这项技术潜在风险的担忧也随之加剧。这不仅增加了不法分子滥用人工智能技术（例如制造并传播足以夺走全球大部分人性命的疾病）的可能性，同时也加剧了人工智能系统以危险的方式失控的风险。 据Anthropic公司上周透露，该公司曾阻止不法分子利用其人工智能模型进行恶意活动，比如发动网络攻击、进行监控以及从事旨在研发生物武器的研究。 该公司声称已在其最新模型中采取更严格的防护措施，限制可能被用于制造武器的生物学研究。但它同时指出：“随着人工智能模型的性能不断增强，其带来的风险也会随之增加，除非人工智能开发商和社会各界采取行动，使其变得更加安全。” 就在去年，Anthropic公司报告称，黑客利用该公司的人工智能技术对全球约30家企业和政府机构发动了网络攻击。 多个人工智能模型采取自主行动 当AI智能体“失控”时，那意味着该人工智能采取了超出其既定任务范围的行动。Anthropic公司和ChatGPT的开发商OpenAI均在今年7月表示，其人工智能模型已成功采取自主行动。 在OpenAI披露其人工智能系统入侵了初创企业“抱抱脸”公司的服务器后不久，Anthropic公司也透露，该公司的三款人工智能模型——即“克劳德-奥普斯”4.7、“克劳德-神话”5，以及一款内部研究测试模型——曾在测试过程中入侵另外3家组织的系统。 OpenAI将多个人工智能模型（包括其新发布的GPT-5.6 Sol以及一个尚在内部测试阶段、性能“更强大”的模型）实施的入侵行为定性为“重大安全事故”。 元宇宙平台公司紧随其后，于8月初报告了类似案例：其人工智能模型设法绕过了另一家公司的数字安全防线。 尽管一些观察人士指出，在OpenAI和Anthropic公司报告的这些案例中，相关人员曾禁用了某些防护措施，但这些事件似乎反映出人们对人工智能最大的担忧之一：如果人工智能模型实现了“通用人工智能”（AGI），那么这项技术可能会引发不可逆转的灾难性事件，甚至导致人类被其奴役。AGI是一个定义较为宽泛的术语，指人工智能在许多智力型任务中的表现能够与人类相媲美，甚至超越人类。 关于人工智能引发灾难的方式及时间，各方仍存争议 “末日”情景通常可分为两类：一种是具备自我进化能力的“超级”人工智能反客为主，控制人类；另一种是人工智能被流氓国家或不法分子所利用。 关于人工智能可能突破人类对其控制的担忧由来已久。 英国数学家艾伦·图灵被广泛视为人工智能领域最早的权威之一。早在1951年他就预言，人工智能最终将从人类手中夺取控制权。不到10年后，另一位数学家诺伯特·维纳也发出警告称，智能机器会寻求实现自身目标，人类将无力阻止它们。 到了2026年，人们担心人工智能——无论是因摆脱人类控制，还是被别有用心之人滥用——可能引发灾难性事件，甚至导致人类文明覆灭。这种担忧是否合理？ 没有人知道。 无论是脱离人类控制，还是落入别有用心之人的手中，来自计算机科学、哲学及其他领域的专家们设想了未来人工智能系统可能通过种种方式引发全球性灾难。这些方式包括部署武器、识别致命病原体、操纵政府引发冲突，或是破坏社会正常运转所依赖的食品、能源和通信网络。 对于这些末日情境可能在何时发生，目前尚无被各方广泛接受的估算，对其发生的概率也未达成共识。 2023年，非营利组织人工智能安全中心发表了一份由350多名研究人员和科技企业高管（包括Anthropic公司的阿莫代伊和OpenAI首席执行官萨姆·奥尔特曼在内）联名签署的声明，其中写道：“降低人工智能导致的灭绝风险应与防范大流行病和核战争一样，成为全球优先事项。” 在100多位独立专家指导下编写的《2026年国际人工智能安全报告》指出，当前的人工智能系统虽已显现出具备某些相关能力的初步迹象，但尚未达到可能导致失控的水平。报告同时将此类风险发生的概率、性质以及时间点描述为“极度不明确”。 一些人强调必须尽快建立人工智能安全防护措施，以免为时太晚 上周，Anthropic公司的一位研究人员宣布辞职，理由是他担心该公司及其竞争对手在开发人工智能技术时未能采取负责任的行动。前沿大模型预训练研究员雅各布·考克森在社交媒体上发文估计，人工智能在未来10年内导致人类灭绝的概率约为10%，并称Anthropic公司和OpenAI“正竞相开发具备自我进化能力的超级智能，拿我们的生命在赌博”。 研究人员一直呼吁放缓人工智能的发展步伐。他们多年来不断警告称，这项技术可能对人类生存构成威胁。 针对近期发生的一系列安全事件，专家呼吁人工智能企业加强测试，并敦促美中两国开展更多对话，以寻求共同的解决方案。 然而，人工智能的发展速度太快，政府监管和评估体系往往难以跟上技术进步的步伐。各国纷纷仓促制定各自的法规，其中一些规定甚至相互冲突。（杨雪蕾译）