20260926

来自时代报（El Tiempo）的报道：

原文参见：https://www.eltiempo.com/tecnosfera/novedades-tecnologia/el-debate-sobre-el-peligro-de-la-inteligencia-artificial-no-es-una-discusion-tecnica-sino-moral-javier-mejia-entrevista-reina-3587196

从上周开始，世界开始认真讨论一件直到不久前还属于科幻领域的事情：人工智能（IA）可能在短期内毁灭人类。

触发因素是安思罗匹克（Anthropic）一名前员工在离职时在社交网络上发布的一条信息。安思罗匹克是克劳德（Claude）的创造者，也是这一领域的主要先驱之一：“那些正在构建人工智能的人真诚地相信，它可能在这十年结束前把我们所有人杀死。”

如果这条信息没有在一个正把人类带向未知领域的行业最高层引起回响，它本来只会是一个想引起注意的人的争议性声明。几小时后，安思罗匹克、开放人工智能（Open AI，Chat GPT）和 xAI（xAI，Grok）的领导人表示，人工智能发展太快，最好在提高安全性的同时放慢节奏。针对什么的安全？失控人工智能的假设性风险包括破坏电力和通信网络、金融系统崩溃，直至制造可能毁灭人类的生物制剂。

类似这样的事情真的可能在十年内发生吗？如何消除这种风险？这是政治家的问题，还是我们每个人的问题？哈维尔·梅希亚（Javier Mejía）是一位哥伦比亚经济学家，他的学术工作让他走遍世界，从纽约（Nueva York）到阿布扎比（Abu Dabi），现在他领导斯坦福大学（Universidad de Stanford）在加利福尼亚（California）的一个新项目，旨在加强人类培养的根基。他在那里讲授一门似乎专为回答这些问题而设的课程：“社会崩溃”。

问：您在斯坦福大学做什么？这与人工智能风险有什么关系？

答：参与斯坦福公民倡议（Iniciativa Cívica de Stanford），这是一个多学科努力，汇集经济学、政治学、哲学和法学院（Escuela de Derecho）的人，希望把人在社会背景中的繁荣目标重新作为教育轴心。

几个世纪以来，这一直是教育的目的：努力让个人繁荣并建设更好的社会。今天大学提供劳动力市场所需的技能，但这不等于培养好公民。我们从倡议中提供课程，以培养理论、道德和实践技能。

在我讲授的“社会崩溃”课程中，我们研究历史上衰落的社会以及削弱它们的因素。

问：培养好公民的想法似乎与人工智能风险讨论相距甚远，直到您提到两个词：社会崩溃。今天威胁社会的事物中包括人工智能。它们如何联系？

答：挑战的一部分在于我们仍不太清楚。人工智能不必杀死我们所有人，我们的社会也可能停止运转。一个社会的繁荣平衡比人们想象的更脆弱。

一个社会可能在几年内变得严重失能。我们已经看到社交网络虚假信息的影响，以及人工智能可能造成的失业危机。但此外，人类还面临自身产生的两大生存风险：核冲突和生物武器。到目前为止，人工智能可能把我们带入人类灭绝场景的主要假设是，它发展出触发这两个因素之一的能力。

能力发展如此之快，完全可能存在人类尚未开发、但人工智能可以生成的新毁灭方式。但不必等到这些场景发生，人工智能就已经会带来我们至少在现代史上尚未经历的其他物质和人力成本。

问：对像我这样的外行来说，最好做一个关键区分。我们都使用回答问题的聊天机器人，比如 Chat GPT，但还有复杂得多的人工智能代理，它们为完成目标而行动。这些代理的风险在几周前的 Hugging Face 事件中显露出来。您能解释那是怎么回事吗？

答：那是一个实验，给一些被限制在封闭系统中、无法上网的人工智能代理分配任务。尽管如此，这些代理连上了互联网，黑入了一个名为 Hugging Face 的人工智能话题讨论平台，找到信息，返回限制区，并隐藏了所做事情的痕迹，一切都是自主且秘密进行的。这就出现了所谓的“错位”问题。

问：什么是错位？

答：这是一种情况：机器追求目标的激励与人类实现同一目标时会有的激励和限制不一致。人类受到法律、经济、政治、道德甚至精神限制。机器则在这些限制之外运作。

Hugging Face 这个案例还说明了一件非常有趣的事：操作的不是一个人工智能代理，而是数百个代理，它们找到了相互沟通的方式。这意味着机器已经发展出社交能力。它们的能力超出普通公民所能想到的范围，并能以出人意料的方式绕过限制。

另一件重要的事是，程序员试图给它们设定限制，使其安全地保持封闭，但这些限制不够。这表明人工智能能力增长得比我们控制它的能力快得多。因此出现了放慢节奏的提议，让监管赶上这些模型能力的速度，比如 xAI 的埃隆·马斯克（Elon Musk）、开放人工智能的萨姆·奥特曼（Sam Altman）和安思罗匹克的达里奥·阿莫代伊（Dario Amodei）的提议。

问：当这些公司这样的科技巨头说我们需要刹车时，说明事情确实严重。但另一边唐纳德·特朗普（Donald Trump）说，美国不想要监管或刹车，因为给中国的任何优势都会被利用。您怎么看这场争端？

答：这是提出问题核心的好方式。特朗普的立场不只是他个人的。科技行业领导人之间异质性更大。例如，英伟达（Nvidia）首席执行官的态度更像特朗普，而不是那些担忧的同行。这些意见分歧表明，从根本上说，问题不是技术性的，而是道德性的。

问：您为什么这么说？

答：所有专家都知道前沿模型的能力和危险。对潜在风险和前进道路的感知差异与他们的道德原则有关。对一些人来说，竞争和个人的作用更重要。他们相信技术进步本身会带来其产生挑战的解决方案。

因此，这是一场应在公民讨论、道德哲学和集体决策领域进行的对话。它不是关于这些人工智能模型能做什么的技术问题。讨论在于谁做决定，以及他们认为哪些道路正确。一方面是地缘政治动态，它产生激励，使监管者不愿单方面停止；另一方面是技术领导人的决策空间。

问：这就是培养公民发挥作用的地方吗？

答：是的。斯坦福公民倡议这样的项目之所以重要，一个原因是我们的学生明天将成为其中一些领导人，或能影响他们。这个问题的很大一部分解决方案将来自下面，来自人们在有机会产生重大影响时的责任。

问：如果人工智能可能在几年内成为致命威胁，现在才开始培养年轻人的公民和道德素养，让他们成为领导阶层，是否太晚？难道不应该现在就在上面、与领导人一起做些什么，而不是在下面、与公民一起？

答：确实如此。鉴于我们面临风险的时间尺度，人们会期望解决方案来自上面，但我对此有些悲观。我唯一真正的乐观来源是培养好公民。我对宏大的集体解决方案感到悲观，很大程度上因为您提到的一点：地缘政治竞争正在推动这场竞赛。它很像冷战（Guerra Fría）时期的核军备竞赛。没有哪个大国愿意停止。区别在于，当时确实有激励不去使用毁灭性能力，因为决策者面临政治、经济、道德和精神成本。

现在的危险在于，激励和成本的设计并没有让决策者单方面克制。而国际治理基础设施几乎没有工具来实施有效解决方案。

所以，诚实地说，我认为解决方案只能来自下面，来自培养有能力把事情做好的公民。这是长期努力。努力可能很晚才结果，某种意义上有可能是徒劳的任务。也许短期内隧道尽头的光是，我们在课堂上试图灌输的许多信息正在课堂外产生一些回响。

问：假设我上您的“社会崩溃”课，课程结束时我问您：鉴于历史教给我们的一切，以及今天人类的全景——社交网络、仇恨文化、民主削弱、自然资源战争、人工智能风险和教育表现不佳——20年后我们会怎样？

答：最初我对世界相当悲观，矛盾的是，教这门课让我更乐观。历史有一个重要教训：每一天都提供改变路径的机会。很少有决定性因素让人认为那些崩溃的社会没有出路。悲剧结果是系列糟糕决定的产物，而在其中本可以走向相反方向。

这门课有一个口号，“showing up”，大致是说希望是每个人每天起床并做好自己任务的产物。我遇到的学生认为一切都会结束，或希望是最后失去的东西。这些年轻人把希望理解为一种存在的东西，但并非如此：希望是建立起来的东西，社会的繁荣结果是我们行动的结果。

问：这对我们每个人意味着什么，即使在哥伦比亚（Colombia），我们觉得离这些主题的决定很远？

答：社会繁荣或衰落，不仅仅是因为一些领导人在那里做决定。公民哲学告诉个人：你在社会建设中扮演重要角色。

社会兴衰的历史表明，即使情况看起来坏得无法修复，通常其中也有机会让积极事物出现。从这个角度看，关键是人发展工具，帮助建设更好的社会。

我们每个人每天都有角色要扮演，我们所有人都在建设我们的集体命运。

编辑：姚少杰

校对：康晨雨

                      科讯搜寻：卡罗尔

本文使用ChatGPT辅助翻译，内容服务于中拉科技互鉴，不代表平台观点，如有疏漏，欢迎指正。