每隔几年，人工智能的发展似乎都会引发新一轮的乐观与恐惧。从1950年代初阿兰·图灵的工作首次向公众引入AI概念以来，理论一直在等待技术的进步。几十年来，人工智能的元素已经悄然融入我们的日常生活，帮助改进工业流程或通过精准的在线广告向我们推销产品。

但在2023年，GPT-4凭借其根据文字提示生成各种风格文本的能力，激发了公众的想象力。这一工具的省时功能引起了极大的兴趣，它可以承接报告总结、法律文件编写或明天到期的学校作文等繁重任务。然而，许多人对即将到来的易于使用的AI工具表示担忧，其中包括深度伪造视频、声音克隆和图像生成，这些都可能导致大量工作岗位的流失，并使坏人能够轻松制造高度逼真的虚假信息。在选举年，AI可能对民主本身构成威胁。

那么，2023年是AI之年吗？我们明年还会继续沉迷于此，还是它会重新淡出人们的视线？这与联合国有什么关系？希望今天与我在一起的人能回答这些问题。她是卡玛·阿蒂加斯，直到最近她还是西班牙首任数字化和AI国务秘书，也是联合国AI顾问机构首份报告《为人类治理AI》的共同主席。谢谢你今天来，卡玛，我非常感谢你的时间。

正如我所说，你在私营部门和政府中都有涉足，所以你对政界现在对AI的了解、监管的现状以及这对行业的意义都有很好的概览。今年，我们看到政府在更加严肃地对待AI监管的迹象，比如五月启动的G7广岛进程、十一月的英国AI安全峰会和十月你加入的AI顾问委员会。那么，首先为什么要设立这个机构？在已有的其他举措之后，为什么联合国的参与很重要？

你在介绍开头讲得非常好，AI带来了新的威胁和机遇，但它不仅仅是另一种技术。它有一些元素使其与众不同。早期互联网时代、大数据时代、机器学习和深度学习的时代都已经过去，但为什么这次AI不同？我认为当前AI的特别之处在于，它是第一个可以在没有人类干预的情况下继续发展的技术。而且，它不仅影响生产力和自动化，还渗透到社会结构中，影响的不仅是经济和生产，还包括社会和人类在数字世界中的角色。

这是我们第一次在数字世界中质疑我们是谁。以前任何其他技术都没有让我们质疑自己。为什么现在要质疑？因为这项技术可以在某些重要领域，如决策制定，取代我们。它影响我们对现实的看法，可能产生信任问题，使我们无法辨别某些内容是机器还是人类写的，进而导致混乱世界。这使我们需要以不同的方式治理这项技术。

到目前为止，这种担忧主要集中在欧洲，关注AI对社会的影响，而不仅仅是技术角度和产品安全。在CH GPT之前，还没有这样的“觉醒时刻”，让人们意识到这是一项不受人类控制的技术，可能被坏人滥用，具有巨大影响。我们需要全球监管。

如你所提，有其他尝试，我们可以详细讨论，但需要的是一种全球共识，不仅关注未来影响，还要解决现有问题，如AI在全球南北之间造成的新鸿沟。到目前为止，讨论主要集中在北方国家的少数公司和政府。

当顾问委员会成立时，有记者问你们彼此交流吗？因为你们有这么多人，都涉及AI的不同方面。问题是如何在如此复杂的领域达成共识。你们成功了吗？在这份报告中，你们达成了一致吗？

的确是一个挑战，但因为已经有其他举措，如G7广岛宣言、AI安全峰会、在美国的行政命令、西班牙的数字权利宪章、欧洲的AI法案、以及中国和韩国的相关法规。所以，我们不需要再召开新的论坛或发表新的宣言，而是需要在共同基础上进行整合和协调。联合国秘书长提出这一挑战，组织了南北方、私营和公共部门的专家，反映当前的复杂情况。重要的是基于科学证据达成共识，并就AI的机遇和威胁形成全球共识。

这个建议的重点是，AI带来了很多机会，但也存在威胁，需要全球治理。这需要在联合国宪章下进行，尊重国际人权和可持续发展目标。初步建议希望通过全球公众咨询过程丰富和完善，最终形成正式建议。

虽然AI有很多潜在好处，但也有巨大的风险。有些专家甚至呼吁暂停AI研究，直到达成全球治理。你认为这是现实的吗？还是AI的发展已经不可避免，我们只能尽量利用其好处，减少风险？

我认为暂停创新、科学研究有些天真。我们不应停止创新，而应加速研究以找到技术自身带来的解决方案。产业界已经意识到潜在的危害，并表现出自我监管的承诺，这非常有价值，但不足够。有些问题不能靠技术解决，需要立法干预。例如，欧洲的AI法案明确规定了一些禁止的AI用途，不同国家可能有不同的原则和价值观，但需要达成某些基本原则和限制。

你认为我们接近达成共识了吗？与人交流时，你觉得他们都关心同样的问题，致力于限制坏人的行为吗？

技术是由人类开发的，我们可以拔掉插头，设定限制。技术在解决一些安全问题，但有些问题必须防止发生，不能只等待技术解决。我们不希望某些用途成为可能，这需要全球共识。

假设你成功了，我们达成了共识，全球治理框架到位，AI带来的好处是什么？能否列出三大好处？

AI是民主化知识访问的重要工具，可以个性化教育，减少教育鸿沟；在医疗保健方面，它能提供个性化诊断和预防疾病，降低成本；在可持续发展目标方面，AI可以帮助解决贫困、气候变化等全球挑战。此外，AI还可以提高透明度和组织治理效率，包括在联合国内部，分享最佳实践和进行监督报告。

这些都是AI的潜在巨大好处。正如你所说，AI可以带来很多机会，也有挑战，比如工作岗位的变化和新技能的需求。重要的是，我们要意识到这些机会，使其广泛可及，避免鸿沟。

你曾在政府中试图实践这些理念，作为西班牙数字化和AI国务秘书，推动了国家AI战略、数字技能国家计划和数字权利宪章等。当时与国内外同行交流时，你觉得他们对AI的了解和能力与你相当吗？

是的，当我们在2019年制定国家AI战略时，欧洲已有其他国家采取了类似行动。然而，AI技术每六个月变化一次，我们面临新挑战，如人工智能、量子计算和合成生物学。我们是第一个关注数字权利和人权在数字世界中的国家。

有些权利在现实世界中已有保障，但在数字世界中需要重新考虑。例如，不被算法歧视的权利，获得第二人类意见的权利，不受非侵入性神经技术影响的权利，以及算法透明权。这些挑战都被纳入讨论，我们还启动了AI可持续性计划，如绿色算法国家计划。当前的AI发展方式在环境上不可持续，需要提高技术效率。

在西班牙担任欧洲理事会主席期间，我们领导了AI法案的制定，这是一项国际立法，强调不仅要关注技术特性，还要保护基本人权。挑战在于如何在保护基本权利和促进技术创新之间取得平衡，并成功应对各种地缘政治力量和利益相关者的影响。

明年有约50场全球选举，联合国传播主管梅丽莎·弗莱明在安全理事会会议上表示，生成性AI的出现将使网络环境更加恶化，破坏公众对新闻和信息来源的信任。这对选举年来说不是好消息。AI工具可能会用于影响选举，传播谣言和阴谋论。你对此有多担忧？

一两年前我非常担忧，当时我们是少数关注这一问题的声音。现在，人们已经意识到AI的影响，开始采取措施。这是一个希望的信号。例如，在欧洲，我们规定所有AI生成的内容必须标明来源，以便公众知道其生成方式。

我们需要解决网络攻击和虚假信息问题，这些都对全球构成重大威胁。但现在我们已经意识到这一点，我对此感到有希望。建立信任是关键，因为没有信任，AI的发展将无法进行。

你是乐观主义者还是悲观主义者？

我是乐观主义者，否则我不会从事技术和创新工作。我相信AI的好处将超过其风险。

你个人如何使用AI？

我们被AI包围了。我现在习惯用大型语言模型来组织内容，而不是生成内容。这就像有了一个助手，帮助我更有效地组织信息，使我能够提供作为人类的独特知识和创造力。我认为这些工具作为辅助非常有用，但仍有很大改进和学习的空间。我现在有更多的空闲时间，这是我在任职最后一天的工作，希望未来几个月有更多时间深入研究这些技术及其潜力。

你的工作将在今年9月发布最终报告，我们会再次与你和你的同事们讨论。谢谢你，卡玛。