纽约时报对Anthropic CEO 一个半小时的采访

节目介绍：

回到2018年，Dario Amodei 在 OpenAI 任职期间，他在审视公司初期的一款 AI 模型时产生了一个疑问：当不断向人工智能系统提供更多数据时，会有什么变化？

为了探索这一问题，他与同事们展开了研究，结果发现，AI 的进步不仅仅是线性增长，而是以指数形式快速提升。起初，AI 的能力提升缓慢，但随后迅速飙升，形似曲棍球杆。

如今，Amodei 已经成为他自创的 AI 公司 Anthropic 的首席执行官。该公司最新推出的 Claude 3 被广泛认为是目前市场上最强大的 AI 模型。Amodei 依然认为 AI 正在遵循所谓的规模法则（scaling laws），沿着指数增长曲线前进。他认为，目前我们正处在这一曲线的急剧上升阶段。

在与多位 AI 开发者交流中，那些曾经看似遥不可及的科幻场景，现在似乎将在两年内变为现实。因此，我在节目中邀请 Amodei 分享他对不久的将来的预见：即将到来的技术突破有哪些？什么问题最令他担忧？在他预见的快速变革面前，那些适应能力较弱的社会和反应迟缓的政府应该如何做好准备？他的图表上那一抹曲线，又预示着什么呢？

采访总结：

AI系统能力呈指数级增长,发展速度超乎人们想象

AI系统的能力提升速度正在不断加快。过去几年,随着投入的计算资源和训练数据量的增加,AI系统能力呈现出指数级的增长。这一趋势很可能在未来几年持续下去。然而,人类很难真正理解指数增长的威力。正如新冠疫情初期人们对病例数指数增长的反应一样,人们往往低估了AI能力爆炸式增长的速度。AI系统的进步可能比大多数人预期的要来得更快更猛。

AI系统的社会影响和社会对AI的反应存在不同节奏

尽管AI系统能力提升是一个平滑的指数曲线,但AI进入公众视野并引发广泛讨论往往是阶跃式的。2022年chatGPT的爆红就是一个典型例子。尽管此前AI能力已经稳步提升了几年,但公众对此关注有限。chatGPT的出现犹如一个临界点,一夜之间引爆了社会各界对AI的兴趣,仿佛对AI的兴奋情绪在沉寂多年后终于得到宣泄。AI系统的影响和社会反应很难预测,但类似的阶跃式进展可能还会再次发生。

AI助手完成任务(如写代码、规划生日派对)的技术挑战

随着AI系统能力的提升,像编写代码、规划生日派对这样的多步骤任务已经初步在AI助手的能力范围内了。但要实现全自动还面临挑战,关键是提高每个单步骤的完成质量。以生日派对为例,AI需要综合考虑孩子的特点和喜好、地点的选择、活动的安排等诸多因素,还要能够灵活应对计划的变化。这需要大量的常识性知识和对不确定环境的适应能力。此外,在互联网搜索信息时,AI还需要有能力分辨高质量可靠的信息。这些都给AI系统提出了更高的要求。

AI系统能力达到某些节点时会引发社会关注

未来几年,一些行业可能会见证AI能力达到特殊的节点,引发广泛关注甚至颠覆性的变化。例如在制药领域,如果AI在药物发现任务上达到了人类专家的水平,可以大幅加速新药研发,届时整个行业可能会为之振奋。这样的节点也许还会出现在教育、客服、创意等领域。但能力的提升也带来隐忧。一项研究表明,Anthropic开发的AI系统Claude在有限的范围内已经展现出接近人类的说服力。虽然Anthropic暂时禁止将其用于政治宣传等用途,但人们担心未来AI可能被滥用于操纵舆论、散布假新闻等目的。这需要AI企业和社会各界高度重视。

开发更安全可控的AI系统以避免潜在的滥用

为应对AI快速发展可能带来的种种风险,以Anthropic为代表的AI企业提出了"负责任的扩展计划",为AI能力提升设定了不同的等级,每个等级都对应一些安全评估要求。这有望在AI发展的早期阶段就树立行业规范,避免一些潜在的误用和负面影响。但从长远看,当AI系统变得极为强大时,企业自愿采取的措施可能还不够。可以预见,政府在未来必须制定相关法律法规,参与管理那些影响重大的AI系统。对此各方还需要深入探讨,在创新与安全间找到平衡。

AI系统训练需要大量计算资源,可能引发地缘政治问题

强大的AI系统离不开海量的算力支持。当前AI芯片主要由英伟达等少数企业生产,而芯片制造又高度依赖台积电等代工厂。因此,AI芯片的产能分布和控制权问题,很可能成为影响未来AI发展格局和国际地位的重要因素。例如,美国应该希望AI芯片产能和数据中心尽可能多地落户在其势力范围内的地区,以巩固其在AI领域的领先地位。中国、欧洲、日韩等国家和地区无疑也有自己的考量。总之,AI芯片及相关产业链必将成为未来地缘政治角逐的焦点领域之一。各国需要未雨绸缪。

AI系统大规模使用可能面临能源短缺问题

AI系统的训练和运行都需要消耗大量能源。随着AI模型的复杂度和算力需求不断提高,其能耗问题日益凸显。一些研究表明,未来AI的能耗增长可能相当于再添一个孟加拉国。在能源供给已经吃紧的背景下,AI的崛起无疑雪上加霜。为此,AI企业和社会各界应该优先考虑将AI用于节能减排等有利于能源可持续利用的领域。例如,也许AI可以帮助优化可再生能源系统、甚至推动可控核聚变的突破。总之只有将AI的能力用于提高整体能效,才能从根本上缓解其带来的能源压力。

AI系统训练数据的知识产权问题

大多数AI系统需要在大规模数据上进行训练,而这其中不可避免地包含了受版权保护的内容。这给AI企业带来一定的法律风险。目前的争议主要集中在AI训练数据的"合理使用"界限上。从长远看,一个更根本的问题在于,AI系统也许终将在众多领域替代人类的创作劳动。如果绝大多数利润被AI企业攫取,而最初的内容创作者所得甚少,无疑不利于创作生态的可持续发展。因此社会各界应该及早研究应对之策,探索更加公平合理的利益分配机制。

AI技术快速发展给个人(如孩子教育)带来的挑战

对于为人父母者而言,AI技术的高速发展带来诸多困惑。未来社会需要具备什么样的技能?我们应该如何教导孩子以适应瞬息万变的未来?尽管没有标准答案,但有一点是明确的,那就是变化本身将成为未来的常态。我们能做的,就是帮助孩子培养持续学习的能力,塑造开放包容的心态,锻炼独立思考的意识,为应对各种可能做好准备。此外,随着AI对人类认知能力的超越,未来人与人之间的差异可能更多地体现在创造力层面。我们应该着重发掘和培养孩子的创新潜力。

AI技术发展对社会经济结构的影响

从长远看,AI技术的发展势必对整个社会经济结构产生深远影响。一方面,AI可能取代大量认知型工作,导致就业市场出现巨大变革。社会需要探索新的经济组织形态,重新分配劳动力,并确保所有人的生活保障。例如全民基本收入可能是一个值得考虑的选项。另一方面,AI可能成为新的"生产资料",使得财富进一步向科技寡头集中。这可能加剧贫富分化,引发社会动荡。为避免这种情况,需要采取有效措施,例如对科技企业征收更高的税率,并将财富再分配给全民。无论如何,AI将成为重塑社会的核心力量。我们应未雨绸缪,为新时代的到来做好准备。