人工智能该加速还是踩刹车？读懂AI安全争论背后的“六大派”立场

人工智能该加速，还是踩刹车？硅谷投资人期待它推动繁荣，科学家担心它失去控制，政治人物则忧虑就业和科技巨头的权力。近日，这场争论在全球范围内成为了关注焦点。

人工智能能够推动医学突破、提高生产效率，也可能冲击就业、扩大社会偏见，甚至在未来超出人类的控制能力。当这些可能性同时进入公共讨论，一场看似围绕“加速”与“暂停”的争论，便显露出更复杂的政治与社会分歧。

但持不同观点的人们，并不是泾渭分明的两支队伍。要理解这场争论，需要先看清各方究竟在担忧什么。关于AI安全性以及是否应该监管、如何监管的辩论，绝非非黑即白的简单对立。围绕这一技术的前景、危险及治理方式，目前已分化出多个持有不同目标与评估视角的派系。根据美国公共广播电台（NPR）等媒体报道，本文梳理了这场辩论中“六个最主要派别”及其代表人物和核心立场：

有效加速主义与科技右翼：让技术向前，还是让国家领先？

对人工智能持有极度乐观世界观的人士通常被称为“有效加速主义者”（Effective Accelerationists，有时简称为 e/acc）。这一术语也体现了他们坚信必须快速推进AI发展的信念。

该派对AI及其对社会的未来益处抱有极其乐观的态度。他们认为该技术能够推动医疗进步、提高经济生产力、改善生活水平，并实现危险或繁重劳动的自动化。为了实现这一目标，他们主张应当加速而非限制AI的发展。

有效加速主义者的意识形态与“科技右翼（Tech Right）”存在重叠，双方都全力支持加速AI的研发与部署，并极力淡化批评者在安全和防护方面的担忧。

然而，科技右翼的立场带有更浓厚的民族主义色彩，主张美国在这一全球竞赛中占据主导地位。与有效加速主义者一样，他们认为AI的研究与部署不应受到监管的束缚，理由是监管可能会拖慢创新步伐，或导致中国等“对手国家”在AI竞争中超越美国。

科技右翼的理念以白宫前AI与加密货币顾问大卫·萨克斯（David Sacks）等人为代表，其观点在特朗普政府中具有重要影响力。萨克斯目前的最新职务是美国总统科技顾问委员会（PCAST）联合主席，在该职位上，他以顾问身份继续在白宫科技、AI和宏观科技政策（如协调联邦与各州AI监管、对抗外部科技竞争等）中发挥核心影响力。

风险投资家大卫·萨克斯是人工智能安全辩论中领先的加速主义声音之一，曾担任特朗普总统的人工智能和加密货币顾问。

科技右翼其他核心人物包括风险投资家马克·安德森（Marc Andreessen）、本·霍洛维茨（Ben Horowitz），以及OpenAI总裁兼联合创始人格雷格·布罗克曼（Greg Brockman）。这三人共同创立了名为“引领未来”（Leading the Future）的超级政治行动委员会（Super PAC），旨在支持亲AI立场的政治候选人，并针对主张监管的候选人发起反对竞选活动。

安德森在2023年还撰写过一篇广为流传的博客文章《为什么AI将拯救世界》（Why AI Will Save the World），他在文中称对AI引发大规模失业的担忧被夸大了。他辩称，以往的历次自动化浪潮最终创造的就业岗位和经济活动都多于被淘汰的部分，而对“生存威胁”的担忧纯属危言耸听。

这一观点与“有效加速主义”相呼应。其支持者相信，AI可以推动医疗进步、提高生产率、改善生活水平，并让机器承担危险或人们不愿从事的工作。因此，限制研发不仅可能阻碍创新，也可能推迟社会获得这些收益。

近期，英伟达（Nvidia）首席执行官黄仁勋也成为行业内抵制放缓呼声、敦促采取宽松监管方式的重要代表人物之一，目前多数AI公司都在使用英伟达的芯片。

这两个相近的群体，实际上使用着不同的论证：有效加速主义强调技术进步的普遍收益，科技右翼则进一步把AI发展与美国的战略地位联系起来。

民粹右翼：技术增长的收益，会落到普通人手中吗？

在美国右翼内部，对科技企业的态度并不一致。

以特朗普前战略顾问史蒂夫·班农、福克斯新闻前主持人塔克·卡尔森为代表的民粹右翼，更关注AI可能带来的岗位流失、科技企业政治权力的扩张、儿童安全，以及传统社会和宗教价值受到的冲击。

与科技右翼强调创新和竞争不同，民粹右翼追问的是：即使AI创造了巨大的经济价值，谁能够分享收益？如果劳动者失去工作、社区承受冲击，谁又来承担成本？

这种担忧甚至可能跨越传统政治界限。9月，班农与佛蒙特州独立派参议员、社会主义者伯尼·桑德斯，罕见地在华盛顿举行的一场会议上共同呼吁限制AI发展、加强政府监督和企业问责。

不过，桑德斯并不属于民粹右翼，两人的合作也不意味着政策主张一致。桑德斯提出暂停AI开发，直至科学家建立明确的安全规则；永久禁止开发在所有领域都超过人类智能的“超级智能”；并通过与中国签署国际条约，避免AI军备竞赛。

班农则主张放慢发展速度、建立国家级监管机构，并切断中国获取美国AI技术的渠道。

两人都不愿把决定权完全交给科技企业，但一方更强调国际协调，另一方更强调国家管控和技术隔离。共同的企业权力忧虑，并未消除他们之间的政治分歧。

前特朗普顾问史蒂夫·班农在人工智能政策问题上与特朗普政府存在严重分歧。

安全主义者：当机器超过人类，控制是否仍然有效？

这一派别的代表人物，首推有着“AI教父”之称的杰弗里·辛顿（Geoffrey Hinton）。他的担忧，来自他参与推动的技术本身。

这位计算机科学家和认知心理学家，是深度学习领域的先驱。但近年来，曾在谷歌工作的辛顿也成为先进AI风险的重要警示者，尤其担心系统超过人类智能并获得自主行动能力之后，人类是否仍能有效控制它。

辛顿在近期接受澎湃新闻采访时表示：“在让AI学会关怀人类之前，不应开发超级智能。”

杰弗里·辛顿

这是“安全主义者”的核心关切。他们关注的不只是错误答案或单次事故，而是能力强大的系统可能造成的灾难性、乃至威胁人类生存的后果。

前OpenAI研究人员丹尼尔·科科塔耶洛也是这一阵营的重要声音。他参与撰写的《AI 2027》，讨论了超级智能可能在2030年代中期导致人类灭绝的情景。

这类情景推演并不等于对未来的确定性预测。它提出的是一个风险治理问题：如果后果极其严重，是否应当在危险得到充分证实之前，就采取防范措施？

安全主义者认为，等待可能意味着错过干预时机。质疑者则追问，这些风险的概率如何判断，又是否足以支持对研发施加重大限制。双方的分歧，既涉及技术判断，也涉及社会应当如何面对不确定性。

有效利他主义者：今天的决策，也应考虑未来世代

有效利他主义，通常简称为“EA”（Effective altruists），并非专门围绕AI形成的运动。其基本目标是尽可能改善人类福祉，早期主要关注减少全球贫困的实际办法。近年来，一些参与者将注意力转向先进AI、核战争、气候变化和大流行病等可能造成大规模伤害的风险。他们尤其关注这些风险对未来世代的影响，并重视AI安全和“对齐”研究——即让AI系统的行为符合人类价值观和安全要求。

这一派别的代表人物包括机器智能研究所联合创始人埃利泽·尤德考斯基。该研究所关注以数学方法提高先进AI系统的安全性。另一位人物是企业家和慈善家霍尔顿·卡诺夫斯基，他创立的Coefficient Giving，前身为Open Philanthropy，为AI安全和生物安全等领域提供资助。

Anthropic联合创始人兼首席执行官达里奥·阿莫代伊，也被认为与有效利他主义立场接近，并主张对AI实施更严格的监管。

EA运动的另一位知名支持者是大型加密货币交易所FTX的创始人萨姆·班克曼-弗里德（Sam Bankman-Fried）。2023年，他因挪用客户与投资者资金被判犯有七项欺诈和共谋罪名，目前正在服25年有期徒刑。

根据NPR的概括，EA与安全主义者的核心区别在于：EA通常为AI安全研究和风险缓解提供资金支持；而安全主义者则是直接从事AI安全工作并公开呼吁监管的研究人员与倡导者。两者重叠之处在于，都愿意为防范未来灾难投入资源。不过也由此产生的争议是：有限的资金和政策注意力，应如何在眼前的伤害与未来的风险之间分配？

AI伦理派：不要让未来威胁遮蔽今天的伤害

AI伦理阵营主张，社会应该关注AI当前正在造成的实际危害，而不是假设性的未来生存风险。一些支持者指出，过分强调未来虚构的“超级智能”所带来的生存威胁，可能会转移公众对AI当前造成的直接危害和问责问题的注意力。

AI伦理学家的担忧包括：AI系统如何因训练数据的内容而产生偏见（例如面部识别或求职招聘系统可能固化现有的社会偏见）。他们还关注AI如何被用于剥削劳工、助长大规模监控，以及数据中心对环境造成的负担、自主武器的滥用，以及科技公司之间的权力集中等问题。

AI伦理阵营中最著名的声音之一是计算机科学家、前谷歌伦理AI团队联席负责人蒂姆尼特·格布鲁（Timnit Gebru）。格布鲁在2020年因其撰写的一篇揭示大型语言模型（LLM）缺陷（包括容易生成有害或误导性言论等）的研究论文与公司发生争执，随后离开了谷歌。

格布鲁近日在接受澎湃新闻专访时强调：“AI真正的风险，是那些制造AI的人逃避监管”，别让“模型失控”成为企业免责的理由。

Anthropic联合创始人兼首席执行官达里奥·阿莫代伊，与有效利他主义者有关联，并主张对人工智能进行更严格的监管。

这一立场不必然否认未来风险，而是要求治理不能忽略已经受到影响的人。与安全主义者相比，其重要区别在于关注的时间尺度和责任对象：前者更多担忧未来失控，后者更强调当下的权利、利益与问责。

常规技术派：少谈救世与末日，多看具体用途

属于“常态技术派”的人士既反对关于AI的乌托邦式叙事，也反对反乌托邦式叙事。相反，该派系将AI视为一种功能强大但归根结底属于常规范畴的技术，类似于互联网或电力。他们认为，关注的重点应当放在理解和监管具体的应用场景与危害上，而不是将AI视为前所未有的威胁或通往不可逆转的超级智能之路。

在他们看来，AI可以非常强大，但仍应像互联网、电力等技术一样，通过具体用途、实际影响和社会制度来理解。

这一派别的代表人物包括计算机科学家、斯坦福大学以人为本人工智能研究院联合主任李飞飞。她因创建大型图像数据集ImageNet而闻名，该数据集为神经网络训练提供了重要资源，推动了AI领域的发展。近日，AMD 宣布以约 82 亿美元正式收购由李飞飞创立的空间智能与世界模型初创公司 World Labs。

这一立场主张，治理应围绕具体应用和伤害展开，而不是把所有AI系统视为同一种风险。它强调的不是“无需监管”，而是让规则与实际用途和影响相匹配。

与争论中的宏大叙事相比，常规技术派更愿意把问题拆开：系统用来做什么，影响哪些人，现有规则是否有效，还需要增加哪些约束？

李飞飞

争论的核心，不只是“快”与“慢”

把这些立场放在一起，我们可以看到，AI安全争论首先是一场关于时间尺度的争论。有人希望尽快实现医疗和生产力收益，有人要求优先处理眼前的歧视与就业问题，还有人主张为未来可能出现的灾难提前投入资源。

它也是一场关于权力的争论。科技企业能否主要依靠自我约束？政府应当介入到什么程度？科学家、劳动者和普通公众，如何参与决定技术的发展方向？

国家竞争又为讨论增加了一层张力。同样是面对潜在风险，有人认为保持领先最重要，有人则认为国际合作才能避免失控的竞赛。

更深层的问题是收益与责任如何分配。技术带来的财富由谁获得，试错造成的成本由谁承担，发生伤害后又由谁负责？这些问题无法仅靠提高模型能力来回答。

因此，“加速派”与“刹车派”只是粗略标签。支持创新不必然意味着反对安全，要求监管也不必然意味着反对技术。真正需要辨明的是，各方希望保护什么、愿意接受哪些风险，以及是否愿意让承担后果的人参与决策。

人工智能的发展方向，最终不仅取决于机器能够做到什么，也取决于人类愿意并允许它做什么。