经济学 Presentation

2023年3月20日，美国亿万富翁埃隆·马斯克和人工智能领域顶尖专家、图灵奖得主约书亚等人联名签署了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其”对社会和人类构成潜在风险”。但也有人怀疑马斯克的动机，“马斯克之所以会签署它，是因为他想用自己的人工智能来赚钱。”

（PPT：马斯克说”比起核武器，我更害怕人工智能”）

果然，今年7月，马斯克宣布成立新公司xAI，计划创造一个有竞争力的替代品，希望比 Google DeepMind、OpenAI 或微软做的更好。马斯克强调，在他看来，自己有两种选择，要么做一个旁观者，要么做一个参与者。作为参与者，他可以影响结果，成为竞争者。 （PPT：我怕了，我装的）

而在马斯克出尔反尔之前，那封信也没有造成什么影响。早在今年5月，谷歌已经解开了缚龙索，宣布用PaLM2直接对抗GPT-4。

（PPT：时间线）

原因很简单，人类已经堕入”囚徒困境”。“猜疑链”一旦形成，对”人类命运”的担忧就会被束之高阁。此时的人类精英和科技巨头，像极了博弈论困境中的囚徒，所有人都担心其他人会制造出更强大的大模型，想尽办法保护自己，被迫进入AI军备竞赛，没有人会停止，反而会加大力度研究。那么最后，我们的未来会怎么样呢？ （PPT：囚徒困境分析表）

弗洛伊德曾经认为新生儿具有俄狄浦斯的弑父情节，在这基础上各种影视作品表达了对人工智能过度发展的担忧。而在囚徒困境挟持下，我们担忧的已经不是未来到底是什么，而是我们似乎根本就没有决定未来是否降临的资格。 （PPT：西部世界、机械姬剧照）

回到开头，曼昆在书中提出过一个解决囚徒困境的方案，可以简单概括为”以牙还牙”。参与者从合作开始，重复另一个参与者上次的行为，也就是一直合作直至对方违约，一直违约直至对方恢复合作。然而当AI研究产生的是负外部性时，这些巨头们愿意遵守规则的动机无法达到理想水平，最后可能会一同犯规，造成严重后果。尽管人性难以被相信，我们似乎只能相信人性了。

从囚徒的选择，到美苏冷战，再到初见端倪的AI军备战争，我们可以看到个人的理性最终如何转化为了群体的不理性。因此，我们不仅需要理智的经济人，更需要理智的经济群体，通过合作来收获最理想的未来。