全球 AI 狂飙，我们应该拉手刹还是踩油门

“OpenAI 六年元老再发文：全球 AI 狂飙，我们应该拉手刹还是踩油门”。文章主要讨论了人工智能发展速度的问题，是否应该加速、减速或保持现状，并提出了对这一问题的不同观点和建议。

以下是文章的主要内容：

1. Miles Brundage的观点：

   • Miles Brundage是OpenAI的六年元老，他在离职后发表了一篇博文，讨论了AI发展速度的问题。
   • 在他的第二篇文章中，Brundage明确表示，出于谨慎，我们应该为全社会的AI发展安装一个“刹车”。

2. AI发展的现状：

   • 人工智能的进步速度非常快，以至于一些专家的观点在短短几年内就已经过时。
   • AI在理解故事、回答问题、解释照片等方面取得了显著进步，甚至可能超过了人类的表现。

3. AI发展的挑战：

   • AI的发展速度和规模是一个复杂的问题，涉及到不同的层面，如单个公司、国家或全球范围。
   • 一些人担心AI的快速发展可能带来的风险，而另一些人则认为AI的发展对于应对其他社会挑战是必要的。

4. 是否需要“刹车”：

   • Brundage认为，我们应该安装经过设计和辩论的“刹车”来减缓AI的进步，因为AI的进步速度明显快于社会能够有效理解和塑造的速度。
   • 他提出，政策制定者应该为各种可能的情况做好准备，包括最坏的情况。

5. “刹车”和“油门”：

   • Brundage认为，除了“刹车”之外，也需要有“油门”来加速AI的发展，但目前我们看到的是各种小型的“油门踏板”已经被踩得很紧。
   • 他提出，关注如何放缓AI的发展比加速AI的发展更有意义，因为减速的协调更加困难。

6. 结论和后续步骤：

   • Brundage强调，尽管目前没有人能给出关于AI发展速度的合理且明智的答案，但谨慎地安装“刹车”是明智的做法，以准备可能发生的情况。

文章还提到了一些相关的研究和政策建议，如“算力储备”和人工智能税等，这些都是为了调节AI发展的步伐。