美国对 AI 的恐惧 来源于社交媒体的失控

「此次听证会是历史性的。我不记得之前在任何情况下，有大企业和私营组织代表来参加听证会，请求我们去监管他们。」已经当选参议员二十几年的迪克·德宾（Dick Durbin）在听证会中感叹道。

使用 Midjourney 生成的一张图片

「我们不使用广告作为营收，所以我们没有在建立用户画像。」奥特曼表示，「我们也没有在努力让用户更多地使用我们。事实上，我们希望用户更少地使用我们的产品，因为我们 GPU 不足。」

「你不能没有牌照就建一个核反应堆，你不能没有一个独立检测的牌照就建一个 AI 模型。我认为这是很好的类比。」一位议员这样说道。

奥特曼在国会回答提问 图片来源：听证会截图

「我对 GPT-4 最担忧的一点是我们不知道它训练的数据是什么... 它训练依赖的数据对 AI 系统的偏见会有影响。」马库斯教授表示，训练数据可能包含纽约时报，也包含 Reddit，但是「我们不知道它们的比例。」

「我们过去有建立一项测试，可以检测一个模型是否能自我复制和自己逃脱进入外界。我们可以为政府提供一个长名单，列出一个模型在被正式投放之前我们认为非常重要的一系列检测。」奥特曼讲道。

Open AI 是生成式 AI 领域里无可争议的领军企业，如果真的按照这个建议施行，Open AI 显然有机会极大影响政府设计的 AI 安全标准和发放召回牌照的标准，似乎完全符合福布斯这篇文章的标题《Open AI CEO 山姆·奥特曼想要 AI 牌照监管。这或许对我们是好事。但对 Open AI 绝对是好事》。

除了对开源公司产生威胁，达到一定 AI 能力就需要牌照的政策对于不面向公众的公司也并不友好。

「比如选举信息的例子。当然任何在这个场景下的算法都应该被要求披露训练所用的数据，模型的表现，任何相关的信息都非常重要。」蒙哥马利表示。

在游戏底特律变人中，仿生人取代了人类的许多底层工作 | 图片来源：底特律变人游戏截图