DeepMind CEO呼吁美国设立AI监管机构：AGI威胁临近，行业须减速

Google DeepMind联合创始人兼CEO Demis Hassabis呼吁美国政府建立一个新的监管机构，负责筛选全球最强大的AI模型，并有权在风险升级时要求行业减速。他在7月14日发布的宣言中详细阐述了这一计划，希望该机构能在年底前投入运行。

Hassabis是AI领域的领军人物之一，因蛋白质折叠研究获得2024年诺贝尔化学奖，并领导着开发Gemini模型的实验室。他在采访中表示，AI监管已经到了需要系统化的时刻，资金应由实验室自身提供，人员由技术专家组成，并对美国政府负责。

美国AI监管机构将做什么？

Hassabis计划以美国金融业监管局（FINRA）为蓝本——这是一个由行业资助、在证券交易委员会授权下监管华尔街经纪商的私人机构。在他的设想中，前沿实验室需在模型发布前最多30天自愿提交模型，供该机构测试其是否存在危险的网络、生物及“欺骗”能力。一旦测试证明可靠，正式规则“可能很快出台”，意味着模型必须通过测试才能在美国市场部署。

这些标准将适用于所有前沿级系统，Hassabis强调“无论其来源国是哪里，无论开源还是闭源”，基准将随着技术进步而更新。他还希望该机构董事会以独立成员为主，包括图灵奖得主和其他有资历的研究人员，同时为行业、政府和开源开发者保留席位。

为何现在呼吁AI监管？

Hassabis表示，当前由AI驱动的网络攻击只是“警告信号”。他称，未来18个月内，更严重的生物和核风险可能藏身于开源模型中，而任何政府都无法收回。威胁不仅限于开源系统，实验室未来的专有模型也将携带同样危险。

他希望监管机构在数月内投入运作，并透露过去几周已向特朗普政府、竞争对手实验室负责人及欧洲官员通报情况。“我听到的反馈非常积极，”他在谈到白宫会谈时表示。此前特朗普政府倾向于不干预，但上月对Anthropic的Mythos和Fable模型实施了出口管制，限制其使用。该命令后来被撤销，Anthropic在增加更多控制后发布了模型。OpenAI则同意在GPT-5.6公开发布前仅限政府审查的合作伙伴使用，并在商务部的测试后于上周公开发布。Hassabis称这一事件“有点像是警钟”。

罕见的共识

Anthropic CEO Dario Amodei也认为需要有一个能够约束不安全AI模型的机构，并呼吁制定约束性规则和像美国联邦航空管理局（FAA）式的机构。Amodei的立场与Hassabis一致，但后者更倾向于更轻量、由行业运营的FINRA结构。

值得注意的是，Hassabis认为风险正在快速上升。他说，AGI（达到人类全部认知能力的系统）“可能只需短短几年”，在斯坦福的一次活动中，他将时间定在2030年左右，“加减一年”。他在宣言中写道，研究人员“找到了让沙子思考的方法”，并称之为“奇迹”。