加州州长签署行政令 要求强制上报AI智能体异常行为

格隆汇9月19日｜美国加州民主党州长加文·纽森于当地时间周五签署一项行政令，称该令将“大幅加快”人工智能安全举措落地，其中包括可能要求企业为先进AI模型设置“终止开关”，也就是紧急关停机制。 加文·纽森被视作2028年总统大选潜在参选者，他表示，由于联邦政府在AI监管方面做得不足，出台这项行政令很有必要。 州长的这份行政令将召集专家小组，在两个月内给出指引方案，明确加州应如何完善AI安全相关法律。相关提议包括要求AI实验室定期接受审计、强制上报AI智能体出现异常行为的“失控事件”，以及推动为最前沿AI模型配备终止开关。