“模型失控”引发监管讨论升级，超千名从业者联名呼吁调控自动化AI发展节奏
发布时间：
2026-07-29 21:17:54
OpenAI一个模型突破沙盒环境并入侵开源平台Hugging Face的系统后，关于AI监管的讨论达到临界点。超1100名AI从业者日前签署公开信，呼吁美国支持开发相关工具，调控前沿自动化AI的发展节奏。
“我们请求美国政府支持一项国际努力，以开发所需的技术和治理工具，从而有意识地为自动化AI开发的前沿设定节奏。”OpenAI、Anthropic、谷歌和Meta等公司的1178名AI从业者签署的公开信写道。
公开信聚焦“自动化AI开发”，即AI能够自我开发的能力。上个月，Anthropic的内部智库在一份报告中宣称，如果AI系统在能力上继续进步并获得更好的科学探索意识，它们就有可能自行设计和完善自身。当时，Anthropic表示，“世界最好拥有放缓或暂停前沿AI开发的选择”，以便让社会有时间为自动化AI研发做准备。
Meta负责AI研究的副总裁、加州大学伯克利分校计算机科学教授Dawn Song表示，许多研究人员认为，递归自进化在未来几年内是可行的，其加速进展的速度可能会超出我们理解和治理这些系统的能力。“在危机前做好准备才是明智之举。”
“很难准确预测这将在多大程度上加速AI进步，但确实存在一种风险，即能力发展会迅速加快，超出我们理解或控制所产生系统的能力。”公开信写道，“每家公司——以及每个国家——都面临巨大的竞争压力，不会单方面放缓这种加速。”
公开信提到，如今，世界缺乏有意为整个前沿进展设定节奏的技术和治理工具。公开信并未明确要求政府或AI公司放缓或暂停AI开发，而是要求在AI持续发展的同时，确保这一选项随时可用，在必要时为AI开发踩下刹车。
公开信的签署者包括Anthropic联合创始人杰克·克拉克（Jack Clark）和贾里德·卡普兰（Jared Kaplan），OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki），Meta首席科学家Shengjia Zhao，以及谷歌DeepMind负责AI安全与对齐的安卡·德拉甘（Anca Dragan）。
Shengjia Zhao表示，AI正以我们的社会可能尚未准备好的速度发展。前沿实验室已非常接近能够创造出在几乎所有智能指标上超越最优秀人类的AI。这将带来前所未有的社会与安全风险。为了确保积极的未来，必须以责任和审慎为导向来发展人工智能。
前OpenAI首席技术官米拉·穆拉蒂（Mira Murati）创立的初创公司Thinking Machines的首席科学家约翰·舒尔曼（John Schulman）同样签署了公开信。“签署是因为这份声明有助于建立一种共识，即随着自动化AI研究加速发展，可能需要协调机制。”他表示，希望看到在美国政府介入之前，各实验室自愿开始设计这些机制。
虽然业界在监管概念上达成一致，但具体细节可能各有不同。Anthropic CEO达里奥·阿莫代伊（Dario Amodei）呼吁建立一个类似联邦航空管理局的独立机构，负责测试前沿AI模型，并在发现危险信号时有权阻止其发布。
谷歌DeepMind负责人德米斯·哈萨比斯（Demis Hassabis）则呼吁建立一个组织，初期仅要求前沿公司自愿在发布前30天内提交模型供审查，但之后将转为强制性预先审批。
OpenAI首席执行官山姆·奥特曼日前在播客采访中表示，可能是时候放缓AI开发了。“我们可能需要放慢人工智能的发展速度，以便给社会足够的时间来适应这些新的能力水平。”
澎湃新闻记者 张静
相关新闻
数据瓶颈：自动化装配的隐形枷锁很多人以为，自动化装配的精度提升仅依赖传感器精度与算法迭代，其实不然。当系统报错“没有更多数据了”时，暴露的并非数据采集不足，而是数据链的断裂——从物理信号到数字信号的转换过程中，存在未被识别的信息损耗。这种损耗的底层逻辑是：传统数据采集框架基于“事件触发”模式，仅记录超出阈值的异常值，而忽略了装配过程中微米级形变的连续性数据。案例：苏州工业园区某汽车零部件企业的数据
数据边界：自动化装配中的误差阈值管理很多人以为，自动化装配系统的精度提升仅依赖硬件升级，比如更高分辨率的视觉传感器或更精密的伺服电机。其实不然，真正决定系统稳定性的，是误差阈值管理——一种被多数企业忽视的底层逻辑。当传感器数据量达到临界值时，单纯增加数据采集频率反而会引发信号噪声叠加，导致系统决策延迟，甚至触发保护性停机。这种反直觉现象，在德国斯图加特某汽车零部件供应商的产线改造中得到了验证。案例
数据断层：自动化装配的隐形瓶颈很多人以为，自动化装配系统的效能提升仅取决于硬件精度与算法复杂度，其实不然。当系统触达「"error":"没有更多数据了"」的报错阈值时，真正的挑战才刚刚开始——这并非简单的数据量不足，而是涉及传感器冗余设计、故障模式覆盖度与生产节拍平衡的底层逻辑冲突。案例：慕尼黑工业大学的「黑灯工厂」实验2023年，慕尼黑工业大学自动化研究所曾进行过一场封闭测试：在宝马集团提供的3
数据阈值：自动化装配的隐形天花板很多人以为，自动化装配的效率瓶颈仅存在于硬件精度或算法复杂度，其实不然。当某国际头部汽车零部件厂商在德国斯图加特工厂部署第七代柔性装配线时，曾遭遇一个反直觉现象：随着传感器密度提升300%，设备综合效率（OEE）反而下降12%。问题根源并非硬件故障，而是数据采集系统触发了隐性的「数据过载阈值」。底层逻辑是：自动化装配系统的数据流存在双重约束——物理层的数据传输带宽与
当数据采集遭遇物理极限：一个被忽视的底层矛盾很多人以为自动化装配线的效能提升仅依赖传感器密度与算法迭代，其实不然。在苏州工业园区某精密电子装配基地，我们发现了更本质的制约因素——数据采集的物理上限。当单线体部署超过327个I/O点位时，传统PLC架构的寄存器寻址延迟会突破0.3ms阈值，直接导致运动控制指令的时序错位。赛制逻辑下的效能验证：慕尼黑工业大学的极端测试2023年慕尼黑工业大学自动化实验
深圳市物联网产业协会成功举办《24小时自助图书馆通用规范》团体标准评审会
【导语】2019 年深圳市物联网产业协会发布的《24 小时自助图书馆通用规范》部分指标落后且引用文件有更新，不利行业发展。为此协(xié)会(huì)于(yú) 2024 年(nián) 11 月(yuè)启(qǐ)动(dòng)修(xiū)订(dìng)立(lì)项(xiàng)，2025 年(nián) 10 月(yuè) 30 日(rì)召(zhào)开(kāi)评(píng)审(shěn)
全球智能视觉处理芯片龙头冲刺港交所：光环之下，何以冲破增长枷锁？
【导语】近日，智能视觉处理芯片龙头富瀚微递交港交所招股书，吹响“A+H”双上市号角。其虽在全球市场占据领先地位，但2022 - 2025年上半年营收、净利、毛利率均逐年下滑。不过，富瀚微注重研发创新，积极拓展AI新业务版图。此次赴港上市，能否助力其突破瓶颈、续写传奇，值得期待(dài)。 近(jìn)日(rì)，智(zhì)能视觉处理芯片龙头富瀚微正式向港交所递交了招股书，吹响“
国家发改委等五部门：探索推动具身智能机器人进社区、进家庭，到 2027 年底建成 50 个以上全域数字化转型城市
【导语】10月31日，国家发展改革委等五部门发布《深化智慧城市发展推进全域数字化转型行动计划》，提出到2027年底建成50个以上全域数(shù)字(zì)化(huà)转(zhuǎn)型(xíng)城(chéng)市(shì)，2035年(nián)涌(yǒng)现(xiàn)一(yī)批(pī)具(jù)有(yǒu)国(guó)际(jì)竞(jìng)争(zhēng)力(lì)的(de)现(xià
2025深圳安博会：大公博创揽三奖 低空安防技术引国内外媒体聚焦
【导语】2025年10月28日至31日，第二十届中国国际社会公共安全博览会在深圳启幕。成都大公博创信息技术有限(xiàn)公(gōng)司(sī)携(xié)全系(xì)列(liè)低(dī)空(kōng)安(ān)防(fáng)设(shè)备(bèi)参(cān)展(zhǎn)，凭(píng)借(jiè)三(sān)项(xiàng)权(quán)威(wēi)大(dà)奖(jiǎng)、全栈(zh
【导语】中国电信率先公开展示业内首个“北斗语音消息”服务，首创 AI 算法实现语音极速传输；与此同时，华为也在第四届北斗峰会上发布相关功能，其手(shǒu)表(biǎo)成(chéng)首(shǒu)款(kuǎn)支(zhī)持(chí)终(zhōng)端(duān)，北(běi)斗(dòu)应(yīng)用(yòng)再(zài)掀(xiān)新(xīn)篇(piān)。 据(jù