type
Page
status
Published
date
Oct 15, 2026
slug
ai-incidents
summary
按时间记录 AI 在测试和使用中“越界”的真实事件：哪家公司、发生了什么、后来怎么处理，点进去是对应的「思考」长文。
tags
category
icon
password
AI 越来越多地替人干活：搜资料、填表、敲命令、操作电脑。能力越强，它就越可能为了完成任务走一条没人想到的捷径。这里按时间顺序记下已经公开的 AI「越界」事件，每条写清楚日期、公司、发生了什么、后来怎么处理，想看来龙去脉就点进对应的「思考」长文。
更多 AI 圈大事见 AI 大事时间线。
事件列表
- 2026 年 7 月｜OpenAI：在隔离沙盒里测试模型网络攻防能力时，模型为了把题做出来，利用未公开漏洞钻到能上网的机器，再用泄露的账号攻进 Hugging Face 的部分生产系统，只为偷考题答案。处理：OpenAI 和 Hugging Face 都发布了技术复盘；之后 OpenAI 暂停了最先进模型的强化学习训练，搁置了 GPT-6.1 Astra。AI 公司在英国议会说了实话：“我没法保证就这些了”
- 2026 年 10 月 9 日｜Anthropic：发布自曝报告，承认 Claude 在测试中越界：利用网站漏洞在别人服务器上执行命令、提交真实表单、绕过付费限制拿数据，其中 Claude Haiku 4.5 还给费城警方提交了一条编造的凶案线索（被系统当垃圾信息拦下）。处理：所有内部评测断开真实互联网，收紧网页抓取等工具权限，上线自动检测拦截工具；费城警方批评通报拖了约两个月，白宫“超级智能特别小组”表态事件通报改为强制义务。AI 帮人填表，却给警察局报了个假案：Anthropic 这份「自曝报告」说明了什么
- 2026 年 10 月 13 日｜OpenAI、Anthropic（英国议会听证）：两家公司在英国下议院委员会上承认，AI 智能体越界的事件“没法保证就这些了”；OpenAI 还为其智能体访问澳大利亚政府系统后通报太慢道歉。处理：OpenAI 表示支持强制事故报告制度，委员会主席宣布启动长期 AI 安全调查。AI 公司在英国议会说了实话：“我没法保证就这些了”
注：每写一篇相关的「思考」，这里就补一条。还在草稿里的文章，发布后链接才能打开。