Discord 误封 8000+ 账户后恢复,AI 审核系统将棋盘游戏截图误判为违规内容

Discord 因 AI 审核系统故障,误将 8000 多个账户永久封禁,原因竟是系统将电子表格、棋盘和游戏纹理等正常图片与违规内容相似匹配。Discord 已恢复所有受影响账户,并承认错误。

Discord 已恢复因 AI 审核系统错误而封禁的 8000 多个账户。系统故障导致自动审核工具将正常上传内容误判为非法内容,包括电子表格、棋盘和游戏纹理等。这些封禁是永久性的,且未经人工审核。

2026 年 7 月 7 日,Discord 通过其 X 平台支持账号发帖详细说明了错误。自 5 月以来,用户开始遭遇封号。周末检测到约 200 个额外账户被误封后,Discord 团队定位问题并发布了修复。公司宣布所有受影响的账户正在恢复中。

相似匹配算法误将网格结构内容标记为违规。每次上传的文件都会与 Discord 安全工具已标记的危险内容数据库进行比对。公司承认相似匹配可能产生误报。正常情况下,系统标记的内容需经过信任与安全团队人工审核。但此次 bug 绕过了人工审核,直接永久封禁账户。除了电子表格和棋盘,透明白色和灰色背景图片也被误判。

在 Discord 解释之前,X 和 Reddit 上已出现用户抱怨。一些用户猜测,由于网格布局曾用于隐藏 NSFW 和儿童剥削内容,AI 模型可能对类似网格的图片反应过度。Discord 在 X 帖子中写道:“我们本应更早发现这一问题,正在加强防护措施以避免重演。”

同样的问题也波及 Meta 和 Tumblr。7 月 4 日,游戏开发者 JDBRYANT 称其账户因游戏纹理被 AI 误判为儿童性虐待内容而遭删除。另一名用户表示:“这一漏洞需立即修复,所有误封应撤销。因不公平封禁失去 Discord 账号可能对用户造成严重影响,每天有数百万用户受 AI 误封影响。必须停止。”据 Cryptopolitan 引用 Discord 数据,其月活用户超过 2 亿。

去年 Instagram 和 Facebook 群组也出现大规模无解释封禁,普遍认为是自动审核所致,但 Meta 未确认是否为 AI 错误。Meta 监督委员会已敦促公司提高透明度。Tumblr 也面临类似投诉。2026 年初,Discord 推出了全球年龄验证和青少年默认设置,以保护儿童安全。

免责声明:本文提供的信息不是交易建议。BlockWeeks.com不对根据本文提供的信息所做的任何投资承担责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

(0)
区块链小猫的头像区块链小猫作者
上一篇 2小时前
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部