好文集ChatGPT Plus¥119

AI 是如何识别成人内容的 ?

文章目录

在 X 上如果你发的内容被判成成人内容,整个账号就会被打上标签,挂 7 天。

账号挂着这类标签时,推荐流不会再把这个号的帖子推给没关注你的人,规则里根本不看你这条发的是什么。

所以想搞明白「怎么才不会被误伤」,得先知道 AI 是怎么判一张图算不算黄的。

一、AI 鉴黄的四道关

一张图上传到平台,大致要过四道关。越往后越准,也越贵。

第一关,对指纹。平台有一个「已知违法图片」库,每张图都算成一串指纹,新图对上了就拦。微软的 PhotoDNA 最出名,图被缩放、压缩、调了色,照样对得上。但它只认得见过的图。

第二关,打分。没见过的图交给模型打一个 0 到 1 的分。2016 年雅虎开源的 open_nsfw,0.8 分以上就算「大概率不适合在办公室打开」。现在的做法是先用 CLIP 这类看过海量图文的模型,把一张图压成一串数字(X 用的是 256 个数),再接一个很小的判断器出分。

它学到的是统计规律:大面积肤色、某些曲线、某些构图。很多人就是这么被误伤的。2024 年有篇论文审计了三个常用的这类模型,发现女性哪怕在做很日常的事,也比男性更容易被误判。

第三关,看上下文。 能同时读图和读字的大模型,会把「这张图配了什么字」一起考虑。OpenAI 2024 年 9 月出的审核模型 omni-moderation 就能图文一起判。乳腺癌科普图,得靠这一关救回来。

第四关,人。 分数卡在中间的、被申诉的、账号影响大的,最后交给人工审核员,也就是大家说的「鉴黄师」。

二、X 的规则

2026 年 8 月 13 日,X 往 GitHub 上的公开仓库(github.com/xai-org/x-algorithm)补进了内容过滤和打标签的代码,同时上线了一个叫 Under the Hood 的自查页面。跟成人内容有关的,有 4 条。

1. 单张图分档。

模型打完分,0.999 以上算「近乎确定」,0.95 以上算「高精度」。还有一档叫「高召回」,按这个词的本意,是宁可多抓、不怕抓错的那一档。

被判成成人内容的图,对方没开「显示敏感内容」的话,会被打码,点一下才能看。被判成人的 Grok 生成图,标记会保存 75 天。

2. 帖子会连累账号。

默认规则有两条:

  • 最近 5 条帖子里(60 天以内),有 3 条被判「高精度」成人内容,账号打标签,挂 7 天

  • 一天之内,同一档里被判成人的图超过 2 张,也会触发给账号打标签。最宽的「高召回」那档也算在内

3. 账号被打标签,推流就断了。

推荐流的过滤规则里写得很直白:作者带着成人类账号标签,他的帖子就不再推荐给没关注他的人。条件只有「作者有这个标签」,不看这条帖子本身是什么。

头像、横幅被判成成人图,也是单独的账号标签,后果一样。

关注你的人还看得到。关注者的首页时间线里没有这条整号过滤的规则,只会给单张成人图打码。

4. 一天超 2 张那条,大号有人工复核。

「一天超过 2 张」那条实时规则里,不同的号待遇不一样:

  • 普通账号:机器直接打标签,7 天

  • 影响力高的大号(代码里用 PageRank 算),如果粉丝本来就不怎么看成人内容,系统当成「可能误判」,先送人工复核

  • 影响力高、粉丝也爱看的大号:照样打,但只挂 3 天

  • 金标(机构)和灰标(政府)认证的账号:先送人工复核

  • 标签被人工撤掉过的账号:90 天内这条规则不会再自动给它打

「5 条里 3 条」那条默认规则,大号不豁免,一视同仁。

另外,X 公开了一个实验版的成人图片模型,叫 pnsfwmedia。它判断一张图时,除了图片本身,还会输入这个账号过去的成人内容分、文字的成人内容分、粉丝数,以及一个叫 nsfw_consumer_follower_score 的分数,按名字理解,是粉丝里有多少人平时爱看成人内容。这是实验版,线上不一定在用,但方向很清楚。

需要说明:以上数字都是公开代码里的默认值,X 可以用线上开关改,实际在跑的不一定完全一样。

三、如何被误伤

如果你发健身、摄影、穿搭、AI 写真,内容本身不违规,只是怕被误伤:

  • 先查自己有没有被打标签。打开 Under the Hood(x.com/i/jf/under_the_hood),能看到账号和帖子上个月被打了哪些影响曝光的标签。还在试点,不是所有号都能看到。

  • 被误判就申诉。 别等标签自己过期,挂着的每一天,你的帖子都推不到新人面前。

  • 头像和横幅别用擦边图。这两个位置一旦被判成人,整个号的帖子都推不给陌生人。X 的规则本来也不允许这两个位置放成人内容。

  • 擦边图可以发,但别一天连着发。一天超过 2 张被判成人,就会触发账号标签,最宽松的那档也算。

  • 如果你准备走成人这个赛道,那也自己先标上。X 从 2024 年 6 月起允许发双方自愿拍摄的成人内容,前提是在媒体设置里打上内容警告。

需要注意的

AI 其实不知道什么涩不涩情的。它只是算一张图和它见过的是否像。

一旦你的号在 5 条里被它判中 3 次,接下来 7 天你发什么,推荐流都不会再把你的帖子推给没关注你的人。

所以最稳的做法就三件:

  • 头像和横幅别用容易被判成人的图

  • 一天别连着发多张擦边图

  • 被打标签了就去 Under the Hood 看一眼,该申诉就申诉

全文完
查看原文