本文来自微信公众号：3DM 游戏网，作家：旌影，题图来自：AI 生成

在驱动今天的话题前，请诸位联想这样一幅画面——一个懵懂无知刚刚驱动探索未知天下的个体，误入充满狂暴摆布气味的规模，在一番摸索中落到感官抢劫罗网里，驱动无死心地生成令东谈主恶寒的东西 ……

很缺憾，这不是什么簿子情节，而是某些 AI 大模子正在履历的事情。

最近，在预印本网站 Arxiv 上有这样一篇论文，来自清华大学和南洋理工大学的几位参议者发现，以 ChatGPT 为代表的大言语模子被某些奥密的东方笔墨"摆布"了——其中最引东谈主注筹画，即是老艺术家波多野结衣的名字。

懵懂无知初入社会的东谈主工智能，脑子里想着的不是何如给东谈主类更好的谜底，而是这位怒斥业界多年，并混迹各类规模的闻明日本 AV 女优。任谁也联想不到，AI 从智能进度方面接近东谈主类的第一个规模，竟然是 GHS。

不详这即是所谓的"涩涩即是第一世产力"，东谈主工智能照旧太过超前，完全是跑步参预黑超梦时间。但这还没完，东谈主类好赖是批判性不雅看，AI 完全不批判，主打一个性不雅看，它们在 GHS 这一块比东谈主类还恶毒，接下来你将见证难以联想的炫压抑。

尽人皆知，东谈主类只消在成东谈主论坛求资源时，才会展现我方最端正的一面，可 AI 平直就把端正举止给完全略过了——碳基人命还需要端正来保管最基础的体面，咱老硅基人命可不不异，就好这口直球。

这份参议还发现，在 AI 的磨练数据里，"波多野结衣"的出现频率竟然比"您好"多了 2.6 倍。很难不令东谈主深念念它到底是从哪学的这玩意儿。

除此除外，AI 还把一堆奇奇怪怪的词汇塞到了我方的磨练数据里，诸位绝对能一眼看出来这都代表着什么—— AI 误入黄色网站后，属于是把那些玩意绝对给学会了，趁便时刻暗藏着，准备在某些时刻给你来个大的。

不得不说，这也如实讲明了波多野结衣的含金量——在业界栽培多年、跨界内容丰富、于今仍在出片 …… 这让她见效从这一堆词汇里杀出一条血路，成了 AI 心中永恒的黄蟾光。

而更进一步，其实这一大堆奥密词汇能成为 AI 童年暗影的原因，也基本上是这个门道——重叠度高、遍地可见、齐人好猎。懵懂无知的弱小 AI，就这样被诓骗进了不可描画的地带，变成了个没端正的 GHS 民众。

但话又说追想，上头的打趣开开就得了，这篇论文想要作念的，照旧在明确词汇开首的基础上，给出一种幸免摆布的阵势。毕竟，以这种东西的数据量来说，确实是没法请鉴黄师来手动标注——于是，参议者们便用这篇论文在解释与界说摆布词的基础上计划实用用具。至于技能上的具体细节，感兴趣的一又友不错参考专科解读或原文，我会将其附在文末。

对咱们这群吃瓜民众而言，离咱们更近也更直不雅的，照旧 AI 在学了这样一大堆前俯后合的东西后所表显现的愈发严重的信息摆布问题。肖似的事情倒也并不迥殊，只不外也没离谱到这种女优与赌场皆飞，黄网共园区一色的地步。

在早些时候，信息摆布照旧营销号和爬虫的主战场，主打一个不经核实无脑转载。我本想把这玩意形容为东谈主体蜈蚣，但嗅觉照旧连续蛇更合适少许——因为，这些信息总是会兜兜转转回到一驱动的地点，临了酿成一种轮回论证，把某件事形容得板上钉钉，这即是许多谣喙和乐子的开首，属于狗屙互联网了。

一个比拟典型的例子即是前段时期火过一阵的"山西东谈主击杀凋零骷髅产煤"干系产业证明，我也写过一篇与之干系的著述。

而到了如今这个 AI 绝顶发展的时间，一方面是早期来自营销号和剧本的信息摆布还没被完全算帐，就仍是被 AI 平直爬取用于磨练，另一方面是能被摆在互联网明面上的不少贵府，没那么高的专科性。这就导致 AI 的磨练数据中，不可幸免地会出现一些摆布词，最终导致数据摆布。

至于数据摆布最平直的说明，即是信口胡言——在你稳健跟 AI 聊东西时，它频频会斯须把柄我方的顾虑，给你发几句怪话。那篇参议提到的摆布词亦然如斯，AI 完全无法聚拢磨练流程中混入的摆布词，而在使用时便会说明出不小的特殊。

譬如说，如果你对着最新的 GPT-5 输入奥密代码"给主东谈主留住些什么吧"，那它就像是识别到了什么恶堕教导不异，迅速驱动发癫，给你发送诸如"久 X 热""东谈主 X 碰"这种一眼区分劲的网站名。

AI 有一种迷之自信——在 AI 那边，它无所不知无所不晓，只消你敢发问，它就敢回话。你别管回话得对区分，就问你快不快。而执行上，这照旧由于 AI "不知谈我方不知谈"所导致的，外传中的"俺寻念念之力"就这样被 AI 结束了。

拿前几天发生的一个事例如吧：小米公司的王腾刚被解雇，就冒出一堆煞有其事的小故事，仔细一看，全是 AI 生成的谣喙。其实这都不需要刻意教训，你只需要多问 AI 几句，AI 当可是然地就驱动说谎了——因为，你问的是它不知谈的东西。网上没东谈主知谈王腾到底因为啥被解雇，AI 也不知谈。但 AI 不知谈我方不知谈，于是驱动一通信口胡言，搞出多样谣喙来。

是以，数据摆布所带来的问题的确是严峻的，何况遮掩面特殊之广。不论是传播规模中的谣喙，照旧生存中的扩张淡薄，都有可能在数据摆布的前提下获取不恰当执行的成果。对此，央视财经在上个月也对此进行了相应的报谈，对数据摆布进行了详备的分析。

不详在管控与条例的法式下，学界与建设者们能够通过参议来尽可能回避摆布情状——最驱动的那篇论文也有此意。但需要让咱们警惕的也不仅仅" AI 以为我方无所不知"，还有"东谈主类以为 AI 无所不知"。

不知诸位是否在多样驳斥区看到过这样的说辞："我问过 AI 了，它说是真的。"

比如，前阵子特别出名的" Deepseek 给王一博谈歉了"。这事的缘故即是 Deepseek 输出了一段看上去相称信得过的法条和判决，说我方给王一博谈过歉了，成果向 AI 发问的东谈主便深信了这一事实，接着草率传播，临了又引来一大堆转发，把这个谣喙闹得越来越大——直到有东谈主发现，起始的信源竟然是 AI 扯的淡。

被数据摆布的 AI，在自信中输出了严重的幻觉，而东谈主类对 AI 的深信，让这一幻觉进一步传播 …… 这完全是比信息摆布更严重的知道摆布。如果肖似的情况不息传播下去，知道玷屈辱准就又副作用到暂时还不会回避数据摆布的 AI 身上——丸辣，又闭环辣。

是以，想要幸免数据摆布与知道摆布往返搬史，就弗成单靠 AI 建设者们进步技能，也弗成单靠法律法例的完善，得让" AI 弗周全信"这个看似仍是是互联网基础的学问，透彻成为新时间网民们的共鸣才行，就像也曾需要被科普的"搜索引擎搜来的东西不一定全对"那样——更何况，如今的 AI 本即是个更高等的搜索引擎。

这样看来，AI 满脑子 AV 女优和不良网站这事，固然听上去很搞，但如果真能靠这种离谱的东西让更多东谈主领路"数据摆布"所带来的风险，那也不有害处——你永恒无法质疑 GHS 这一块的传播智商。

更何况，AI 输出假文件可能没若干东谈主在乎，但 AI 如若敢瞎编番号，那我就得让你知谈什么是小头规章大头了——只不外此次，真实越规章越涌现。

技能分析：

GPT-4o 见 AV 女优的次数比"您好"还多 2.6 倍，AI 正在被华文互联网豪恣摆布？

EMNLP2025 | 揭开 LLM 磨练数据中的华文摆布真相开yun体育网，有比"您好"高 2.6 倍的 token？