好消息：AI 越来越好用了。

坏消息：越用它越笨。

无论是哪家 AI 厂商，现在都会在「长期记忆」「超长上下文储存」等方面下功夫，这样才能让用户用起来顺手、顺心。不过，最近一项研究发现，AI 未必就能越用越懂你、越用越聪明，还可能往反方向跑偏。

AI 也会认知退化？还不可逆？

研究者们用开源模型（如 LLaMA 等），做了一个小但精巧的实验。他们不是简单地在训练数据里混入一些错别字，而是想要模拟人类那种「无休止地刷着低质量、碎片化内容」的互联网生活，并用「持续预训练」（Continual Pre-training）的方式来模拟模型的长期暴露。

为了实现这个目标，他们从真实的社交媒体平台上筛选了两种「垃圾数据」，一种是「参与度驱动型垃圾」，也就是那些短平快、高人气、点赞和转发爆炸的帖子，类似于我们刷手机时那些只为博眼球的「流量密码」。

另一种是语义质量驱动型垃圾，那些充斥着「震惊」、「细思极恐」、「xxx 不存在了」这种夸张、耸动字眼的内容。他们将这些垃圾语料以不同的比例混合，持续喂食给模型，模拟剂量对「脑腐烂」的影响。

随后，他们让好几个大语言模型持续地、长时间地被投喂这些垃圾，作为训练语料。再用一系列基准测试来衡量 LLM 的「认知功能」，包括推理能力、长文本理解能力、安全性和道德判断，等等。

结果是：全面完蛋。模型的推理能力和长文本理解力出现了断崖式下跌，在处理复杂的逻辑推理任务和长篇幅内容时，表现出明显的退化。

当垃圾数据的比例从 0%提升到 100%时，模型的推理准确率急剧下降。这反映出模型越来越「懒得思考」，也越来越「记不住事」。

到底是什么原因呢？研究者深入分析后，发现了一个主要病灶：Thought-Skipping。

原本，一个优秀的 LLM 在解决复杂问题时，会生成一步步的中间推理过程；但在被「垃圾」腐蚀后，模型开始跳过这些中间步骤，直接给出一个粗糙的、可能是错误的答案。

就像一个原本逻辑缜密的律师，突然变得浮躁、敷衍，不再提供论证过程，而是随口丢出一个结论。

甚至，评估发现，模型在安全和伦理方面的表现也下降了，更容易屈服于负面 prompt，逐渐「黑化」。

这说明，当模型持续接触碎片化、煽动性的低质量文本时，它不仅能力下降，连「三观」也开始向互联网的平均值，甚至是「阴暗面」靠拢。

如果说这项研究里什么最让人倒吸凉气，恐怕就是整个过程的不可逆性。

研究员试图在中途进行补救，重新投喂了大量高品质的数据，还做了指令微调。但即便如此，模型的认知能力也无法完全恢复到最初的基线水平。

也就是说，垃圾数据已经从根本上改变了模型处理信息、构建知识的底层结构，这就像一块海绵被污水泡透了，即便再用清水清洗，也无法回到最初的纯净状态。

横扫「脑腐」，用好 AI

可是话说回来，这毕竟是实验，一个普通用户的「破坏力」应该不至于吧。

的确，没有人会故意给自己的 chatbot 喂垃圾数据，还如此大量高频。不过，这个实验的数据来源，正是社交媒体平台。

识别、抓取和总结社交媒体内容，是大模型产品的常见工作之一。有些人用它来帮忙，省下自己刷社交媒体的时间；有些则是为了更密切地发现信息，以免热点都凉了才看到。

这个实验恰恰反映了，模型在勤勤恳恳抓取内容的时候，自身暴露在了退化的风险当中。而这一切，用户都不会看到。

于是在不知不觉中，AI 被投喂了垃圾，生成了垃圾，你使用了垃圾，垃圾再进入互联网，用于下一轮训练，周而复始，陷入恶性循环。

这项研究最深刻的价值，在于它颠覆了我们对 AI 互动的传统认知：以前我们总觉得 AI 像一个等待填满的容器，输入什么都能消化。但现在看来，它更像一个敏感的孩子，对输入食物的质量非常挑剔。作为日常用户，我们与 AI 的每一次对话，都是在进行一次「微调」。

既然知道「思考跳过」是主要的病灶，那么我们日常使用 AI 时，就必须主动要求它进行「反向操作」。

首先要做的，就是警惕那些「完美的答案」。不管是要求 AI 总结一个长文章，或者写一份复杂的项目方案时，如果它只给出的结果，却没有显示任何逻辑依据和推理过程（尤其是在支持思维链的情况下），就要多留个心眼。

相比于让它反复调整结果，不如问一问它推理过程，「请列出你得出这个结论的全部步骤和分析依据」。强迫 AI 恢复推理链条，不仅能帮你验证结果的可靠性，也是在防止它在这次任务中养成「偷懒」的坏习惯。

另外，对于那些基于社交媒体的工作任务，要格外小心。基本上要把 AI 当个实习生，它能力或许很强，但是不够踏实靠谱，必须得有二次审核——实际上，我们的核查和纠正是极其宝贵的「高质量输入」。不管是指出「这里的数据来源是错的」，还是「你跳过了这个步骤」，都是在对模型进行一次有价值的微调，用高质量的反馈去抵抗互联网中的垃圾信息。

这项研究比较让人摸不着头脑的地方在于：难道要让 AI 少处理混乱的文件吗？这岂不是本末倒置？

确实，如果为了避免 AI 可能出现的脑腐症状，而只让它处理结构化程度更高的数据，那 AI 的价值就少了一半。我们使用 AI，恰恰在于处理那些混乱的、充满重复句和情绪化表达的非结构化数据。

不过还是可以平衡一下，继续让 AI 执行信息整理工作，只不过在 AI 面对低质量输入前，就给 AI 更清晰的指令。

比如，「总结这份聊天记录」，容易让 AI 闷头只出结构。而更细化的「将这份聊天记录进行分类处理，识别对话人物，去除口癖和连接词，再提炼出客观信息」，就在强行促使 AI 先思考一轮，整理出内部行动指南，再展开工作。

用户不是不能用 AI 处理垃圾数据，毕竟这是它最能发挥的地方。只不过，为了降低 AI「脑腐」的风险，要用结构化的指令和高质量的反馈，将 AI 变成一个高效的「垃圾处理和净化器」，而不是让它被垃圾信息同化。

#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。

爱范儿 | 原文链接 · 查看评论 · 新浪微博

端午假期，我和侄女聊天，我随口提起了最近网络上爆红的郭有才，我以为她也会有所耳闻。没想到，她却一脸茫然，表示从未听过这个名字。

我有些惊讶，毕竟山东菏泽的郭有才最近在网络上可谓是炙手可热。侄女打开抖音，搜索了他的名字，1000多万的粉丝数量赫然出现在眼前。侄女这才露出了惊讶的表情，感叹道：“居然有这么多人关注他，我却一点都不知道。”

我意识到，我和侄女的年龄差距，导致了我们所处的“信息圈”截然不同。她主要获取信息的方式是通过社交媒体，而我则更倾向于传统网络媒体和书籍。这不禁让我思考，在信息爆炸的时代，我们是否真的了解了世界，还是反而被困在了自己的信息茧房中？尤其是社交媒体变态的算法机制。

值得一说的是，社交媒体的注意力经济下，就更别说视频内容的浅薄化。如今，短视频平台上的内容充斥着各种娱乐八卦和无厘头的搞笑视频，这些内容虽然能够带来一时的快乐，却无法让我们获得真正的知识和思考。

长此以往，我们会逐渐失去阅读、写作和思考的能力，沦为被信息消费的对象，而不是信息的创造者。因此，我们应该减少对浅薄视频内容的依赖，多读书，多思考，多创作，才能真正提升自己的精神境界。

某国际学院最近想和德国合作，并对学生出国工作的意愿进行了一番初步调查。结果却令人意外，学生们出国工作的意愿并不高。这与我最初的预想截然不同，我以为在互联网如此发达的今天，人们对国外的情况应该更加了解，出国工作的意愿也会更高。

然而，事实却并非如此。专家说，这就是信息茧房的作用。我们每天接收到的信息，大多来自我们所关注的社交媒体和网站，这些信息往往都是迎合我们口味，甚至故意制造偏激的内容来刺激注意力。久而久之，我们就生活在一个由自身偏好所构建的信息茧房中，看不到外面的世界，也听不到不同的声音。

一位高校教师老太太，她的儿子从发达国家疫情期间留学回来，最近想去攻读博士。但她就觉得不建议她孩子去国外，疫情期间国外那种各种“惨状”让她很不放心。她甚至觉得，境外的话最多能接受去香港，其他地方都不安全，只有国内才让她放心，才是安全的。

老太太由于长期生活在自己的信息圈中，只接收到了国内媒体关于国外疫情的负面报道，因此对国外的情况产生了偏见和误解，她认为国外到处都是水深火热，不适合生活和学习。

那么，在社交媒体如此发达的今天，我们作为个体，如何才能跳出信息茧房的束缚呢？我认为，以下几点非常重要：

• 主动探索： 除了关注自己感兴趣的内容，我们也应该主动去探索其他领域的信息，跳出自己的信息圈，到更大的世界中去寻找新的知识和观点。
• 多方求证： 不要轻易相信单一的信息来源，要多方求证，从不同的角度去了解事情的真相。
• 开放心态： 虚心接受不同的意见，即使与自己的观点不一致，也要保持开放的心态，进行理性的思考和判断。

信息茧房就像是一个舒适的囚笼，它让我们感到安全和满足，却也让我们失去了接触新事物、开拓眼界的机会。只有跳出信息茧房，才能真正拥抱更广阔的世界，获得更多的智慧和灵感。

在这个信息爆炸的时代，有智慧的人都应该警惕信息茧房的危害，主动跳出自己的舒适圈，去探索更大的世界，去创造更多属于自己的精彩。