AI 为什么这样回答?从 9 个概念看懂大模型
文章目录
听到「大语言模型」「智能体」这些词,你会不会觉得:很厉害,但离自己有点远,好像得先懂编程、数学和建模才能弄明白?也有朋友会想:我又不是做模型训练的,会用工具就行了,这些原理跟我关系不大。
会用工具当然重要。但工具几乎每个月都在变,新名词也一个接一个。懂一点背后的原理,你才知道它为什么这样回答、什么时候可以信、什么时候该核实。好在,变化背后的很多基础概念,其实一直没怎么变。
我做《Cloris说AI》这个科普小视频系列,就是想让没有技术背景的朋友发现:这些概念没有想象中那么难。你不需要先成为技术专家,也能理解 AI,带着自己的判断去用它。
每集不到五分钟,我试着把一个概念和生活里熟悉的事情连起来:文字接龙、注意力、学习、试错、成长、打草稿……先从你熟悉的经验出发,再一点点走到技术背后的逻辑。
希望你看完记住的不只是一个定义,还能解释自己用 AI 时碰到的事:它为什么这样回答?为什么说得那么肯定,却可能是错的?为什么有的问题要让它多想,有的不用?
第一季 9 集已经全部更新,分享了模型生成、学习和推理的基础原理。我把它们整理在下面,每集都附上了生活和工作里可以直接上手的用法。你可以从头看,也可以直接跳到最困惑的那一集~
第一季观看索引
01|大语言模型(LLM)到底在干什么?
它在做「文字接龙」:根据前面的内容,一个 token 接一个 token 地预测接下来该说什么。流畅的表达就是这么来的,但流畅不等于真实。
生活里怎么用:让它帮你起草、整理,或者换个说法解释一件事;碰到重要的事实,另外核实。「说得像真的」不是证据。
工作里怎么用:把它当作「初稿助手」:会议纪要、邮件、方案框架、长文档摘要都可以先交给它。交付前,自己核对关键数字、人名、日期和结论;对外发布或用于决策的内容,一定要有人最终把关。
02|AI 眼中的文字:token 是什么?
我们看到的是字和句子,模型看到的是切分后的 token。一个 token 不一定正好是一个汉字或一个英文单词。模型一次能读多少内容、很多 API 怎么收费,都按 token 算。
生活里怎么用:给 AI 一大段材料之前,先挑出相关的部分。塞得越多,不代表它处理得越好。
工作里怎么用:处理长报告、长表格时,按章节或主题拆开,一次只给一部分,最后再让它汇总;如果要通过 API 批量处理,先拿几条样本估算 token 用量和费用,再决定用哪个模型、每次放多少内容。
03|AI 的注意力机制
一句话里,哪些信息和眼下要处理的内容最相关?注意力机制帮模型建立这些联系。可以借人的「注意力」来理解它,但它不等于人的专注,更不是意识。
生活里怎么用:提问时把目标、关键材料和限制条件说清楚,帮它更快找到需要的线索。
工作里怎么用:布置任务时,用小标题把「任务」「背景材料」「输出要求」分开写;最关键的要求放在开头,必要时在结尾再强调一次,别让它淹没在一大段材料中间。
04|温度:AI 的「性格旋钮」
温度控制的是生成时的随机程度:低温更稳,高温更多变。但低温不保证正确,高温也不保证有创意。
生活里怎么用:如果工具能调温度,可以拿同一个任务试几种设置,比较一下结果。没有这个滑块时,也可以在提示里直接要求「更严谨」或「多给几种思路」,不过这和调温度是两回事。
工作里怎么用:数据提取、格式转换、条款整理这类要求结果一致的任务,用低温,并给出固定的输出格式;起标题、想文案、头脑风暴时,可以调高温度或一次生成多个版本,再由人来挑选和组合。
05|上下文工程
除了「怎么问」,还有一个常被忽略的问题:AI 开始干活时,手边有哪些材料?上下文工程关心的,就是怎么组织指令、背景和工具信息,让它拿到完成任务真正需要的东西。
生活里怎么用:开始一个新任务时,先写一份简短的背景:目标是什么、有哪些限制、哪些信息已经确认。别默认它知道你脑子里的前情。
工作里怎么用:把团队常用的背景整理成一份固定文档:产品介绍、术语表、写作规范、常见限制,每次开新对话或设置项目时直接附上。对话拉得太长、开始跑偏时,先让它总结已确认的结论,再开一个新对话接着做。
06|幻觉:为什么 AI 会一本正经地胡说?
模型能写出看起来很合理的回答,但不代表每个细节都有事实依据。它可能编出一个不存在的出处,也可能把不确定的事说得斩钉截铁。
生活里怎么用:碰到数字、引文和重要结论,找到原始来源,点开核对。AI 给了链接,也不代表那个链接真的支持它的说法。
工作里怎么用:涉及数据、法规、客户信息和对外引用的内容,给它定一条规矩:只根据你提供的材料回答,找不到就说「不确定」,并标出每个结论的出处。交付前,由人按出处逐条核对。
07|AI 的训练三阶段
可以用一个简化的框架理解模型怎么「长大」:预训练阶段读大量文字,学语言和知识的规律;监督微调阶段照着示范学怎么回答;最后再通过人的偏好或奖励信号调整它的行为。不同模型的具体流程会有差异。
明白了这条路,就更容易理解:为什么一个模型能回答那么多问题,却也可能特别会顺着你说。说得让人满意,和把事情做对,并不总是一回事。
生活里怎么用:当它特别认同你的时候,不妨追问一句:「有没有不同意见?」「这个说法哪里可能站不住?」
工作里怎么用:评估方案或做重要决策时,提问尽量中立,先别透露你倾向哪个答案;可以让它分别列出支持和反对的理由,或者扮演一位挑剔的评审专门找漏洞。
08|强化学习
从试错和奖励来理解强化学习:「做得好」怎么定义,决定了系统会学到什么。如果奖励只量到了目标的一部分,它也可能学会拿高分,却没做好我们真正在意的事。
生活里怎么用:交给 AI 一个任务之前,先想好怎么验收。比如写一封邮件,除了「语气好」,还要看事实对不对、诉求清不清楚,有没有替你许下你没同意的承诺。
工作里怎么用:把 AI 接进工作流程之前,先写一份验收清单,再用十几个真实案例测一遍。别只看一个指标:比如客服回复,既要看客户满不满意,也要看问题是否真的解决、有没有违反公司政策。
09|推理模型
回答前那段「思考中」,可以理解为给模型更多空间做中间计算和推理。复杂任务可能因此答得更好,但想得久,不等于一定答得对。
生活里怎么用:多条件的规划、复杂的分析,可以试试推理模式;简单改写就没必要开满。值不值,看结果配不配得上多花的时间和额度。
工作里怎么用:按任务难度分配模式:数据分析、方案比较、复杂代码排查这类多步骤问题用推理模式;整理格式、翻译、简单问答用普通模式,更快也更省。重要结论别只看最终答案,也要检查它的依据站不站得住。
接下来,还想一起弄懂什么?
第一季我们明白了大模型是怎么工作的,下一季我们一起搞懂,怎样去影响大模型的回答。
或许下次你再碰到一个 AI 新名词时,可以少一点发怵,多一点好奇:它到底在做什么?和我熟悉的哪件事有点像?
也很想听听你的故事:你平时在工作或生活里怎么用 AI?如果你有一个一直没弄懂、又不知道从哪问起的 AI 问题,欢迎留言告诉我,希望可以一起学习和成长 😉
—— Cloris 🌱




