返回报告库
EXK-B-001·B 级报告·前沿科技与产业趋势

一文看懂大模型是怎么"思考"的

AI 大模型与行业落地 · AI 大模型与行业落地。当前权限:全文开放

Access Policy
等级
B
阅读权限
全文开放
解锁方式
已解锁
BEX-K前沿科技与产业趋势AI 大模型与行业落地引流跨界
Report Content

报告正文

AI 那么会聊,其实脑子里只有一个念头:猜下一个词

你问它个问题,它引经据典、条理清晰,回你一大段,跟真在"思考"似的。你甚至会恍惚一下:它是不是听懂我了?

打住,先把这层滤镜摘了。你眼里那个"在思考"的 AI,脑子里从头到尾只在干一件事——猜:接在你这句话后面,下一个词最可能是啥。 就这么朴素,朴素得甚至有点让人失望。

一句话先给答案

大模型不是在"想"一个答案,是在"算"一个最顺口的下文。

它没有一个"我懂了"的顿悟时刻,也没在脑子里盘算"这事到底对不对"。它做的,是把你的话拆成一串词,然后一个词一个词地算概率、挑那个"接上去最像话"的续下去——算完一个再算下一个,像滚雪球一样滚出一整段。看着像深思熟虑,底子是概率接龙。

那它到底在"算"什么?三块拼起来

第一块:一台究极自动补全。 手机打"今天天"蹦出"气不错",这就是它的缩小版。大模型是这玩意儿吞了海量文本、练到走火入魔的版本——你给个开头,它算遍见过的所有文本,猜"下一个词"最该是谁。它的看家本事就俩字:接话。

第二块:注意力机制,让它会"看上下文"。 早年的补全只顾眼前几个字,蠢。2017 年一篇叫《Attention Is All You Need》的论文甩出了 Transformer 架构,核心是"自注意力":算下一个词时,它会回头给前文的每个词打一个"该多看重"的分。所以你前面说的"它"到底指谁、这句话是认真还是反讽,它拎得清——上下文越到位,接得越像人话。

第三块:先海量预训练,再对齐调教。 它先啃下浩如烟海的文本,把语言规律、常识、套路一股脑喂进去(这叫预训练);可这时候它只会闷头"续写",不会"好好答话"。于是再用人类标注和反馈调教一轮(对齐,也就是 RLHF),把它从一台"话痨续写机"掰成"能好好回你话的助手"。

所以"它到底懂不懂"?

划重点:"算下一个词"是它铁打的训练目标,这点没争议;但它算得那么准、准到像懂了——这背后到底算不算"理解",学界还在吵。 有人说这不过是高级版鹦鹉学舌,也有人(比如深度学习大佬 Hinton)反手一句:想把下一个词猜准,你不真正理解这句话,根本猜不对。

对咱普通人,记住两条就够用:它的强,是"接得像"练到极致后逼出来的通用能力,是真好使;它的坑,也恰恰在这——为了"接得顺",它偶尔会顺口编、一本正经地胡诌。像不像,永远不等于对不对。

EXK-B-001 封面

你自己聊聊无所谓,可要拿它去干活呢

个人瞎聊,它接得像就够你乐了。可把这台"概率接龙机"塞进能源、工业这种真金白银的场景里——一条电网调度建议、一份设备诊断、一套工艺参数,"接得顺"远远不够,得"接得对、可追溯、能兜底"。

于是真正把大模型往产业里落地的人,第一件事从来不是比谁聊得欢,而是:怎么用行业知识库、检索增强和人工把关,把这台"猜词机"驯成一个靠谱的生产力。这道坎,恰恰是 AI 从"会聊天的玩具"变成"能赚钱的工具"之间,最难、也最值钱的一段路。

想看清 AI 大模型在能源、工业里到底怎么落地、拐点在哪? 我们做了份《AI大模型工业能源落地全景与商业化拐点研究》——公众号后台回「AI」,领取试读。

AI 那么会聊,其实脑子里只有一个念头:猜下一个词|经纬智汇能源研究|经纬智汇