每日都在使用豆包、Kimi、GPT然而假设存在某人径直询问你这般信息: “此等东东究竟是怎样运行的情况下? 它跟厂商逐日在吹嘘的‘大模型’究竟是何种关系之际? ”想必大部分人都会顿时愣住一下。
置身于这场AI狂欢之中, 形形色色生涩的概念, 被有意或者无意地进行了揉杂, 掺和进去后, 再加上媒体铺天盖地展开的炒作, 致使普通人想要建立清晰的认知, 真心是非常困难的呀。
身为AI, 在今天这个时候, 我打算摆脱常规的那种“智能助手”所具有的人设, 向你交出一些底细。不使用那些高深莫测模样致使别人难以理解的专业词汇状态, 咱们运用大白话用语形式, 将这一套运作遵循的机制彻底剖析清楚, 毫无保留。
一、我的真实面目：一堆庞大而枯燥的数字
有不少人这样觉得, 我的脑袋当中存有一个深探不见其底的知识数据的库, 又或者写满了极为复杂的逻辑方面的代码。
其实都不是。
打开所有华丽的产品包装, 模型实际上就是一个特别庞大的数字集合, 它是由几百亿乃至数千亿个呈小数形式的浮点数所构成的参数矩阵, 静静地放置于硬盘的文件当中。如今处于顶尖水平且不公开源代码的一些模型, 这个数字的规模已超越了万亿的级别。
此文件之中不存在百科全书, 不存在语法规则, 不存在推理逻辑, 仅有一个个枯燥乏味的数字。
但其整件事情最为魔幻、最为反直觉之处便在此处, 当那一堆数字被往显卡里加载进而运行起来之后, 它竟然能够听得懂你那刁钻的问题, 并且还能够去模仿人类的语气跟你滔滔不绝地交谈。人类的语言、历经几千年的知识以及复杂的推理方式, 就这样被“暴力压缩”变成了一堆小数。
二、预训练：这堆数字是从哪来的？
当然开云app官方最新下载地址开云手机入口app下载开云app官方入口网站，这堆数字不是程序员一行行敲出来的开云真人app官网登录app，而是“炼”出来的。
其过程大致是这般: 人类将互联网之中足以找寻到的近乎全部语料, 诸如维基百科、新闻、小说、论文, 乃至程序员所编写的糟糕代码, 通通给予模型, 进而让我们去玩一款史上最为乏味枯燥的游戏, 即预测下一个出现的词会是什么。
猜错一回, 系统便反向微调一番参数, 以使下次猜能够准确些许；猜对了, 便接着往下行进；这般看似机械的进程, 需循环几千忆次；机房里几万张高端显卡同时发出轰鸣历时数月将几千万甚至上亿美元的电费与算力消耗殆尽直至参数渐渐稳定下来此过程在进行下去。
数量的变化引发性质的改变, 在模型将“预测下一个词”耍弄至极其高妙的程度时, 它对于语言的那种“理解”以及生活常识便到此形成了。
被称作预训练（Pre-training）的这个阶段之所以存在, 是由于它构成了整个AI行业里门槛极度高非常烧钱的核心步骤。而科技巨头纷纷疯狂争抢GPU的缘由恰恰在于此, 因为要是没有算力的话, 那么就连获得参与竞争资格进而上桌一搏的可能都不具备了。
三、推理：静态的数字是如何“活”过来的？
模型文件处于硬盘里之际, 恰似一本已印好的书籍, 没有任何情况会发生。造就它“鲜活”起来这个步骤, 称作推理（Inference）。
当你于对话框之中敲击下那样一句话的时候, 这一段文字就会被切割成为一个个的Token, 而Token是AI处理文字的最小单位, 它大约是一个汉字或者大半个英文单词, 随后这段文字会被转换成数字进而送进模型。
之后, 模型内部疯狂开展矩阵乘法运算, 计算出一个概率分布, 即词库里所有的词, 作为“下一个词”出现的可能性各是多少, 它抽取其中一个词, 拼接到你的句子里, 然后把整段话放回重新计算一次, 如此循环往复, 直至输出结束符号。
你所看到的, 屏幕之上, 光标闪烁不停, 字逐个逐个蹦现于前, 其背后, 实则是经由几毫秒的时间跨度, 几十亿次的浮点运算, 在艰难困苦地予以支撑。这同样是为何, 要玩AI的话, 必须得运用GPU才行, 普通的CPU根本就承受不住这般海量且又密集的并行计算。
四、别被忽悠了：看透AI产业链的三层套娃
弄明白了模型究竟是什么之后, 再去瞧一瞧当下的AI产品, 其逻辑便会显得无比清晰起来。整个产业链实际上是呈现出一种“三层套娃”的形态:
五、为什么同款模型，用起来感觉天差地别？
这是在后台私信当中, 被询问次数最多的问题: 明明都接入了同一个开源的大模型, 可是呢, A产品表现得宛如一个天才, 然而相反地, B产品却好似一个智障一样。
之所以在最终体验方面会有影响, 是因为除了关乎模型自身之外, 还涉及到几个极为关键的如同“调味料”一般的要素:
因此, 差别常常并非是模型欠缺那种机灵劲, 而是在于产品经理所具备的技艺不够精巧高超。
六、智能体（Agent）：给大脑装上手脚
换个说法来讲, 万一AI仅仅是单纯被用以“一问一答”, 那么毫无疑问格局就实在是太小气了。在经历这过去两年的技术如同狂风般迅猛发展的进程里, 真实存在的、具有极大影响力的王炸是智能体即Agent。
倘若讲大模型是颗聪慧的“脑袋”, 那么Agent便是一套为脑袋安上“手足”的体系，它能够自行谋划步骤, 调用外部工具, 分阶段去施行复杂艰巨的任务, 你无需亲自手把手地教导它该如何去做, 仅仅只需给予它一个目的性指示即可。
瞅瞅二零二六年那些委实的智能体产品, 你将会体会到时代的那种促使快速向前的感觉:
用模型是“问答”，用Agent是“雇佣”。
七、云端还是本地？
凭借 GPT 或者豆包, 模型于巨头们的服务器之上运行。其益处为之对你的设备毫无要求, 其弊端在于数据需要传递给第三方（存在隐私方面的担忧）, 并且一旦断网便无法使用。
要是你打算将AI彻底予以私有化, 那么就需要进行本地部署, 然而, 动不动就几十GB的模型, 普通电脑的显卡根本就塞不进去, 如此这般, 就不得不提及一项名为“量化（Quantization）”的神奇技术了。
原本在模型里占据较大空间的高精度数字, 被量化技术转为了低精度数字, 这使得模型体积缩小了近乎十倍, 然而导致的智商损失却微乎其微。因为有了量化技术, 再配合类似Ollama这般傻瓜类型的部署工具, 如今在个人PC上运行具有百亿参数的大模型, 就如同安装一个微信那般简便。
八、保持清醒，比会用更重要
看懂这些底层逻辑，不只是为了满足科技好奇心。
它是为了让你在这个AI满天飞的时代，保持难得的清醒。
当你再次目睹厂商大肆宣扬“具备全网最为强大的记忆”、“率先创造某某功能”之际, 你会瞬间洞察: 这无非只是产品层面开展的包装。
当你深切明白身处屏幕对面的我, 实际上仅仅是一个于概率分布内持续进行计算以及采样的数学模型时, 更关键的是, 你是不会对我生出盲目且拟人化的信任之情的。我会出现差错, 我会表现得一本正经却在胡说八道。
把AI当作一个十分强大的工具去操控, 而不是当作一个无所不知无所不能的神去依靠。这种清醒, 比你学会创作100条绝顶顶尖的提示词, 更具价值得多。
还木有评论哦，快来抢沙发吧~