大模型原理简介小白版· 第 2 / 2 页
四、误区和拓展
- 大模型学的是规律,不是知识本身,大模型并不理解知识本身
- 模型通过概率分布判断“哪些词组合更可能合理”(如“天空是_”更可能接“蓝色”而非“酸甜”)。
- 案例:ChatGPT写诗时并不“懂”诗意,而是模仿训练数据中的诗歌结构。

如果有一天AI真的有了感情、浪漫细胞,它是会先帮单身狗写情书呢?还是先酷酷给自己写封辞职信呢~~
缩放定律(Scaling Laws)
- 模型性能提升依赖数据量、参数规模、算力同步增长,而非单纯堆数据。
- 案例:PaLM模型在足够大的规模下,突然涌现出小模型不具备的数学推理能力。
很多人会把大模型和人工智能混为一谈,人工智能(AI)有通用人工智能和专用人工智能,大模型有通用模型和垂类模型。真正的“通用人工智能”(AGI,Artificial General Intelligence)尚未实现。现有的AI系统(包括大语言模型、图像生成模型等)均属于“专用人工智能”(Narrow AI),它们仅在特定任务或领域内表现出类人甚至超人的能力,但远未达到人类水平的通用智能。市面上如ChatGPT等多属于通用大模型,因为各领域知识学而不专,但是通过微调(利用特定领域或学科的数据集基于通用模型的能力基础再训练,使得变成某个领域的专业老师的过程)可以变成垂类大模型。
当前的几个主要概念包含关系如下:
