大模型原理简介小白版· 第 2 / 2 页

四、误区和拓展

  1. 大模型学的是规律,不是知识本身,大模型并不理解知识本身
    • 模型通过概率分布判断“哪些词组合更可能合理”(如“天空是_”更可能接“蓝色”而非“酸甜”)。
    • 案例:ChatGPT写诗时并不“懂”诗意,而是模仿训练数据中的诗歌结构。

《大模型原理简介小白版》 四、误区和拓展 配图 1

如果有一天AI真的有了感情、浪漫细胞,它是会先帮单身狗写情书呢?还是先酷酷给自己写封辞职信呢~~

  1. 缩放定律(Scaling Laws)

    • 模型性能提升依赖数据量、参数规模、算力同步增长,而非单纯堆数据。
    • 案例:PaLM模型在足够大的规模下,突然涌现出小模型不具备的数学推理能力。
  2. 很多人会把大模型和人工智能混为一谈,人工智能(AI)有通用人工智能和专用人工智能,大模型有通用模型和垂类模型。真正的“通用人工智能”(AGI,Artificial General Intelligence)尚未实现。现有的AI系统(包括大语言模型、图像生成模型等)均属于“专用人工智能”(Narrow AI),它们仅在特定任务或领域内表现出类人甚至超人的能力,但远未达到人类水平的通用智能。市面上如ChatGPT等多属于通用大模型,因为各领域知识学而不专,但是通过微调(利用特定领域或学科的数据集基于通用模型的能力基础再训练,使得变成某个领域的专业老师的过程)可以变成垂类大模型。

  3. 当前的几个主要概念包含关系如下:

whiteboard

PPT源文档:

初级PPT(视频中的):

大模型原理新版.pptx

进阶PPT(教程中的):

大模型原理简介.pptx

相关资料

更多