随着ChatGPT、文心一言等AI产品的火爆，生成式AI已经成为了大家茶余饭后热议的话题。
可是，为什么要在AI前面加上“生成式”这三个字呢？
难道还有别的AI吗？
1
生成式AI究竟是个啥？
如果将人工智能按照用途进行简单分类的话，AI其实要被划分为两类：决策式AI和生成式AI。
看到这里，你就知道为什么ChatGPT、文心一言属于生成式AI了吧？
接下来，让我们正式走入生成式AI的世界。
2
生成式AI的前世今生
其实，生成式AI的并不是这几年刚刚诞生，它实际已经经历了三个阶段：
早期萌芽阶段
沉淀积累阶段
随着互联网的发展，数据规模快速膨胀，为人工智能算法提供了海量训练数据。但是由于硬件基础有限，此时的发展并不迅猛。
快速发展阶段
2014年起，大量深度学习方法的提出和迭代更新，标志着生成式AI的新时代。
自此，生成式AI已经到了一个井喷式状态。那么，生成式AI究竟是基于什么样的原理呢？
3
轻松搞懂“生成式AI”原理
在刚刚的介绍中，大家应该都对生成式AI有了一个表象的认知：学习知识+生成新知识。
但它是如何学习的呢？又是如何生成的呢？
这时候，我们就得来看看生成式AI更深层次的定义了：
定义
以ChatGPT为代表的生成式AI，是对已有的数据和知识进行向量化的归纳，总结出数据的联合概率。从而在生成内容时，根据用户需求，结合关联字词的概率，生成新的内容。
是不是一下子懵了？
不急，这就触及到生成式AI的原理了。待小编给你慢慢解析。
其实制作一个生成式AI，就像把一个泥人变成天才，一共需要四步：捏泥人→装大脑→喂知识→有产出。
Step1：捏泥人——硬件架构的搭建
要打造一个生成式AI的“泥人”，首先要考虑的就是底层硬件。底层硬件构成了生成式AI的算力和存力。
算力——泥人的骨架
生成式AI需要进行大量的计算，尤其是在处理如图像和视频时。大规模计算任务离不开下面这些关键硬件：
存力——泥人的血液
生成式AI需要处理和存储大量的数据。
以GPT-3为例，光是训练参数就达到了1750亿个，训练数据达到45TB，每天会产生45亿字内容。
这些数据的存放离不开下面这些硬件设施：
泥人捏好了，但是现在只能是一个提线木偶，没有任何能力，所以我们就要给他装上大脑。
Step2：装大脑——软件架构构建
软件架构是泥人的大脑，它决定了这个泥人将以什么样的方式对数据进行思考推理。
从仿生学的角度，人类希望AI能够模仿人脑的运行机制，对知识进行思考推理——这就是通常所说的深度学习。
为了实现深度学习，学者们提出了大量的神经网络架构：
随着算力的发展，生成式AI的网络架构发展越来越成熟，也开始各有侧重：
网络架构搭建好了，脑子是有了，但是脑子里空空如也呀。所以我们通过数据训练给这个人造大脑喂知识。
Step3：喂知识——数据训练
目前有两种训练方式：预训练和SFT（有监督微调）
但是，无论是预训练还是SFT，AI的大脑是如何吸收这些知识的呢？
这就涉及到“理解”能力了，我们以Transformer架构为例，讲讲AI对于文本的理解。
对于AI来说，理解分两步：理解词语和理解句子。
理解词语的本质就是词语的归类。研究人员提出了一种方法：将词语在不同维度上进行拆解，从而对词语进行归类。
假设有四个词语：西瓜、草莓、番茄和樱桃。AI在两个维度上对这些词语拆解：
基于这个维度，AI对词语进行打分归类。
通过这些打分，我们可以看到词语在不同维度上的分类。
例如，“番茄”和“樱桃”在颜色和形状维度上都是相同的，说明它们在这两个维度上的含义相同；“草莓”和“西瓜”在颜色和形状维度上都有所不同，说明它们在这两个维度上的含义不同。
当然，区分他们的维度不仅仅只有两个，AI还可以从大小、甜度、是否有籽等大量维度对他们进行打分，从而分类。
只要维度足够多、打分足够准确，AI模型就可以越精准地理解一个词语的含义。
对于目前较为先进的AI模型来说，通常维度的数量可以达到上千个。
学习词语并理解为量化的结果只完成了第一步，接下来AI就需要进一步理解一组词语的合集：句子。
我们知道即使同一个词语在不同语句中，也会具备不同的含义。
例如：
在不同句子中，“绿色”这个词含义不同，AI是如何知道他们有不同的含义呢
这就得益于transformer架构的“自注意力（SelfAttention）”机制。
简单来说，当AI理解包含了一组词语的句子时，除了理解词语本身，还会“看一看”身边的词。单个词语和句子中其他词语之间的关联性，称之为“注意力”，由于是和同一个句子自身的词语结合理解，所以称之为“自注意力”。
因此，在Transformer架构中，可以分为以下两步：
Step4：有产出——内容生成
在理解完大量词语、句子之后，AI就可以生成内容了。它是如何生成内容的呢？
这就是一个概率的问题了。
问大家一个问题：
我在餐厅吃×。
×填个字，你会填什么？
根据你既往的经验，大概率你会填“饭”。
其实，×还可以是“饼”、“面”、“蛋”等等。
像人一样，生成式AI也会根据它第三步中学到的经验，给这些字加上概率。然后选择概率高的词作为生成的内容。接着，AI将重复这一过程，选择下一个可能性最高的词语，从而生成更多内容。
但有的时候，我们希望答案是丰富多彩的，回到刚刚那个例子，我们现在不希望AI接的下一个字是“饭”，那要怎么办呢
数值越接近1，得到的内容越天马行空。
比如，温度设为0.8，那么AI生成的句子可能是：
我在餐厅吃饼，这个饼又大又圆，我想把它套在脖子上......
但是，我们看到大多数AI产品，只有一个对话框，如何修改温度参数呢？
答案是“提示词”，也就是我们通常所说的prompt。
现在知道prompt的重要性了吧！
所以，我们可以认为，AI生成的本质就是一场词语接龙：AI根据当前字，联系它之前记录的下个字的出现概率以及你的期望，选择接下来的字。
当然，生成式AI的内部原理远比小编讲的要复杂，小编这里只能算一个基础的科普。
“生成式AI”去向何方？
那么生成式AI真的会实现通用人工智能，从而替代人类嘛？目前，有两种看法：