AI革命：大模型改变人工智能工程范式
尚参科技
2023年7月
摘要
人工智能大模型的出现，改变了人工智能模型的训练模式，提升了训练的起点，突破了原有小模型的不足和瓶颈，提高了机智的水平，带来了人工智能工程的新范式。企业应该认识到这一革命性突破的意义，探索应用大模型解决企业难题，构建企业基础模型，进而打造企业智机母体，为实现双智协同的业务奠定基础。
主要发现
大模型不仅仅是语言模型，也包含了多模态大模型，可以处理视频、音频、图像和结构化数据
大模型是人工智能领域革命性的突破，其智能涌现和泛化能力使人工智能拥有了较高的智能
大模型不仅仅可以用于内容生成，也可以用于数据分析建模和算法提炼
大模型用于数据分析建模将彻底改变现有的数据分析模式，带来人工智能工程新范式
应用大模型可以实现基础模型的构想，在基础模型之上可以训练出各种小模型和专业模型
建议
企业应该认识到大模型的革命性意义，把应用大模型创建的基础模型作为实现双智协同的业务的“底座”
探索大模型对业务的价值，在企业面临的难题中寻找应用场景
在对大模型进行选择时，企业应该综合考虑大模型的适用性、安全性和投入产出比
要提高对大模型的掌控能力，其中管理能力是不可或缺的能力，技术能力是加分项
基础模型是人工智能领域的一种设想，希望有一种模型可以成为其他模型的基础，使其他模型在基础模型之上被训练出来。在大模型产生之前，这样的设想没有完全实现。很难说大模型是基础模型的唯一选项，但大模型可以成为基础模型却是毋庸置疑的。我们曾经分析过，大模型是指模型参数（神经网络中神经元之间连接特征值指标）数量巨大。普遍认同的标准是30亿以上，当前国内许多企业的说法是参数数量在10亿以上，就可以被看做大模型。其实模型大不大是一个相对概念。当模型为了完成某种特定任务，其输出正确率高于随机值时，就说明大模型已经出现了涌现能力。此时的参数数量为临界值。当准确率达到可靠性要求时，大模型就达到了可用的程度，此时的参数数量对所需的任务来说就是足够大的。
大模型是因为AIGC的需要而被开发出来的，因为要使机器通过学习掌握大量的知识，从而具有生成内容的能力。当学习的知识量不够大时，模型没有足够的智能产生有意义的内容，所以需要大量的训练材料。随着训练材料的增多，要求计算速度越来越快，模型也变得越来越大，最终导致了大模型的产生。因为大模型是为了实现AIGC而生的，也因为近期大部分大模型都主要用于AIGC的任务，就使人们误以为大模型只能用于内容产生，而忽略了它们的另一个更重要的价值领域，即基础模型的价值。而这一领域的价值，将有可能彻底人工智能工程的范式，即从“小学生”开始训练模型的模式转变成从“大学生”开始训练模型的模式。
增强型数据分析，人工智能的一种有意义但不太成功的尝试
从大数据的概念开始流行以来，企业纷纷建立了大数据管理系统和大数据分析系统，希望通过历史数据和当前数据发现数据之间的关联和规律，并把这些发现用于对当前态势的分析和未来的预测。但在增强型数据分析技术之前，对数据分析模型的设计主要依靠模型设计师对业务的理解，进行人工的设计。人工设计模式要求设计师对业务有足够的理解，因此设计师的业务能力和设计能力会成为数据分析模型的限制。一方面，人工设计效率很低，不可能在较短的时间内完成业务所需的模型，人工能够完成的模型总量十分有限。另一方面，因为设计师对业务的理解不够充分，设计的结构无法全面反映业务的规律，形成设计偏见。在机器学习被引入大数据分析领域以后，这些情况出现了好转。因为通过机器学习自动发现数据中的样式（Pattern）可以大大提高模型生成的效率，同时能够突破设计师的认知局限，使分析模型的数量和质量都有可能获得较大程度的提升。如果采用人工设计分析模型，一个设计师用一年的时间能够设计的模型也是非常有限的。而采用增强型数据分析技术，可以在几分钟之内产生出几千种分析模型。当然，对这些模型的有效性验证仍然需要一些时间，但毕竟效率大幅度提高了。
据调研的情况，有相当数量的企业已经采用增强型数据分析技术。但总体的应用效果并不理想。主要的原因有两个，一是对增强型数据分析的技术掌握得不好，不能有效发挥其效能。二是增强型数据分析本身也存在缺陷，因为机器只能发现相关性，不能发现因果性。同时，机器学习的重点在于发现数据分析模型，而不是提升机器学习模型自身的能力。在有些应用场景中，比如各种智慧大脑的应用中，虽然提升智慧大脑的能力是重点，但经过长期的训练发现，当智慧大脑的能力提升到一定程度后，似乎达到了能力的天花板，无论如何训练都不能获得提升了。比如无人驾驶系统最终无法克服复杂交通环境的困难，语言翻译系统的错误率保持在20%左右无法进一步消减。在医疗领域，对医学图像的识别也同样遇到了天花板，总是不能达到人类专家的水平。面对这些问题，人们首先想到的是训练的数据质量或数量存在不足，但是在设定的领域能够获得的高质量的数据是十分有限的，很难突破。问题如何解决呢？于是人工智能领域出现了一些科学家再次追问人智与机智的区别问题（比如Yann LeCun）。
Yann LeCun发现，人类在学习过程中不像机器在学习过程中需要大量的数