生成式AI大模型并未改变
人工智能在工业领域应用的范式
生成式AI大模型短期趋势:
拓展新场景并未出现替代小模型
生成式AI大模型
在制造业领域仍需克服三大挑战
人工智能在工业领域的应用仍具备非常广阔的空间,根据凯捷统计,只有欧洲顶级制造企业AI 应用普及率超过30%,日本制造企业AI 应用率达到30%;美国制造企业AI 应用率达到28%;中国制造企业普及率达到11%,这个调查表明人工智能在工业领域的普及率仍有很高的空间。但是生成式AI大模型的应用仍需面临一些挑战:
二是面向领域的基础模型缺乏。目前面向工业领域大模型的做法,大多都是从精调做起,并没有经过预训练阶段,而预训练才是真正知识灌输阶段,让模型真正学习领域数据知识,做到适配领域。从精调做起或者直接集成大模型只是激发原有大模型的能力,并没有从实现对领域知识的理解和推理。而当前的基础模型发展仍处于通用大模型竞争的白热化阶段,对面向行业的基础模型关注较少,目前也仅有少数的企业开始从预训练阶段构建制造业领域的生成式大模型应用。
三是制造业领域场景高度碎片化。碎片化的场景对大模型这种对数据、算力要求较高的范式也提出了挑战。工业数字化领域经常流传一个逻辑,“工业数字化是万亿级的市场,但其是一万个亿级市场的组合”,对于细分领域来说,很难有足够多可用的数据来从预训练阶段开始训练大模型,通用的大模型又无法适配聚焦细分领域的场景需求,这种天然的矛盾会阻碍大模型的发展。
备注:斯坦福大学用基础模型来泛指通过自监督学习在超大规模数据上训练并且可以适配(例如,微调)各种下游任务的模型,这些模型包含但不限于ChatGPT、Llama等。在我国伴随着产业发展,通常用大模型来泛指ChatGPT、Llama等生成式模型,本文撰写过程中对语言、图像、多模态等各类生成式AI沿用了目前我国产业界形成的共识。
本文作者:李南 腾讯研究院高级研究员