大模型的行业应用面临三个挑战
自ChatGPT“爆红”之后,原来只隐于幕后的大模型被快速带火,从通用大模型到专用大模型,有统计的大模型总量已经超过100个。但在大模型被热炒之际,大模型到底能够在行业中发挥多大作用,是否会产生副作用,也成为一个焦点问题。
![]()
大模型有很多优势,最突出的是三个方面。一是强理解能力,对长文、短文、声音、视频、指令、表格等都有极强的泛理解能力。二是强生成能力,以前的AI应用对一些问题回答是有很多模板做参考,但现在能写诗做文,能写代码,能画画,生成能力比以前增强很多。三是强信息集成能力,可以把各类数据、各个系统的模型融合在一起,这也是以前的AI技术不具备的能力。
但在行业应用中,大模型要落地,像写诗、画画这样的生成能力,并不是核心能力,准确性、可信性、可靠性更加重要。
对此,30年一直从事AI应用开发的中国移动集团级首席科学家、人工智能与智慧运营中心总经理冯俊兰认为主要有三个挑战。
一是在泛理解能力上是否足够强健。面对一个问题,大模型可以用各种方式来回答,但是否真正能够理解人想问的问题,是一个难点。改变了问法,系统的回复是千差万别的;很多反问甚至可以把系统扰乱。大模型在输出时,上下文有没有一致性,大模型内部到底有没有对已经认知的事件做建模,都是需要探索和解决的。
当一个公司想把自己的业务放在大模型中,这个挑战就尤其明显。也有专家提出,现在的业务都可以用大模型重新梳理,但用大模型进行业务替代,如果不做改进,无论替代哪一种应用,目前都是做不好的。
二是在生成能力上,出现了“幻觉效应”如何解决。面对“幻觉效应”可能出现,这种风险是任何公司在应用中都无法承担的,但这是来自系统自身的判断,所以可控性上也是大模型做行业应用的挑战。
三是面对复杂的行业应用,如何实现强信息的集成。社会中的每个行业都是上千亿元的规模,之所以能够成为这么大的规模,是因为形成了自己很强的体系性特点,每个行业都是一个非常复杂的系统,如何在复杂的系统中做好信息的集成,也是很大的挑战。信息集成所包括的知识、数据和系统,这三项在不断动态变化中,如何将这种动态变化体现在模型中,也是问题。
大模型在行业中的落地并不是基础模型加行业数据,就可以变成行业模型,除了上面提到的三个挑战,还会面临很多问题,包括人机协同、大小模型协同、AI相应配套能力的建设等。
站在风口,更需要辨明风向。