2024年1月,德勤发布报告《now decides next:insights from the leading edge of generative ai adoption》,对2800多名具备ai技术知识的商业和技术领导者展开调研。数据显示,绝大多数(79%)受访者认为,未来3年内,生成式ai将推动组织与行业的重大变革。
在具体落地形式上,目前多数企业依赖于现成的凯发k8官网的解决方案。其中,71%的受访者选择“具有集成生成式ai的生产力应用程序”,68%的受访者选择“标准化生成式ai应用程序”,61%的受访者选择“具有集成生成式ai的企业平台”,56%的受访者选择“公开可用的大语言模型”。
可以看到,将ai融入工作流程已成为众多企业的共识。但当大模型扎根企业时,现实的阻力却不容忽视:缺乏高质量的行业数据、与业务场景适配不足、员工对ai心存戒备等等,这些痛点正考验着企业的决心与智慧。
明略科技长期致力于提供基于大数据和人工智能的产品与服务,推动组织高效运转、加速创新,创造人机协同的美好世界。2023年8月,明略科技推出一站式大模型ai智能助理——小明助理copilot,经过内部的试水与打磨,95%的员工已在日常工作中高频应用,周活达到70%以上,初步实现“与大模型同频”。
近日,作为企业级大模型应用的开发者与早期使用者,明略科技创始人、ceo吴明辉受邀莅临混沌学园,结合企业自身实践与行业观察,就大模型落地企业的方法论,展开深度分享,以下为核心要点整理:
明略科技创始人、ceo吴明辉
参数越大,效果越好?
在同其它企业ceo、cio、cmo聊天时,我发现大家对于大模型的出现都感到很兴奋,很多公司都建立了人工智能小分队,但尝试几次后发现效果并不理想。
现在,openai已经把参数做得非常高,它拥有的是互联网上的通识知识。如果训练得足够好,它可以拥有优秀本科毕业生同等的认知能力。但即使拥有了这种认知能力,就能确保大数据在企业中做好很多工作吗?
答案是否定的。
值得注意的是,大量的模型参数并不能确保在工作中有效转化成生产力。有些任务,即使用很小参数的模型也能解决。
在无法判断一个大模型效果好坏时,我建议大家可以向大模型提出一个问题进行检测,“美国的哪一个州跟其他的州不接壤”,这个问题的正确答案是阿拉斯加和夏威夷,它需要大数据知道美国的地理情况以及州和州之间的关系。
我们讲大模型的迭代能力,就是要提高它的推理能力,而推理的过程需要信息。
现在,参数在不断提高的过程中并没有增加信息,不断提高参数只是让模型的推理能力变强大了。做个类比,模型是f,信息是x,只有把正确的x给到强大的模型f,才有可能算出正确的y,才有可能辅助企业的理性决策和下一步行动,这是部分企业认为大模型不好用的核心原因。
今天人们想将大模型应用到公司当中,但是大模型并不知道公司原有的生产资料和信息系统。一个好的大模型,需要人们将信息找过来。
大模型落地企业的核心:知识工程
管理大师野中郁次郎在《创造知识的企业》一书中提到,每个企业有暗默的知识,也有显性的知识,企业最核心的就是要把这些知识管理好。
在大模型时代,这些知识不仅存在于每位员工的大脑中,存在于企业的文档库中,甚至存在于每次会议的录音当中。有一天,大语言模型可以直接执行录音里面的知识。这就如同一个优秀的高校毕业生在你身边当助手,你需要做的就是每天用资料同它交互,就可以大幅提升效率。未来,企业的知识管理逻辑也将发生巨大的变化。
企业迎接大模型时代的第一个命题,就是要解决知识工程问题。
现代认知心理学将知识分为两类,一类是陈述性知识,一类是程序性知识。例如,大象是一种动物,这是陈述性知识。把大象放到冰箱里面分几步,这是程序性知识。编程知识也属于程序性知识。
当人们问大模型提问,“湖南和湖北的两个省会,哪个人口更多?”一些大模型往往会卡住,因为它根本没有理解这句话的意思。但如果通过操作把它的cot(思维链)能力调出来,大模型就有能力将答案推理出来。如同一名刚入职的新员工,只要公司把任务拆得足够细,他就能做好。大模型的学习、发展和应用的过程,同人类从小的学习发展过程非常相像,两者是完全可以类比的。
prompt(提示词工程)和cot(思维链)技术是大模型能力发现的重要组成部分,其革命性意义可以媲美人类文字和印刷术的发明。cot的重点是把程序写清楚。在小明助理copilot中,只要简要地表明你的目标,它就可以将prompt模板写出来,非常方便。
prompt和cot的出现,实现了大模型和大模型之间互相学习的设想,只要读懂了你的指令,大模型就可以将这些指令执行得非常好,并且下一个人可以立足于训练成熟的ai继续发展,每个人都站在巨人的肩膀之上。
除此之外,还有更高级的用法,比如agent。agent的本质就是模型和信息,好的agent可以把大语言模型和memory、tools、planning的能力有机地组织起来。
连接大模型与知识的理想方式
在整理数据和知识时,企业不仅要考虑如何规划数据、知识,同时也要考虑权限问题。我的建议是按照两个维度四象限的逻辑进行分析,包括数据的公开程度、执行任务的推理复杂性等。对于低密集又需要高难度推理能力的,可以直接使用在线大模型;对于高密集且推理能力不高的,例如财务信息、hr信息、研发产品信息等,可以部署一个私有化模型。企业要做的,就是把对应的密集问题想明白、分好级。
在企业中,真正想把信息系统整理好,并且和大模型连接起来,需要解决诸多难题。最简单的方法就是使用copilot。
copilot是什么?pilot的意思是驾驶员,co-pilot的意思是联合驾驶或副驾驶。举个例子,人们最理想的状态是让汽车变成无人驾驶,但成本和代价很大。在copilot模式中,主驾驶还是人,副驾驶的职能是协助人做一些决策和操作,甚至完成主驾托管的任务,但最后的决定权仍在人类手中。明略开发小明助理copilot的意义就在于此。
通过小明助理copilot,今年公司员工已经做到了广泛使用大模型,平均每个员工一天使用10次以上,大家不仅可以用gpt解决工作生活中遇到的一些问题,还可以应用到自己的生产环境中,用于提升生产效率,公司团队绝大多数的同学都已经拿到了大模型的船票。
如同《异类》一书中提出的1万小时定律,只要比别人多花一些时间做某件事情,未来就有机会享受到某个领域的竞争红利。每一项新技术的出现都是有红利的,最终大家也一定都会使用到,但更早接触的人会比别人多一些机会和时间。
彭博社是全球最大的金融信息服务商,明略科技旗下的秒针系统是中国最大的广告领域信息服务商,两者有着一定的共通之处。彭博社的创始人迈克尔·布隆伯格创业初期,立志将终端机卖给每一个金融机构,希望帮助大家快速获取互联网上的金融信息,这也成就了彭博社今天在全球金融信息服务领域的霸主地位。很多公司都在拥抱新技术,它们可能是将某一项新技术用到了极致,或者是第一个使用新技术从而颠覆了上一代产品,最终走出了新的曲线。