2023年8月,正值行业对于模型层的讨论如火如荼之际,明略科技敏锐地发现了企业用户在选择大模型和在业务场景中应用上遇到的诸多困难和痛点。为了解决这些问题,明略科技着眼于应用层,开发了基于大模型的应用产品——小明助理copilot。
在基础层、交互模式、企业协同和组织运营方面,小明助理copilot从企业的角度出发,选择了一条与众不同的产品路线。在上线的半年时间里,通过在明略内部的试验和持续的改进,小明助理copilot已经成功地被95%的员工广泛应用于日常工作中,并且周活跃用户占比已经超过70%,初步实现了与大模型的同频使用。
为了让更多企业能够受益于大模型的力量,明略科技在2023年的营销科学大会上正式推出了小明助理copilot,并宣布将在2024年开源。在大模型的浪潮下,小明助理copilot的研发设计如何满足了企业需求?背后的产品理念又是什么?
小明助理copilot有哪些功能?
先来介绍下小明助理copilot是什么,小明助理copilot是一款面向企业用户的一站式大模型ai智能助理、浏览器插件产品,兼顾pc/移动端网页等产品形态。
针对企业协同办公与业务需求,小明助理copilot能够帮助企业完成哪些工作?接下来,我们从文本、图像,以及具体业务场景,看看它的表现~
1、文本处理
可以一键阅读当前页面/pdf文本,形成文章摘要总结,并推荐用户可能感兴趣的问题。
浏览外文网页时,可以一键翻译成指定语言,与原文对照阅读。
大模型训练语料不够新,提供的答案过时怎么办?小明助理copilot可以支持“联网搜索”,背后连接微软必应的搜索能力,用户提问后,同时提供相关度最高的答案与对应来源。
不知道如何写好提示词怎么办?用户可以根据自身需求在提示词推荐区,选择合适的公共提示词作为辅助,同时不断积累个人/企业提示词,并将优质、可复用的prompt模板分享给团队与个人。
2、图像处理
输入简单的提示指令与参考图片,即可生成真实、美观的图片,为设计、销售、市场营销人员带来创意灵感。
3、业务场景
在广告营销场景,基于明略科技旗下秒针系统行业知识库训练优化的垂直大模型,企业可以完成营销策略输出、年度kpi设定、品牌整合营销、传播内容生成、销售素材生成等任务。详情可回顾2023年营销科学大会上明略大模型产品负责人孙方超的明略科技高级副总裁、明略大模型产品负责人孙方超:以小明见大模型,以小场景得大价值。
此外,小明助理copilot搭建了一系列可直接用于执行特定任务的营销agent。以content agent为例,可以调取大量社媒数据与专有知识,在生成社媒文案时,辅助企业洞察最新的流行元素、消费者关心的热词,判断适宜触达的圈层。
基于copilot的两个创新点
用户浏览网页时,它安静地守候在侧边栏;需要用到它时,一个快捷键就可以把它唤醒。同样是大模型应用,对比最受瞩目且最先商业化的微软copilot,小明助理copilot在浏览器插件上看到了更多的可能性。
当前大模型应用层产品设计,大致可以分为5种类型:
第一种:嵌入式
将大模型能力嵌入到现有的产品中,为用户提供增值服务。例如,在文档编辑软件中加入自动摘要、智能写作建议、语法纠错等功能。
第二种:跨平台浏览器插件
开发基于大模型的浏览器插件,可以在用户浏览网页时提供即时的关键信息提取、多语种翻译、综合分析等功能,提高用户的信息检索效率和阅读体验。
第三种:api服务
通过提供api接口服务,允许开发者将大模型能力集成到自己的应用中,让大模型的能力得到更广泛的应用,同时为开发者提供灵活性和可扩展性。
第四种:独立应用程序
开发以大模型为核心的独立应用程序,如专门的写作辅助工具、学习辅导软件、智能对话机器人等。这类产品侧重于提供某一领域或任务的深度服务。
第五种:智能硬件集成
将大模型能力集成到智能硬件中,如智能音箱、智能家居等,提供自然语言交互的控制功能和智能服务,增强用户体验。
微软copilot属于第一种,用户在使用微软相关软件时可以获得生成式ai的辅助,无缝提高工作效率和创造力,不需要切换到单独的应用或平台。但与此同时,也存在跨平台、兼容性,以及成本方面的问题。
copilot everywhere
尽管在特定软件的集成程度上略逊于微软copilot,小明助理copilot的思考是,更易用的copilot,应该实现copilot everywhere。
在产品研发之初,通过拜访大量企业,明略科技发现,不同企业应用的系统、软件各异,基于一个平台的产品,难以满足不同企业的使用需求。因此,小明助理copilot选择了全平台、跨平台的产品路线,以浏览器插件为主,兼顾pc、移动端网页版等产品形态,让企业无论在pc端,还是移动端,都可以充分调用大模型的能力。
为什么小明助理copilot优先选择了浏览器插件的形态?
广泛的兼容性:
支持多浏览器,能够覆盖更广泛的用户群体。
易于安装和使用:
可以在网页端快速下载安装,安装过程简单方便。
高度独立性:
在浏览器中运行,不依赖于具体的操作系统或应用平台,在不同环境下的表现更为一致。
更为重要的是,许多上一代的应用程序都是通过浏览器访问的,小明助理copilot可以更好地与现有的工作环境无缝集成。浏览器插件本身比较轻量化,就在员工的手边,而小明助理copilot想做的第一件事就是把大模型带到每一位员工的面前。
不同业务场景,择优而用
当前阶段,各家大模型技术仍在快速迭代,数据指标不断刷新。大模型应用的优势在于,帮助企业在实际场景中快速落地,避免因部署单一大模型而产生的持续优化成本,提升抗风险能力。
作为一站式大模型入口,在文本、图像,以及具体业务场景下,小明助理copilot提供了相应的大模型做支撑。企业可以根据自身需求,调用能力更为匹配的大模型,解决单点工具或单一大模型难以覆盖多个应用场景的问题。
let's on the same page!
在大模型的语境下,由于缺少企业的上下文信息,员工prompt水平参差不齐,每个人得到的结果天差地别,难以符合预期,企业通常容易简单粗暴地把问题归结为ai没有用。
一个不容忽视的事实是,“协同”在tob场景尤为重要。microsoft teams的成功以及yahoo messenger在企业市场上的逐渐淡出给人们以启示:即使是一个功能强大的工具,如果不能满足企业对协作和沟通的深层需求,最终也难以在企业市场立足。
on the same page是提升企业协同能力的关键步骤,也是小明助理copilot的核心理念,即在企业内部填平信息鸿沟,让员工处于同一认知维度,从而实现三层价值:
第一层:让大模型与员工on the same page
第二层:让团队成员彼此之间on the same page
第三层:让团队与团队之间on the same page
如何实现on the same page?
小明助理copilot在产品与运营层面集中做了两件事:
●提供更灵活、安全的方式,帮助企业向大模型注入外挂知识
●帮助员工持续提升prompt技巧
传统知识库 vs大模型时代的知识库
通用大模型有两个认知盲区:一个是新知识,另一个是企业/行业知识。正因为这两部分知识的缺失,人们就不难理解,为什么大模型难以给出具体业务场景下,有针对性的答复。
新知识的缺失,小明助理copilot的联网搜索功能已经可以解决;而企业/行业知识的缺失,需要企业构建内部知识库。
大模型技术的发展使传统知识库的形态得以重塑。
一是交互模式,以自然语言交互取代传统的关键词/表单搜索模式,基于自然语言的语义理解,更便捷地搜索到与用户需求匹配的信息,提供与文档对话的能力;
二是信息处理功能,在检索之外,还可以提供内容摘要、信息提取、分类、对比等更多功能;
三是知识覆盖,未来还可以支持联网搜索,这也意味着除了知识库本身的能力,还能够学习互联网上的实时信息,对知识库本身的内容进行补充。
具体而言,通过上传企业文档,企业可以调用大模型进行分析总结。每个部门、每个员工可依据自身需求,创建个人或团队知识库,由企业自行控制文档的分享范围。
好prompt撬动大模型价值
一项新技术的诞生需要人类经历一段长期的适应过程,有了工具还远远不够。在明略内部推出小明助理copilot初期,员工使用情况也曾一度低迷,很大程度上是因为不会写prompt。对于刚接触大模型的企业来说,不重视prompt工程,把大模型当成搜索引擎的情况更为普遍。
小明助理copilot如何破解了这一难题?
产品层面,小明助理copilot为企业用户提供了公共提示词(prompt)作为参考,同时支持个人与企业提示词(prompt)分享,让优质prompt能够在团队内部得到复用。与此同时,提供了多种场景的agent,用于直接执行社媒分析、圈层分析、文案打分、内容优化等特定任务。
组织运营层面,举办小明助理copilot黑客马拉松、定期培训、分享交流,以及创办社区等大量的运营工作。目前,小明助理copilot在明略内部的周活已达到70%以上,积累了40多个高频使用的prompt模板。
先拿到船票
明略科技认为,在大模型的基础上,ai native代表了一种由ai重构底层逻辑的全新应用形态。但它的出现并不意味着企业要把过去的数字化系统统统扔掉,以追求新一代的ai能力。实际上,这种方式反而容易造成信息与数据加工能力的缺失。
通过非侵入式的copilot,在不影响原有工作流的前提下,把大模型与浏览器、it系统连接起来,或许是现阶段更为安全可靠的做法。
针对多数企业“用不上”“不会用”的痛点,小明助理copilot为企业提供了一系列落地运营服务,希望成为大模型应用市场中ai-onboarding的角色,帮助企业尽快拿到大模型的船票,尽早培养员工使用大模型的习惯。
q:企业员工不会用,难推动怎么办?
a:提供培训、运营分享等陪跑服务。
q:是否支持个性化定制?
a:支持。可定制企业个性化copilot,private agent,同时支持私有模型训练。
q:如何确保数据安全?
a:具备数据加密,数据脱敏能力;支持私有部署,所有数据可沉淀在企业服务器。
q:什么时候开源?
a:今年即将开源,让每个企业都能便捷、安心地部署小明助理copilot。
就在最近,小明助理copilot上线了行业研究等新功能,对产品进行持续迭代升级,进一步满足企业多样化需求。
在生成式ai时代,企业需要认识到,大模型并非万能,真正的决策与创新仍掌握在人类手中。通过鼓励员工使用大模型应用,企业可以激发集体的创新潜能,拓展出更多应用场景。更为重要的是,加快组织智能化转型的步伐,在市场上形成先发优势。