首页 > 资讯 > 评论

大模型落地潮,卷王如何突围

2024/07/09 14:06      数智前线 牛慧  


  假以时日,一个10亿DAU的超级应用一定会出现,但更重要的是大模型在各个领域、各个场景的应用。

  文|牛慧

  大模型市场在过去3个月,又发生了剧烈变化。一位工业大模型资深人士告诉数智前线,二季度他们接触到的企业需求“至少比一季度增长了10倍”。

  “产业正迎来一个转折点。”在世界人工智能大会(WAIC)期间举办的“大模型助力新质生产力发展论坛”上,百度副总裁谢广军告诉与会者,一批之前探索的大模型落地场景已经跑出来了,6月,文心大模型日均调用量已突破5亿,季度环比增长150%;百度智能云千帆大模型平台服务客户数也突破15万。

  “我们判断,从下半年开始,大模型产业落地的时代就要到来了。”谢广军说。

  而在世界人工智能大会期间,百度创始人、董事长兼首席执行官李彦宏也提出大模型时代与移动互联网时代对“超级应用”认知的不同——他认为“不是说一定在等待一个超级应用的出现”。大模型在各个行业场景的应用,对于提升效率、降低成本,产生的促进作用,可能比从0到1的颠覆性应用更大。他也已经看到,越来越多的行业,尤其是To B场景中,被大模型加持之后,已经受益。

  业界也看到,从百度智能云的各项举措看,它通过“卷降价”、“卷场景”、“卷应用”,期望让更多人意识到,大模型只有植入业务场景里,才能产生价值。百度智能云也期望加速大模型与场景的串联,让客户看到效果,从而形成大模型的良性循环。

  01

  降价、升级,一切为了卷场景

  在这次论坛上,百度智能云公布了三大举措:基础模型降价,工具效能升级以及行业场景解决方案上线。“这与今年初百度开始密集讲应用、谈价值、发布端到端应用方案一样。”有生态伙伴认为,这些都是为推动大模型进入更大规模的场景,让大家用起来。

  其中,在基础模型降价上,6月百度刚刚推出的文心系列旗舰版大模型——ERNIE 4.0 Turbo,面向企业客户开放,相比ERNIE 4.0之前的价格,降幅达70%。

  ERNIE 4.0、ERNIE 3.5两款旗舰模型,也随之大幅降价。而在客户场景中经常用到的主力模型ERNIE Speed、ERNIE Lite,则继续保持免费。

  这应该是7月开局后,第一个继续宣布降价的大模型大厂。在世界人工智能大会期间,李彦宏坦承,这次大模型价格战确实来得比他想象的更早一点,而且把价格打到几乎不可思议的地步。“但某种意义上也不是坏事。当你足够低,甚至免费时,就会有更多人来尝试,大模型对于各行各业的渗透速度会更快。”

  除了价格,在工具平台的效能升级方面,千帆大模型平台则围绕在大模型进企业场景的关键点上。

  实际上,每个行业场景都有自己的“道”。在落地中,客户要结合自身场景,通过工具,对模型做精调(SFT),也就是将行业数据“灌进去”,并进行各种调教,从而让模型更加专业,在特定场景下的决策效果更好。

  在过去一个季度,千帆大模型平台上的ModelBuilder,围绕企业专用模型的精调,有非常多的升级点。

  此次一个独家升级点“混合训练功能”,提供高质量数据语料,扩充用户精调样本,助力模型效果显著提升。用户可以用百度智能云提供的通用语料和垂域语料,与自身业务数据融合,精调出更稳定、效果更好的专用大模型,解决模型在精调后,往往会遗忘通用能力,或企业垂域数据不够多、不够好的问题。

  而当企业精调出模型后,ModelBuilder还帮助企业构建自身的数据飞轮,对模型进行持续的闭环优化,让模型越用越聪明。

  除了企业的模型开发,在企业AI原生应用上,千帆大模型平台上的AppBuilder这次则主要围绕企业级RAG(知识检索增强)技术升级。

  为什么是RAG?因为它能有效缓解大模型的幻觉问题,因此,几乎成为今天行业落地中必不可少的技术。IDC预测,到2027年,中国2/3的企业将利用大模型和RAG的组合,将决策效率提高55%。

  这次AppBuilder除了新增云存储服务,让资源上传不再受限之外,更重要的是开放了RAG的策略。“今天很多垂类场景采用RAG的效果不达预期,通常与策略相关。”谢广军说。此前,RAG是个“黑盒子”,这次百度独家开放了可调可配策略。

  同时推出“RAG with 百度搜索”功能,将百度搜索在时效性、客观性⽅⾯的优势,与RAG在私域知识响应、语⾔灵活性⽅⾯的优势进⾏能⼒互补,⼤幅提升⽤户知识检索体验。不少PC、IoT、车机等端侧设备,已接入新接口。

  在降价、工具升级之外,百度智能云还推出了千帆行业场景解决方案。目前已上线了包括教育、人事、企业服务、文娱、医疗在内的5大行业,20多个场景解决方案。

  这些方案主打一个“低门槛”,针对不同方案可提供场景模型、模型精调样板间、Prompt模板、应用样板间等参考“样例”,有相似业务诉求的客户,可直接使用或一键复制,就完成了自身大模型应用的开发,让用户快速用起来。

  为了应对大规模产业落地的需求爆发,工具链和平台已极为重要。百度智能云的这些动作目标明确,好的工具可以事半功倍,如果将行业共性需求和经验,提炼沉淀为技术组件,与行业Know-How和最佳实践一起,不断落入到千帆大模型平台上,企业和生态伙伴就可以用这些“武器”,突破更大规模、更大范围的场景突破,成为可能。

  02

  从零起步,一步步将场景做深

  过去一个季度,大模型与行业、场景的结合,已经从零起步,不断走向深入。在这个过程中,百度智能云与业界,在聚焦解决几个核心问题。

  在业界看来,第一个核心问题,是如何推动客户找到大模型的能力边界。不像传统项目,客户有明确需求,大模型需要与企业自有数据结合,才能产生效果。这时,通过降价、提供简单易用的工具,不断拉低大模型使用门槛,让“大家的胆子更大,步子也更快”。

  比如,在水务领域,北京污水宝科技有限公司利用大模型的问答能力,通过千帆AppBuilder,快速构建了污水宝AI助理,支持人们通过自然语言,获取项目线索、项目进度等工程信息。这些立竿见影的应用,往往是大模型与行业和场景结合的第一步。

  第二个核心问题是大模型的性价比。客户在选择模型时,看重效果,也会反复考虑成本。

  李彦宏在WAIC上表示,今天这些闭源模型,无论是ChatGPT还是文心一言,平均水平一定是比开源模型更强大,推理成本一定是比开源模型更低。“闭源模型不是一个模型,它是一系列的模型”,可以根据使用场景去平衡效果、推理速度和成本。

  杭州全诊医学创始人兼CEO薛翀,是一位创业者,也是一位医生,他期望用AI技术,将医生从病历书写等繁琐的工作中解放出来,腾出时间真正关注病人。在选择模型上,“我们实际用了很多大模型来训练,发现通过文心模型和千帆大模型平台训练出来的产品,目前性能最高,各项指标是GPT3.5的1.7倍。”薛翀说,而文心成本的优化,“让我们产品的价格竞争力也上去了”。

  目前,全诊医学打造的AI医生助理,已服务50多家三甲医院和1.5万家小型医疗机构,“应该是全球规模最大的”。薛翀对此感到自豪,AI医生助理每日生成门诊病历草稿为15万份,医生的效率提升了,患者服务数量因此提升了1.5倍。

  第三个核心问题是,随着大模型与场景的结合不断深入,对工程的要求越来越高,也对更低门槛、更高效能的工具平台提出高诉求。

  比如,在教育领域,中国高科集团旗下英腾教育,在医学教育行业有20年积累,形成了覆盖1800多个医学考试科目、超过10亿的医学文本tokens备考数据。英腾教育联合百度智能云,通过千帆大模型平台,对自有数据以及百亿级专业知识数据,进行高效的处理和学习后,让“考试宝典”应用,在医考培训这一复杂而专业的领域,提供“千人千面”的教程,大幅提升备考效率。

  第四个核心问题是,客户越来越关注和期望使用Agent。对此,李彦宏在最近的谈话中表示,智能体正在爆发,只是说现在基数还比较小。“我首先要考虑,门槛要足够低,一个小白、大一的学生,也可以很方便地制作一个智能体。”李彦宏称,只有越来越多的人进来,指不定哪条路跑通了,它就是一个Super APP。

  此外,今年行业大模型在产业落地中起到关键作用,不过也出现了“伪行业大模型”。不久前,百度集团执行副总裁、百度智能云事业群总裁沈抖强调,行业模型不是回到传统AI,把一个场景加一堆数据作为一个专用模型,烟囱式开发。

  他建议,一个企业如果需要同时有多个行业场景解决方案,可以构建一个通用底座,结合如千帆大模型平台,不断做行业增强,逐步将整个能力建设起来。这个开发范式会避免烟囱式、一遍一遍的重复建设,实现真正的场景驱动,把应用卷起来。

  03

  迎接Q3落地爆发潮

  当大模型一步步进入场景后,关于它的应用爆发,包括ToB、ToC,业界最近讨论很多。

  业界也观察,实体经济在这轮大模型落地上的积极性和创新力,甚至在某些方面超越了互联网大厂。当下第一波吃到红利最多的是科技企业、国央企和大型民营企业,两三年之后,消费端才有可能出现Killer App。李彦宏认为,大模型对于B端的改造作用,比互联网对B端的影响更大。

  在产业界,第一批入场的企业和服务商已感知到,二季度需求端已经爆发,三季度预计将会迎来更大规模落地潮。“我们无法拿一个技术或项目化的运作方式,去做大规模的商业复制。”一位资深人士说。大模型的落地需要开发、部署、运维、迭代的工具链及平台。“大家都在把打法,转向规模化推广和复制上。”

  业界也在积极布局生态。一位人士观察到,“从平台侧,像百度智能云已经专门成立了相关渠道生态部,这跟以往不一样。它要赋能更多生态伙伴,提供很多工具,目的是让生态使用它的能力,让大模型真正在更多场景中发挥价值。”

  生态的另一个价值是定制化。在To B行业,定制化是绕不开的话题,尤其是大模型落地,还处于一个多样性的客户需求和尚未收敛的技术阶段。但业界也看到,大模型可能会让定制化变得更简单,毕竟它能生成代码,本身具备生态插件及融合能力。

  为此,工具平台也将更为丰富、灵活,即便定制化的过程,也是走标准化的组件加上标准化流程。“类似于你定制西服,量完尺寸不是重头开始,而是在一套标准方法上稍微调整”,这是百度等前沿企业的打法。

  一两个月前,沈抖曾称:新质生产力正在破土而出。如果说国家政策是阳光,中国丰富的工业体系是土壤,那么科技创新就是新质生产力迸发的内生力量,而人工智能和大模型,代表着当下最前沿的科技进展。

  现在百度等业界正在形成大模型规模落地的路径。一旦这套路径跑通,工具链和平台打磨成熟,生态逐步壮大,大模型与场景结合的效率将更高,就会有越来越多的人去串联起更多的业务价值。客户将会受益,整体购买成本也会下来,大模型将进入良性发展循环。

  榜单收录、高管收录、融资收录、活动收录可发送邮件至news#citmt.cn(把#换成@)。

相关阅读