外链论坛

 找回密码
 立即注册
搜索
查看: 4|回复: 0

文心大模型日调用量超6亿次,百度凭的是什么?

[复制链接]

2607

主题

412

回帖

9118万

积分

论坛元老

Rank: 8Rank: 8

积分
91180569
发表于 6 天前 | 显示全部楼层 |阅读模式

导语:处理大模型“应用之难”,百度Q2财报秀了一波肌肉。

对AI展开过哲学层面思考的维特根斯坦,曾有一个著名的论断:“道理运用”。

搁置其潜在的哲学道理,放在现实语境中看,这一论断相当早地道出了AI的本质:要好用。

进入2020年败兴,随着大模型的兴起,自然语言处理技术的快速进步,AI技术迎来厚积薄发的时期。

在技术大爆发后,大模型的“应用之难”逐步浮出水面。“怎么才可用好AI”,已作为企业在大规模安排AI时碰到的新挑战。

从资本流向与机构财报看来,这一困难正在得到处理

以文心大模型为例,百度(BIDU.US; 09888.HK)2024年Q2财报tel会披露,文心大模型日均调用量超6亿次,半年增长超10倍,日均处理Tokens文本超1万亿,均为国内最高。与此同期,智能云在本季度营收达51亿元,同比增长14%;AI带动云营收同比增9%,高于上一季度的6.9%。

不论是在为外边行业赋能,还是为自家业务输血,百度大模型在应用层面都交出了一份非常不错的成绩单,向外稳稳秀了一波肌肉。

01 文心大模型,疾驰向前

“百模大战”之下,大模型数量多了,落地却成为了软肋。

巨头们躬身入局,中小科技机构想分一杯羹。但与庞大数量相对的,是应用端的短板。许多大模型被搁置、蒙尘,没法进入广阔的应用市场。

有些科研公司意见不该仅仅将技术指标当作证明大模型成功的标准,而应该更加关注实实在在的业务指标。

而衡量大模型是不是被市场接受的直接业务指标,无疑是日调用量。

有些对调用数据讳莫如深的机构区别,百度Q2财报tel会大方地颁布了文心大模型的日调用量数据:

季度内,文心大模型日调用量超6亿次,日均tokens运用量超1万亿,均为国内最高。

对比其他日均tokens从百亿级(MiniMax与智谱AI)至千亿级(豆包大模型)的大模型,毫不夸张地说,百度在大模型应用落地上的步伐是国内厂商里最快的。

体量是一方面,更值得瞩目的是增长速度。百度Q1财报,文心大模型的每日API调用量约为2亿次,而去年12月仅为5000万次。

半年的时间,增多了超10倍。

高速增长的调用量,寓意着大模型“更好用”,在体感方面,即更快的速度,更好的体验,以及更便宜的价格。

文心大模型4.0Turbo的核心优良,便是速度与效果,这得益于百度在数据、基本模型、对齐技术、提示、知识加强、检索加强和对话加强等核心技术上的连续创新。

文心大模型优良源自:文心大模型官网

在价格方面,文心大模型4.0 Turbo已面向企业全面开放,定价为输入0.03元/千 Tokens,输出0.06元/千Tokens。

这一措施,透露出百度近期布局大模型应用的另一方向:降价与免费策略。

百度副总裁谢广军暗示根据3:1输入输出长短统计下,文心大模型4.0 Turbo相较于文心大模型4.0通用版的降价幅度达70%。

此前,文心旗舰款模型ERNIE 4.0和ERNIE 3.5已宣布大幅降价,ERNIE-Speed、ERNIE-Lite、ERNIE-Tiny系列模型预置服务连续对客户免费开放运用

伴同大模型市场的成熟,价格必有一战。针对太多预算的中小企业客户来讲,这是一件降本增效的好事;针对大模型厂商来讲,这是一次去伪存真、检验实力的“龙门坎”。

在迭版本、降价格、做普惠的基本上,文心大模型如此庞大的调用量,无疑是“用脚投票”的结果:在自然商场规律下,用户会主动选取更好用、更便宜的制品,而聚集的规模效应,又将反哺大模型,形成“越多人用越好用”的正循环。

02 大模型,为云业务“造血”

文心大模型“珠玉在前”,越来越创业机构与生态伙伴都摩拳擦掌,期盼参与到这股研发浪潮中来。

由此带来的一个结果是,MaaS(模型即服务)炙手可热,一座座“模型工厂”创立起来。做为供给数据、模型与服务的云平台,找到了营收新路径。

而早早布局云服务的百度,Q2季度财报印证了这条营收路径的高价值:

百度智能云营收达51亿元,同比增长14%,并连续实现盈利(Non-GAAP)。同期,AI贡献的收入占比进一步提高至9%,高于上一季度的6.9%。另据IDC报告,2023年中国大模型平台中,百度智能云市场份额位列第1,达19.9%。

这一数字增长,与百度云始终败兴深耕MaaS服务平台相关

为促进大模型落地,百度推出了MaaS服务平台——千帆大模型平台,这是全世界首个一站式企业级大模型平台,支持包含旗舰大模型ERNIE 4.0 Turbo在内的6款文心大模型精调运用日前,千帆平台已累计精调出2.1万个模型,服务超过千家企业核心业务场景。

在平台之上,为客户供给ModelBuilder与AppBuilder两大研发工具。前者致力于模型定制,后者致力于AI原生应用研发

Q2季度,两大工具运用量一路走高。千帆的底气,第一在于手握包含文心大模型在内的70余个国内外主流基本大模型与行业大模型资源;第二在于具备极其好用的工具链,不论是大模型训练、精调、安排,还是进行AI生应用研发,都能够很经济、简单地帮忙用户完成操作。

千帆大模型平台ModelBuilder功能图,源自:ModelBuilder官网

第三,则在于与千行百业的适配性。今年5月,百度智能云推出了“千帆·行业加强版”,将通用大模型的理解、生成、规律、记忆能力,与行业模型的专业能力相结合,搭配体系化的工具和组件,支持从资源管理、大模型服务到应用研发的全过程。

季度内,千帆平台为政务、电力、教育等行业带来切实价值,多地农村用上大模型办事。2024年1-5月,国内大模型项目中标公告已发布近260个,百度在主流大模型厂商中拿下最多中标项目数量(10个)、覆盖最多行业(8个)、中标金额总数最高(6400万+),三项第1,可谓一骑绝尘。

03 智能体正在爆发

但以上,还并非百度AI布局的最后形态。

面向将来,百度押宝的重心,在于智能体。

2024世界人工智能大会时期,百度创始人、董事长兼首席执行官李彦宏提出,智能体表率着AI时代的将来趋势。“智能体正在爆发,只是此刻基数还比较小,大众的体感那样剧烈。”

而百度不论在策略还是在成绩上,都已抢占先机。Q2财报tel会披露,智能体在百度生态的分发量大幅增多,7月日均分发次数超800万次,为5月的两倍,百度智能体已渐成生态。

什么是智能体?早在1940年代,马文·明斯基曾在《心智社会》中,提出过智能体的概念:微小部件的智能体,会以非常特殊的形式,形成真正的智能。

在AI行业,智能体指的是持有感知、行动、自主决策与目的导向能力的程序、系统或应用。

在李彦宏看来,智能体是一个几乎基于大模型“放之四海而皆准”的应用。因为门槛足够低,用户可能连编程都不消,就能够做出一个效果不错的智能体。

智能体的爆发寓意着,将来在金融、医疗、教育、农业、制造、交通等行业,都会依据自己的场景和特有经验、规则、数据等,创建各样智能体,形成数百万量级的庞大生态。

另外,还有一个结果——做为智能体分发的最大入口的搜索,将变得越来越重要。

一方面,在智能体落地和分发上,搜索是天然的最佳场景。搜索连接着数量庞大的用户,是绝佳的分发池。百度搜索上线“AI助手”频道,便是期盼经过识别用户搜索意图,为其供给与之匹配的智能体。Q2季度,已有18%的搜索结果由AI生成,为用户供给更准确和直接的答案。

针对企业和研发来讲,百度还可依托搜索生态,为其创建的智能体供给分发和变现的支持,帮忙客户增多营销转化,提高投放效率。

另一方面,智能体重构AI搜索,能够充分释放百度能量。自大模型爆发败兴,各家搜索引擎都在探索经过大模型提高搜索能力,谷歌、微软、Meta等全世界科技机构都在大力入局AI搜索。

在中国,搜索行业难有出百度之右者。百度以搜索起家,日前每日请求量达几十亿次,持有庞大用户、超级流量和智能举荐优良,正是探索“智能体+搜索”不二人选。

着眼当下,百度已作为攻破大模型“应用之难”的桥头堡,大模型调用量疾驰向前,MaaS平台落地加快。

放眼将来,智能体的爆发势不可挡,智能体+搜索的重担,必然会落在百度的肩头。

AI时代呼唤真正的能力者。最少从Q2财报来看,沐浴在通用人工智能的曙光之下的百度,辜负大众的期待。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

站点统计|Archiver|手机版|小黑屋|外链论坛 ( 非经营性网站 )|网站地图

GMT+8, 2024-10-4 07:28 , Processed in 0.073552 second(s), 20 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.