澎湃新闻 - 首页头条 ( ) • 2024-04-08 16:14

·Kimi语音智能助手宣布将长文本的能力从20万突破至200万字,一时之间,就像一把火点燃了国内大模型行业。资深互联网运营专家称,现阶段各大公司都在“卷”长文本只是因为大家不知道该卷什么领域,现在阶段各个厂商想先跑出来,以用户数量来吸引市场、吸引资金,有了钱才会有下一步。

在公司成立一周年之际,北京月之暗面科技有限公司(以下简称“月之暗面”)近期宣布将Kimi智能助手长文本的能力从20万突破至200万字超长无损上下文,在一众大模型厂商中脱颖而出。

Kimi宣布可以支持200万字上下文输入后,大模型纷纷提升长文本输入功能。

华泰证券研究报告指出,自Kimi宣布突破200万字超长无损上下文后,根据数据公司Similarweb的分析,活跃用户数方面,截至3月22日,Kimi网页版日活用户数当前峰值日活达34.6万,周活数据环比增长45%。在客户端下载量方面,根据七麦数据,3月22日单日下载量超11万,较3月21日增长140%。

一时间,国内大模型行业掀起了长文本的内卷。日前,阿里云的大模型通义千问、360AI浏览器先后宣布将支持1000万、500万字的长文本功能。百度也宣布将在本月进行版本升级,开放长文本能力,文字范围会在200万至500万字。

Kimi长文本有优势也有局限

在这样“卷”的大模型市场,kimi的长文本能力为何脱颖而出?

资深互联网运营专家松月有十年的互联网运营经验。她告诉澎湃科技(www.thepaper.cn),长文本是普通人最常用的媒体形式,对普通用户来说,文本比视频、音乐、图片更容易上手。相对于普通用户,企业用户在长文本的应用方面有很多想象空间,比如项目归档、用户聚合和分类、数据统计和分析。支持输入200万字也让用户给模型喂养了更多语料,这也有助于大模型的自我进化。

天津师范大学管理学院副教授王树义专注人工智能领域方向,他尝试用长文本大模型进行网络文章总结、学术文献分析,以及长文翻译。

王树义用大模型进行网络文章总结、学术文献分析,以及长文翻译

在实际使用过程中,他发现,支持超长文本会话的大模型可以有效减少会话的中断,使整个工作流程更加流畅。相对于很多大模型应用,Kimi语音助手的记忆力较强,避免了输出过程中忘记中间段落的情况,也不需要后期进行大量的人工检查、提示和人工补充的工作。

不过,通过试用,他也发现了一些问题。比如在命令理解方面,他认为Kimi语音助手还有改进的空间,比如当他明确要求逐段处理时,Kimi输出了全部内容。此外,在处理所有输入的PDF时,它曾错过了 5个文档中的 2个。即便如此,王树义表示,相信随着后期模型的快速迭代,这些问题将会得到有效解决。

国外已卷过一轮“长文本”

澎湃科技注意到,早在Kimi引发国内大模型长文本“内卷”前夕,美国大模型界已经“卷”过一轮,长文本理解现在已经是主流大模型的基础能力。

比如,OpenAI发布的GPT-4Turbo已经支持128K超长上下文输入,对应的Claude3能总结15万单词,长文理解准确率超99%,谷歌的Gemini也支持20万超长输入文本的理解能力。同时,大模型为了满足多模态输入的要求,比如呈现图片、视频信息等,增加输入token(生产令牌)也是必须的任务。

尽管多位业内人士认为Kimi在长文本处理能力上确实取得了关键突破,但他们也指出,Kimi的技术门槛并不算特别高。

有关注AI大模型技术领域的工程师表示,长文本是大模型普遍具有的基础能力,普通的大模型在迭代过程中,增加可输入长度是一个必经过程,是性能提升的体现。至于今后大模型的趋势会不会往长文本方向靠,更多是应用层面的事情,而市场有没有这个需求,现在也不好说,“Kimi目前也没收费,市场变现能力有待确认”。

松月也告诉澎湃科技,Kimi将长文本能力从20万字提升到200万字,这对于算法的压力很大,“很烧钱,这需要在商业变现能力和算法成本两者之间做平衡和取舍。”

“大模型商业模式还要探索和试错”

澎湃科技注意到,当前国内外的大模型技术虽然研发进展迅速,但算力、人才等瓶颈仍待进一步突破,商业模式也还需进一步明晰。从整体上来看,国内AI大模型的商业化模式在C端注重重构用户应用场景,在B端则用AI技术持续赋能产业升级。

北京智谱华章科技有限公司旗下的大模型首席执行官张鹏今年早些时候接受媒体采访时将智谱的商业化模式归纳为四条路径:一是最轻量级的API(主要是专业开发者及公司)用户模式,将模型封装成开放平台,供中小企业通过API调用,按使用量付费;二是云端私有化。针对专业壁垒高、数据安全要求严的行业,提供云端算力支持的私有化方案;三是本地私有化,适用于国企或有特殊安全需求的企业;四是软硬件一体化方案,结合模型和国产化硬件,提供一站式销售和部署服务。

百度在去年8月官宣开放“文心一言”之后,一方面在C端用大模型重构用户侧产品,将AI功能接入百度搜索、百家号、百度文库、百度输入法等产品;另一方面,百度智能云推出企业级一站式大模型平台“千帆大模型平台”,目前该平台覆盖对话、游戏、编程、写作十余个场景,便于企业用户获得更精准的服务。

腾讯混元大模型正式对外亮相后,也宣布通过腾讯云对外开放API(主要是专业开发者及公司)接入服务,探索大模型在各行业的深度应用。

在旁观国产大模型这波卷起的浪潮中,松月认为,现阶段各大公司都开始“卷”长文本只是因为大家不知道该卷什么领域,现在阶段各个厂商想先把数据跑出来,用用户数量来吸引市场、吸引资金,有了钱才会有下一步。

“说实话,我觉得大模型的商业化方式都不如卖AI课,商业模式还要探索和试错。”松月坦言。