中国移动通信集团浙江有限公司申请基于大语言模型的业务处理专利,显著节省算力资源

金融界2024年10月24日消息,国家知识产权局信息显示,中国移动通信集团浙江有限公司申请一项名为“基于大语言模型的业务处理 *** 及装置”的专利,公开号 CN 118796505 A,申请日期为2024年5月。

专利摘要显示,本发明提供一种基于大语言模型的业务处理 *** 及装置,其中 *** 包括:基于算力 *** 接收目标业务请求;算力 *** 基于预先存储的业务请求与适配器之间映射关系,从多个适配器中确定目标业务请求对应的目标适配器;算力 *** 基于基座大语言模型以及目标适配器,构建目标业务请求的目标推理服务,并基于目标推理服务,处理目标业务请求。本发明提供的基于大语言模型的业务处理 *** 及装置,通过算力 *** 仅需要部署一个完整基座大语言模型,基于多个适配器之间的切换即可完成推理能力的切换,显著节省算力资源,使得不同类型的适配器可以在同一推理任务中协同工作,大幅度提高处理效率。

来源:金融界

出处:林口信息网

网址:http://linkouxx.com/post/5870.html

您的支持是对博主最大的鼓励,感谢您的认真阅读。欢迎转载,但请保留该声明

评论

访客
友情链接

Powered ByZ-Blog. Copyright 2024-2028

您的支持是对博主最大的鼓励,感谢您的认真阅读。欢迎转载,但请保留该声明