商汤大装置推出开源大模型应用开发框架LazyLLM
作为面向企业级模型开发与管理的一站式服务平台,万象平台具备模型管理、精调、推理、评测等全方位功能,可提供商汤“日日新”大模型,以及包括DeepSeek系列模型在内的几百种开源大模型,做到开箱即用,仅需一分钟就可以搭建起整个应用开发的pipeline。随后,通过快速的搭建、试错、上架、迭代,以及使用,实现从应用开发到迭代的完美闭环。其中,针对用户不同的场景特性,商汤大装置可基于不同模型,进行高效推理和微调,帮助用户“花一块钱的算力,得到两块钱的效果”。
在最近SuperClue发布的针对DeepSeek-R1满血版的第三方API测评中,商汤大装置位居免费版API排名第一,充分体现了大装置及万象平台的工程能力。
在搭建应用的拖拉拽操作中,万象平台共支持23种画布控件,13种类型的资源控件,无限画布嵌套,并在企业级场景下支持多人协同编辑,能够基于知识库的场景或者微调数据集数据库的部分,实现一站式LLM应用开发、RAG核心算法编排、多模态模块编排等,实现本地部署与私有化交付。
例如,在多模态客服问答机器人场景,普通开发者可能需要花费一周时间进行模型微调、串联各个功能,才能形成一个完整的Agent应用。
利用万象平台,开发者可以通过低代码拖拉拽的方式快速实现多种功能,无论是查询快递、智能客服,还是转接人工服务,都能通过大模型的意图识别和分割,精准将客户引导至相应的处理流程,极大提升开发效率。目前,基于LazyLLM和万象平台,商汤大装置已为众多行业,提供AI应用落地方法的AI综合解决方案,覆盖金融、建筑、航空航天等10个行业场景,并助力30余家企业组织实现AI能力的提升与落地,让AI能力转化为生产力,实现数智化转型升级。
页:
[1]