星环科技Sophon LLMOps全面支持DeepSeek R1版本
星环科技近日宣布，其企业级大模型运营管理平台Sophon LLMOps现已全面支持DeepSeek R1的全参版本以及蒸馏版本。这一消息标志着星环科技在AI大模型管理领域迈出了重要一步。Sophon LLMOps作为一款功能强大的企业级平台，致力于为用户提供全面的大模型运营管理解决方案。该平台支持大模型与小模型的统一管理，能够轻松纳管开源及商业化大模型，满足用户多样化的需求。同时，Sophon LLMOps还具备底层国内外GPU/NPU(ARM/x86)异构算力的混合部署能力，实现了资源的精细化切分及高效调度，进一步提升了系统的灵活性和性能。
此外，Sophon LLMOps还提供了模型及应用效果评估、全局状态监控及预警等功能，帮助用户实时掌握模型运行状况，确保系统的稳定运行。这些功能的加入，使得Sophon LLMOps成为了一款真正意义上的企业级大模型运营管理平台，为用户提供了从模型部署到运行管理的全方位支持。
页:
[1]