8万8上“满血”DeepSeek-R1,第四范式发布SageOne Lite

今天,第四范式推出大模型推理一体机解决方案 SageOne Lite,8.8 万元可运行满血版 DeepSeek-R1,以极致性价比帮助企业乃至个人实现本地使用 DeepSeek-R1。

图片来源: 图虫创意

今天,第四范式推出大模型推理一体机解决方案 SageOne Lite,8.8 万元可运行满血版 DeepSeek-R1,以极致性价比帮助企业乃至个人实现本地使用 DeepSeek-R1。该方案基于 KTransformers ,支持单机运行满血模型服务。此外,一体机解决方案还集成了 ModelHub 平台实现模型管理及不同模型服务的灵活切换,内置智能算力池化管理平台提升 GPU 资源使用效率,并搭载了大模型开发平台及开箱即用 AI 应用套件,帮助企业及开发者体验满血强大智能同时,快速创建生成式 AI 应用。

SageOne Lite 大模型推理一体机解决方案,具备三大核心优势:

1)低成本,单机体验满血版 DeepSeek-R1

2)集成 ModelHub、大模型工具链,内置 SageSuite AI 应用套件:包含数百个开放模型服务供给及模型全生命周期管理、可视化 Workflow 流程编排等,并预装 AI 应用套件,包括 AIGC、智能办公、数字员工、智能问答等等

3)智能算力池化,资源动态调度:通过业界领先的第四范式 GPU 资源池化(vGPU)技术,可对算力和显存进行智能切分,对计算任务智能调度,灵活在不同尺寸的大模型中进行切换

未经正式授权严禁转载本文,侵权必究。如需转载请联系:youlianyunpindao@163.com
以上内容与数据仅供参考,与界面有连云频道立场无关,不构成投资建议,使用前请核实。据此操作,风险自担。

打开界面新闻APP,查看原文
界面新闻
打开界面新闻,查看更多专业报道

热门评论

打开APP,查看全部评论,抢神评席位

热门推荐

    下载界面APP 订阅更多品牌栏目
      界面新闻
      界面新闻
      只服务于独立思考的人群
      打开