2025年2月4日,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上线昇腾社区,神州鲲泰推理服务器A924搭载昇腾硬件,可全面支持DeepSeek系列模型的快速部署,可为用户带来更快、更高效、更便捷的AI开发和应用体验。
同日,神州鲲泰KunTai M300-P01开发者套件也成功实现了与DeepSeek-R1-Distill-Qwen模型的推理适配优化,性能表现优异。相较于DeepSeek-V3多机多卡部署,专注于多模态推理等高精度场景的特点,这套“轻量化”组合形成场景互补,带来了低成本、灵活、快捷、稳定的AI推理体验,可广泛适用于车路协同、安防巡检、智能制造、智慧交通等多样化场景。
六大优势,构筑 AI 应用新基石:
1、低成本:KunTai M300-P01 开发者套件落地成本低,能耗低,维护简单,无需配备复杂的冷却系统和高能耗的服务器机房,大大降低了硬件成本。同时,减少对云端计算资源的依赖,长期运营费用得以节省,有效降低了云端成本。
2、低延迟:数据在本地即可完成处理,无需上传至云端或远程服务器,显著降低延迟,实现实时响应,特别适用于工业控制、自动驾驶这类对响应速度要求极高的场景。
3、数据隐私与安全:敏感数据本地存储,避免传输至外部服务器,减少了数据泄露风险,严格满足如 GDPR 等对数据本地化存储和处理的法规要求。
4、带宽优化:只需上传处理结果或关键信息,极大减少了数据传输量,降低对网络带宽的需求,即便在网络不稳定或带宽有限的场景中也能稳定运行。
5、灵活部署与拓展:套件体积小巧,可轻松集成到各类设备中,是边缘计算场景的理想选择。并且支持多节点部署,适用于大规模分布式场景。
6、离线能力:不依赖网络,在网络中断或不可用时仍能正常运行,具备本地自治能力,在偏远地区或网络覆盖差的场景中优势尽显。
神州鲲泰 KunTai M300-P01 开发者套件+DeepSeek-R1-Distill-Qwen模型的 “轻量化” 组合将为更多行业和场景输送高效、便捷、安全的AI推理解决方案,推动人工智能技术深度融入千行百业,创造更大的价值。随着技术的持续创新与突破,将在更广阔的领域发挥关键作用,进一步拓展人工智能的应用边界。
|
|
