| 首页  |  资讯  |  评测  |  活动  |  学院  |  专题  |  杂志  |  产服  |  
您现在的位置:硅谷网> 资讯> 科技>

正阳恒卓首席科学家高凯:构建高效可靠的智算中心是一个系统工程

2025-01-06 15:52 作者:佚名 来源:新浪网 关注: 编辑:GuiGu 【搜索试试
 

 

1月3日上午消息,在近日举办的第二届人工智能产业应用大会上,北京正阳恒卓科技有限公司(下称正阳恒卓)首席科学家高凯结合公司在智算中心建设领域的实际实践,提出AI基础设施(即AI Infra)建设运营中面临高效性和可靠性挑战,并介绍了为更好地服务人工智能产业应用正阳恒卓做出的相关技术创新。

高凯指出,客户往往期望AI任务可以高效利用智算中心提供的硬件资源,将集群规模增大、硬件升级充分转化为性能提升。但现实是,对于大规模分布式AI任务来说,单纯提高机器数量和升级计算芯片能力后,性能并不容易达到线性提升。

高凯认为这背后的原因是“大规模分布式AI任务资源需求巨大,容易造成碎片化资源闲置,并对调度系统性能带来更高要求;此外,并行方法和通信顺序也会影响分布式AI任务的效率”。

为解决上述问题,高凯指出:“大规模分布式AI基础设施,必须具备高效的系统容错能力,以及丰富的并行策略。”他表示,“为解决上述问题,目前国内外的一些大厂早已支持三维并行策略,甚至正在推进五维并行策略。”

此外,高凯还指出,“在建设智算中心过程中,客户往往期望AI大模型能够在智算中心中可靠地运行,但现实是,AI系统中的各个组件都可能出现故障并导致AI任务中断或失败。”

这背后的原因是,“AI任务依赖专用硬件,和传统计算集群在能源、产热、工作条件等方面存在差异;此外,主流AI并行框架采用同步方式运行,存在单点故障问题,传统云平台的容错能力并不适用,最终导致故障原因多样,纯用户视角难以准确定位问题。”

“大规模分布式AI系统的容错能力是AI系统稳定运行的基础,已经成为全球AI大厂开始竞相关注的问题。”高凯表示。

结合正阳恒卓为国家超算、大模型公司等企业建设大规模智算中心的经验,高凯指出,“建设高效可靠的Al Infra是一个系统工程,可靠性和高效性都必须遵循从硬件到软件系统性开发的原则,而且可靠性和高效性的技术应该被封装,从而尽可能对用户透明”。

他将Al Infra的构建分为智算中心建设、Infra服务运营、AI开发部署框架以及AI应用开发四个层级。并进一步指出,区别于大型厂商能够实现从底层硬件到上层AI应用的全栈自主研发,绝大部分小型企业往往不具备这样的经济能力和人才储备。为了助推人工智能产业应用的发展,提供高效可靠的AI Infra是智算中心未来需要具备的基本能力和发展趋势。

据高凯介绍,为能够让AI Infra能够普惠更多的人工智能产业应用企业,正阳恒卓正致力于领导并构建一个开放的、面向高效可靠智算中心的AI Infra基础框架。这个开放基础框架中的功能模块基于开放的标准进行设计,希望吸引更多相关行业的企业和开发者共同组建技术生态:让用户的模型开发、部署、应用能够在不同的算力环境中实现无感的迁移,而AI Infra企业则可以通过技术创新提供高效性和可靠性的增值服务。

据高凯介绍,正阳恒卓成立于2015年4月,目前已服务超300家企业客户,是英伟达认证的精英级合作伙伴,已连续两年成为NVIDIA Networking NPN 业绩第一名。(文猛)

来源:新浪网


【对“正阳恒卓首席科学家高凯:构建高效可靠的智算中心是一个系统工程”发布评论】

版权及免责声明:
① 本网站部分投稿来源于“网友”,涉及投资、理财、消费等内容,请亲们反复甄别,切勿轻信。本网站部分由赞助商提供的内容属于【广告】性质,仅供阅读,不构成具体实施建议,请谨慎对待。据此操作,风险自担。
② 内容来源注明“硅谷网”及其相关称谓的文字、图片和音视频,版权均属本网站所有,任何媒体、网站或个人需经本网站许可方可复制或转载,并在使用时必须注明来源【硅谷网】或对应来源,违者本网站将依法追究责任。
③ 注明来源为各大报纸、杂志、网站及其他媒体的文章,文章原作者享有著作权,本网站转载其他媒体稿件是为传播更多的信息,并不代表赞同其观点和对其真实性负责,本网站不承担此类稿件侵权行为的连带责任。
④ 本网站不对非自身发布内容的真实性、合法性、准确性作担保。若硅谷网因为自身和转载内容,涉及到侵权、违法等问题,请有关单位或个人速与本网站取得联系(联系电话:01057255600),我们将第一时间核实处理。
广告
相关
头条
苹果今年春季可能仍不举行新品发布会 以新闻稿形式推出新品 苹果今年春季可能仍不举行新品发布会 以新闻
据外媒报道,去年未举行春季新品发布会,仅在官网以新闻稿的形式推出黄色款iPhone 14……
·英特尔、三星电子更换IEEE ISSCC 2025全体会
·马斯克展望火星殖民:火星的居民将决定他们的
·谷歌CEO要求员工保持斗志:我们必须缩小与Cha
·微软再陷反垄断泥潭,Office捆绑销售安全、云
·烧光1000亿破产,欧洲最大动力电池为何宣告失
图文
完美世界伊迪:融合创新共建科幻产业新生态
完美世界伊迪:融合创新共建科幻产业新生态
中科国声携众多新品与会议系统整体解决方案亮相IFC
中科国声携众多新品与会议系统整体解决方案
疫情催化,“移动营销”成为企业家们的必修课
疫情催化,“移动营销”成为企业家们的必修
武汉TCL华星光电留守员工撑不住了 强制返工引抵触
武汉TCL华星光电留守员工撑不住了 强制返工
热点
·疫情催化,“移动营销”成为企业家们的必修课
·武汉TCL华星光电留守员工撑不住了 强制返工引
·圣诞之际360安全路由蜕变360智能管家 主打触
·一篇339万阅读的头条号文章是怎样炼成的!(图
·爱回收巨亏无底洞:经营成本高企股价跌跌不休
旧闻
·加强能源电力合作,聚力实现中国“双碳目标”
·京东方董事长署名文章:新元肇启:敬征程,致
·海尔智家:子公司与关联方参股企业或存业务竞
·续写“敢为”新篇章,TCL实业即将重磅亮相CES
·智平方科技亮相BEYOND Expo 2024 荣获消费科
广告
硅谷精选
完美世界伊迪:融合创新共建科幻产业新生态
完美世界伊迪:融合创新共建科幻产业新生态
中科国声携众多新品与会议系统整体解决方案亮相IFC
中科国声携众多新品与会议系统整体解决方案亮相IFC
蔡崇信还是没忍住!开口否定张勇
蔡崇信还是没忍住!开口否定张勇
完美世界控股集团入选新一批国家文化产业示范基地名单
完美世界控股集团入选新一批国家文化产业示范基地名单
以科技创新引领产业建设 深度数科“承法”探索数据可视化
以科技创新引领产业建设 深度数科“承法”探索数据可
完美世界推出“文旅体”地方经济数字化全景赋能计划
完美世界推出“文旅体”地方经济数字化全景赋能计划
关于我们·About | 联系我们·contact | 加入我们·Join | 关注我们·Invest | Site Map | Tags | RSS Map
电脑版·PC版 移动版·MD版 网站热线:(+86)010-57255600
Copyright © 2007-2020 硅谷网. 版权所有. All Rights Reserved. <京ICP备12003855号-2>