中国电信邵广禄:面向AI大模型的智算集群及网络的实践和展望
创始人
2024-08-08 11:41:16
0

近日,高性能计算与人工智能协同创新国际论坛(英文简称:HACI)在深圳举办,中国电信科技委主任邵广禄应邀出席会议,分享了中国电信在智算集群和网络方面的实践与思考。

“算力是人工智能发展的重要驱动力,影响着大模型的迭代和创新的速度,也影响着经济发展的速度。”邵广禄介绍到,在智算方面,中国电信重点推进两项工作,一是建成大规模智算集群,目前上海、北京两个万卡集群已经投产。面向AI大模型训练的智算集群,需要从IDC向AIDC升级,重点围绕模型算力利用率MFU、线性加速比、稳定性、时延、丢包率、GPU利用率等六大关键指标,持续开展智算集群的设计、建设、运营、优化等工作,提高大模型训练的效率效能。二是用智算网络和算力调度平台实现全国算力资源的互联互通,按需调用,自研“息壤”算力调度平台,已实现全国21EFlops的算力调度。中国电信积极探索“云、网、智”的融合技术,致力于打造弹性超宽、高速无损、“云、边、端”全域调度的智能算力网络,满足不同企业、不同行业对大模型训练和推理的差异化需求。

邵广禄表示,中国电信已经从电信运营商升级到电信+云计算的运营商。在AI时代,中国电信还将升级为智算服务商和大模型服务商,提供算力服务和模型服务。

邵广禄指出,算力的网络化成为发展方向,并倡议:一是推动算力生态的开源开放,为异构算力互通提供基础的开发环境,以统一标准对接各类异构硬件,方便大模型在异构算力间自由切换。二是推进共建共享。生成式人工智能是重大的科技创新和产业变革,需要早布局、快推进,需要学术界和产业界以战略眼光强化合作,集中力量突破底层技术,推动产业创新和产业生态建设。

相关内容

热门资讯

vivo钱包遭用户投诉贷款利率... 文:WEMONEY研究室 随着移动互联网时代到来,智能手机已经成为了生活的必需品。目前,很多手机如...
gta5加载慢怎么办 gta5... 许多玩家在GTA5游戏过程中都会遇到加载速度慢的问题,那么gta5加载慢怎么办?今天加游加速器就来告...
原创 苹... 有不少朋友疑惑苹果iPhone 16 Pro和16 Pro Max有什么区别?该选择哪一款更好?各自...
iPhone 16系列手机网速... 在智能手机的世界里,网速往往是衡量一部手机性能的重要指标之一。 尤其是随着5G时代的到来,用户对于高...
第五轮学科评估对比:西安交大突... 在之前的文章中,我们已经提及西安交通大学第五轮学科评估的表现可圈可点,新晋的3个A+学科:机械工程、...
舒福德智能床S300 Pro面... 8月13日,以“一键入眠 世界领先”为主题的舒福德智能床新品发布会在浙江嘉兴举行。中国睡谷的首次对外...
小米怎么去除抖音水印保存?分享... 随着抖音的普及,越来越多的人喜欢在抖音上分享和观看短视频。当我们想要保存一些喜欢的视频时,往往会被视...
小米14T Pro海外定档9月... 【ITBEAR】9月23日消息,小米今日在X平台上宣布,旗下新款手机小米14T Pro定于9月26日...
邓宏魁、张涛、李亚栋、孙斌勇获... 出品 | 搜狐科技 作者 | 周锦童 8月16日上午10时,2024未来科学大奖新闻发布会在北京、香...
如何规划小红书矩阵号内容并一键... 小红书矩阵号内容规划与抖音多账户同步攻略 在当前社交媒体时代,内容营销已成为品牌推广和个人IP打造的...