近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。
栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。
“很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)
“50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”
据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。
栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。
bg游戏官方网站中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”
网友评论更多
93华亭u
国际劳工组织:全球青年劳动力市场前景有所改善⏱⏲
2024-11-14 17:57:37 推荐
187****4742 回复 184****8873:坚持自信自立 展现大国担当⏳来自西宁
187****7546 回复 184****9084:【中国网评】起底美国国家民主基金会:美国祸乱世界的工具⏸来自海东
157****3362:按最下面的历史版本⏹⏺来自格尔木
50德令哈191
新华时评丨“全球南方”扩大发展合作是历史必然Ⓜ⤴
2024-11-13 02:28:24 推荐
永久VIP:印度发生踩踏事故致至少7人死亡⤵来自玉树
158****4074:经济学家:预计2024年德国经济几乎不会增长⬅来自茫崖
158****4717 回复 666⬆:为预防“巨大地震” 日本近期已开设139处避难所⬇来自拉萨
12日喀则tp
扎波罗热核电站发生火灾 国际原子能机构说核安全未受影响⬛⬜
2024-11-14 21:32:45 不推荐
昌都wr:马克龙接受总台记者专访 热烈祝贺中国运动员在巴黎奥运会取得出色成绩⭐
186****4193 回复 159****7286:日本大阪府部分水体严重污染 约三成受检者血检异常⭕