IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍
发布时间:2024-12-26 21:11:07 作者:玩站小弟 我要评论
12月12日消息,据报道,IBM在光学技术方面获得新进展,有望提升数据中心训练和运行生成式AI模型的效率。IBM推出了新一代光电共封装CPO)工艺。该技术利用光学连接,实现了数据中心内部的光速数据传输
。
12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共
具体而言,工艺这一新技术带来了三大方面的模型显著优势:
首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。
其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。
最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
相关文章
- 12月25日消息,据媒体报道,全球光刻机巨头阿斯麦ASML富凯Christophe Fouquet)近期接受荷兰媒体访问时,谈到半导体产业的发展。至于美国是否低估半导体技术的疑问,富凯指出,不仅美国,2024-12-26
[流言板]河村勇辉还差2分,生涯总得分就将超越中国篮球名宿孙悦
[流言板]河村勇辉还差2分,生涯总得分就将超越中国篮球名宿孙悦由篮球资讯发表在篮球资讯 50211月09日讯 今日NBA常规赛,灰熊以128-104战胜奇才。本场比赛,日本球员河村勇辉全场得到3分,生2024-12-26- 快科技10月14日消息,根据乘联会的数据,9月份新能源乘用车市场的零售销量达到了112.3万辆,比去年同期增长了50.9%,环比也实现了9.6%的增长。在9月的国内市场中,新能源车的零售渗透率已经达到2024-12-26
- 有一说一,前几天就已经立冬了,眼瞅着又快到年底了现在。搁往年的情况,到了年底这才到各大厂商纷纷发力的时候,年关将近嘛,总得搞出点啥新东西,给大家涨涨眼界。虽然说最近关于 AI 的新消息不是很多,但是人2024-12-26
段冉:全明星库里&约内VS克莱&克拉克是亮点 正赛改制拭目以待
每体:巴萨将召开会员大会,需审批2425财年预算8.93亿欧
10月8日讯 《每日体育报》报道,巴萨将于10月19日召开会员代表大会,与会成员需要批准一项为24-25赛季制定的8.93亿欧元预算。该预算比23-24年度的8.94亿预算变化了100万欧左右。年度普2024-12-26
最新评论