
近日万博manbext网站登录,微众银行推出金融行业AI智算场景首款自研交换机,并首度涌现高性能AI智算收罗处治决策。该决策杀青了AI智算场景下从硬件层的交换机、到软件层的收罗操作系统、再到智能收罗管控的全链路自主可控。 当今,该款交换机已在微众银行坐褥运营环境矜重参加使用,最高可安闲400G GPU/NPU算力卡的组网需求,建网资本节俭约70%,为微众银行迈向AI原生奠定紧迫基础。 大模子时期,基于海量数据的AI分手式历练普通受限于“收罗拥塞”。极端是在基于以太网开展的AI分手式历练中,由于

近日万博manbext网站登录,微众银行推出金融行业AI智算场景首款自研交换机,并首度涌现高性能AI智算收罗处治决策。该决策杀青了AI智算场景下从硬件层的交换机、到软件层的收罗操作系统、再到智能收罗管控的全链路自主可控。
当今,该款交换机已在微众银行坐褥运营环境矜重参加使用,最高可安闲400G GPU/NPU算力卡的组网需求,建网资本节俭约70%,为微众银行迈向AI原生奠定紧迫基础。

大模子时期,基于海量数据的AI分手式历练普通受限于“收罗拥塞”。极端是在基于以太网开展的AI分手式历练中,由于流量的低熵特色,传统多链路等价负载摊派容易形成收罗拥塞,无法安闲金融业对高带宽、低时延、零丢包的严苛条目。要是依赖外部商用单点优化处治决策,不仅资本娴雅,且无法高效、系统、全面地优化升级。
靠近这一珍重,微众银行匠心独具,深度拆解本人业务发展需求,面向AI智算场景,打造软硬件全栈自主可控的高性能AI智算收罗处治决策,杀青软硬件解耦与纯真组合设立。
硬件方面,微众银行基于12.8T国产交换芯片和国产CPU打造专属交换机,适配国表里主流GPU和NPU臆想资源。交换机支握高达1.6T的RDMA(Remote Direct Memory Access,即“远程告成内存探听”)接入身手,最高随机撑握400G 的GPU/NPU算力卡在无损以太网环境下的组网需求,为金融行业在AI算力卡选型上拓展了更多可能性。
软件方面,微众银行基于开源的SONiC(Software for Open Networking in The Cloud,即“云中洞开收罗软件”)自研收罗操作系统,改变性研发相宜不同组网架构、可自界说的链路级负载摊派组件,使得大领域部署无损以太网更丝滑。如若链路发生故障,该组件随机在毫秒之间将流量切换至备份链路上,极大缩小故障影响领域与时长。
值得一提的是,针对日常AI历练流程,如何快速发现收罗拥塞并稳妥处理极为缺欠。为此,微众银行在软件层进一步自研智能收罗管控系统,为AI智算收罗提供智能化疗养的“全知视角”,杀青全网诞生拥塞见识秒级鸠集监控,精确定位拥塞业务流量,并自动疗养至最优旅途。
此前,微众银行在愚弄开源SONiC自研收罗操作系统的同期,将收罗契约性能优化决策开源反哺SONiC社区,成为上榜SONiC官方孝敬组织名单的独一金融机构,助力中国金融科技耕种国外影响力。下一步,微众银即将握续迭代AI智算收罗处治决策,记忆索求在智能收罗管控方面的练习告戒,盘算昔时形成圭臬化大家组件面向全球开源分享,助力AI智算收罗高质料发展。