iSlot官方网站

无线新履历 ,不变如磐石 丨 高校关键场景高密无线优良实际分享会
date
预约直播
从此 ,无线可“磐石" 丨 iSlot官方网站磐石无线解决规划场景颁布会
date
预约直播
iSlot官方网站 - 引领潮水
产品
< 返回主菜单
产品中心
产品
解决规划
< 返回主菜单
解决规划中心
行业
合作同伴
返回主菜单
选择区域/说话
iSlot官方网站 - 引领潮水

您订阅的产品有更新 ,请实时查阅

查看详情
iSlot官方网站 - 引领潮水 iSlot官方网站 - 引领潮水

揭秘EQDS:AI时期数据中心的新宠

EQDS技术将险些所有的列队操作从数据中心网络移动到了主机端侧 ,对数据中心网络流量传输进行了优化 ,EQDS成为了AI时期数据中心的新宠 。

  • iSlot官方网站 - 引领潮水

    颁布功夫:2024-01-12

  • iSlot官方网站 - 引领潮水

    点击量:

  • iSlot官方网站 - 引领潮水

    点赞:

分享至

iSlot官方网站 - 引领潮水
iSlot官方网站 - 引领潮水
iSlot官方网站 - 引领潮水

我想评论

2023年以来 ,以ChatGPT为代表的天生式 AI(AIGC ,Artificial Intelligence Generated Content)技术成为整个科技行业最热点的会商话题 。业内大模型已推出千亿、万亿级参数量 ,底层GPU算力部署规模也达到万卡级别 ,对智能算力的需要不休增长 。

在AI大模型的训练中 ,数据中心已经成为了AI运算的“大脑” ,网络的机能成为了造约其规模扩大和机能提升的关键成分 ,一旦网络机能欠安 ,就会影响散布式训练的质量和速度 。而EQDS技术 ,正是这个“大脑”中不成或缺的一部门 。

 

揭秘EQDS:AI时期数据中心的新宠

 

何为EQDS?    

EQDS ,全称为Edge-queued datagram service ,是一种新型的数据报服务 ,它的出现为数据中心带来了革命性的刷新 。该技术将险些所有的列队操作从数据中心网络移动到了主机端侧 ,对数据中心网络流量传输进行了优化 ,蕴含带宽提升、时延降低、流量负载平衡等 。这就像是给数据中心装上了一个“加快器” ,让数据传输越发流畅、高效 。

EQDS DPDK能够在Host主机的用户空间运行 ,提供类似DMA内存直接接见能力 。更沉要的是 ,EQDS的实现不必要依赖于特定的硬件网卡 ,利用法式能够直接在用户态执行数据传输 ,不必要在内核态与用户态之间做高低文切换 。这意味着 ,无论是通用推算、存储还是高机能推算场景 ,EQDS都能轻松胜任 。

 

何为EQDS?

 

EQDS是若何产生的?    

既然EQDS如此优良 ,那它又是若何产生的呢?其实 ,EQDS的出现并非无意 。TCP和谈固然宽泛合用 ,但由于其自身的机造 ,导致通讯过期延增长;RDMA技术固然合用于高速网络 ,但其只对拥塞信号“过后”作出反映的机造 ,也导致了长尾时延的增长 。此表 ,TCP流量和RDMA流量共存时 ,会贪心地占用带宽 ,导致RDMA被抑造 。正是在这样的布景下 ,EQDS应运而生 。

 

EQDS是若何产生的?

 

EQDS基于Credit信令机造 ,在无需互换机参加下实现了端到端的拥塞节造 。主机接管端分发credit ,确保主机发送端流量在接管端不会过载 ,解决了动态时延不确定性问题 。

 

Credit信令机造

 

利用互换机逐包ECMP的方式 ,实现网络侧的负载平衡 ,同时在无需专用NIC支持的情况下实现接管端的数据包沉组 。

 

逐包ECMP

 

选取EQIF隧路技术 ,成立EQDS virtual interface虚构队列和隧路细粒度的调度战术 ,实现TCP和RDMA流量的平正共享 。

 

选取EQIF隧路技术

 

经过实考试证 ,EQDS技术在存储网络NVMe-OF场景下阐发优异 。

在分歧网卡、分歧场景下 ,NVMe over EQDS的机能阐发险些一样 ,且显著优于NVMe over TCP ,稍逊色于NVMe over RDMA 。当然 ,由于EQDS DPDK运行在用户态 ,测试主机的CPU较低 ,无法齐全阐扬EQDS的机能 。不外 ,只有选取AMD EPYC及以上的CPU ,EQDS的机能将会得到充分阐扬 。

 

iSlot官方网站 - 引领潮水

 

iSlot官方网站 - 引领潮水

 

iSlot官方网站 - 引领潮水

 

总的来说 ,EQDS技术为数据中心带来了诸多价值 。

它兼容尺度网卡、协商阶段确定对EQDS的支持、兼容与传统网卡的TCP/IP通讯、业务无感部署、基于EQIF糊弄利用层实现利用层面零批改、兼容RDMA、TCP/IP业务、数据面去RDMA+QP基于EQDS转发、端侧基于标卡实现DMA进行内存拷贝、端到端不变低延时等 。

EQDS能够通明地加快传统的TCP和RDMA和谈栈 ,并支持传输和谈的演进 ,同时受益于未来的互换机加强职能而无需批改更高层的和谈栈 。更沉要的是 ,基于EQDS的Credit机造实现发端流控、基于Spray方式充分利用所有链路、基于EQIF隧路战术实现多业务的平正调度等个性 ,使得EQDS成为了AI时期数据中心的新宠 。

iSlot官方网站网络推出AIGC网络规划 ,席卷高机能以太网络解决规划以及AI-FlexiForce网络解决规划 ,来应对全球互联网流量不休增长和数据利用需要多样化的发展趋向 。iSlot官方网站网络致力于推动网络技术的进取和发展 ,持续进行技术研发和产品盛开创新 ,积极索求国内表先进技术 ,为全球的数据中心提供越发高效、靠得住、智能的网络解决规划 ,助力互联网、运营商等各行各业的急剧发展 。

iSlot官方网站 - 引领潮水 iSlot官方网站 - 引领潮水

点赞

更多技术博文

任何必要 ,请联系iSlot官方网站

iSlot官方网站 - 引领潮水

返回顶部

收起
iSlot官方网站 - 引领潮水 文档AI副手
iSlot官方网站 - 引领潮水 文档评价
ev-close ev-close-m
该资料是否解决了您的问题?
ev-close ev-close-m
您对当前页面的中意度若何?
不咋滴
极度好
dark-star dark-star dark-star dark-star dark-star
ev-close ev-close-m
您中意的原因是(多 。?
您对文档是否还有其它的问题或建议?
为尽快解决问题 ,请您留下联系方式以便回复
邮箱
手机号
ev-bg
感激您的反 。
iSlot官方网站 - 引领潮水
iSlot官方网站 - 引领潮水
iSlot官方网站 - 引领潮水
请选择服务项目
关关征询页
售前征询 售前征询
售前征询
售后服务 售后服务
售后服务
定见反馈 定见反馈
定见反馈
更多联系方式
【网站地图】