首先播放一段介绍视频,探讨大规模互联互通的需求。
现在登台的是:Marvell首席执行官马特·墨菲。
墨菲正在讲述他参加Computex的经历,以及这期间台湾地区的发展变化。
什么决定了人工智能基础设施的性能?
CPU?GPU?内存?这些都很重要。
下一项重大创新将聚焦于互联技术,尤其是从电连接向光连接的转型。
这是Marvell多年来一直为之做准备的变革。
墨菲希望顺应行业的发展趋势,特别是在高利润率的数据中心领域。
十年前,美满电子不到10%的营收来自数据中心。
于是,墨菲将Marvell的未来押在了数据中心和数据基础设施上。
为了实现这一目标,他们不得不投入巨资开发所需的产品。既通过内部研发,也通过大举收购(例如收购Aquantia和Cavium)。此外,他们还剥离了其他业务,例如Wi-Fi业务。
最近,他们收购了专注于光子技术的Celestial AI以及专注于可扩展交换技术的XConn。
迄今为止,他们在数据基础设施平台上的总投资约为360亿美元。
此外,他们在工艺节点应用方面也从“快速追随者”转变为采用最前沿工艺节点。Marvell完全跳过了7纳米工艺,直接从14纳米/16纳米工艺跃升至5纳米工艺。
向5纳米工艺的过渡非常顺利。
如今,他们绝大多数的收入都来自连接业务。
“如今,我们是连接领域的无可争议的领导者。”
自2016年以来,他们已使公司收入增长了四倍多。
而且,过去几年的增长速度还在加快。
数据中心业务目前占Marvell总营收的75%,且仍在持续增长。
但即便经历了所有这些变化,他们仍处于基础设施建设的初期阶段。
现在,墨菲正在快速回顾AI数据中心基础设施中历来的瓶颈问题。首先是计算能力,正是这一领域推动NVIDIA的市值达到了5万亿美元。随后是内存。下一个瓶颈将是互联互通。
而墨菲现在正列举一些言论以及曾提出类似主张的客户。
这些公司现在正转向Marvell寻求连接解决方案。
Marvell 在业界独树一帜,因为其大部分收入来自连接技术而非计算领域。
“我们是业界中的‘瑞士’。我们与各方合作。”
Murphy 目前正在回顾他们与 NVIDIA 的近期合作,以及 NVIDIA 对 Marvell 的 20 亿美元投资。
而黄仁勋今天来到这里,正是为了探讨这一合作。下面请听黄仁勋的分享。
“女士们、先生们,这就是下一家万亿美金公司。”
(这听起来倒不像是一场科技主题演讲,倒更像是一场投资推介会)
黄仁勋正在谈论代理因其解耦的特性,如何推动着连接需求。
黄仁勋表示,Vera Rubin 将负责运行代理程序。
与此同时,NVLink Fusion 使云服务提供商能够将定制和半定制芯片与英伟达的硬件进行配对,从而构建异构数据中心。
NVLink Fusion 的核心在于融合英伟达和 Marvell 的平台。
现在正是 Marvell 和英伟达携手合作,为代理式人工智能扩展平台规模的时机。(不过,如果你只想买英伟达的股票,黄仁勋也表示理解)
两家公司的技术相结合,使客户能够定制自己的数据中心。
与此同时,两家公司都处于从铜缆向光纤过渡的前沿。尽可能多地使用铜缆进行扩展。然后进一步通过光纤进行扩展,并利用光纤实现横向扩展。必须使用光纤的地方就用光纤,能用铜缆的地方就用铜缆。黄仁勋希望尽可能长时间地维持这种技术交汇。
最终结果是,英伟达将大量使用铜缆和光纤网络。
AI/tokens的盈利能力将推动这一基础设施的建设。
不同的距离需要不同的解决方案。它们代表着不同的工程挑战。
最长的距离在于跨数据中心的扩展,即连接各个数据中心。
数百至数千公里。这需要相干调制和相干数字信号处理器(由Marvell生产)。
Marvell COLORZ 1600。
它采用了Marvell的第四代硅光子学技术。
“对带宽的需求从未如此之高。”
接下来,在数据中心内部,您还可以进行内部扩展。链路长度可达500米。
这是采用PAM4调制技术的光链路,其功耗优化效果更佳。
Marvell生产PAM4数字信号处理器(DSP)以及以太网交换机,这些产品被应用于该层级的连接中。
今天,Marvell宣布推出新款 T100 交换机。
现在,让我们来谈谈网络扩展。传输距离从 2.5 米到 7 米。
这是铜缆的领域,而非光纤。使用传输距离尽可能长的铜缆SerDes
现在谈谈芯片间互连。
总而言之,数据中心的AI互联需要一套广泛的技术组合。
Marvell 的独特之处在于,他们拥有涵盖各种距离连接需求的完整技术栈。而大多数公司通常只专注于其中一两个领域。
在铜缆和光纤之间存在着一道“铜缆壁垒”,即铜缆能够实际应用的最大距离。一旦超过这个距离,就必须转用光纤,而光纤技术更为复杂且成本更高。
不过,这道壁垒终将消失。机架级互联将迫使我们转向光纤技术。随着带宽需求的提高,铜缆在必要距离内将无法满足需求。
每通道200G将成为铜缆能够胜任的最后一代技术。
每当墙壁向右移动一次,连接数就会增加一个数量级。
墨菲将此与10Gb曾是尖端技术、光通信技术主要应用于电信领域的时期进行了对比。
随着光通信技术向机架端迁移,我们即将迎来新一轮的创新浪潮。
在此过程中,集成封装光器件将成为关键推动力。
当今光器件所采用的光学技术已无法满足需求。无论是功率还是空间,都难以胜任。这一转型需要CPO技术。光器件必须集成在封装内。
这一切都需要融合前沿技术。不仅包括硅光子学,还包括尖端的CMOS、光信号处理器(DSP)等。
“这并非什么未来主义的设想。它正在发生。”
现在是展示的时候了。
这就是100T Teralink交换机。
为了对比,这里展示一款基于CPO的交换机。
它的体积要小得多。除了中央的交换芯片外,与传统光交换机相比,用于光连接的空间微乎其微。
数据中心光通信领域不会出现“一刀切”的解决方案。
这需要多种技术的支持。而凭借其深厚的技术积淀和丰富的产品组合,Marvell 完全有能力提供这些技术。
此外,墨菲强调,他们不仅在展示这项技术,而且目前已经开始将其投入实际应用。
为此,他们需要在需求出现之前就对生态系统进行投资。
现在,墨菲正在大力推介Marvell的一些合作伙伴和供应商,他称这些合作伙伴和供应商对帮助公司取得今天的成就至关重要。
现在,ASE首席执行官Tian Wu将与墨菲一同登台。
ASE很早就押注了Marvell。正因如此,Marvell取得了巨大成功。
对ASE而言,这是一个循序渐进的过程。
Marvell的商业模式与ASE的商业模式逐渐趋于一致。
ASE需要押注一家在未来具有良好发展前景的公司。
Marvell向ASE做出了承诺,而ASE则相应地投资建设用于生产Marvell产品的基础设施。
ASE与台湾地区的经验对于推动技术进步将极具价值。这也使得这一生态系统极难被复制。
以下是Tian Wu的观点。
“那个不可避免的未来会是什么样子?”届时,许多铜缆连接将不复存在,几乎一切都将转向光纤。
当今的服务器设计都受限于距离的制约。但如果距离不再成为问题,情况又将如何改变?
借助光通信技术,扩展范围的规模可以发生变化。从144个XPU扩展到数千个。距离不再是限制因素。通过光通信连接的工作负载规模可以扩大一个数量级。
即使在服务器内部,光纤技术同样可以应用。通过完全解耦的服务器架构,CPU、内存、XPU等组件均可独立部署在不同的系统中。这意味着不再需要按照预先定义的固定比例来构建整套机架和系统。
计算资源可以池化。内存资源也可以池化。
架构师可以设计出不受当今所有连接限制和局限的系统。
总而言之:Marvell 认为光通信将成为计算基础设施的下一个时代。
Marvell 的主题演讲到此结束。
投稿与新闻线索:邮箱:tuijiancn88#163.com(请将#改成@)
特别声明:光纤光缆行业企业推荐网转载其他网站内容,出于传递更多信息而非盈利之目的,同时并不代表赞成其观点或证实其描述,内容仅供参考。版权归原作者所有,若有侵权,请联系我们删除。