
Addressing the AI power challenge in the data center
With GPU servers drawing more and more power, the challenge is to provide this increased power capacity with minimal loss, noise or downtime. Learn more
HIRO-MicroDataCenters 正在兑现边缘计算的承诺。它们不仅影响着医疗、教育和智慧城市应用,还提供了一种可行的传统云计算替代方案。HIRO 采用了 Vicor 的 48VDC 配电和高密度、高效率电源模块。
边缘计算指的是在互联网边缘生产和使用数据。在这里,工程师们忙于连接不同的设备甚至整个网络环境,并赋予它们传感、数据和人工智能(AI)处理能力。数据在整个网络中流动,边缘计算正帮助从这些数据中盈利,越来越多地利用基于 AI 的服务,带来新的数据经济优势。
基于 AI 的边缘数据中心服务最好部署在处理和/或使用大多数数据的地方。因此,预计到 2023 年,边缘计算的增长速度将是云计算的两倍,预计复合年增长率(CAGR)高达 37.9%。下面给出了一些示例,显示了本地边缘设备/边缘数据中心处理与远程云处理之间预计的差异:
边缘数据中心位于不同的地方,而每个地方对延迟、安全性和服务类型有着不同的要求(见图 1)。我们正在开发创新的边缘微型数据中心(EMDC),可以安装在本地边缘和网络边缘,并针对前面提到的日益增长的边缘应用进行了优化,可以补充更大规模的异地边缘数据中心。我们将这种基础设施叫作“强大边缘即服务(PEaaS)”,它基于四大技术支柱:
图 1:边缘数据中心的布局(HIRO 2023)。
现在,让我们对比一下超大规模和远程云服务提供商与创新的边缘云服务提供商,如 HIRO-MicroDataCenters。远程云服务提供商为客户提供了低门槛、低成本的实验机会,帮助他们进行数字化转型并在虚拟化 IT 设备上部署微服务架构。
然而,一旦客户开始扩展其应用程序和数据量,并实施日益复杂的应用程序,或定义可用性、延迟和安全性等标准,成本往往会迅速增加。此时,客户已经在了解和优化该云服务提供商的专有服务结构方面进行了大量投资,迁移到另一家云服务提供商显然缺乏吸引力。最近,为了抢占边缘计算市场并更有效地锁定客户,大型云服务提供商开始提供本地解决方案。
硬件创新和无处不在的开源软件社区使我们能够提供 PEaaS,为需要快速处理大量数据的企业带来了一种经济高效的选项。PEaaS 允许客户采用“边缘优先策略”,即在本地经济高效地处理大部分数据和 AI,同时在需要时在非本地云服务提供商之间自由地迁移应用程序和数据。
与超大规模云服务一样,PEaaS 的财务门槛也较低。不同之处在于,当客户开始扩展其应用程序和数据量时,成本是透明的,并且可以根据入门级设置轻松进行推断。这意味着早期的云服务用户在扩展云工作负载时可以更好地重新评估其云战略;而在过去,他们只能承受快速上升的成本和供应商锁定的痛苦。鉴于这些优势,许多人已经得出结论,他们希望获得一种边缘优先的替代方案,帮助他们更有效而准确地预测和控制成本,每年可节省数百万美元。
最具挑战性的 EMDC 应用将利用大数据和 AI,为直接影响人类生活的决策支持系统提供数据。HIRO 目前正在实施两个医疗示范项目。第一个项目利用基因组和健康数据分析工具,为心血管健康决策支持系统提供 AI 模型,包括一个可以预测患者何时可能中风的 AI 模型。第二个项目利用 MRI 数据和实时超声波数据,在外科医生进行脑外科手术时为其创建增强的成像。这两个项目都有望帮助更快速更准确地做出专业决策,以挽救生命,减轻痛苦。
接下来让我们看看数据中心的能效。数据中心行业承诺到 2030 年实现碳中和。这很有必要,因为 2022 年全球数据中心的能耗高达 460 TWh,占全球总电力使用量的 2%。到 2026 年,这一数字预计将增至 650 TWh 到 1,050 TWh 之间——分别相当于瑞典和德国的全国总电力消耗。
图 2:数据中心能源消耗。
数据中心行业大量投资,通过以下方式提高其电能利用效率(PUE)(见图 2):1.提高 IT 设备的利用率和效率;2.采用更高效的冷却技术;3.改进电力调节。虽然这将超大规模数据中心的 PUE 降低到了 1.2,但现实情况是,在过去四到八年中,普通数据中心的效率提升趋于平稳,PUE 为 1.58。更糟糕的是,目前小型边缘数据中心的能效极低,PUE 评级为 2.0 或更高。在许多情况下,由于小型本地数据中心的能源消耗量相对于企业的整体能源消耗量来说相对较小,因此企业无意提高边缘数据中心的 PUE 评级。
边缘计算的复合年增长率(CAGR)预计将是云计算的两倍,因此 HIRO 大量投资,开发了 EMDC,以期缩小云和边缘数据中心之间的电力差距。下面举几个我们创新的例子。我们使用小型化行业标准 PCB 板和最先进的能量转换模块,以最大限度地减少功率损耗;利用 AI 算法来优化我们的服务和硬件利用率;冷却技术的 PUE 评级为 1.03 ,甚至远远超过了超大规模数据中心。
为了实现这一具有里程碑意义的目标,HIRO 与领先的研究机构和技术提供商合作,克服了当前基于 PEaaS 的硬件和软件技术的种种限制。
例如,HIRO EMDC 包含的硬件使用 48VDC 而不是 12VDC 配电,可在紧凑的空间内实现高效的功率转换。利用 Vicor 公司的高密度、高效率电源模块,更高的电压可以减少整个供电网络中的 I2R 损耗,实现固态、散热能力出色、紧凑且节能的 EMDC 设计。凭借灵活的冷却选项,Vicor 电源模块还提供出色的体积功率密度,非常适合可再生能源。
预计边缘计算市场将超过云计算市场,因为它提供了更快的数据中继(中间层),使设备和系统能够实现关键任务实时响应。边缘计算利用 AI 技术而不显著增加功耗,在本地利用 AI 做出智能决策,而不是依赖于云。
本文最初由 Power systems Design 发表。
Addressing the AI power challenge in the data center
With GPU servers drawing more and more power, the challenge is to provide this increased power capacity with minimal loss, noise or downtime. Learn more
创新供电网络
关于 Vicor 如何创新供电网络领域的白皮书。提升终端系统性能所需的电源技术
数据中心电力分解
高密度电源模块将在实现人工智能(AI)超级计算机数据中心架构的高压直流配电中发挥关键作用
Vicor 介绍了使用模块化电源实现高效、高密度和可扩展的边缘计算 PDN 的最佳实践
高密度模块电源为边缘计算节省空间并提升成本效益




