人工智能 Field Day,2024 年


1. 为什么存储对人工智能至关重要

 

在该演讲中,Solidigm 的 Ace Stryker 和 Alan Bumgarner 讨论了存储在 AI 工作负载中的重要性。他们指出,随着 AI 模型和数据集的增长,高效和高性能的存储变得越来越重要。  

在该讨论中,他们谈及以下几个重要问题:

  • 不断增长的 AI 市场以及从集中式到分布式计算和存储的转变,包括边缘计算和存储
  • AI 数据硬盘的主导地位以及向闪存存储过渡的机会
  • 存储在 AI 工作流中的作用,包括数据摄取、准备、训练和推理
  • 考虑到功耗、空间和冷却等因素,固态硬盘的总拥有成本 (TCO) 优于普通硬盘
  • 介绍 Solidigm 产品组合,特别是针对各种 AI 任务的不同固态硬盘,以及根据工作负载需求选择正确存储的重要性
  • 中国金山软件公司的客户案例研究表明,采用全闪存阵列大大缩短了数据处理时间
  • AI 的未来潜力和固态硬盘在实现高效 AI 计算方面的重要性

会议上还听取了来自 Field Day 代表的问题,这些问题涉及 Solidigm 存储产品的技术方面,例如云存储加速层 (CSAL) 的作用,他们还讨论了通过与客户沟通,了解其特定 AI 工作负载需求,从而获得最佳存储解决方案的重要性。

2. 解锁您的数据:优化存储以加速您的 AI 数据流水线

Intro to how Solidigm is partnering with Supermicro to advance the role of AI in meeting customer needs

 

Supermicro 存储开发总监 Wendell Wenjen 和 Supermicro 产品存储总监 Paul McLeod 讨论了 AI 和机器学习数据存储面临的挑战和解决方案,重点介绍了 Solidigm 固态硬盘如何帮助应对这些挑战并给出解决方案。 

Supermicro 是一家服务器、存储(如 Solidigm D5-P5336)、GPU 加速服务器和网络解决方案提供商,其中 AI 相关应用程序在其收入中占很大部分。

在本视频中,Wendell 和 Paul 重点介绍了 AI 运营和机器学习运营中的挑战,特别是在数据管理方面。这包括收集数据、转换数据,然后将其输入 GPU 集群,进行训练和推理。他们还强调了采用大容量存储来处理 AI 数据流水线各个环节的必要性。

Supermicro 旗下采用 Solidigm 固态硬盘的产品非常丰富,旨在满足 AI 数据流水线每个阶段的要求,从数据摄取阶段(需要大型数据湖)到训练阶段(需要保留大量数据用于模型开发和验证)。

他们还讨论了高效数据存储解决方案的重要性,并介绍了“IO Blender 效应”的概念,即多个数据流水线同时运行,创建不同 IO 配置文件的混合。

Supermicro 深入存储解决方案,突出他们与软件定义存储公司 WEKA 的合作关系,及其架构是如何针对 AI 工作负载进行优化的。他们介绍了 NVMe 闪存的重要性、其超越处理器的速度,以及扩展这种存储解决方案的挑战。他们还讨论了 Supermicro 丰富的存储服务器产品组合,从多节点系统到专为满足不同客户需求而设计的 Petascale 架构。

Supermicro 的 AI 存储方法包括采用闪存存储(如 Solidigm D5-P5336)的两层解决方案,可实现高性能以及基于硬盘驱动器的存储,以较低的成本实现高容量。他们谈到 GPU 直接存储在降低延迟和软件定义存储解决方案灵活性方面的作用。

最后,他们简要介绍了 Supermicro 针对不同 AI 和机器学习工作负载的产品,从边缘设备到大型数据中心存储解决方案。观看视频,了解有关 AI 解决方案的宝贵洞见,以及 Supermicro 如何与 Solidigm 和 WEKA 等公司合作,扩大 AI 在市场中的作用。

阅读转录文稿以解锁您的数据:优化存储以加速您的 AI 数据流水线。

 

关于演讲者

Ace Stryker 是 Solidigm 的市场开发总监,他主要负责该公司数据中心存储解决方案产品组合中的新应用。他是 Solidigm 的第一批员工之一,之前在英特尔存储和内存事业部担任解决方案架构师和技术营销工程师。

Alan Bumgarner 担任 Solidigm 数据中心产品集团存储产品战略规划总监。20 余年前,他的职业生涯始于位于加利福尼亚州福尔索姆市的英特尔公司。自那时起,他负责过的业务包括一线技术支持、多个英特尔数据中心的远程服务器管理、产品/渠道/技术营销、现场销售以及战略产品规划和管理。这些角色让他从加州来到新泽西州、德克萨斯州和俄勒冈州,最后又回到加利福尼亚州的福尔索姆。Alan 在空闲时间喜欢烹饪、滑雪、骑行、徒步以及在车上办公。

Wendell Wenjen 是 Supermicro 的存储开发总监,拥有 Harvey Mudd College 的电气工程学士和硕士学位,以及 UCLA 的市场营销 MBA 学位。

Supermicro 产品存储总监 Paul McLeod。他在企业存储行业拥有超过 15 年的工作资历。Paul 的专业领域包括基于主机的 RAID、独立 RAID 子系统、高可用性解决方案、NAS 应用、存储服务器、光纤通道网络、Xsan/StorNext 等存储区域网络 (SAN) 共享产品,以及传统企业备份应用程序。