Компании Kioxia и NVIDIA объявили о революционной разработке твердотельного накопителя (SSD), способного достичь невероятной производительности в 100 миллионов операций ввода-вывода в секунду (IOPS). Это в 30–35 раз выше, чем у самых высокопроизводительных SSD, доступных сегодня.
Если проект будет успешным, это станет революцией для инфраструктуры центров обработки данных, особенно для систем, используемых в обучении и развертывании больших моделей искусственного интеллекта.
Одной из самых серьезных проблем в обучении масштабных AI-моделей является так называемое «бутылочное горлышко» – медленная передача данных между хранилищем и вычислительными ресурсами. Сегодняшние SSD, работающие на пике 3 миллиона IOPS, просто не справляются с колоссальным объемом мелких операций чтения.
Новый SSD от Kioxia и NVIDIA призван решить эту проблему. В рамках сотрудничества Kioxia разрабатывает накопитель, который будет напрямую подключаться к GPU NVIDIA, минуя центральный процессор сервера. Такое прямое соединение (peer-to-peer) значительно ускоряет передачу данных и снижает задержки, что критически важно для эффективной работы с большими языковыми моделями.
Для достижения столь амбициозной цели Kioxia планирует использовать свою фирменную технологию памяти XL-Flash. Эта память основана на SLC NAND, специально разработанной для высокой производительности, низкой задержки и повышенной износостойкости. В отличие от потребительских 3D NAND, где обычно используется 3-6 плоскостей, XL-Flash имеет 16 плоскостей внутри кристалла, что позволяет значительно повысить параллелизм операций.
NVIDIA, в свою очередь, ставит еще более смелую цель: конфигурация из двух SSD, работающих совместно, должна достичь 200 миллионов IOPS. Для этого будет использоваться новый стандарт PCI Express 7.0, который обеспечивает сверхвысокоскоростное прямое соединение между GPU и другими компонентами. Ожидается, что коммерческие образцы нового SSD будут выпущены к 2027 году.
Читайте по теме. SSD существенно превосходят HDD по надежности – исследование.