Компанія тестує власну серверну стійку з 32 графічним процесором і рідинне охолодження
Сервери не від Nvidia під керуванням Blackwell запущені та працюють.Процесори Blackwell від Nvidia є одними з найбільш затребуваних апаратних засобів центрів обробки даних сьогодні, оскільки компанії намагаються навчати великі мовні моделі (LLM) із дедалі більшою кількістю параметрів. Ходили чутки, що Microsoft була першою компанією, яка поклала руки на сервери Blackwell, але це була неофіційна інформація. Сьогодні компанія повідомила, що вона не лише отримала запчастини Nvidia Blackwell, але й запрацювала.
«Microsoft Azure є першим хмарним [постачальником послуг], який використовує систему Nvidia Blackwell із серверами штучного інтелекту на базі GB200», — йдеться в публікації Microsoft Azure на X. «Ми оптимізуємо кожен рівень, щоб забезпечити роботу найдосконаліших у світі моделей штучного інтелекту, використовуючи мережу Infiniband та інноваційне рідинне охолодження із замкнутим циклом. Дізнайтеся більше на MS Ignite».
Отже, Microsoft Azure має принаймні одну серверну стійку на базі GB200 із невідомою кількістю процесорів B200 — імовірно 32. У ній використовується високоскладна система рідинного охолодження. Машина не є NVL72 GB200 від Nvidia, якій Microsoft, як повідомляється, віддає перевагу менш щільним варіантам. Цю конкретну стійку, ймовірно, використовуватимуть для тестування (як графічних процесорів Nvidia Blackwell, так і рідинної системи охолодження), і в найближчі місяці Microsoft розгорне сервери на базі Blackwell для комерційних робочих навантажень.
Очікується, що машина NVL72 GB200 із графічним процесором 72 B200 споживатиме та розсіюватиме близько 120 кВт енергії, що робить рідинне охолодження обов’язковим для таких машин. Як наслідок, Microsoft доцільно протестувати власне рішення рідинного охолодження перед розгортанням корпусів на базі Blackwell.
Графічний процесор Nvidia B200 забезпечує в 2,5 рази вищу продуктивність порівняно з процесором H100, коли йдеться про продуктивність FP8/INT8 (4500 TFLOPS/TOPS проти 1980 TOPS). Завдяки формату даних FP4 Nvidia B200 пропонує колосальні 9 PFLOPS продуктивності, відкриваючи двері для навчання надзвичайно складних LLM, які можуть запровадити нові моделі використання ШІ загалом.
«Наше давнє партнерство з NVIDIA та глибокі інновації продовжують лідирувати в галузі, забезпечуючи найскладніші робочі навантаження штучного інтелекту», — сказав Сатья Наделла, виконавчий директор Microsoft, в іншій публікації X.
Очікується, що на своїй щорічній конференції Ignite Microsoft поділиться більш детальною інформацією про свої машини на базі Blackwell і проекти ШІ загалом. Конференція MS Ignite відбудеться в Чикаго з 18 по 22 листопада 2024 року. Очікується, що широкомасштабне розгортання інсталяцій серверів Blackwell почнеться наприкінці цього року або на початку 2025 року.