Разработчики приложений для генеративного ИИ скоро смогут получить доступ к необходимой им суперкомпьютерной инфраструктуре через Microsoft Azure.
Новые виртуальные машины для Microsoft Azure позволяют разработчикам создавать генеративные приложения ИИ, которые можно масштабировать для работы с тысячами графических процессоров Nvidia H100.
Виртуальные машины серии ND H100 v5 в Azure, которые работают в тандеме с сетью Quantum-2 InfiniBand, повышают производительность крупномасштабных развертываний таких компаний, как OpenAI , создателей широко обсуждаемого ChatGPT, и чипов Nvidia.
По словам Мэтта Вегаса, главного менеджера по продуктам Azure для высокопроизводительных вычислений (HPC) и ИИ в Microsoft, новая суперкомпьютерная система в облаке обеспечивает тип инфраструктуры, необходимый для работы с новейшими крупномасштабными моделями обучения ИИ .
«Приложения генеративного ИИ быстро развиваются и добавляют уникальную ценность практически во все отрасли», — написал Вегас в своем блоге на этой неделе. «От переосмысления поиска с помощью новых Microsoft Bing и Edge на основе ИИ до помощи на основе ИИ в Microsoft Dynamics 365 — ИИ быстро становится всепроникающим компонентом программного обеспечения и того, как мы с ним взаимодействуем, и наша инфраструктура ИИ будет там, чтобы проложить способ.»
Версия 5 ND H100, которая сейчас находится в предварительной версии, включает в себя восемь графических процессоров H100 с тензорными ядрами, которые связаны между собой через NVSwitch и NVLink 4.0, 400 Гбит/с Nvidia Quantum-2 CX7 InfiniBand на GPU, NVSwitch и NVLink 4.0 с двунаправленной пропускной способностью 3,6 Тбайт/с между восемью локальными Графические процессоры, процессоры Intel Xeon Scalable 4-го поколения и межсетевое соединение между хостами и графическими процессорами PCIe 5-го поколения со скоростью 64 Гбит/с на каждый графический процессор.
Хотя характеристики системы могут быть впечатляющими, стоимость может сделать ее приемлемой только для крупнейших предприятий.
«Это самая совершенная конфигурация графического процессора/ИИ от Nvidia, и она будет хорошо работать с такими вещами, как ChatGPT, или для банков, имеющих дело с тысячами клиентов, за которыми они следят, чтобы убедиться, что они не совершают мошенничества или не представляют серьезного риска», — сказал Джек Голд, президент. и главный аналитик J.Gold Associates. «Но вот в чем загвоздка — H100 — очень дорогая система. Если вы хотите, чтобы он работал со сложными средами, это может стоить вам миллион или больше».
Организации, которые, скорее всего, купят полностью загруженную систему Nvidia, будут сторонними разработчиками и поставщиками услуг.
Microsoft не раскрыла цены на свое новое предложение Azure. Другие облачные службы ИИ, которые предоставляют большие модели генеративного ИИ, такие как Azure OpenAI Service, предлагают модели потребления с оплатой по мере использования, и пользователи платят за единицу каждой модели.
Nvidia играет активную роль, помогая не только Microsoft, но и всем ее партнерам по гипермасштабированию создавать свои центры обработки данных для ИИ, сказал Ян Бак, вице-президент по гипермасштабированию и высокопроизводительным вычислениям в Nvidia. «То, что мы неизбежно получим, — это центр обработки данных партнера с мозгами Nvidia».
Но в то время как Nvidia сотрудничает с Microsoft , чиповый гигант также сотрудничает с крупнейшими конкурентами Microsoft, включая AWS и Google, в создании их соответствующих суперкомпьютеров с искусственным интеллектом. Microsoft может оказаться в более выгодном конкурентном положении благодаря своим недавним приобретениям и услугам, ориентированным на ИИ.
«Microsoft заняла выгодное положение, — сказал Дэн Ньюман, главный аналитик Futurum Research и генеральный директор The Futurum Group. «С новыми сервисами искусственного интеллекта, внедрением ChatGPT [и] значительными инвестициями в OpenAI компания движется быстро — и, вероятно, на следующей неделе [на конференции Nvidia GTC] будет больше объявлений».
С новыми виртуальными машинами будут доступны различные сервисы Azure, в том числе Azure Machine Learning , который делает суперкомпьютер Microsoft AI доступным для пользователей для обучения моделей, и Azure Open AI Service , который предоставляет пользователям возможности крупномасштабных генеративных моделей AI, — говорится в сообщении компании.
По мнению некоторых, у Microsoft сейчас может быть технологическое преимущество, но это последнее партнерство, вероятно, вдохновит на поставку еще более мощных систем как известными, так и малоизвестными конкурентами, поскольку рынок ИИ продолжает накаляться.
«Конкуренция резко возросла в последние год или два, но с такими технологиями конкурентные предложения выйдут на новый уровень», — сказал Ньюман.
