Пользователи Microsoft Azure теперь могут использовать последние достижения в технологии ускоренных вычислений NVIDIA, революционизируя обучение и развертывание своих приложений с генеративным искусственным интеллектом.
Интеграция виртуальных машин Azure ND H100 v5 с графическими процессорами на тензорных ядрах NVIDIA H100 и сетью InfiniBand Quantum-2 гарантирует плавное масштабирование генерирующего искусственного интеллекта и высокопроизводительных вычислительных приложений одним нажатием кнопки.
Это передовое сотрудничество происходит в ключевой момент, когда разработчики и исследователи активно изучают потенциал больших языковых моделей (LLM) и ускоренных вычислений для раскрытия новых вариантов использования для потребителей и бизнеса.
Графический процессор NVIDIA H100 обеспечивает производительность суперкомпьютерного класса благодаря множеству архитектурных инноваций. К ним относятся тензорные ядра четвертого поколения, новый движок Transformer Engine для улучшенного ускорения LLM и технология NVLink, которая обеспечивает беспрецедентную скорость обмена данными между графическими процессорами — 900 ГБ/сек.
Интеграция NVIDIA Quantum-2 CX7 InfiniBand с пропускной способностью между узлами 3200 Гбит/с обеспечивает безупречную производительность графических процессоров даже в больших масштабах. Эта возможность ставит технологию в один ряд с вычислительными возможностями самых передовых суперкомпьютеров в мире.
Недавно представленные виртуальные машины ND H100 v5 обладают огромным потенциалом для обучения и вывода все более сложных LLM и моделей компьютерного зрения. Эти нейронные сети обеспечивают работу самых сложных и ресурсоемких генеративных приложений искусственного интеллекта, начиная с ответов на вопросы и генерации кода и заканчивая аудио, видео, синтезом изображений и распознаванием речи.
Отличительной особенностью виртуальных машин ND H100 v5 является их способность в 2 раза ускорять вывод LLM, что особенно продемонстрировала модель BLOOM 175B по сравнению с экземплярами предыдущего поколения. Это повышение производительности подчеркивает их способность еще больше оптимизировать приложения искусственного интеллекта, стимулируя инновации во всех отраслях.
Синергия между графическими процессорами NVIDIA H100 Tensor Core и Microsoft Azure предоставляет предприятиям беспрецедентные возможности обучения ИИ и вывода. Это партнерство также упрощает разработку и внедрение производственного искусственного интеллекта, чему способствует интеграция пакета корпоративного программного обеспечения NVIDIA AI и Azure Machine Learning для MLOps.
Совместные усилия привели к созданию революционной производительности искусственного интеллекта, подтвержденной стандартными для отрасли тестами MLPerf:
Интеграция платформы NVIDIA Omniverse с Azure еще больше расширяет возможности этого сотрудничества, предоставляя пользователям все необходимое для промышленной оцифровки и суперкомпьютеров искусственного интеллекта.