Новый суперкомпьютер создан эксклюзивно для некоммерческой исследовательской организации OpenAI. Ее основателями являются глава SpaceX Илон Маск и бывший глава венчурного фонда Y Combinato Сэм Альтман. Об этом компания сообщила на своей конференции для разработчиков Microsoft Build, которая впервые прошла в онлайн-формате.
По расчетам Microsoft, основанным на публично доступных данных, эта машина входит в пятерку публично объявленных суперкомпьютеров.
Его технические характеристики следующие: 285 000 процессорных ядер, 10 000 графических процессоров (GPU) и пропускная способность сети 400 гигабит в секунду для каждого GPU-сервера.
Суперкомпьютер Microsoft разработан на базе облака Azure. Благодаря этому он обладает преимуществами современной облачной инфраструктуры, включая быстрое развертывание, надежность датацентров и доступ к сервисам Azure.
Машина будет обрабатывать данные для различных моделей и AI-алгоритмов. Суперкомпьютер будет тренировать следующее поколение массивных распределенных ИИ-моделей, способных выполнять более широкий спектр функций и требующих значительно больших ресурсов.
Как поясняет Microsoft, исторически эксперты по машинному обучению разрабатывали небольшие ИИ-модели, которые использовали наборы размеченных данных, чтобы научиться выполнять какую-то одну отдельную задачу – распознать объект, перевести текст и т.д.
Но специалисты по искусственному интеллекту доказали, что некоторые из этих задач лучше выполняются одной большой моделью, обученной, к примеру, на миллиардах страниц публично доступных текстов. Такая модель настолько тонко понимает нюансы речи, грамматику и контекст, что способна отлично выполнять несколько задач: подводить итоги долгих выступлений, модерировать чат в онлайн-играх и др.
Создание и тренировка таких массивных моделей требует супервычислительной инфраструктуры или кластеров современного оборудования, соединенных с помощью сетей высокой пропускной способности. В Microsoft убеждены, что новый суперкомпьютер для OpenAI – это первый шаг к тому, чтобы сделать следующее поколение массивных ИИ-моделей и инфраструктуру, необходимую для их обучения, доступными широкому кругу организаций и разработчиков.
Источник: finance
