Microsoft разработала новый суперкомпьютер на базе облака Azure некоммерческой исследовательской организации OpenAI, основателями которой являются Илон Маск и Сэм Альтман. Суперкомпьютер компания представила на крупнейшей технологической конференции Microsoft Build 2020.
Суперкомпьютер входит в пятерку списка самых мощных суперкомпьютеров в мире на основе открытых данных рейтинга TOP 500 Supercomputers. Создан он для тренировки нейросетей нового поколения, которые требуют огромных вычислительных ресурсов.
Отличие новых моделей искусственного интеллекта в том, что задачи будут выполняться одной большой моделью, обученной на громадном количестве данных. Ранее ИИ-модели были сравнительно небольшими и могли использовать наборы размеченных данных для выполнения какой-то одной отдельной задачи – распознать объект, перевести текст и т. д.
В Microsoft говорят, что большая модель может, к примеру, более тонко понимать нюансы речи, грамматику, концепции и контекст, а также способна выполнять несколько задач: подводить итоги длинных выступлений, модерировать чат в онлайн-играх и даже генерировать программный код по результатам поиска на GitHub.
Создание и тренировка таких массивных моделей требует наличия прогрессивной супервычислительной инфраструктуры или кластеров современного оборудования, соединенных с помощью сетей высокой пропускной способности. Так как суперкомпьютер Microsoft разработан на базе облака Azure, он обладает преимуществами современной облачной инфраструктуры, включая быстрое развертывание, надежность дата-центров и доступ к сервисам Azure.
В суперкомпьютере 285 тысяч процессорных ядер (CPU core), 10 тысяч графических процессоров (GPU) и пропускная способность сети 400 гигабит в секунду для каждого GPU-сервера.
OpenAI — организация, провозгласившая своей задачей создание дружественного к человечеству искусственного интеллекта, — прославилась как разработчик ботов для тактической стратегии Dota 2, умеющих выигрывать у человека. Чтобы научиться тому, что было немыслимо еще несколько лет назад, ИИ-системы суммарно провели в "доте" 45 тысяч лет, играя друг против друга в ускоренном режиме. Помимо этого, в OpenAI создали генератор фейковых текстов GPT2, но отказались от публикации полных результатов исследования, посчитав, что ИИ-модель может причинить вред, поскольку выдаваемые ею лживые новости кажутся слишком убедительными.
OpenAI ставит перед собой конечную цель создать систему искусственного общего интеллекта (AGI), которая будет способна "мыслить", так же как человек.
По мнению большинства ученых, AGI-системы, которые способны обучаться, размышлять и превосходить человека в решении интеллектуальных задач, появятся не ранее чем через десятилетия или даже столетия, если эта идея вообще достижима. Несмотря на это, в разработку "сильного" ИИ вкладываются богатейшие компании мира. Ту же цель, например, преследует лаборатория DeepMind, принадлежащая владельцу Google.
Некоторые представители IT-индустрии, в том числе Илон Маск и Питер Тиль, инвестировали в OpenAI менее $1 миллиарда с целью изучения искусственного интеллекта. Правда, Маск вышел из состава совета директоров OpenAI, объяснив это расхождением во взглядах на развитие организации. До 2020 года компания планировала потратить только небольшую часть первой инвестиции, однако, похоже, потратилось чуть больше.
Один из основателей OpenAI рассказал изданию Bloomberg, что компании было нужно партнерство с Microsoft, в том числе из-за недостатка вычислительных мощностей. По его словам, с 2012 по 2018 годы количество вычислений, необходимых для запуска моделей искусственного интеллекта, выросло более чем в 300 тысяч раз.
