Не ChatGPT единым. Microsoft создает собственную мощную модель искусственного интеллекта

7 мая 2024, 12:35

Команда Microsoft начала обучение новой большой языковой модели под кодовым названием MAI-1, которая рассматривается как конкурент для продуктов OpenAI и Google.

Предполагаемая модель MAI-1 — первый случай с момента инвестиции в OpenAI, когда Microsoft разрабатывает модель искусственного интеллекта такого масштаба самостоятельно. Как пишет The Information, разработку MAI-1 возглавляет Мустафа Сулейман, бывший руководитель Google AI. До недавнего времени он занимал должность генерального директора стартапа Inflection, который Microsoft приобрела за 650 миллионов долларов. Несмотря на то, что MAI-1 может базироваться на методах, перенесенных бывшими сотрудниками Inflection, это должна быть совершенно новая LLM. MAI-1 будет значительно больше, чем предыдущие модели Microsoft с открытым кодом и будет иметь примерно 500 миллиардов параметров, поэтому потребует большей вычислительной мощности и данных для обучения. Такой размер поставит модель в один ряд с GPT-4 OpenAI, которая, по слухам, имеет более 1 триллиона параметров. Для сравнения, модели Meta и Mistral имеют 70 миллиардов параметров.

Реклама

Сообщается, что точное назначение MAI-1 пока не определено даже в Microsoft. Дальнейшее использование модели будет зависеть от ее производительности. Для обучения модели Microsoft выделила большой кластер серверов с графическими процессорами Nvidia и собирала учебные данные из различных источников, включая текст, сгенерированный OpenAI GPT-4, и публичные данные из Интернета.

Microsoft давно развивает собственный чат-бот с ИИ Copilot, впрочем, в его основе — та же большая языковая модель GPT-4, что и в продуктах от OpenAI, в которую компания инвестировала более 10 миллиардов долларов США. Как писал NV Техно, ранее скандальное увольнение гендиректора OpenAI Сэма Альтмана, его временное присоединение к Microsoft и возвращение в компанию заставили британские власти заинтересоваться, не готовятся ли техногиганты к слиянию. Также сотрудничество Microsoft с OpenAI заинтересовало Европейскую комиссию.

Показать ещё новости