Опубликована русскоязычная версия генератора текстов

Пятница, 23 октября 2020 г.

Следите за нами в ВКонтакте, Facebook'e и Twitter'e



Разработчики из «Сбера» выпустили русскоязычную версию алгоритма для генерирования текстов GPT-3, представленного в мае нынешнего года. Систему обучили на 600 гигабайтах русскоязычных текстов, включая литературу и интернет-сайты

В мае текущего года разработчики из Open AI представили GPT-3 — новую версию алгоритма для генерирования текстов. Несмотря на использование той же самой архитектуры, что и в GPT-2, в новой версии увеличено количество используемых параметров, данных для обучения и способностей. GPT-3 умеет не только генерировать отдельные тексты, но и отвечать на вопросы по прочитанному материалу, решать простые арифметические примеры, расшифровывать анаграммы и даже составлять стихи.

Кроме того, GPT-3 умеет переводить тексты: разработчики не стали ограничивать язык при сборе данных, так что в выборку попали 7% не англоязычных текстов. Текстов на других языках, впрочем, всё же недостаточно для того, чтобы модель показывала похожие на английский язык результаты для других языков — на них её нужно обучать отдельно. Как сообщается в блоге руководителя проекта Сергея Маркова на «Хабре», разработчики из «Сбера» решили обучить алгоритм русскому языку.

Для этого они совместно с разработчиками из AGI NLP собрали массив текстов размером 600 гигабайтов, а для обучения использовали русскую литературу, русскую и английскую «Википедию», новостные сайты, публичные разделы портала Pikabu и Omnia Russica. Как и в случае с оригинальной англоязычной моделью GPT-3, модель «Сбера» при этом не полностью русскоязычная: доля иностранных языков в обучающей выборке составила 10%.

Разработчики «Сбера» для обучения взяли модель GPT-3 Large: Open AI представили несколько моделей GPT-3, отличающихся количеством параметров — от 125 миллионов до 175 миллиардов. Для обучения использовали суперкомпьютер «Кристофари», а исходный код модели разработчики выложили на GitHub. Русскоязычная модель, судя по результатам работы, умеет выполнять то же самое, что и оригинальная — даже создавать небольшие массивы программного кода.

Следите за нами в ВКонтакте, Facebook'e и Twitter'e


Просмотров: 123
Рубрика: Hi-Tech
(CY)

Архив новостей / Экспорт новостей

Ещё новости по теме:

RosInvest.Com не несет ответственности за опубликованные материалы и комментарии пользователей. Возрастной цензор 16+.

Ответственность за высказанные, размещённую информацию и оценки, в рамках проекта RosInvest.Com, лежит полностью на лицах опубликовавших эти материалы. Использование материалов, допускается со ссылкой на сайт RosInvest.Com.

Skype: rosinvest.com (Русский, English, Zhōng wén).

Архивы новостей за: 2018, 2017, 2016, 2015, 2014, 2013, 2012, 2011, 2010, 2009, 2008, 2007, 2006, 2005, 2004, 2003