Исследователи не опубликуют исходный код генератора текстов GPT-2.

На этой неделе мир всколыхнуло известие о том, что исследователи разработали генератор текста на базе искусственного интеллекта, который оказался настолько хорош, что ученые решили сохранить в тайне его исходный код.

Речь идет о программном обеспечении, разработанном OpenAI. Оно может быть использовано для создания новостных репортажей, обзоров различных продуктов и других видов литературной деятельности. Тексты, созданные творением разработчиков, намного реалистичнее, чем что-либо, созданное ранее компьютерной программой.

OpenAI, исследовательский центр, поддерживаемый Илоном Маском, Amazon и Microsoft, сообщил, что новое ПО достигает современного уровня производительности во многих языковых тестах, включая обобщение и перевод.

Однако публичного релиза у этой программы не будет.

«Мы встревожены. Эта технология может быть использована во вред, и поэтому мы не выпустим полностью обученную модель» — сообщили исследователи OpenAI в своем блоге в четверг. В целом известие о новом ПО – это прорыв в области генераторов текста, ведь репортажи, создаваемые искусственным интеллектом, невероятно правдоподобны. Однако в этом и кроется потенциальная опасность. По словам исследователей, существует множество способов использовать программу в гнусных целях. Поддельные новостные статьи, автоматизация поддельного контента в соцсетях, — тексты, которые создает программа, настолько реалистичны и связны, что мошенникам будет легко даже выдать себя за другого человека в Интернете. В одном из тестов программа написала новостной сюжет на 300 слов, исходя из одного абзаца о «стаде единорогов, живущих в отдаленной, ранее не исследованной долине в Андах». И текст вышел очень, очень похожим на правду.

«Общественность должна будет скептичнее относиться к текстам, представленным в сети. Ранее такой этап уже был пройден, но в отношении изображений, отредактированных с помощью графических редакторов и нейросетей» — пишут исследователи. Их модель, называемая GPT-2, превосходит другие модели, обученные писать статьи в Википедии, новости или книги.

А нам остается лишь восхищаться достижениями технологий… и относиться с недоверием к статьям о единорогах.

Оставьте комментарий:

Ваш e-mail не будет опубликован.