Исследователи не опубликуют исходный код генератора текстов GPT-2.
На этой неделе мир всколыхнуло известие о том, что исследователи разработали генератор текста на базе искусственного интеллекта, который оказался настолько хорош, что ученые решили сохранить в тайне его исходный код.
Речь идет о программном обеспечении, разработанном OpenAI. Оно может быть использовано для создания новостных репортажей, обзоров различных продуктов и других видов литературной деятельности. Тексты, созданные творением разработчиков, намного реалистичнее, чем что-либо, созданное ранее компьютерной программой.
OpenAI, исследовательский центр, поддерживаемый Илоном Маском, Amazon и Microsoft, сообщил, что новое ПО достигает современного уровня производительности во многих языковых тестах, включая обобщение и перевод.
Однако публичного релиза у этой программы не будет.
«Мы встревожены. Эта технология может быть использована во вред, и поэтому мы не выпустим полностью обученную модель» — сообщили исследователи OpenAI в своем блоге в четверг. В целом известие о новом ПО – это прорыв в области генераторов текста, ведь репортажи, создаваемые искусственным интеллектом, невероятно правдоподобны. Однако в этом и кроется потенциальная опасность. По словам исследователей, существует множество способов использовать программу в гнусных целях. Поддельные новостные статьи, автоматизация поддельного контента в соцсетях, — тексты, которые создает программа, настолько реалистичны и связны, что мошенникам будет легко даже выдать себя за другого человека в Интернете. В одном из тестов программа написала новостной сюжет на 300 слов, исходя из одного абзаца о «стаде единорогов, живущих в отдаленной, ранее не исследованной долине в Андах». И текст вышел очень, очень похожим на правду.
«Общественность должна будет скептичнее относиться к текстам, представленным в сети. Ранее такой этап уже был пройден, но в отношении изображений, отредактированных с помощью графических редакторов и нейросетей» — пишут исследователи. Их модель, называемая GPT-2, превосходит другие модели, обученные писать статьи в Википедии, новости или книги.
А нам остается лишь восхищаться достижениями технологий… и относиться с недоверием к статьям о единорогах.