Созданный OpenAI новый генератор языков, в том числе программирования, GPT-3 потрясает исследователей. «Играя с GPT-3, вы словно заглядываете в будущее», твитнул разработчик, художник из Сан-Франциско Аррам Сабети. Это высказывание в значительной степени суммирует реакцию последних несколько дней на новейший ИИ, генерирующий языки.OpenAI впервые описал GPT-3 в исследовательской статье в мае. Но на прошлой неделе он начал рассылать программное обеспечение избранным, получившим доступ к частной бета-версии. На данный момент OpenAI хочет, чтобы сторонние разработчики помогли ему изучить возможности GPT-3, а уже в конце этого года планирует превратить этот инструмент в коммерческий продукт, предлагая предприятиям платную подписку на ИИ через облако.
GPT-3 – самая мощная языковая модель из когда-либо существовавших. Его предшественник, GPT-2, выпущенный в прошлом году, уже мог выдавать убедительные потоки текста в различных стилях, когда его предлагали вводным предложением. Но GPT-3 стал большим шагом вперед. Модель имеет 175 млрд параметров (значений, которые нейронная сеть пытается оптимизировать во время обучения) сравнительно с уже огромными 1,5 млрд у GPT-2. А с языковыми моделями размер действительно имеет значение.
Сабети хвастается рассказами, песнями, пресс-релизами, техническими руководствами и многим другим, созданными с использованием ИИ. GPT-3 также может создавать стили определенных писателей. Марио Клингеманн, художник, занимающийся машинным обучением, поделился коротким рассказом под названием «Как важно быть в Твиттере», написанным в стиле Джерома К. Джерома, который начинается со слов: «Это любопытно, что последняя оставшаяся форма социальной жизни, которой все еще интересуются жители Лондона – Твиттер. Меня поразил этот любопытный факт, когда я отправился в один из своих периодических отпусков на море и обнаружил, что все это место твитит, как клетка со скворцами». Все, что Клингеманн дал ИИ – название, имя автора и начальное слово «Это». Есть даже достаточно информативная статья о GPT-3, полностью написанная GPT-3.
GPT-3 может генерировать любой текст, включая табулатуры гитары или компьютерный код. Например, настроив GPT-3 так, чтобы он создавал HTML, а не естественный язык, веб-разработчик Шариф Шамим заставляет его создавать макеты веб-страниц по ТЗ типа «кнопка, которая выглядит как арбуз» или «большой текст красного цвета с надписью ДОБРО ПОЖАЛОВАТЬ В МОЙ БЮЛЛЕТЕНЬ и синей кнопкой с надписью "Подписаться"». Легендарный программист Джон Кармак, пионер компьютерной 3D-графики в ранних видеоиграх, таких как Doom, а теперь консультант в Oculus VR, был встревожен: «Недавнее, почти случайное открытие того, что GPT-3 может писать код, действительно порождает легкую дрожь».
При этом GPT-3 по-прежнему склонен извергать сексистские и расистские выражения. Точная настройка модели помогла ограничить это в GPT-2.
Многие сразу заговорили об интеллекте. Но нечеловеческая производительность и поразительная универсальность GPT-3 – это результат превосходной компьютерной инженерии, а не подлинного интеллекта. Во-первых, ИИ по-прежнему порождает нелепые куски текстов, свидетельствующие о полном отсутствии здравого смысла. Но даже его успехам не хватает глубины, они больше напоминают копипаст, чем оригинальные композиции.
Что именно происходит внутри GPT-3, неясно. Но в чем он, кажется, хорош, так это в синтезе и пересборке кусков текстов, которые он извлекает повсюду из интернета.
Но когда наступает новая веха в области искусственного интеллекта, вокруг слишком часто поднимается преувеличенная шумиха. Даже Сэм Альтман, который вместе с Илоном Маском основал OpenAI, попытался смягчить эту ситуацию: «Шумиха вокруг GPT-3 – это слишком. Это впечатляет (спасибо за комплименты!). Но все же имеет серьезные недостатки и иногда допускает очень глупые ошибки. Искусственный интеллект изменит мир, но GPT-3 – это лишь очень ранний проблеск».
Когда дело доходит до поисков интеллекта, у нас низкая планка. Если что-то выглядит умным, нам легко обмануться. Величайшая уловка, которую когда-либо использовал ИИ, заключалась в том, чтобы убедить мир, что он существует. GPT-3 – это огромный шаг вперед, но это по-прежнему просто инструмент, созданный людьми, со всеми вытекающими отсюда недостатками и ограничениями.