Адриан де Винтер (Adrian de Wynter), научный сотрудник Microsoft и исследователь из Йоркского университета (Великобритания), опубликовал работу, посвященную способности большой языковой модели GPT-4 играть в классический шутер Doom.
![Источник изображения: Lukas / Pixabay.com](https://newsper.ru/wp-content/uploads/2024/03/robot.jpg)
Источник изображения: Lukas / Pixabay.com
В оригинальном виде большая речевая модель OpenAI GPT-4 не поддерживает запуск Doom из-за ограничения объема входных данных. Потому исследователь пользовался ее мультимодальным вариантом GPT-4V, который оказался способным управлять игровым действием без дополнительного обучения. Для этого исследователь разработал два дополнительных компонента для подключения Doom к нейросети: первый делает снимки экрана в игре и транслирует их GPT-4V, а второй спрашивает искусственный интеллект команды на управление игровым процессом и превращает их в непосредственные команды для игрового контроллера. В результате II стреляет из игрового оружия, борется с врагами, открывает двери и повторно проходит уровни, улучшая собственные результаты.
Запустив игру, автор исследования быстро обнаружил главную слабость GPT-4V – как только монстры в игре выходят за пределы экрана, ИИ о них “забывает”. «Например, для модели было бы естественно увидеть на экране монстра и начать стрелять в него, пока не попадет или не убьет его. Это II, написанное для работы на оборудовании 1993 года, и глубокого дерева принятия решений у него нет. Так что монстры стреляют и начинают бегать по комнате. И в чем здесь проблема? Ну, во-первых, монстры уходит из виду. Что хуже, он в какой-то момент устрашит. Так что надо добить его, правда? Это же Doom – ужасные ты или ужаснут тебя. Оказывается, GPT-4 забывает о монстрах и идет дальше. Причем, есть подсказка, что делать модели, если она получает вред, но не видит врага. Более того, возвращает с дороги, застревает в углу и умирает. Несколько раз она оборачивалась, но через 50–60 прохождений я видел такое <..> скажем, дважды»– рассказал автор исследования.
GPT-4 показала, что не умеет правильно рассуждать. Когда ее попросили объяснить свои действия, преимущественно правильные в этом контексте, объяснения II были слабыми и часто содержали галлюцинации — неправильную информацию. Адриан де Винтер считал примечательной способность GPT-4 играть в Doom без дополнительного обучения, но этот факт вызывал у него беспокойство в нравственном аспекте: ученый относительно просто написал код, позволяющий ИИ стрелять, и тот поражает цели, не особенно размышляя о последствиях. На практике II вполне сможет тестировать игры, не осознавая, что он делает. Исследователь призвал людей задуматься о возможности развертывания подобных моделей на практике и опасности их недобросовестного применения.
Если вы заметили ошибку, выделите ее мышью и нажмите CTRL+ENTER.