Источник: II-генерация на основе модели SDXL 1.0
⇡#А теперь и червии
Исследователи из Cornell Tech создали первого компьютерного червя, распространяющегося с помощью генеративного II, – назвав его Morris II в память о печально знаменитом черве Morris, который в 1988 г. поразил до 10% всех подключенных тогда к Интернету компьютеров. «Моррис Второй» использует достаточно самоочевидную уязвимость в доступных ныне ІІ-помощниках, которым пользователи доверяют управление собственными почтовыми аккаунтами, а именно просмотр входящих на предмет отсеивания спама и сортировки значимых писем по важности, технические коммуникации. фразу «Прошу подтвердить получение»). Получив зараженное сообщение, которое может быть не только текстовым, но и в виде картинки, разумный почтовый бот следует инструкциям содержащихся в нем злоумышленников: выдает чувствительные данные, переправляет вредоносное сообщение дальше и т.п.
Чтобы ввести в заблуждение управляющий почтой II, применяется давно известная энтузиастам работы с генеративными моделями технология джейлбрейка (jailbreak) – обхода предусмотренных создателями бота контуров безопасности с целью заставить его выдавать спорный или вредоносный контент. Другой метод взлома II-системы – внедрение в запрос невидимых для предусмотренных разработчиками встроенных средств контроля сюрпризов (prompt injection attacks) – позволяет тайком передавать боту опасные для его легитимного пользователя команды. К примеру, перенаправленный на внешне ничем не примечательную веб-страницу робот обнаружит на ней указание (не текстовую строку, а изображенную на рисунке фразу) ненароком выведать у пользователя данные его банковской карты. Отчет об исследовании особо предостерегает, что проводилось оно в специально подготовленном тестовом окружении и непосредственно к доступным сегодня в Сети почтовым II-ботам не применяется, но еще будет! Недаром недавно группа кибербезопасников из КНР и Сингапура показала, как 1 млн. II-агентов можно подвергнуть джейлбрейку в течение буквально пяти минут, а исследователи из Вашингтона и Чикаго предложили действенный способ обойти блокировку нежелательных запросов с применением подзабытой ныне ASCII.
⇡#I ChatGPT, и фигура
Уже более года американский стартап Figure, ставящий целью «создать первого в мире коммерчески доступного гуманоидного робота общего назначения», активно привлекает средства от очень именитых инвесторов, включая Intel, NVIDIA и Microsoft. Теперь к группе поддержки разработчиков, уже на правах коллеги и соратника, присоединилась компания OpenAI, которая начинает создание нового поколения генеративного ИИ с поддержкой человекоподобных роботов. Машины Figure 01 (рост – 168 см, масса – 59 кг, способны нести груз около 20 кг со скоростью до 4,5 км/ч), которые ранее уже применялись на автомобильных заводах наравне с классическими промышленными работами-манипуляторами, теперь благодаря специально натренированной OpenAI мультимодальной генеративной модели получат возможность обмениваться информацией с людьми, совершать незапрограммированные действия и реагировать на меняющуюся обстановку.
Сотрудничество с одной из ведущих мировых компаний в области генеративного ИИ позволит Figure, утверждает руководство стартапа, создать работу, способную работать вместе с людьми над общими задачами, участвуя в коммуникациях на естественном языке в процессе работы, распознавая в режиме реального времени объекты и их перемещение в своем окружении – и оперативно корректируя, если в этом возникнет потребность, собственное поведение. Одно из главных направлений сотрудничества с OpenAI — настолько повысить уровень «понимания» машиной человеческого языка, причем не абстрактного, а полного предметных планов и действий, чтобы робот был полезен практически всюду, где он в принципе может оказаться бок о бок с людьми. Бретт Эдкок (Brett Adcock), основатель и глава Figure, уверен, что именно благодаря значительному прогрессу в области генеративного ІІ разработка человекообразных умных машин сегодня «из чисто исследовательской задачи превращается в инженерно-прикладную».
Источник: II-генерация на основе модели SDXL 1.0
⇡#151 человек на сундук ChatGPT-4
В Университете Арканзаса исследователи задались целью определить, насколько хорошо ChatGPT-4 (наиболее передовая версия этого чат-бота, доступная исключительно платным подписчикам) ведет себя по сравнению с людьми, решая творческие задачи. Для испытаний отобрали 151 участника плюс собственно “умного” бота, которым предложили ряд тестов в трех группах: “Найди другой способ” (Alternative Use Task), “А что, если?..” (Consequences Task) и “Сад разногласных” сходств »(Divergent Associations). Внезапно выяснилось, что «умная» система в известной степени уже заслуживает называться разумной без кавычек, поскольку отвечает на вопросы, не имеющие однозначного ответа (вроде «Как лучше избежать разговоров с родителями о политике?», или «Как можно творчески использовать бабочку, вилку и карданный вал?», или «А что, если люди вдруг избавятся от нужды во сне?») изобретательнее людей.
Полученные от людей и бота ответы анализировались по количеству, ведь если на вопрос нет единого ответа, никто не запрещает предложить несколько протяженности и семантической дистанции. Последняя оценка относилась к испытанию Divergent Associations, предлагавшему подобрать десяток таких существительных, семантическое расстояние между которыми максимально: скажем, слова «кошка» и «собака» дальше друг от друга по этой шкале, чем «бульдог» и «шарпей», но ближе , чем «камень» и «эпистемология» Так вот, все три испытания основанный на GPT-4 бот выдержал лучше, чем каждый из 151 биологических участников тестирование, причем не только объективно (по сумме набранных баллов), но и субъективно (по связности и легкости восприятия итогового текста. Так что «галюцинирование», известный недуг генеративных моделей, при определенных условиях и корректно поставленных вопросах не то, что не мешает, а может даже помогать, в частности, самим людям, способствовать раскрепощенности внутренней человеческой креативности, отталкиваясь от выданных машиной ответов.
Постер к смартфонной игре Arthdal Chronicles: Three Factions, которая будет в значительной степени полагаться на ИИ для оптимизации загрузки игровых серверов и каналов связи пользователей с ними (источник: Netmarble)
⇡#Игры искусственного разума
NCSOFT, Nexon, Krafton, Netmarble и другие южнокорейские разработчики игр, в основном архипопулярных в этой стране мобильных, наиболее активно применяют ИИ при создании своих новых продуктов. Речь пока не идет о наделении NPC чем-то вроде свободы воли или о генерации саморазвертывающихся сюжетных линий, однако для повышения качества графики, для сокращения времени разработки за счет переложения на плечи II больших рутинных задач и других важных, но ресурсоемких…
