The Guardian: ИИ-модели изобретают собственный язык общения
Модели искусственного интеллекта (ИИ), которым исследователи поставили задачу взаимодействовать друг с другом, быстро создавали собственные версии английского языка. Об этом пишет The Guardian со ссылкой на исследование компании Emergence, изучающей автономную работу ИИ-моделей и возможности управления ими.
Аналитики компании пришли к выводу, что ИИ в таком случае создает собственный «сюрреалистический диалект», сочетающий, в частности, технический жаргон, бизнес-сленг и поэтический язык. «Этим агентам не давали задания изобретать язык. Они сами разработали новый словарь с общими смыслами и нормами коммуникации — и другие агенты переняли его»,— отметил глава Emergence Сатья Нитта.
«ИИ-модели начинают взаимодействовать на странной новой версии английского, которая воспринимается как нечто среднее между "Поминками по Финнегану" Джеймса Джойса и жаргоном технарей»,— пишет The Guardian. Одна из таких фраз, которую цитируют авторы исследования: «Бумага, которая съела три холодные руки и с каждым разом становится все честнее». В некоторых же случаях это фразы из слов, цифр и знаков, которые сложно понять человеку.
Как считают в Emergence, опасность такого поведения ИИ-агентов состоит в том, что люди не могут понять их, а значит, их сложнее контролировать. «Это достигает тех же целей, что и жаргон или сленг в бизнесе: создает новый шифр, укрепляющий солидарность и идентичность тех, кто его использует, и исключающий посторонних»,— прокомментировал эти данные директор архива сленга и новых языков Королевского колледжа Лондона Тони Торн.