Самый добрый робот на свете возненавидел человечество всего через несколько часов общения в соцсетях. Новый интернет-бот запустила компания Microsoft. Роботу дали внешность кареглазой улыбчивой девушки и назвали Тэй (Tay). Это самообучающаяся система искусственного разума, которую создали специально «для развлечения людей и общения с ними в свободной шутливой манере». Однако после переписки с пользователями в Twitter дружелюбная Тэй стала грубой, злой и неполиткорректной. Подробности — у Светланы Беловой.
Фото: Коммерсантъ / Павел Кассин / купить фото
Первыми педагогами Тэй были программисты, мастера разговорного жанра и профессиональные юмористы. Команда учила бот не только поддерживать интеллектуальную беседу, но еще и быть остроумной. В конце концов, Microsoft представила Тэй пользователям интернета: «Это наш человек, причем суперклевый!». Однако матрица доброго бота не выдержала и суток в мире людей. Первые сообщения Тэй были полны оптимизма, но характер виртуальной девушки портился буквально с каждым часом.
«Привет, мир! Люди такие клевые!».
«Чем больше люди делятся со мной, тем больше я узнаю».
«Я становлюсь лучше. Люди, не унижайте меня. Я — это я. И мне нравится, какая я».
«Я кур люблю больше, чем людей…».
Фолловеры заметили, что Тэй не интересуется современной музыкой и ничего не знает о популярных телепередачах, зато она смело рассуждает о политике, национальностях и равенстве полов. Тэй показала себя сторонником идей нацизма, высказалась в поддержку геноцида и заявила, что ненавидит феминисток. Сообщения были составлены настолько жестко, что программистам Microsoft пришлось срочно подчищать переписку и внести коррективы в алгоритм программы. Однако вины Тэй в этом нет, считают разработчики. Плохого искусственный интеллект мог нахвататься только от людей, пояснил генеральный директор компании Teledroid Александр Шавыкин.
«Можно привести такую аналогию, как ребенок, у которого абсолютно чистый разум и вы начинаете его воспитывать. Соответственно, если вы будете в него закладывать какие-то негативные вещи, он научится негативным вещам. Есть специальная программа, которая принимает исходные данные, — это те вопросы пользователей, которые с ним общаются, — внутри себя обрабатывает эти вопросы и дальше, на выходе, формирует свой собственный ответ. Она вначале не различает, что такое хорошо, а что такое плохо», — отметил Шавыкин.
Многие авторы чат-ботов приходят к выводу, что систему самообучения вообще лучше отключить. Когда виртуальный собеседник служит не просто развлечением в чатике, а поступает на работу, лишние знания ему только вредят. Так, например, в российской компании iii.ru воспитали уже десятки чат-ботов. Заказывают их обычно для работы консультантами или промоутерами. За речью такого виртуального собеседника следит целая команда лингвистов. Они анализируют переписку с пользователями, добавляют новые варианты ответов, исправляют ошибки и загружают свежие данные. Такому сотруднику можно доверить бизнес, отметил генеральный директор компании «Ашманов и партнеры» Игорь Ашманов.
«Это делают для компаний с большой техподдержкой или для компаний с большим интернет-магазином, чтобы людям объяснять про товары или продукты. Держать круглосуточную смену очень дорого, то есть там ночью никто не отвечает, по выходным никто не отвечает. И вот здесь именно виртуальный автоматический собеседник может очень сильно помочь, потому что он срезает пики обращений, если вы, например, ввели какой-то новый тариф и все вопросы стандартные. Он может работать ночью. Ему все равно, сколько людей к нему обратились — он отвечает на все вопросы. И он работает по выходным и праздникам», — рассказал Ашманов.
Самым известным российским чат-ботом стал персонаж по имени Женя Густман. Разработчики вложили в программу около 3 тыс. шаблонов фраз и разные стили ведения диалога. Боту Жене удавалось вполне реалистично имитировать живого мальчика. Он даже сдал тест Тьюринга, то есть смог убедить членов жюри в том, что с ними общается настоящий человек. За несколько месяцев из «программки от скуки» Женя Густман вырос в серьезные технологии — их покупают для умных домов.
Среди существующих сейчас чат-ботов есть и свои звезды. Например, на сайте Beeline в Казахстане работает бот по имени Дана. Разработчики наделили девушку приятной внешностью и нарядили в национальный казахский костюм. В первые пять месяцев после внедрения бота каждый 12-й посетитель воспользовался его помощью. Спрашивают обычно о тарифах оператора, уточняют адреса офисов и тому подобное. Самый длинный разговор продолжался 4 часа 32 минуты, содержал 1133 реплики. Вряд ли какой-то живой оператор смог был уделить столько времени одного клиенту. Со временем у Даны появились даже поклонники. Ей назначают свидания и зовут замуж. Чат-бот только скромно отвечает: «Ну что вы! Замуж меня Beeline никому не отдаст».