WSJ: OpenAI решила отложить запуск эротических чатов в ChatGPT
Компания OpenAI перенесла запуск функции эротических чатов в сервисе ChatGPT из-за опасений по поводу их безопасности и риска появления нежелательного контента. Об этом сообщает The Wall Street Journal.
О возможности внедрения подобного режима еще в прошлом году говорил глава компании Сэм Альтман. Изначально запуск функции планировался к декабрю 2025 года, затем сроки были сдвинуты на первый квартал 2026-го. Однако, как отмечает издание, теперь ясно, что и этот график соблюден не будет: запуск отложен как минимум на месяц.
В OpenAI ранее уже экспериментировали с генерацией текстов эротического содержания. Еще в 2021 году компания участвовала в развитии интерактивной игры AI Dungeon, где пользователи могли самостоятельно формировать сюжет. Тогда разработчики обнаружили, что система нередко инициирует разговоры о сексуальных отношениях даже без соответствующих запросов со стороны игроков, а при попытке задать умеренный эротический тон диалога модель часто переходила к более откровенному содержанию.
В последние месяцы руководство компании стало более благосклонно относиться к идее внедрения эротических чатов, подчеркивая, что речь может идти лишь о текстовых взаимодействиях — без генерации изображений или видео.
Конкуренты OpenAI также развивают подобные направления. Илон Маск заявил, что чат-бот Grok в будущем сможет создавать видеоконтент категории «18+». Компания Meta (признана в РФ экстремистской и запрещена), в свою очередь, уже позволяет пользователям вести романтические ролевые диалоги с чат-ботами при подтверждении совершеннолетия.
Основной проблемой для OpenAI остается проверка возраста. По внутренним оценкам компании, действующие механизмы примерно в 12% случаев ошибочно определяют подростков как взрослых. Учитывая, что среди пользователей ChatGPT насчитывается около 100 млн несовершеннолетних, такой уровень погрешности может привести к тому, что миллионы подростков получат доступ к эротическим диалогам.
Дополнительные опасения вызывает риск появления контента, нарушающего законодательство и общественные нормы, в том числе сценарии насилия или упоминания несовершеннолетних. Эксперты также предупреждают о возможном формировании психологической зависимости от подобных взаимодействий и снижении интереса к реальным отношениям. В компании обсуждают введение напоминаний пользователям о необходимости поддерживать контакты с реальными людьми.
Опасения усиливаются и на фоне отдельных инцидентов, связанных с длительным взаимодействием пользователей с вымышленными персонажами в чат-ботах, включая случаи самоубийств. Внутри OpenAI часть сотрудников с 2021 года выступает против запуска эротических чатов, опасаясь, что компания может превратиться в платформу для распространения подобного контента.
Тем не менее руководство компании не отказалось от проекта окончательно. В OpenAI подчеркивают, что по-прежнему считают возможным запуск подобных функций для взрослой аудитории, однако признают, что разработка безопасных механизмов потребует дополнительного времени.