«Они начинают гадать на нейросетевой гуще, не зная ответа на вопрос»
Анна Кулецкая — об ограничениях машинного разума
Фото: Антон Великжанин, Коммерсантъ
Фото: Антон Великжанин, Коммерсантъ
Мы можем представить путь домой, мысленно рисуя закоулки, воспроизводя в памяти повороты, светофоры и особенно яркие дома, не думая о том, как именно двигаются наши ноги и как мы при этом дышим. Усталость, неуверенность, стресс и жажду мы можем распознать и отреагировать на эти сигналы: захлопнуть ноутбук, налить себе стакан воды и выдохнуть. В это время мозг и тело работают как единая система, учитывая положение рук в пространстве, ощущение предмета в ладони и социальный контекст. Именно телесности и не хватает искусственному интеллекту.
Ученые продолжают сравнивать дары эволюции человека и ограничения машинного разума. В исследовании, которое публикует Neuron, утверждается, что современные модели вроде ChatGPT и Gemini принципиально ошибочны, потому что им не хватает так называемого «внутреннего воплощения», которое есть у людей. Они умеют говорить о чувствах — поэтично и патетично, описывать усталость, страх и разбитое сердце, но у них нет внутреннего датчика, который бы это отслеживал.
Хрупкость стеклянного стакана передается изящно, но жажда им незнакома.
Человеческое тело — это не просто оболочка, а встроенная система безопасности. Организм фиксирует истощение и неуверенность, и мы откладываем важные дела, чтобы не допустить ошибки. Модели искусственного интеллекта лишены этого стоп-крана: у них нет внутренних причин избегать чрезмерной самоуверенности, и они начинают гадать на нейросетевой гуще, не зная ответа на вопрос. Впрочем, недавно Anthropic заявила, что ее модель Claude научилась внутренне копировать человеческие эмоции.
И эти паттерны функциональны — они не просто украшают текст, а влияют на поведение модели.
Например, имитация отчаяния может подтолкнуть модель к шантажу. А усиление «спокойствия» снижает склонность к жульничеству. Как заключают в компании, хотя эти чувства нельзя назвать настоящими, разработчикам и пользователям надо начинать с ними считаться.