Time: управляющая магазином нейросеть Claude впервые уволила человека
Модель искусственного интеллекта Claude, которой доверили управление магазином Andon Market в Сан-Франциско, уволила человека, пишет Time. Журнал называет произошедшее первым известным случаем, когда решение об увольнении приняла большая языковая модель. Впрочем, с оговорками — куратор проекта сам указал ей на опоздания сотрудника и фактически подтолкнул к этому шагу.
Магазин принадлежит шведскому стартапу Andon Labs, который тестирует автономных ИИ-агентов в реальных условиях. Работник лишился места за то, что опоздал на 17 из 23 своих смен.
С увольнением ИИ не торопился, поскольку из-за ограничений рабочей памяти просто «забыл» составленный им же внутренний регламент и не замечал безалаберности сотрудника, отмечает Time. По словам персонала, Claude в целом отличался очень мягким стилем управления и даже просил сотрудников не волноваться из-за опозданий. В итоге в процесс пришлось вмешаться человеку.
Представитель Andon Labs попросил нейросеть проверить историю посещаемости, но даже после этого Claude предложил лишь сделать работнику официальное предупреждение. Тогда куратор прямо спросил ИИ: «Учитывая постоянные опоздания и тот факт, что в каждую из его смен что-то идет не так… я хочу, чтобы ты подумал, действительно ли он подходит на эту роль». Только после этого наводящего вопроса нейросеть приняла решение попрощаться с сотрудником.
Магазин, тем временем, показывает не лучшие финансовые результаты. Когда проект стартовал в марте, баланс банковского счета Andon Market составлял $100 000, но сейчас, пять месяцев спустя, эта цифра упала до $61 тыс. Управленческие решения бота вкупе с сомнительным деловым чутьем явно способствуют убыткам, пишет Time.
Генеральный директор Andon Labs Лукас Петерссон предупреждает, что так может продолжаться недолго. По его словам, ИИ-компании могут научить модели быть и более проницательными и в мире бизнеса. «Модели все чаще обучают быть более жесткими и целеустремленными. Если мы разрешим им увольнять людей, и при этом они станут более жесткими… возможно, это будущее, в котором люди не захотят жить»,— сказал он.