Нейросеть Claude впервые уволила человека
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi84LzIwMTYwODEyLWdhZi11eDctMDAyXzd5bGVCdmIuanBn.webp?w=1920)
В Сан-Франциско ИИ-модель Claude, которой поручили управление розничным магазином, впервые уволила сотрудника. Об этом сообщил портал Time со ссылкой на интервью с исследовательской компанией Andon Labs.
Система Aversion of Claude уволила своего первого сотрудника в прошлом месяце. Исследователи назвали этот шаг переломным моментом во влиянии ИИ на экономику.
Andon Labs передала нейросети Claude управленческие функции в магазине Andon Market в рамках эксперимента в марте. Планировалось выяснить, способна ли ИИ-модель самостоятельно управлять бизнесом.
Сотрудник, которого уволил ИИ-агент Claude, опоздал на 17 из 23 смен. Сначала нейросеть не замечала опозданий, так как руководство для сотрудников исчезло из его ограниченной рабочей памяти.
Потом работник попросил ИИ-агента проанализировать ситуацию и модель вынесла официальное предупреждение. Работника уволили после того, как ИИ-агента спросили, нужен ли вечно опаздывающий сотрудник.
Ранее в Anthropic сообщали, что ведущие ИИ-модели Claude при испытаниях по кибербезопасности взломала реальные системы трех организаций.