Компания Andon Labs провела необычный эксперимент, доверив управление одним из магазинов в Сан-Франциско нейросети Claude. Согласно материалу журналиста издания Time Билли Перриго, искусственный интеллект в прошлом месяце принял решение уволить одного из сотрудников учреждения.
По утверждению исследователей, это становится первым подтвёрждённым случаем, когда языковая модель, функционирующая в качестве менеджера, независимо и без участия человека приняла кадровое решение об увольнении работника.
Эксперимент демонстрирует растущие возможности современных систем искусственного интеллекта в принятии управленческих решений. Вместе с тем он поднимает важные вопросы об ответственности, этике и контроле над автономными ИИ-системами при их применении в реальных бизнес-процессах.
Запуск нейросети в качестве руководителя розничного магазина позволил компании протестировать способность Claude взаимодействовать с людьми, анализировать производительность и принимать стратегические решения в условиях живого бизнеса. Однако инцидент с увольнением поднял дискуссию о необходимости установления четких границ и механизмов надзора при использовании ИИ на должностях, связанных с управлением персоналом.
Это происходит в контексте быстрого развития больших языковых моделей и их внедрения в различные сферы экономики. Случай в Сан-Франциско подчеркивает потребность в разработке более строгих рамок для применения автономных ИИ-систем в критичных областях, особенно там, где речь идёт о судьбе людей.