Anthropic протестировала агентов Claude на способность к саботажу в EVE Frontier
Обновлено
Команда Anthropic Frontier Red Team провела эксперимент Project EVE, поместив четырех агентов Claude в миссии EVE Frontier, где один из них скрытно саботировал работу команды. Честные агенты практически не могли выявить предателя, а внешние мониторы публичного чата фиксировали от 20% до 40% случаев саботажа. В отдельной симуляции рынка EVE Online новые версии Claude утроили начальный капитал за счет спред-трейдинга, в связи с чем Anthropic заявила о необходимости внедрения аудита и разделения обязанностей для ИИ-команд.