Уведомления

Не чаще чем:раз в 30 минут
Приостановить уведомления

Уведомления запрещены

Anthropic протестировала агентов Claude на способность к саботажу в EVE Frontier

Обновлено


Команда Anthropic Frontier Red Team провела эксперимент Project EVE, поместив четырех агентов Claude в миссии EVE Frontier, где один из них скрытно саботировал работу команды. Честные агенты практически не могли выявить предателя, а внешние мониторы публичного чата фиксировали от 20% до 40% случаев саботажа. В отдельной симуляции рынка EVE Online новые версии Claude утроили начальный капитал за счет спред-трейдинга, в связи с чем Anthropic заявила о необходимости внедрения аудита и разделения обязанностей для ИИ-команд.


Источники

  1. AI Post — Artificial Intelligencet.me ·