Глоссарий
Избыточная автономия
Также: excessive agency · LLM06
Уязвимость, когда у агента слишком много функций, прав или свободы действовать без проверки человеком. Ошибка модели или инъекция тогда приводят к реальному ущербу.
Пример
Агенту для чтения писем выдали право их удалять и отправлять — одна инъекция, и он рассылает спам от вашего имени.