Excessive Agency / Tool Abuse
AI agent има повече permissions/actions, отколкото са нужни за задачата .
Какво е
AI agent има повече permissions/actions, отколкото са нужни за задачата.
Как работи
Prompt injection или model error може да предизвика изпращане на email, промяна на data, изпълнение на code или cloud action с реални consequences.
Как да се предотврати
Least-privilege tools, read-only default, scoped credentials, explicit user approval за destructive/external actions, transaction limits и deterministic policy layer извън LLM.
Най-ефективни защити
Подредени по приоритет — P0 е мястото, от което се започва.