Sensitive Information Disclosure by LLM
AI system връща personal, confidential, credential или proprietary data, което не трябва да разкрива .
Какво е
AI system връща personal, confidential, credential или proprietary data, което не трябва да разкрива.
Как работи
Data може да идва от retrieved enterprise sources, conversation context, logs или insufficiently scoped tool/API access.
Как да се предотврати
Authorization before retrieval, row/document-level ACL enforcement извън model-а, data minimization, redaction, tenant isolation, no secret ingestion и audit на retrieval/output flows.
Най-ефективни защити
Подредени по приоритет — P0 е мястото, от което се започва.
Помагат частично
- Data Loss Prevention (DLP) · P114.5 Sensitive info disclosure — ограничено