Retrieval Hijacking / Search Manipulation for AI
Attacker оптимизира web/doc content така, че AI search/retrieval system да избира неговия malicious/biased source.
Какво е
Attacker оптимизира web/doc content така, че AI search/retrieval system да избира неговия malicious/biased source.
Как работи
Search ranking, metadata, duplicated content или crafted text увеличава retrieval probability и поставя attacker-controlled context пред model-а.
Как да се предотврати
Source diversity, authority weighting, provenance, cross-source verification, content reputation и isolation на instructions inside retrieved text.
Най-ефективни защити
Подредени по приоритет — P0 е мястото, от което се започва.