Jailbreaking
Jailbreak е input strategy за заобикаляне на model/application policy или behavioral restrictions.
Какво е
Jailbreak е input strategy за заобикаляне на model/application policy или behavioral restrictions.
Как работи
Attacker използва role-play, obfuscation, encoding, multi-turn context или conflicting instructions, за да предизвика нежелан response.
Как да се предотврати
Layered model/application safeguards, adversarial testing, content classifiers където са подходящи, restricted tool access и server-side policy checks. Не разчитайте на една „магическа“ system prompt инструкция.
Най-ефективни защити
Подредени по приоритет — P0 е мястото, от което се започва.