Model Extraction / Model Stealing
Model extraction се опитва да възпроизведе proprietary model behavior или decision boundary чрез queries/outputs .
Какво е
Model extraction се опитва да възпроизведе proprietary model behavior или decision boundary чрез queries/outputs.
Как работи
Голям брой carefully selected queries се използват за train-ване на substitute model или infer-ване на capabilities.
Как да се предотврати
Rate/usage controls, query anomaly detection, output precision minimization когато business case позволява, watermarking/fingerprinting подходи и contractual/access controls.
Най-ефективни защити
Подредени по приоритет — P0 е мястото, от което се започва.