Arhiiv
Silt: AI isoleerimine
-

Viibasüst lihtsas keeles
Viibasüst (prompt injection) leiab aset siis, kui ebausaldusväärsesse teksti peidetud käsud meelitavad tehisintellekti oma esialgseid juhiseid eirama. See on levinud oht iga tarkvara puhul, mis kasutab tehisintellekti mudelit, kuid probleem on lahendatav ka ilma eraldi turvatiimita. See juhend selgitab, kuidas kaitsta oma rakendusi, isoleerides sissetuleva teksti nii, et seda koheldakse alati andmetena, mitte käskudena.
-

Mis on viibasüst ja kuidas seda peatada?
Tehisaru assistent täidab juhiseid, mida ta loetavast tekstist leiab. See on ühtlasi tema nõrk koht. Siin on lihtsas keeles lahti seletatud, mis on viibasüst (prompt injection), miks see on endiselt lahendamata probleem ja kuidas kaitsta tehisaru, mida sa ehitad.
-

Skännerid näitavad puhast pilti. Kas teate, kui haavatav teie AI tegelikult on?
Turvaskännerid hoiavad küll töölaua rohelisena, kuid neid ei loodud kontrollima teksti, mida teie AI loeb. Siin on 15-minutiline viis selle haavatavuse kaardistamiseks ja ülevaade sellest, kuidas see lünk sulgeda.
Muuda päris maailma lugemine oma AI-le turvaliseks
Prompt Firewall on kinnises testimises. Üks API-päring annab sulle esimesest päevast skaneerimise ja isoleerimise.