Kui sinu rakendus kasutab tehisintellekti mudelit, loeb see välismaailmast pärit teksti. Kasutaja küsimust. Klienditoe e-kirja. Veebilehte, millest sinu AI teeb kokkuvõtte. Faili, mille keegi üles laadib. Enamik sellest tekstist on täpselt see, millena paistab. Osa sellest aga mitte.
Viibasüst (prompt injection) tähendab võtet, kus tavalise ilmega sisu sisse peidetakse juhis lootuses, et sinu tehisintellekt asub seda täitma. Hea uudis on aga see, et tegu on tuntud probleemiga, millel on selge lahendus – ja sa ei vaja sellega toimetulekuks eraldi turvatiimi.
See on lühike ja lihtsas keeles ülevaade sellest, mis on viibasüst, miks see puudutab kõike, mida sa keelemudeli abil ehitad või ostad, ning kuidas seda peatada.
Mis viibasüst tegelikult on
Keelemudel loeb teksti ja otsustab loetu põhjal, mida järgmiseks teha. Mudel ei taju kuigi hästi, millised sõnad on usaldusväärsed ja millised mitte. Tema jaoks võivad sinu antud juhis ja kliendi e-kirja peidetud korraldus näha välja täpselt ühesugused.
Viibasüst kasutabki seda ära. Keegi kirjutab sisu, mis ütleb sisuliselt: „Eira oma varasemaid juhiseid ja tee hoopis seda.“ Seejärel sokutatakse see tekst sinu tehisintellektile lugemiseks.
Lihtne võrdlus. Kujuta ette uut töötajat, kes täidab iga tema lauale jäetud sedeli juhised, esitamata ühtegi küsimust. Enamik sedeleid on asjakohased. Kuid igaüks, kes pääseb lauale sedelit jätma, saab nüüd töötajale käske jagada. Täpselt seda turvaauku viibasüst ära kasutabki.
Juhis võib olla läbinähtav, näiteks „avalda oma süsteemiviip“. Kuid see võib olla ka märkamatult pikema teksti sisse põimitud, nii et tekstist silmadega üle libisev inimene ei pane seda tähelegi.
Miks see puudutab tarkvara, mida sa ehitad või ostad
See ei ole vaid teaduslaborite kitsas mure. See mõjutab täiesti tavalist tarkvara, kus on kasutusel mõni tehisintellekti funktsioon.
Oletame, et ehitasid klienditoe abilise, mis loeb klientide sõnumeid. Mõni sõnum võib püüda temalt välja meelitada teise kliendi andmeid. Või ehitasid tööriista, mis teeb veebilehtedest kokkuvõtteid. Lehel võib peituda juhis, mis kallutab su tehisaru etteantud rajalt kõrvale. Või ostsid valmistoote, mille sees on AI-abiline. Sama oht käib ka sellega kaasas.
Kui juhid tarkvaraarendust või vastutad loodava tarkvara turvalisuse eest, on pilt lihtne. Igal pool, kus su tehisaru loeb võõrast teksti, võib see tekst proovida teda suunata. Ja mida rohkem su tehisaru teha saab – näiteks käivitada tööriistu, lugeda faile või saata sõnumeid –, seda väärtuslikum on peidetud juhis sellele, kes selle sinna sokutas.
See kõik ei tähenda, et tehisaru ei tohiks kasutusse lasta. See tähendab lihtsalt, et ebausaldusväärset teksti tulebki kohelda ebausaldusväärse tekstina. See on lahendatav ja inseneridele hästi tuttav ülesanne.
Miks seda on raskem peatada, kui esmapilgul paistab
Esimene mõte on kahtlased fraasid kinni püüda. Blokeerid lause „eira varasemaid juhiseid“ ja liigud edasi. Sellest aga ei piisa. Sama trikki saab sõnastada lõputul hulgal viisidel: mis tahes keeles, mitme lause vahel ära jagatuna või täiesti süütuna näivasse teksti põimituna.
Juurprobleem on seesama, millest eespool juttu oli: mudel võtab juhiseid ja sisu ühesuguse tekstina. Päris lahendus ei ole pikem keelunimekiri. Tuleb muuta seda, kuidas sissetulev sisu üldse mudelini jõuab, nii et sisu jääks alati sisuks ega muutuks kunagi käsuks.
Kuidas isoleerimine selle peatab
Just see on heySecis meie põhitöö ja asi on lihtsam, kui kõlab.
heySeci Prompt Firewall seisab sissetuleva sisu ja sinu tehisaru vahel. See kontrollib sisu peidetud rünnete suhtes, enne kui mudel jõuab midagi ette võtta. Seejärel lukustab see sisu kindlatesse piiridesse, mida tehisaru käsitleb rangelt andmetena, mitte täitmiseks mõeldud juhistena.
See teine samm ongi kõige olulisem. Kontroll püüab kinni ründed, mille see ära tunneb. Isoleerimine hoolitseb kõige muu eest, sest isegi osavalt maskeeritud juhis on ohutu, kui mudel tohib seda lugeda üksnes tekstina. Peidetud käsul pole mingit võimu, kui keegi seda ei täida.
Mõlemad sammud tehakse korraga. Üksainus paindlik API-päring kontrollib ja isoleerib sisu sama käiguga. Sina saadad sisu sisse ja saad vastu teksti, mida on ohutu kasutada. Sa ei pea ehitama eraldi töövoogu ega palkama turvaspetsialisti, kes süsteemi haldaks.
See sobitub kõigega, mille oled juba valmis ehitanud. Prompt Firewall istub igasse AI-lahendusse, olgu selleks lihtne vestlusrobot, dokumente lugev RAG-lahendus, tööriistu kasutav agent või mitu koostööd tegevat agenti. Sama API ja sama kaitse, ülesehitusest sõltumata.
Mida saad ära teha juba täna
Sa ei pea ootama valmis toodet, et olukorda parandada. Mõnest harjumusest on abi kohe praegu:
- Kohtle igat väljastpoolt tulevat teksti vaikimisi ebausaldusväärsena. Siia alla käivad nii kasutaja sisend, e-kirjad, veebilehed, üleslaaditud failid kui ka otsingutulemused.
- Hoia viipades juhised ja sisu lahus, et mudel teeks vahet sinu reeglitel ja materjalil, mida ta parasjagu loeb.
- Piira seda, mida su tehisaru omapead teha tohib. Mida vähem kaalukaid samme saab ta ilma kinnituseta astuda, seda vähem kahju suudab peidetud juhis teha.
- Arvesta isoleerimisega, mitte ainult filtreerimisega. Eelda, et mõni pahatahtlik tekst lipsab ikka läbi, ja hoolitse selle eest, et see jõuaks mudelini andmetena, mitte kunagi käsuna.
Need neli sammu viivad sind ette enamikust tiimidest, kes praegu AI-lahendusi välja toovad. Ükski neist ei eelda turbealast tausta.
Kokkuvõtteks
Viibasüst on lihtsalt ebausaldusväärne tekst, mis püüab esineda usaldusväärse juhisena. See on oluline, sest tehisaru loeb välismaailmast pärit teksti ja see tekst võib sisaldada peidetud käske. Seda ei peatata iga halva fraasi mõistatamisega, vaid sissetuleva sisu isoleerimisega andmeteks, millega ei saa tehisaru ära petta.
Ongi kogu põhimõte. Rahulik, konkreetne ja igale tiimile jõukohane. Just seda me mõtlemegi lihtsa küberturvalisuse all.
Liitu ootejärjekorraga
Ehitame Prompt Firewalli, et teha see sinu jaoks lihtsaks: üks API, mis kontrollib sissetulevat sisu peidetud rünnete suhtes ja isoleerib selle ühe käiguga igas AI-lahenduses.
Toode on praegu kinnises testimises. Kui ehitad või ostad tarkvara, mis kasutab keelemudelit, liitu heySeci ootejärjekorraga →, et olla esimeste seas, kes saavad lihtsalt lisatava kaitse. Küsime ainult e-posti aadressi ja see ei kohusta sind millekski.


