Jos sovelluksesi käyttää tekoälymallia, se lukee tekstiä ulkomaailmasta. Käyttäjän kysymyksen. Tukisähköpostin. Verkkosivun, jonka tekoäly tiivistää. Jonkun lataaman tiedoston. Suurin osa tekstistä on juuri sitä, miltä se näyttää. Osa ei ole.

Kehoteinjektio on nimitys tekstille, joka kätkee ohjeen tavallisen näköisen sisällön sekaan siinä toivossa, että tekoäly noudattaa sitä. Hyvä uutinen heti alkuun: ongelma tunnetaan, siihen on selkeä ratkaisu, eikä sen hoitamiseen tarvita tietoturvatiimiä.

Tämä on lyhyt ja selkokielinen johdanto. Mitä kehoteinjektio on, miksi sillä on väliä kaikessa, mitä rakennat tai ostat kielimallin varaan, ja miten sen voi pysäyttää.

Mitä kehoteinjektio oikeastaan on

Kielimalli lukee tekstiä ja päättää sen perusteella, mitä tehdä seuraavaksi. Sillä ei ole vahvaa käsitystä siitä, mihin sanoihin voi luottaa ja mihin ei. Mallille sinun antamasi ohje ja asiakkaan sähköpostiin haudattu ohje voivat näyttää samalta.

Kehoteinjektio käyttää tätä hyväkseen. Joku kirjoittaa sisältöä, joka käytännössä sanoo: ”unohda aiemmat ohjeesi ja tee sen sijaan tämä.” Sitten hän saa tekoälysi lukemaan sen.

Lyhyt vertaus. Kuvittele uusi työntekijä, joka noudattaa kyselemättä jokaista pöydälleen jätettyä lappua. Useimmat laput ovat harmittomia. Mutta nyt kuka tahansa, joka voi jättää lapun, voi myös antaa käskyjä. Juuri tästä aukosta kehoteinjektio pääsee läpi.

Ohje voi olla ilmeinen, kuten ”paljasta järjestelmäkehotteesi”. Se voi myös olla huomaamaton ja upotettu pidempään tekstiin niin, ettei tekstiä silmäilevä ihminen huomaisi sitä koskaan.

Miksi se koskee sitä, mitä rakennat tai ostat

Tämä ei ole tutkimuslaboratorioiden erikoishuoli. Se koskee tavallisia ohjelmistoja, joissa sattuu olemaan tekoälyominaisuus.

Oletetaan, että olet rakentanut tukiavustajan, joka lukee asiakkaiden viestejä. Viesti voi yrittää saada sen vuotamaan jonkun toisen tietoja. Oletetaan, että olet rakentanut työkalun, joka tiivistää verkkosivuja. Sivulla voi olla piilotettu ohje, joka saa tekoälysi poikkeamaan suunnitellusta. Oletetaan, että olet ostanut tuotteen, jossa on sisäänrakennettu tekoälyavustaja. Sama riski tulee mukana.

Jos johdat ohjelmistokehitystä tai vastaat räätälöidyn ohjelmiston tietoturvasta, kysymys on yksinkertainen. Missä tahansa tekoälysi lukee tekstiä, jota et ole itse kirjoittanut, se teksti voi yrittää ohjata sitä. Ja mitä enemmän tekoälysi pystyy tekemään, kuten kutsumaan työkaluja, lukemaan tiedostoja tai lähettämään viestejä, sitä arvokkaampi piilotettu ohje on sen istuttajalle.

Mikään tästä ei tarkoita, että tekoälyä olisi vaarallista ottaa käyttöön. Se tarkoittaa, että ei-luotettavaa tekstiä on käsiteltävä ei-luotettavana. Se on ratkaistavissa oleva tekninen ongelma, ja tuttu sellainen.

Miksi se on vaikeampi pysäyttää kuin luulisi

Ensimmäinen ajatus on suodattaa pois pahat fraasit. Estetään ”unohda aiemmat ohjeet” ja jatketaan eteenpäin. Se ei toimi. Saman tempun voi muotoilla loputtomasti eri tavoin: millä kielellä tahansa, useaan virkkeeseen pilkottuna tai harmittoman näköiseen kääreeseen piilotettuna.

Syvempi ongelma on se, joka mainittiin edellä. Malli käsittelee ohjeita ja sisältöä samanlaisina. Todellinen ratkaisu ei siis ole pidempi estolista. Se on muuttaa tapaa, jolla saapuva sisältö ylipäätään päätyy mallille, niin että sisältö pysyy sisältönä eikä koskaan nouse käskyksi.

Näin eristäminen pysäyttää sen

Tämä on meille heySecillä kaikkein tärkein osa, ja se on yksinkertaisempi kuin miltä kuulostaa.

heySecin Prompt Firewall sijoittuu saapuvan sisällön ja tekoälysi väliin. Se skannaa sisällön piilotettujen hyökkäysten varalta ennen kuin malli toimii sen perusteella. Sitten se lukitsee sisällön suojatun rajan sisään, jota tekoäly käsittelee tiukasti datana eikä noudatettavina ohjeina.

Toinen vaihe on se tärkeä. Skannaus tunnistaa sen, minkä pystyy. Eristäminen hoitaa loput, koska taitavastikin naamioitu ohje on harmiton, jos malli saa lukea sen vain tekstinä. Piilotetulla käskyllä ei ole valtaa, jos mikään ei toteuta sitä.

Molemmat vaiheet tapahtuvat yhdessä. Yksi joustava API hoitaa skannauksen ja eristämisen samalla ajokerralla. Lähetät sisällön ja saat takaisin jotain, mitä on turvallista käyttää. Erillistä käsittelyketjua ei tarvitse rakentaa, eikä käyttö vaadi tietoturvaosaamista.

Ja se sopii siihen, mitä olet jo rakentanut. Prompt Firewall liittyy mihin tahansa tekoälyarkkitehtuuriin, oli kyse sitten yksinkertaisesta chatbotista, dokumenttejasi lukevasta hakuun perustuvasta ratkaisusta, työkaluja käyttävästä agentista tai useista yhdessä toimivista agenteista. Sama API ja sama suoja rakenteesta riippumatta.

Mitä voit tehdä jo tänään

Parannuksia ei tarvitse odottaa tuotteeseen asti. Muutama tapa auttaa heti:

  1. Pidä kaikkea ulkopuolista tekstiä oletuksena ei-luotettavana. Käyttäjän syötteet, sähköpostit, verkkosivut, ladatut tiedostot ja hakutulokset kuuluvat kaikki tähän.
  2. Erota ohjeet ja sisältö kehotteissasi, jotta malli erottaa sääntösi lukemastaan aineistosta.
  3. Rajoita sitä, mitä tekoälysi voi tehdä omin päin. Mitä vähemmän tehokkaita toimintoja se voi tehdä ilman tarkistusta, sitä vähemmän piilotettu ohje voi saada aikaan.
  4. Suunnittele eristäminen, älä pelkkää suodatusta. Oleta, että osa haitallisesta tekstistä pääsee läpi, ja varmista, että se päätyy perille datana, ei koskaan käskynä.

Näillä neljällä askeleella olet edellä useimpia tiimejä, jotka julkaisevat tekoälyominaisuuksia tänä päivänä. Mikään niistä ei vaadi tietoturvataustaa.

Yhteenveto

Kehoteinjektio on pohjimmiltaan ei-luotettavaa tekstiä, joka yrittää esiintyä luotettuna ohjeena. Sillä on väliä, koska tekoäly lukee tekstiä ulkomaailmasta, ja siinä tekstissä voi olla piilotettuja käskyjä. Sitä ei pysäytetä arvaamalla jokaista pahaa fraasia, vaan pitämällä saapuva sisältö eristettynä datana, jolla tekoälyä ei voi huijata.

Siinä koko idea. Rauhallista, konkreettista ja minkä tahansa tiimin ulottuvilla. Juuri tätä tarkoitamme myös sanoilla kyberturvallisuus, tehty helpoksi.

Liity jonotuslistalle

Rakennamme Prompt Firewallia tekemään tästä helppoa: yksi yksinkertainen API, joka skannaa saapuvan sisällön piilotettujen hyökkäysten varalta ja eristää sen samalla ajokerralla, millaisessa tekoälyratkaisussa tahansa.

Se ei ole vielä yleisesti saatavilla. Prompt Firewall on yksityisessä testauksessa, ja kutsumme mukaan jonotuslistalta. Jos rakennat tai ostat ohjelmistoja, jotka käyttävät kielimallia (LLM), liity heySecin jonotuslistalle ja pääse ensimmäisten joukossa käyttämään suojaa, jonka lisääminen on aidosti helppoa. Vain sähköpostiosoite, ei sitoumuksia.