Arkisto
Tag: Tekoälyriskit
-
Prompt injection, tehty helpoksi
Kehoteinjektiossa (prompt injection) ei-luotettavaan tekstiin piilotetut käskyt huijaavat tekoälyn sivuuttamaan sille annetut ohjeet. Riski koskee kaikkia tekoälymallia käyttäviä ohjelmistoja, mutta sen voi ratkaista ilman tietoturvatiimiä. Tämä opas kertoo, miten suojaat sovelluksesi eristämällä saapuvan tekstin niin, että sitä käsitellään aina datana, ei käskyinä.
Anna tekoälysi lukea maailmaa turvallisesti
Prompt Firewall on yksityisessä testauksessa. Yksi API-kutsu antaa sinulle skannauksen ja eristämisen ensimmäisestä päivästä lähtien.