Arhiiv

Silt: LLM-i turvalisus

  • Viibasüst lihtsas keeles

    Viibasüst lihtsas keeles

    Viibasüst (prompt injection) leiab aset siis, kui ebausaldusväärsesse teksti peidetud käsud meelitavad tehisintellekti oma esialgseid juhiseid eirama. See on levinud oht iga tarkvara puhul, mis kasutab tehisintellekti mudelit, kuid probleem on lahendatav ka ilma eraldi turvatiimita. See juhend selgitab, kuidas kaitsta oma rakendusi, isoleerides sissetuleva teksti nii, et seda koheldakse alati andmetena, mitte käskudena.

  • Viibasüsti ABC teie loodavatele LLM-rakendustele

    Viibasüsti ABC teie loodavatele LLM-rakendustele

    Kui sinu rakendus saadab keelemudelile välist teksti, näiteks e-kirju või veebilehti, on see haavatav viibasüstile (prompt injection). Kuna keelemudelid ei tee vahet juhistel ja andmetel, jäävad tavapärased filtrid hätta. See juhend selgitab praktilist viisi, kuidas kaitsta oma rakendust, kontrollides ja isoleerides ebausaldusväärseid sisendeid.

  • Mis on viibasüst ja kuidas seda peatada?

    Mis on viibasüst ja kuidas seda peatada?

    Tehisaru assistent täidab juhiseid, mida ta loetavast tekstist leiab. See on ühtlasi tema nõrk koht. Siin on lihtsas keeles lahti seletatud, mis on viibasüst (prompt injection), miks see on endiselt lahendamata probleem ja kuidas kaitsta tehisaru, mida sa ehitad.

  • Lihtsas keeles turbe kontrollnimekiri LLM-rakenduste arendajatele

    Lihtsas keeles turbe kontrollnimekiri LLM-rakenduste arendajatele

    LLM-rakenduste turvalisuse kontrollnimekiri lihtsas keeles. Seitse praktilist sammu, mille saad kohe täna ära teha, et turvata RAG-ahelaid, tehisaru agente ja vestlusroboteid enne livesse minekut. Ilma erialase žargoonita.

Muuda päris maailma lugemine oma AI-le turvaliseks

Prompt Firewall on kinnises testimises. Üks API-päring annab sulle esimesest päevast skaneerimise ja isoleerimise.