Arhiiv

Silt: Viibasüst

  • Viibasüst lihtsas keeles

    Viibasüst lihtsas keeles

    Viibasüst (prompt injection) leiab aset siis, kui ebausaldusväärsesse teksti peidetud käsud meelitavad tehisintellekti oma esialgseid juhiseid eirama. See on levinud oht iga tarkvara puhul, mis kasutab tehisintellekti mudelit, kuid probleem on lahendatav ka ilma eraldi turvatiimita. See juhend selgitab, kuidas kaitsta oma rakendusi, isoleerides sissetuleva teksti nii, et seda koheldakse alati andmetena, mitte käskudena.

  • Viibasüsti ABC teie loodavatele LLM-rakendustele

    Viibasüsti ABC teie loodavatele LLM-rakendustele

    Kui sinu rakendus saadab keelemudelile välist teksti, näiteks e-kirju või veebilehti, on see haavatav viibasüstile (prompt injection). Kuna keelemudelid ei tee vahet juhistel ja andmetel, jäävad tavapärased filtrid hätta. See juhend selgitab praktilist viisi, kuidas kaitsta oma rakendust, kontrollides ja isoleerides ebausaldusväärseid sisendeid.

  • Mis on viibasüst ja kuidas seda peatada?

    Mis on viibasüst ja kuidas seda peatada?

    Tehisaru assistent täidab juhiseid, mida ta loetavast tekstist leiab. See on ühtlasi tema nõrk koht. Siin on lihtsas keeles lahti seletatud, mis on viibasüst (prompt injection), miks see on endiselt lahendamata probleem ja kuidas kaitsta tehisaru, mida sa ehitad.

  • Lihtsas keeles turbe kontrollnimekiri LLM-rakenduste arendajatele

    Lihtsas keeles turbe kontrollnimekiri LLM-rakenduste arendajatele

    LLM-rakenduste turvalisuse kontrollnimekiri lihtsas keeles. Seitse praktilist sammu, mille saad kohe täna ära teha, et turvata RAG-ahelaid, tehisaru agente ja vestlusroboteid enne livesse minekut. Ilma erialase žargoonita.

  • Skännerid näitavad puhast pilti. Kas teate, kui haavatav teie AI tegelikult on?

    Skännerid näitavad puhast pilti. Kas teate, kui haavatav teie AI tegelikult on?

    Turvaskännerid hoiavad küll töölaua rohelisena, kuid neid ei loodud kontrollima teksti, mida teie AI loeb. Siin on 15-minutiline viis selle haavatavuse kaardistamiseks ja ülevaade sellest, kuidas see lünk sulgeda.

  • Microsoft andis viibasüstile CVE-koodid. Siin on isoleerimine.

    Microsoft andis viibasüstile CVE-koodid. Siin on isoleerimine.

    Microsoft avaldas hiljuti turvanõrkused, mis näitavad, et tehisaru-agentide viibasüst on nüüd tõsine koodikäivitusrisk. Selle lahendamiseks toob heySec välja isoleerimistööriista, mis peatab vaenuliku sisendi enne, kui see tehisarumudelini jõuab. Uus kaitsekiht aitab arendajatel kaitsta oma agendiraamistikke otse viiba piiril.

Muuda päris maailma lugemine oma AI-le turvaliseks

Prompt Firewall on kinnises testimises. Üks API-päring annab sulle esimesest päevast skaneerimise ja isoleerimise.