Tag: KI-Risiken

Prompt Injection liegt vor, wenn versteckte Befehle in nicht vertrauenswürdigem Text eine KI dazu bringen, ihre Anweisungen zu ignorieren. Das Risiko betrifft jede Software, die ein KI-Modell nutzt, lässt sich aber auch ohne Security-Team lösen. Dieser Leitfaden zeigt, wie Sie Ihre Anwendungen schützen: indem Sie eingehenden Text abschirmen, sodass er immer als Daten behandelt wird,…