Hacking LLM Applications - Erfahrungen & Einblicke & Pentest

KI revolutioniert unsere Welt – doch unsichere LLM-Integrationen sind ein leichtes Ziel für Hacker. 

Während Unternehmen sich beeilen, Large Language Models (LLMs) in ihren Anwendungen einzusetzen, sind Angreifer oft noch schneller. In diesem Live-Webinar berichten wir über unsere Erfahrungen aus Penetrationstests bei LLM-Implementierungen unserer Kunden und diskutieren grundlegende Methoden des LLM-Security-Testings.

Wir stellen eine bahnbrechende Technik zur Prompt-Extraktion vor – inklusive einer Live-Demonstration – die die bisherigen Sicherheitsannahmen über LLMs auf den Kopf stellt. Sie sehen, wie echte Angreifer allein anhand von Modellausgaben vertrauliche Informationen preisgeben können – trotz etablierter Sicherheitsmaßnahmen. Basierend auf neuesten Forschungsergebnissen zeigen wir, warum aktuelle Tools nicht mithalten können, wie diese Methoden entdeckt wurden und was Sie tun können, um Angreifern einen Schritt voraus zu bleiben.