Das Wissensportal für IT-Professionals. Entdecke die Tiefe und Breite unseres IT-Contents in exklusiven Themenchannels und Magazinmarken.

heise conferences GmbH

(vormals SIGS DATACOM GmbH)

Lindlaustraße 2c, 53842 Troisdorf

Tel: +49 (0)2241/2341-100

kundenservice@sigs-datacom.de

LLMs sicher integrieren mit den OWASP LLM Top 10 – Teil 2: Gegenmaßnahmen

Der erste Teil hat gezeigt, wie große Sprachmodelle in Unternehmen eingesetzt werden können, und er hat die ersten fünf Risiken aus den OWASP Top 10 für LLMs ausführlich erläutert. Der zweite Teil widmet sich den verbleibenden Risiken und stellt Schutzmaßnahmen vor.

Im ersten Teil diente ein firmeninterner Chatbot als ein praxisnahes Szenario (siehe Abb. 1). Bei der Erläuterung der ersten fünf Risiken aus den OWASP Top 10 für LLMs zeigte sich, dass Themen wie Prompt Injection und die ungewollte Preisgabe sensibler Informationen besondere Aufmerksamkeit erfordern. Teil 1 konnte zeigen, dass sich mit etablierten Methoden und Katalogen wie dem OWASP Threat Modelling Process und den OWASP Top 10 für LLMs [1] Risiken systematisch adressieren lassen.