Video-Podcast: Sicherheitstests für KI Systeme - Jan Jürjens
In dieser Episode sprechen Richard Seidl und Jan Jürgens über Sicherheitstests in KI‑Systemen. Die beiden beleuchten Herausforderungen rund um selbstlernende Software, diskutieren typische Angriffsflächen und wie sich manipulierte Trainingsdaten oft schwer erkennen lassen. Jan gibt Einblicke in praktische Schutzmechanismen und betont die Wichtigkeit intensiver Tests, etwa durch Penetrationstests und Filter für sensible Anfragen.
Highlights:
- KI-Modelle sind eine Blackbox: Du weißt vorher nicht, …
Richard Seidl
Berater, Coach und Autor
Richard Seidl ist Berater, Coach und Autor. Er hat in seiner beruflichen Laufbahn schon viel Software gesehen: gute und schlechte, große und kleine, neue und alte. Software so schön, dass man weinen könnte, und auch solche, wo es Fußnägel aufrollt. Für ihn ist klar: Wer heute exzellente Software kreieren möchte, denkt den Entwicklungsprozess ganzheitlich: Menschen, Kontext, Methoden und Tools.