Wird KI alle Programmierer ersetzen? – Live Hacking mit KI

Large Language Models (LLM), die landläufig als Künstliche Intelligenz (KI) verallgemeinert werden, bieten in modernen Anwendungen zahlreiche Vorteile, können jedoch auch erhebliche Sicherheitsrisiken bergen. Insbesondere in der Softwareentwicklung verspricht der Einsatz von LLMs durch automatisierte Codegenerierung große Fortschritte. Doch enthält dieser Code Schwachstellen? (Spoiler: ja!)
 
Anhand einer praktischen und unterhaltsamen Live-Hacking-Session wird demonstriert, wie KI in der Softwareentwicklung Sicherheitslücken erzeugen oder ausnutzen kann. Der Vortrag gibt einen Einblick in die aktuellen Herausforderungen der KI-Sicherheit und zeigt auf, wie diese Schwachstellen identifiziert und abgesichert werden können. Ziel ist es, ein Bewusstsein für die Sicherheitsaspekte der KI-Integration zu schaffen und Handlungsempfehlungen für eine sichere Implementierung zu geben.

Matthias Göhring

Matthias Göhring ist IT-Security Consultant und Head of usd HeroLab, dem Geschäftsbereich für technische Sicherheitsanalysen innerhalb der usd AG. Er verfügt über langjährige Erfahrung in der Organisation und Durchführung von professionellen Penetrationstests für Unternehmen aller Größen und Branchen. Zusätzlich engagiert sich Matthias mit Lehraufträgen an der TU Darmstadt und Hochschule Darmstadt zum Thema technische IT-Sicherheit und Ethical Hacking.

Florian Kimmes

Florian Kimmes ist IT-Security Consultant und Penetration Tester. Im Auftrag von Kunden identifiziert er Schwachstellen in IT-Systemen und Anwendungen. Außerdem unterstützt er große Kunden bei Aufbau und Betrieb des Schwachstellenmanagements. Seit mehreren Jahren interessiert sich Florian für die Entwicklungen rund um Large Language Models (LLM), und hat sich daher u.a. auf Sicherheitsanalysen von Anwendungen, die LLMs verwenden, spezialisiert.