KI-Systeme: Chancen nutzen, Risiken kennen
Künstliche Intelligenz (KI) ist zweifelsfrei eine bahnbrechende Erfindung, doch wir müssen uns frühzeitig mit den Risiken beschäftigen. Die Einsatzgebiete von KI sind vielfältig – und natürlich loten auch Cyberkriminelle aus, welche neuen Möglichkeiten die Technologie bietet. So lassen sich etwa gängige Angriffsvektoren wie Phishing oder Malware durch Automatisierung unterstützen. Umgekehrt hilft KI aber auch in der Verteidigung: So kann sie bei der proaktiven Suche nach Sicherheitslücken unterstützen, die Beschaffenheit von Angriffsvektoren erlernen und durch prädiktive Analyse Sicherheitsvorfälle prognostizieren und abwehren.
Doch auch die Technologie selbst kann zum Ziel von Cyberangriffen werden: Wer verstanden hat, wie ein Algorithmus funktioniert, findet auch Möglichkeiten, ihn zu beeinflussen. Zudem bilden die Daten, aus denen die KI lernt, einen Angriffspunkt. Wenn es Hackern gelingt, die Trainingsdaten zu manipulieren oder das System mit falschen Informationen zu füttern, können sie das Lernverhalten der KI steuern und Fehlfunktionen provozieren.
Rund um KI kommen also völlig neue Angriffsszenarien auf uns zu, bei denen etablierte Security-Tools und Best Practices nicht greifen. Dieses Feld gilt es nun zu adressieren. Der wichtigste Schritt dafür ist, zunächst überhaupt ein Bewusstsein für Chancen und Risiken von KI-Systemen zu schaffen.
Autor: Wolfgang Kurz, Geschäftsführer und Gründer, indevis IT-Consulting and Solutions GmbH
