Technologien, die auf Künstlicher Intelligenz (KI) basieren, durchdringen zunehmend alle Lebensbereiche. Ihr Beitrag zu einer verbesserten Sicherheit von IT-Systemen wie auch die Sicherheit von KI-Systemen selbst sind essenziell, damit Bürgerinnen und Bürger, Unternehmen, Politik und Behörden die Vorteile der fortschreitenden Digitalisierung nutzen
können. KI-Systeme spielen zukünftig eine wichtige Rolle zur Erhöhung der IT-Sicherheit. Methoden des maschinellen Lernens können beispielsweise eingesetzt werden, um die Fähigkeit von Angriffserkennungssystemen zu verbessern oder um in Netzwerken normale von verdächtigen Aktivitäten zu unterscheiden. KI-Systeme können Fachkräfte für IT-Sicherheit wirksam
unterstützen und damit kurzfristig die Auswirkungen des Fachkräftemangels in der IT-Sicherheit abmildern (siehe Kapitel 2). KI-Technologien bergen jedoch auch im Bereich der IT-Sicherheit ein Dual-Use-Potenzial (siehe Kapitel 3). Methoden des maschinellen Lernens, mit denen sich bisher unbekannte Sicherheitslücken in Netzwerken oder Softwaresystemen identifizieren lassen, können auch von Angreifern verwendet werden. Diese können mithilfe von Methoden und Verfahren der KI ihre Angriffsstrategien optimieren oder neue Bedrohungen entwickeln.
Das Bedrohungsrisiko sollte zwar nicht überzeichnet werden, ist jedoch eine zusätzliche Motivation dafür, sich auf diesem Einsatzfeld der KI einen technologischen Vorsprung zu erarbeiten und als Entwickler und Anwender ein Bewusstsein für das Dual-Use-Potenzial zu entwickeln. KI-Systeme werden zunehmend in Prozesse integriert, bei denen Sicherheit und Datenschutz eine zentrale Rolle spielen. Deshalb gilt es, die KI-Systeme selbst vor Angriffen zu schützen, ihre Robustheit gegenüber möglichen Manipulationen zu erhöhen und entsprechende Schutzmaßnahmen zu implementieren (siehe Kapitel 4). Angesichts der neuen Dynamik, die KI-Systeme in den Bereich der IT-Sicherheit bringen,
ergeben sich unterschiedliche Handlungsfelder – von der Unterstützung kleinerer und mittlerer Unternehmen über den Kompetenzaufbau zu KI und IT-Sicherheit bis hin zu Entwicklung und Design der Systeme selbst. Die Autorinnen und Autoren dieses Papiers bringen für diese Handlungsfelder erste Lösungsansätze ein (siehe Kapitel 5), die sie in einem nächsten Schritt ausdifferenzieren und weiterentwickeln werden.