This browser is not actively supported anymore. For the best passle experience, we strongly recommend you upgrade your browser.
viewpoints
Welcome to Reed Smith's viewpoints — timely commentary from our lawyers on topics relevant to your business and wider industry. Browse to see the latest news and subscribe to receive updates on topics that matter to you, directly to your mailbox.
| 1 minute read

Must-read für Entwickler und Anbieter von KI: BSI zu KI Sicherheit

Zeitgleich mit der Veröffentlichung einer Verordnung zur Regulierung künstlicher Intelligenz (KI), hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) am 21. April 2021 ein Überblicksdokument zum sicheren KI-Einsatz veröffentlicht (auch in Englisch verfügbar). Darin behandelt das BSI "Probleme, Maßnahmen und Handlungsbedarfe für einen sicheren, robusten und nachvollziehbaren KI-Einsatz." Das BSI sieht folgende Angriffe auf konnektionistische KI-Methoden aktuell als besonders relevant an und erläutert diese jeweils: 

  1. Evasion / Adversarial Attacks 
  2. Data Poisoning Attacks 
  3. Privacy-Attacks
  4. Model Stealing Attacks

Das BSI empfiehlt Herstellern, Anbietern und Entwicklern von konnektionistischen KI-Systemen, folgende Punkte zu berücksichtigen, weist jedoch darauf hin, das Gegenmaßnahmen noch aktiv erforscht werden und aktuell nur einen begrenzten Schutz darstellen können. Das BSI sieht dringenden weiteren Handlungsbedarf, um die Sicherheit von KI-Systemen zu erforschen und zu verbessern. Nichtsdestotrotz seien die Punkte für ein "Mindestlevel" an Sicherheit für die Systeme" zu berücksichtigen und umzusetzen: 

  • Klassische Maßnahmen der Software- und Systemsicherheit (alleine aber nicht ausreichend) 
  • Systematische Risikoanalyse über gesamten Lebenszyklus des KI-Systems 
  • Genutzte Metriken müssen dem jeweiligen Gefährdungspotenzial Rechnung tragen 
  • Sicherstellung einer geeigneten Qualität und Quantität von Trainings- und Testdaten (Empfehlung: Nutzung eines professionellen Datenmanagements)
  • Protokollierung von Anfragen an und Zugriffen auf KI-Systeme - Regelmäßige Überprüfung der KI-Systeme, um auf Veränderungen reagieren zu können 
  • Bewertung von Kritikalität mangelnder Transparenz und Erklärbarkeit 
  • Präzise und verständliche Beschreibungen der Randbedingungen der Systeme erstellen und Nutzern verfügbar machen
Zu den Anwendungsgebieten [von KI] gehören auch solche mit potentiell kritischen Auswirkungen, wie z. B. das (teil)autonome Fahren, die Gesichtserkennung oder die Auswertung medizinischer Daten. Gleichhzeitig bestehen derzeit viele ungelöste Probleme hinsichtlich eines sicheren, robusten und nachvollziehbaren Einsatzes von KI. Dieses Dokument präsentiert ausgewählte Probleme sowie Maßnahmen für einen solchen Einsatz in Bezug auf sogenannte konnektionistische KI-Methoden und zeigt Handlungsbedarfe aus Sicht des BSI auf.

Tags

ai, artificial intelligence, it security, künstliche intelligenz, ki, it sicherheit, bsi

Latest Insights