Zeitgleich mit der Veröffentlichung einer Verordnung zur Regulierung künstlicher Intelligenz (KI), hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) am 21. April 2021 ein Überblicksdokument zum sicheren KI-Einsatz veröffentlicht (auch in Englisch verfügbar). Darin behandelt das BSI "Probleme, Maßnahmen und Handlungsbedarfe für einen sicheren, robusten und nachvollziehbaren KI-Einsatz." Das BSI sieht folgende Angriffe auf konnektionistische KI-Methoden aktuell als besonders relevant an und erläutert diese jeweils: 

1. Evasion / Adversarial Attacks 
2. Data Poisoning Attacks 
3. Privacy-Attacks
4. Model Stealing Attacks

Das BSI empfiehlt Herstellern, Anbietern und Entwicklern von konnektionistischen KI-Systemen, folgende Punkte zu berücksichtigen, weist jedoch darauf hin, das Gegenmaßnahmen noch aktiv erforscht werden und aktuell nur einen begrenzten Schutz darstellen können. Das BSI sieht dringenden weiteren Handlungsbedarf, um die Sicherheit von KI-Systemen zu erforschen und zu verbessern. Nichtsdestotrotz seien die Punkte für ein "Mindestlevel" an Sicherheit für die Systeme" zu berücksichtigen und umzusetzen: 

• Klassische Maßnahmen der Software- und Systemsicherheit (alleine aber nicht ausreichend) 
• Systematische Risikoanalyse über gesamten Lebenszyklus des KI-Systems 
• Genutzte Metriken müssen dem jeweiligen Gefährdungspotenzial Rechnung tragen 
• Sicherstellung einer geeigneten Qualität und Quantität von Trainings- und Testdaten (Empfehlung: Nutzung eines professionellen Datenmanagements)
• Protokollierung von Anfragen an und Zugriffen auf KI-Systeme - Regelmäßige Überprüfung der KI-Systeme, um auf Veränderungen reagieren zu können 
• Bewertung von Kritikalität mangelnder Transparenz und Erklärbarkeit 
• Präzise und verständliche Beschreibungen der Randbedingungen der Systeme erstellen und Nutzern verfügbar machen