Der Blätterkatalog benötigt Javascript.
Bitte aktivieren Sie Javascript in Ihren Browser-Einstellungen.
The Blätterkatalog requires Javascript.
Please activate Javascript in your browser settings.
7 l 2022 künstliche intelligenz l Schutz vor Missbrauch l 31 beim autonomen Fahren Handlungen ähnlicher KI-Systeme können beispielsweise in einer Cloud-Umgebung gesammelt werden Auf diese Weise lässt sich abgleichen ob diese Handlungen bereits in ähnlichen Situationen vorkamen Diese Daten lassen sich wiederum in Lernprozesse überführen um die Anomalieerkennung zu optimieren u Verbotene schädliche oder gefährliche Handlungen eines KI-Systems können unter anderem dann erkannt werden wenn Regelsätze in KI-Systeme implementiert werden Durch den Abgleich registriert das System den Verstoß und leitet Gegenmaßnahmen ein wie das Abschalten des Systems Ein Beispiel ist die Regel dass eine Person nicht verletzt werden darf Voraussetzung ist jedoch dass sich Regelsätze durch den Lernprozess der KI nicht ändern und dass keine unbefugten sowie unbeabsichtigten Änderungen eintreten Das erfordert eine technische Absicherung und entsprechende Prozesse So sollten notwendige Änderungen unter anderem durch ein „Vier-Augen-Prinzip“ von Menschen eingeleitet und freigegeben werden u Die Interaktion von Mensch und KI-System ist unter anderem über Stimme und Gesten möglich Die Systeme müssen autorisierte Personen daher sicher erkennen Besonderen Schutz verspricht eine Kombination aus KIbasierten Videound Spracherkennungssystemen und weiteren Authentifizierungsmaßnahmen etwa eine Multi-Faktor-Authentifizierung MFA Die Authentifizierung kann kontinuierlich erfolgen um auch den Wechsel von Personen zu erkennen die mit relevanten Komponenten eines KI-Systems in Berührung kommen u Es ist unerlässlich dass die Qualität die Authentizität und die Integrität der Trainingsdaten gewährleistet werden So sollten Besitzer von Datenquellen zum Beispiel Unternehmen Behörden Krankenhäuser die Auswahl der Trainingsdaten klar dokumentieren Darüber hinaus muss die Auswahl der Daten für den Zweck des Systems angemessen sein und unabhängig geprüft werden können beispielsweise durch eine Kreuzvalidierung Zu den Trainingsdaten sollten nur autorisierte Personen neue Daten hinzufügen können Schließlich lassen sich durch verteiltes Maschinelles Lernen Datensicherheit und -schutz sowie Privatsphäre wahren u Um den Lernprozess von KI-Systemen zu schützen kann es sinnvoll sein ihre Lernfähigkeit einzuschränken beispielsweise über ortsoder situationsbezogene Beschränkungen Aber auch eine starke Verlangsamung des Lernens zwischen Systemwartungsschleifen ist denkbar da sich so Einflüsse von schädlichen Lernbeispielen auf das KI-System minimieren lassen Zudem können Betreiber auch das selbstständige Lernen eines KI-Systems einschränken sodass erst eine menschliche Instanz neu Erlerntes bestätigen muss u Darüber hinaus besteht die Möglichkeit die Funktionalitäten und die Fähigkeiten von KI-Systemen für bestimmte Orte Zeitfenster Situationen und Umgebungen zu deaktivieren beziehungsweise den Grad der Autonomie eines solchen Systems zu reduzieren Beispiele sind das Geofencing und das Geotargeting Diese Technologien orientieren sich an geographischen Koordinaten um beispielsweise Drohnenflüge in spezifische Gebiete zu unterbinden oder Funktionen von Baumaschinen auf einer Baustelle zu beschränken Einschränkungen von Fähigkeiten können zudem gekoppelt an eine Umgebungsanalyse auf Basis der Sensoren eines Über daS Whitepaper ➤ das Whitepaper „Ki-Systeme schützen Missbrauch verhindern“ stammt von der plattform „Lernende Systeme“ es greift unterschiedliche angriffsszenarien und Missbrauchspotenziale auf um daraus vielfältige mögliche Schutzmaßnahmen abzuleiten damit richtet es sich an die fachlich interessierte Öffentlichkeit an bürgerinnen an die hersteller und anwender von Ki-Systemen sowie politische entscheidungsträgerinnen ein mögliches Szenario ist der Missbrauch des autonomen Fahrzeugs als Waffe ohne dass dabei Menschen direkt in die ausführung involviert sein müssen siehe abbildung autonome Fahrzeuge sind in der regel in sehr komplexe Mobilitätssysteme eingebettet das heißt zum beispiel in datenökosysteme um die Verarbeitung von Sensorund Verkehrsinformationen oder auch das Lernen der Fahrzeuge zu gewährleisten angriFF durch ein autonoM FehrendeS Fahrzeug Verhindern Quelle Whitepaper „KI-System e schützen Missbrauch verhindern“ Plattform Lernende System e März 2022