Der Blätterkatalog benötigt Javascript.
Bitte aktivieren Sie Javascript in Ihren Browser-Einstellungen.
The Blätterkatalog requires Javascript.
Please activate Javascript in your browser settings.
7 l 2022 30 l künstliche intelligenz l Schutz vor Missbrauch ki in falschen händen künstliche intelligenz unterstützt Menschen im alltag verbessert Prozesse in Unternehmen und Behörden sie kann aber auch entgegen ihrem eigentlichen zweck eingesetzt werden um gesellschaft und Wirtschaft zu schaden über potenzielle einfallstore und mögliche schutzmaßnahmen Autorin Diana Künstler sungfähig stark vernetzt und teilweise in andere Systeme eingebettet sind Das und die Tatsache dass sie zunehmend in verschiedensten Bereichen der Gesellschaft Anwendung finden machen den Schutz vor Missbrauch von KI-Systemen besonders relevant Breites Spektrum an Maßnahmen Vor diesem Hintergrund nimmt sich das Whitepaper der Plattform „Lernende Systeme“ die 2017 vom Bundesministerium für Bildung und Forschung initiiert wurde dieses Themas an siehe Infokasten und beschreibt vielfältige Schutzmaßnahmen Angriffsziele und -techniken können in diesem Kontext unterschiedlich ausfallen möglich ist beispielsweise dass mehrere Angriffe parallel stattfinden Daher empfiehlt sich ein breites Spektrum an Schutzund Abwehrmaßnahmen Diese Maßnahmen sollten den Whitepaper-AutorInnen zufolge sowohl am System selbst an dessen Umgebung als auch an den Menschen die das System beauftragen und kontrollieren ansetzen Denn auch der Mensch ist bei KI-Systemen involviert – sei es als kontrollierende Instanz Interaktionspartner oder Entwickler – und die Schutzmaßnahmen müssen sowohl auf technischer als auch auf organisatorischer Ebene umgesetzt werden Im Idealfall greifen sie ineinander Während aber einige Maßnahmen lediglich einmal bei der Entwicklung eines KI-Systems durchgeführt notwendig sind wie die Implementation einer KIgestützten Erkennung von Anomalien bedürfen andere einer stetigen Optimierung wie die Absicherung des Lernprozesses des KI-Systems und dessen Datenbasis Bei der Festlegung auf Schutzmaßnahmen empfehlen die AutorInnen zudem immer das Verhältnis von Kosten und Nutzen im Auge zu haben Technische Maßnahmen u Die Erkennung und die Blockierung von Angriffen und Missbrauchsversuchen kann generell durch KIgestützte Detektion von Anomalien erfolgen beispielsweise Abweichungen vom Umgebungsmodell ➤ KI-Systeme können auf vielfältige Art unseren Alltag erleichtern Man denke nur an autonome Fahrzeuge die in Deutschland seit 2022 am Straßenverkehr teilnehmen können autarke Drohnen -schwärme die bei der Zustellung von Paketen oder bei der Wiederaufforstung von Waldflächen helfen oder medizinische KI-Assistenzsysteme die bei der Auswertung von Computertomographie-Scans unterstützen Auf der anderen Seite besteht aber die Gefahr dass diese Systeme selbst Ziel eines Missbrauchsversuchs werden oder als Mittel zum böswilligen Zweck dienen Von staatlicher Überwachung bis hin zu Kigestützten physischen Angriffen – es gibt vielfältige mögliche Szenarien Und werden Systeme die auf Künstlicher Intelligenz basieren missbraucht kann dies besonders große Auswirkungen haben da auf diese Weise Entscheidungen von Algorithmen zum Beispiel in der Robotik oder sogar des Menschen zum Beispiel im Umgang mit großen Datenmengen manipuliert werden können Hinzu kommt dass KI-Systeme häufig