Der Blätterkatalog benötigt Javascript.
Bitte aktivieren Sie Javascript in Ihren Browser-Einstellungen.
The Blätterkatalog requires Javascript.
Please activate Javascript in your browser settings.
7 l 2022 32 l künstliche intelligenz l Schutz vor Missbrauch mobilen Systems erfolgen Das heißt dass bestimmte Fähigkeiten nur dann freigegeben sind wenn Sensoren spezifische Merkmale eines Ortes oder einer Umgebung erkennen Organisatorische Maßnahmen In jeder Lebenszyklusphase eines KI-Systems – von Design Herstellung Inbetriebnahme Einsatz Wartung Aktualisierung bis zur Entsorgung – bestehen kritische Punkte die das Missbrauchspotenzial erhöhen Ein Beispiel sind Fehler oder „Hintertüren“ in die in der Designphase in die Softoder Hardware gelangen aber auch das Fehlverhalten von Personen kann zu Schwachstellen im System führen Einem Risiko dem Verantwortliche mit verschiedenen organisatorischen Maßnahmen entgegenwirken können die aber oft komplex und aufwendig in der Umsetzung und daher kostspielig sind Diese organisatorischen Maßnahmen sind gleichzeitig ein gutes Instrumentarium um Missbrauch vorzubeugen und gerade bei KI-Systemen unumgänglich die im Missbrauchsfall einen potenziell großen Schaden verursachen würden So müssen die Betreiber Regeln für den Zugang zu Software und Hardware des KI-Systems definieren aber auch für den Zugang zur Einsatzumgebung für Prozesse rund um die Beobachtung sowie für die Umsetzung der Prinzipien „Securityund Safety by Design“ Beispielsweise stellen Betriebsvereinbarungen ein wirksames Instrument dar um den Einsatz von und den Umgang mit KI-Systemen schon mit der Einführung im Einvernehmen zwischen Unternehmen und ihren Beschäftigten zu definieren Darüber hinaus sollten die Verantwortlichen das KI-System selbst als auch die organisatorischen Prozesse prüfen und oder zertifizieren lassen Darunter fallen unter anderem technische Eigenschaften Trainingsdaten aufgezeichnete Handlungen Reaktionen und Verhaltensweisen des Systems zur Einsatzzeit und in Prüfszenarien sowie erlernte und veränderte Fähigkeiten und die Lernfähigkeit selbst Prozesse wie die Herstellungsund Wartungsprozesse sollten ebenfalls Teil von Prüfungsund Zertifizierungsmaßnahmen sein ASE-Leitbild gibt den Weg vor Um sowohl technologischen als auch organisatorischen Maßnahmen zum Schutz vor Missbrauch Rechnung zu tragen bietet es sich grundsätzlich an dem Leitbild des „Advanced Systems Engineering“ kurz ASE zu folgen ASE steht stark vereinfacht ausgedrückt für eine neue Denkund Handlungsweise in der Planung der Entwicklung und dem Betrieb von komplexen Systemen Demnach bestehen die Systeme aus mechanischen Komponenten Software und moderner Informationstechnik die über Netzwerke – zum Beispiel das Internet – miteinander verbunden sind Und gemäß ASE ist davon auszugehen dass sie sich künftig zudem durch einen hohen Grad an dynamischer Vernetzung Autonomie und interaktiver soziotechnischer Integration auszeichnen Daher werden zum einen Herangehensweisen des Engineerings notwendig die sich durch eine ganzheitliche und interdisziplinäre Perspektive der zunehmenden Komplexität der KI-Systeme auszeichnen Zum anderen gilt es für Verantwortliche kontinuierlich neue technologische und arbeitsorganisatorische Entwicklungen einzubeziehen DaS gefakte ViDeotelefonat ➤ Welche manipulativen tücken heutzutage mit modernen kommunikationsmitteln einhergehen können durfte Berlins Regierende Bürgermeisterin franziska giffey SPD jüngst am eigenen leib erfahren in einer Videokonferenz ende Juni hatte sie mit jemandem gesprochen der sich fälschlicherweise als kiews Bürgermeister Vitali klitschko ausgab nach einer halben Stunde jedoch fiel der Schwindel auf und das gespräch zur aktuellen lage in der Ukraine wurde vorzeitig beendet fünf tage nach dem telefonat bekannte sich das russische komiker-Duo „Vovan und lexus“ zu dem Betrug und behauptete laut einem Bericht des aRD-Magazins „kontraste“ hinter der aktion zu stecken und giffey sowie einige ihrer amtskollegen aus anderen europäischen Hauptstädten hereingelegt zu haben Welcher art von technischer Manipulation man sich bediente ließ das Duo jedoch offen Die Berliner Senatskanzlei war zunächst von einer digitalen Manipulation einem sogenannten „Deep fake“ ausgegangen Mittlerweile haben sich die Hinweise dahingehend verdichtet dass es sich um einzelne Videoschnipsel aus einem interview gehandelt hat die clever geschnitten und in echtzeit neu zusammengesetzt worden sind Damit wäre giffey zwar immer noch einer fälschung aufgesessen allerdings einem sogenannten „Shallow fake“ oder „Cheap fake“ und keinem technisch anspruchsvollen Deep fake auch wenn es in diesem fall nicht zu einem Missbrauch mittels ki gekommen ist stellt die Deepfake-Methode durchaus eine reale gefahr dar Dabei lernt ki-Software auf Basis von Videound tonaufnahmen Stimme Mimik und gestik einer anderen Person um vermeintlich authentische Videos oder audioaufnahmen entstehen zu lassen Während diese art von fakes in der Vergangenheit nur mühsam angefertigt werden konnte ist das mittlerweile mit vielen kostenlosen apps für jeden laien möglich Hinzu kommt Die technologie kann für Betrüger potenziell sehr wertvoll sein es ist vorstellbar dass der anruf einer führungskraft simuliert wird der die Buchhaltung zu einer Überweisung auffordert Und auch Privatpersonen haben bereits Schaden erlitten So wurden beispielsweise zahlreiche Schauspieler in pornografische inhalte geschnitten Die kriminellen Möglichkeiten von Deep fakes reichen weit von erpressung bis zur Wahlbeeinflussung durch gefälschte Videos der kandidaten mit schädigen aussagen oder Handlungen Bild Senatskanzlei Berlin