Der Blätterkatalog benötigt Javascript.
Bitte aktivieren Sie Javascript in Ihren Browser-Einstellungen.
The Blätterkatalog requires Javascript.
Please activate Javascript in your browser settings.
12 2024 18 l SECURITY KI l O-Ton Auch Cybersicherheit braucht KI-Regulierung In Cybersicherheit steckt immer mehr Künstliche Intelligenz Dadurch wird sie auch immer anfälliger für Data Bias Staatliche Regulierung wie der AI Act der Europäischen Union ist deshalb auch für die IT-Sicherheit richtig und wichtig Autor Frank Limberger Redaktion Diana Künstler ➤ Data Bias zählt zu den größten Problemen von Künstlicher Intelligenz KI Ungenaue unvollständige und historische Trainingsdaten die Vorurteile und benachteiligende Muster enthalten führen zu falschen unfairen und diskriminierenden Ergebnissen Diese können schwerwiegende Folgen für Einzelpersonen und sogar die ganze Gesellschaft haben Der „Non-Virtuous Loop“ verschärft das Problem zusätzlich Fehlerhafte Ergebnisse werden in einer Feedbackschleife immer wieder in die Künstliche Intelligenz eingespeist und verstärken dadurch ihre Voreingenommenheit im Lauf der Zeit immer weiter Was das mit Cybersicherheit zu tun hat? Ziemlich viel denn auch sie ist immer mehr von Künstlicher Intelligenz durchdrungen Begonnen hat es mit dem Einsatz von Verhaltensund Merkmalsanalysen um Malware zuverlässiger zu erkennen als mit den herkömmlichen Signaturen Dann wurden irgendwann Protokolle nicht mehr durch Korrelationen analysiert sondern mit intelligenten Systemen für die Erkennung von Anomalien um verdächtige Aktivitäten im Netzwerk schneller zu entdecken Heute findet sich Künstliche Intelligenz an allen Ecken und Enden KI-Modelle entscheiden ob ein Nutzer Zugang zu einer Ressource enthält ob ein User ein erhöhtes Risiko darstellt ob der Zugang zu einer Ressource sicher ist oder ob sich ein bösartiger Akteur im Netzwerk befindet und sich vielleicht auch schon Zugriff auf sensible Daten verschafft hat Die Cybersicherheitsbranche kommt um KI nicht mehr herum wenn sie angemessen auf die immer asymmetrischere Bedrohungslandschaft reagieren will Praktisch jedes neue Stück Sicherheitssoftware und jeder neue Security-Service werden künftig ein KI-Element enthalten Und die Cybersicherheit wird verstärkt dazu übergehen Künstliche Intelligenz nicht mehr nur dafür zu verwenden um auf reaktive Weise Angriffe zu erkennen und abzuwehren sondern um sie proaktiv und offensiv zu verteidigen Je mehr Künstliche Intelligenz in der Cybersicherheit steckt desto anfälliger wird sie auch für das Data-Bias-Problem Stellen wir uns beispielsweise einmal eine KI vor die Datenverluste analysiert und nach Alarmsignalen im Verhalten von Nutzern sucht und dafür mit historischen Daten aus dem eigenen Unternehmen trainiert wurde Wurden diese Daten versehentlich durch schlecht abgestimmte Richtlinien vergiftet? Und ist das Trainingsmodell in einem Non-Virtuous Loop gelandet der die Auswirkung von Ausreißern verstärkt? Dann kann es passieren dass die KI legitime Nutzer aus Systemen aussperrt oder ihnen den Zugriff auf Ressourcen verweigert Und was geschieht eigentlich wenn die KI fälschlicherweise zu dem Ergebnis kommt dass ein Mitarbeiter einen anderen belästigt oder dass ein Mitarbeiter im Begriff ist durch fahrlässiges oder vorsätzliches Verhalten dem Unternehmen Schaden zuzufügen? Unbeabsichtigte Verzerrungen und Verfälschungen von Daten können auch in der Cybersicherheit schwerwiegende Auswirkungen auf Menschen haben Deshalb ist es auch für die IT-Security richtig und wichtig Künstlicher Intelligenz ethische Rahmenbedingungen aufzuerlegen und ihr entsprechende gesetzliche Vorschriften zu machen Den Auftakt dazu hat die Europäische Union mit ihrem AI Act ja bereits eingeleitet Er liefert den bis dato umfassendsten und detailliertesten Ansatz zur Regulierung von Künstlicher Intelligenz – und wird ähnlich wie die DSGVO vermutlich weltweit zahlreiche Nachahmer finden Um Data Bias zu verhindern stellt das KI-Gesetz der EU klare Anforderungen an die Qualität von Trainingsdaten und verlangt Transparenz Überwachung und Erklärbarkeit von KI-Entscheidungen Für Unternehmen bedeutet Regulierung natürlich immer erst einmal viel Aufwand Aber es ist entscheidend KI unter ethischen Gesichtspunkten zu betrachten Nur dann können wir gewährleisten dass keine Menschen durch falsche unfaire oder diskriminierende Entscheidungen zu Schaden kommen Auch in der Cybersicherheit FRANK LIMBERGER Data Threat Specialist bei Forcepoint in München Bild Forcepoint Um Data Bias zu verhindern stellt das KI-Gesetz der EU klare Anforderungen