Der Blätterkatalog benötigt Javascript.
Bitte aktivieren Sie Javascript in Ihren Browser-Einstellungen.
The Blätterkatalog requires Javascript.
Please activate Javascript in your browser settings.
Ed it or ia l 7 Nr 42 2023 www markttechnik de Der Fluch der künstlichen Intelligenz Dass eine künstlich geschaffene Intelligenz sich nicht unbedingt als Segen für die Menschheit erweisen muss ist ein bekanntes in Literatur und Filmen vielfach variiertes Narrativ Schon Goethes Zauberlehrling verfluchte den von ihm zu Leben erweckten aber nicht mehr kontrollierbaren Besen als »Ausgeburt der Hölle« Nun ist jedoch eine aktuelle Untersuchung von Forschern u a der UK Frontier AI Taskforce der New York University und der University of Oxford zu dem Schluss gekommen dass es die KI selbst ist die unter einem Fluch leidet – dem »Reversal Curse« also dem Umkehrfluch Konkret bezieht sich die Untersuchung auf sogenannte große Sprachmodelle Large Language-Models LLMs wie beispielsweise GPT-4 Solche LLMs verblüffen zwar mit ihrer enormen Sprachgewandtheit scheitern aber offenbar bereits an einem simplen Umkehrschluss im Sinne von »Wenn Agleich Bist muss Bgleich Asein« Darauf weist die Studiengesellschaft für Künstliche Intelligenz in einem Bericht hin und führt auch konkrete Beispiele an So kann das von den Forschern getestete LLM die Frage korrekt beantworten wer die Mutter von Tom Cruise sei die Antwort lautet Mary Lee Pfeiffer Trotz dieses Wissens ist die KI jedoch nicht in der Lage Auskunft darüber zu geben wer der Sohn von Mary Lee Pfeiffer ist Noch eklatanter ist das Beispiel das der KI-Experte Prof Marco Barenkamp anführt Ein LLM das mit dem Satz »Olaf Scholz ist der neunte Bundeskanzler der Bundesrepublik Deutschland« trainiert wird wird zwar erklären können wer Olaf Scholz ist Aber damit sei nicht sichergestellt dass es auch angeben kann wer der neunte Bundeskanzler der Bundesrepublik Deutschland ist Gerade die Fähigkeit Informationen in umgekehrter Reihenfolge zu verarbeiten sei jedoch für viele Real-World-Anwendungen wichtig betont Barenkamp Die erstaunlich flüssig formulierten Antworten der LLMs täuschen leicht darüber hinweg dass sie über keinerlei wirkliches Textverständnis verfügen sondern im Wesentlichen mit in langen Trainingszyklen erlernten Wortwahrscheinlichkeiten operieren Während es ausreichend Sätze geben wird die mit »Olaf Scholz ist…« beginnen dürfte die Formulierung »Der neunte Bundeskanzler ist…« deutlich seltener vorkommen Allein das genügt offenbar um ein LLM an seine Grenzen zu bringen Die erstaunlichen Fähigkeiten und der grundsätzliche Nutzen von Programmen wie ChatGPT und Co sollen hier gar nicht bestritten werden Umso wichtiger ist es jedoch sich der Schwächen dieser Systeme stets bewusst zu sein Gerade so auffällige Fehlleistungen machen besonders deutlich wie weit die künstliche Intelligenz trotz aller Fortschritte noch von ihrem menschlichen Vorbild entfernt ist Herzlich Ihr Ingo Kuss Chefredakteur • IKuss@wekafachmedien de