Der Blätterkatalog benötigt Javascript.
Bitte aktivieren Sie Javascript in Ihren Browser-Einstellungen.
The Blätterkatalog requires Javascript.
Please activate Javascript in your browser settings.
32 Elektronik 07 2025 ISSCC 2025 Die KI-Revolution vorantreiben KI braucht Inno vationen auf der Speicherseite In der Keynote von Jaihyuk Song Corporate President CTO der Device Solutions Unit von Samsung Electronics geht es darum welche Innovationen aufseiten der Speichertechnologien helfen können um die KIRevolution weiterzutreiben Von Iris Stroh »Jüngste Fortschritte in der Halb leitertechnologie gepaart mit dem exponentiellen Datenwachstum haben eine dritte Welle der KIEntwicklung ausgelöst Als Plattform ist KI in der Lage Technologien in unzähligen Bereichen zu transformieren und vor anzutreiben einschließlich Transport Robotik Fertigung Finanzwesen oder Sicherheitsbereich und letztlich auch unser eigenes Leben« erklärt Song Halbleiter stehen aus seiner Sicht an vorderster Front um die Nutzung von KI voranzubringen Und auch wenn die Halbleiterindustrie sich stetig wei terentwickelt wird es wohl noch eine Zeitlang dauern bis die KI mit den Fähigkeiten des menschlichen Gehirns immer und überall konkurrieren kann Ein Vergleich von Song zwischen KI und menschlichem Gehirn zeigt zunächst dass es etwa 3 4 Milliarden Jahre gedauert hat bis aus dem ursprüng lichen Einzeller ein Gehirn mit seiner heutigen Komplexität geworden ist Da war die KI doch deutlich schnel ler sie hat »in nur 80 Jahren unglaub liche Fortschritte gemacht Sie erreicht Genauigkeitsniveaus die weit über das hinausgehen was ursprünglich mög lich war« sagt Song Seine Aussage belegt er mit einem MMLUBenchmark Massive Multitak Language Under standing Kam GPT2 im Jahr 2019 auf eine Genauigkeit von 32 4 Prozent liegt OpenAI 01 2024 bereits bei 92 3 Pro zent Obwohl die Genauigkeit bei einem Menschen der nicht Experte ist gerin ger ausfällt 34 5 Prozent die von Experten liegt bei 98 Prozent hat das Gehirn auch heute noch klare Vorteile Es ist schneller der Energie verbrauch ist geringer und die Speicherkapazität ist deutlich höher Bild 1 Drei Probleme Leistungsaufnahme Memory-Wall und Speicherkapazität Aus der Sicht von Song muss die Halb leiterindustrie drei Probleme lösen damit das Wachstumspotenzial von KI ausgeschöpft werden kann Der erste Punkt ist die Leistungsaufnahme In diesem Zusammenhang verweist Song beispielsweise auf die Leistungsauf nahme die für das Training von KI Modellen notwendig ist und die extrem gestiegen ist Lag der Stromverbrauch für GPT1 mit 118 Mio Parametern noch bei 3 7 kWh kommt GPT4 mit 1 8 Billionen Parametern bereits auf 148 GWh Song »Diese Energie ent spricht nahezu der vollständigen Auf ladung von 2 5 Millionen TeslaFahr zeugen des Modells Y « Die »MemoryWall« steht als zweiter Punkt auf der Liste der Herausforde rungen die gemeistert werden müssen Mit der Weiterentwicklung generativer KIModelle habe sich die Rechenleis tung von GPUs mit jeder Generation vervielfacht die Entwicklungen auf der Speicherseite verliefen dagegen viel langsamer Das heißt dass mit jeder neuen Generation auf der GPUSeite der Unterschied zwischen Speicher und Prozessgeschwindigkeit größer wird Bild 2 Und die dritte Schwierigkeit liegt in unzureichender Speicherkapazität Song erklärt »Um beispielsweise das kritische Problem mit Halluzinationen in generativer KI anzugehen und die Zuverlässigkeit zu verbessern wurde die RAGTechnologie entwickelt « RAG steht für Retrieval Augmen ted Generation und ist eine Technik die die Ausgabe von großen Sprach modellen zu verbessern hilft indem auf eine Wissens basis außerhalb der Trainingsdaten verwiesen wird bevor das LLM die Antwort generiert Tech