Der Blätterkatalog benötigt Javascript.
Bitte aktivieren Sie Javascript in Ihren Browser-Einstellungen.
The Blätterkatalog requires Javascript.
Please activate Javascript in your browser settings.
Q14 4 2024 Trends Strategien Die innovative Komplettlösung bietet durch Kosteneinsparungen und Energieeffizienz signifikante Wettbewerbsvorteile gegenüber herkömmlichen CPUzentrierten Architekturen In Kombination mit KI-Beschleunigern in einem KI-Inferenzserver senkt die NR1-Sdie Rechenzentrumskosten laut NeuReality um bis zu 90 Prozent und verbessert die Energieeffizienz um das bis zu 15-Fache Sie ermöglicht zudem lineare Skalierbarkeit ohne Leistungseinbrüche oder Verzögerungen selbst bei Verwendung weiterer KI-Beschleuniger Die Experten von Arrow brachten ihr Können im Embedded-Design ein und unterstützten das Projekt durch Beratung bei Firmware und Hardware sowie bei der Entwicklung und Validierung der Power-Management-Firmware Arrow übernahm außerdem das Debugging des Mikrocontrollers MCU und der Stromflüsse auf der Plattform um die erfolgreiche Inbetriebnahme der NAPU der NR1-Sund der integrierten NeuReality-Software schnell sicherzustellen Darüber hinaus half das Arrow-Team bei der Auswahl der optimalen MCU zur Sicherstellung der Schnittstellenverbindung zwischen den Systemkomponenten der PCIe-Karte und dem Server Die NR1 NAPU ist ein maßgeschneiderter »Server on a Chip« der die Effizienz jedes einzelnen KI-Beschleunigers von aktuell etwa 30 Prozent auf 100 Prozent Vollauslastung steigert was zu einer signifikanten Leistungssteigerung führt und gleichzeitig Silizium-Abfälle reduziert Diese Einheit kann nicht nur Dienste wie Netzabschluss Servicequalität und KI-Datenvorund -nachverarbeitung migrieren sondern auch den Datenfluss für das hohe Datenaufkommen und die Vielfalt von KI-Pipelines verbessern [ Systemarchitektur überwindet Engpässe Die Systemarchitektur von NeuReality überwindet die Engpässe die durch herkömmliche CPUzentrierte Systeme entstehen auf die sich heutzutage alle KI-Inferenzsysteme und Hardware-Hersteller stützen Dadurch reduziert NR1-S Kosten und steigert die Energieeffizienz erheblich – ein wesentlicher Vorteil bei der Ausführung von KI-Datenpipelines mit hohem Datenaufkommen und großer Datenvielfalt und ein wichtiger finanzieller Aspekt für einen effizienten Einsatz der heutigen leistungshungrigen konventionellen und generativen KI-Anwendungen »Unsere NAPU löst die größten Leistungsengpässe der heutigen KI-Beschleuniger einschließlich des Energiemanagements und der Übertragung von Daten aus dem Netzwerk in den KI-Beschleuniger in der Regel eine GPU ein FPGA oder ein ASIC« erklärt Eli Bar-Lev Director Hardware bei NeuReality »Dank der Unterstützung von Arrow bei Hardware und Firmware für das Energiemanagement und die Wärmetechnik konnten wir uns auf die Entwicklung einer vollwertigen Siliziumzu-Software-KI-Inferenzlösung konzentrieren die Barrieren auf dem KI-Markt für Regierungen und Unternehmen weltweit abbauen wird « »Dieses spannende Projekt hat das Potenzial die KI-Inferenzierung in der Cloud und On-Premise für Unternehmen deutlich erschwinglicher und schneller zu machen und damit den Zugang zu wertvollen Diensten in Bereichen wie Gesundheitswesen und medizinischer Bildgebung Banken Versicherungen sowie in KIgesteuerten Kunden-Callcentern und virtuellen Assistenten zu verbessern« ergänzt Vitali Damasevich Director Engineering Eastern Europe Engineering Solutions Center EMEA zü ■ Engineering Services Arrow unterstützt KI-Startup NeuReality Ingenieure von Arrow Electronics spielten eine wichtige Rolle bei der Entwicklung der weltweit ersten 7nm Network Addressable Processing Unit NR1 NAPU die in der NR1-S AI Inference Appliance von NeuReality integriert ist Bild NeuR eal ity Ar row karten für bestehende Hardware an und hilft bei der Auswahl von passenden Mainboards Arbeitsspeichern und anderen Komponenten Mit dem umfangreichen Portfolio an Produkten und Dienstleistungen einschließlich der neuen Intel-Core-Ultra-Prozessoren und weiteren spezialisierten Hardwarekomponenten kann Rutronik maßgeschneiderte Lösungen für spezifische Anforderungen entwickeln Die Fragen stellte Karin Zühlke Einen ausführlichen Fachartikel zum Thema liefert der am 7 November als Beilage der Markt Technik erscheinende Rutroniker