Etched Enthüllt Hochgeschwindigkeits-Sohu-Chip für Transformer-Modelle
Etched Enthüllt High-Speed Sohu Chip für Transformator-Modelle
Im Jahr 2022 präsentierte das Startup Etched seinen innovativen Schritt mit einer bedeutenden Investition in Transformer, die die Grundlage für KI-Modelle wie ChatGPT bilden. Dieses Vorhaben führte zur Schaffung von Sohu, einem ASIC-Chip, der speziell für Transformator-Modelle entwickelt wurde. Im Gegensatz zu herkömmlichen GPUs liegt die Spezialisierung von Sohu einzig in Transformator-Aufgaben und übertrifft die Nvidia B200 GPU fast um ein Zehnfaches.
Das Nischen-Design von Sohu fördert eine beispiellose Effizienz, wobei seine FLOPS-Kapazität über 90% Auslastung erreicht, was im Vergleich zu den 30% erreicht von Allzweck-GPUs ein deutlicher Kontrast ist. Folglich zeigt Sohu bemerkenswerte Leistung in transformatorbasierten Aufgaben, verarbeitet über 500.000 Tokens pro Sekunde in Llama 70B Durchsatz.
Etched vertritt die Ansicht, dass spezialisierte Chips wie Sohu die Zukunft darstellen, insbesondere angesichts der Expansion von Transformator-Technologie durch große AI-Konglomerate wie Google und Microsoft. Das Unternehmen beschleunigt eifrig die Produktion von Sohu und bekräftigt sein Vertrauen in die kommende Herrschaft von Transformern im AI-Berechnungsmarkt. Sie drücken sogar die Bereitschaft aus, potenzielle zukünftige ASICs für aufkommende Technologien zu fabrizieren, was ihre Bereitschaft widerspiegelt, ASICs für jede Technologie herzustellen, die Transformern herausfordern könnte.
Schlüssel Takeaways
- Etched führt Sohu ein, einen ASIC-Chip, der speziell für Transformator-Modelle optimiert ist, was die Nvidia B200 GPU in Geschwindigkeit um fast ein Zehnfaches übertrifft.
- Sohu erreicht über 90% FLOPS-Nutzung, was im Vergleich zu Allzweck-GPUs eine bemerkenswerte Steigerung bedeutet, und wird zu einer effizienten Wahl für Transformator-Aufgaben.
- Das Design des Chips bevorzugt ausschließlich Transformer, ein strategischer Ansatz, der auf mathematischen Operationen und der Eliminierung von überflüssiger Kontrollfluss-Logik beruht.
- Etched sieht spezialisierte Chips wie Sohu als die Zukunft, mit umfangreichen Produktionsaufträgen, die bereits erteilt wurden.
- Das Unternehmen strebt danach, an der Spitze des Hardware-Marktes zu bleiben und sich mit dem Aufkommen neuer AI-Modelle und -Technologien weiterzuentwickeln.
Analyse
Der strategische Fokus von Etched auf transformatorbezogene ASICs wie Sohu positioniert sie, die zunehmende Dominanz von Transformator-Modellen in AI auszunutzen. Diese Bewegung stärkt nicht nur die Dominanz von Nvidias GPU, sondern stimmt auch mit den Anforderungen großer AI-Labore wie Google und Microsoft überein. Sofortige Folgen könnten ein Anstieg des Marktanteils und Umsatzes von Etched sein, während langfristige Auswirkungen den AI-Hardware-Markt möglicherweise zugunsten spezialisierter ASICs gegenüber Allzweck-GPUs umgestalten. Diese Entwicklung könnte potenziell Schwankungen in Finanzinstrumenten hervorrufen, die mit Nvidia verbunden sind, und andere Chiphersteller dazu veranlassen, vergleichbare spezialisierte Lösungen zu entwickeln.
Wussten Sie schon?
- ASIC (Anwendungsspezifische integrierte Schaltung):
- ASICs, die für eine bestimmte Aufgabe oder Anwendung entworfen wurden, unterscheiden sich von Allzweck-integrierten Schaltungen wie CPUs oder GPUs. Sohu, das für Transformatorrechnungen in AI-Modellen entwickelt wurde, übertrifft allgemeine...