Der eigene Chip gehört mittlerweile zum guten Ton... oder zu einer gesunden Kalkulation. Man will Nvidia nicht den Rücken zu kehren, aber die Rechnung drücken, die entsteht, wenn man täglich Milliarden Tokens durch fremde Hardware jagt. Gesucht werden aktuell Ingenieure, die nachweislich schon Silizium ausgeliefert haben, bei Gehältern bis 485.000 Dollar. Apple hat es mit den M-Chips vorgemacht, Google mit der TPU. Amazon und auch Microsoft sind mittlerweile ebenfalls im Rennen.
Warum ist das wichtig?
Wer die Hardware exakt um eine bekannte Aufgabe herum baut, spart sich alles, was diese Aufgabe nie braucht. Das verspricht geringere Kosten, die bei einer Umsatz-Run-Rate von 46 Milliarden Dollar über die Marge entscheiden. Frühe Tests zu vergleichbaren Chips deuten auf etwa 50 Prozent geringere Kosten pro Token gegenüber Standard-GPUs hin, auch wenn Branchenquellen die Entwicklung eines fortschrittlichen KI-Chips auf bis zu eine halbe Milliarde Dollar beziffern.
