Neue Konkurrenz für Nvidia: Das Rennen um die KI-Inferenzchips beginnt
Nvidia, das Aushängeschild der Künstlichen Intelligenz (KI), hat den Markt für spezialisierte Computerchips revolutioniert. Bisherige Erfolge wurden insbesondere durch ihre Grafikprozessorchips erzielt, die die Entwicklung fortschrittlicher KI-Systeme ermöglichen. Doch während diese GPUs exzellente Dienste im Training von KI-Tools leisten, erweisen sie sich im laufenden Betrieb, der sogenannten Inferenz, als weniger effizient.
In diesem von Nvidia dominierten Markt wittern jedoch Konkurrenten wie AMD und Intel sowie aufstrebende Start-ups wie Cerebras, Groq und d-Matrix ihre Chance. Sie konzentrieren sich auf die Entwicklung von KI-Inferenzchips, die darauf ausgelegt sind, die regelmäßigen, geringeren Rechenanforderungen der KI-Tools effizienter zu bewältigen und gleichzeitig die enormen Betriebskosten generativer KI zu senken.
Kern der Inferenz ist es, vortrainierten KI-Modellen neue Informationen zuzuführen und darauf basierend Schlussfolgerungen zu ziehen. Während GPUs auch hierfür genutzt werden können, gleicht ihre Anwendung auf diesem Feld oftmals dem Einsatz eines Vorschlaghammers zum Knacken einer Nuss. Dadurch wird der Markt für spezialisierte Inferenzhardware belebt, besonders da der Bedarf an Rechenleistung für Inferenz mit der breiteren Akzeptanz von KI-Modellen rasant steigt.
Analysten wie Jacob Feldgoise vom Center for Security and Emerging Technology bemerken, dass Unternehmen zunehmend auf spezialisierte Hardware setzen. Alvin Nguyen von Forrester Research unterstreicht, dass die Anforderungen für das Training erheblich schwerer sind als für die Inferenz, die vergleichsweise leichter ist.
Start-ups fassen Fuß, indem sie gezielt auf das Nutzbarmachen von KI-Tools zielen. So erklärt Sid Sheth, CEO von d-Matrix, dass sie sich trotz der Fülle bereits bestehender Anbieter als ernstzunehmende Alternative positionieren wollen. Gegründet 2019 in Santa Clara, Kalifornien, konkurrieren sie nun mit den großen Namen der Branche um die Vorherrschaft im wachsenden Markt für Inferenzchips.
