Nebius (NBIS.US) übernimmt das israelische Startup Inferize, um das KI-Inferenz-Geschäft auszubauen; Transaktionsvolumen könnte bis zu 150 Millionen US-Dollar erreichen

Das APP für Finanznachrichten von Zhitung berichtet, dass der KI-Cloud-Infrastruktur-Anbieter Nebius (NBIS.US) die israelische KI-Startup-Firma Inferize übernommen hat, um seine KI-Inferenzinfrastruktur weiter zu stärken. Inferize konzentriert sich auf die Minimierung der Leerlaufzeiten von Grafikprozessoren (GPU) und beschleunigt die Implementierung groß angelegter KI-Modelle. Laut der israelischen Technologiemedien Calcalist liegt der Transaktionswert zwischen 100 und 150 Millionen US-Dollar, jedoch hat Nebius keine genauen finanziellen Bedingungen offengelegt.

Der Kern dieser Übernahme liegt in der Verbesserung der GPU-Ressourcennutzung, insbesondere bei schnellen Veränderungen der Nachfrage nach KI-Inferenz, wodurch Nebius die Rechenressourcen schneller steuern und die Leerlaufzeiten teurer Rechengeräte reduzieren kann.

Fokus auf Effizienzengpässe bei KI-Inferenz Reduzierung von GPU-Leerlaufzeiten

Die Kerntechnologie von Inferize zielt hauptsächlich auf das „Cold Start“-Problem beim Einsatz von KI-Modellen ab. „Cold Start“ bedeutet, dass das KI-Modell vor der Bearbeitung von Benutzeranfragen geladen und die dazugehörige Ressourceninitialisierung abgeschlossen werden muss. Wenn eine neue Inferenzinstanz gestartet wird, muss die GPU möglicherweise warten, bis das Modell geladen ist, bevor es tatsächlich mit dem Rechnen beginnt, was zu einer kurzfristigen Ressourcenleerlauf führt.

Dieses Problem tritt besonders dann auf, wenn die Nachfrage nach KI-Inferenz plötzlich steigt. Mit dem Anstieg der Benutzeranforderungen müssen Cloud-Anbieter schnell weitere Inferenzinstanzen starten, aber wenn das Laden des Modells lange dauert, können die neu hinzugefügten GPU-Ressourcen nicht sofort genutzt werden, was die Reaktionsgeschwindigkeit des Dienstes und die Gesamteffizienz der Rechenleistung beeinträchtigt.

Die Technologie von Inferize zielt darauf ab, diese Wartezeit zu verkürzen, sodass neue Inferenzressourcen schneller eingesetzt werden können und die Expansion der Rechenleistung besser auf tatsächliche Nachfrageschwankungen abgestimmt ist.

Für Nebius bedeutet dies, dass das Unternehmen flexibel auf Kundenbedürfnisse eingehen und die Effizienz der bestehenden Infrastruktur steigern kann, ohne eine große Anzahl von GPU-Reserven langfristig als Backup bereithalten zu müssen.

Danila Shtan, CTO von Nebius, erklärt, dass der effiziente Betrieb von KI-Inferenzdiensten nicht nur schnellere GPUs und optimierte Modelle benötigt, sondern das ganze System auch auf Nachfrageänderungen reagieren und bei steigendem Kundenbedarf schnell zusätzliche Rechenkapazität bereitstellen muss. Er betont, dass Inferize nicht nur die Beschleunigung dieser Prozesse ermöglicht, sondern auch ein erfahrenes Ingenieurteam im GPU-Systembereich mitbringt.

Nebius plant, die Ingenieure von Inferize in sein Inferenzgeschäftsteam zu integrieren und die zugehörige Technologie in seine KI-Inferenzplattform Token Factory einzubinden, um die Fähigkeit der Plattform zu stärken, Kundenanforderungen zu erfüllen und die vorhandene Infrastruktur mit mehr realen Rechenaufgaben zu betrauen.

Shtan betont zugleich, dass der Beitrag des Inferize-Teams künftig nicht auf diese erste technische Integration beschränkt bleiben wird.

Reduzierung der Reserve-Rechenleistungskosten Verbesserung der Betriebs­effizienz von KI-Infrastruktur

Guy Bortnikov, Mitbegründer und CEO von Inferize, erklärt, dass Cloud-Anbieter normalerweise einen gewissen Bestand an GPU-Reserven bereithalten müssen, um jederzeit auf Kundenbedürfnisse reagieren zu können, und diese in Bereitschaft befindlichen Rechengeräte bedeuten zusätzliche Kosten. Er sagt, das Ziel von Inferize ist es, diese Kosten zu senken, und die Zusammenarbeit mit Nebius ermöglicht, die Technologie direkt im Betrieb einer KI-Cloud-Plattform einzusetzen.

Im KI-Inferenzgeschäft beeinflusst die Effizienz der Ressourcendisposition direkt die Betriebskosten der Infrastruktur. Da GPU-Geräte teuer sind, können Unternehmen, die viele Leerlauf-Kapazitäten für mögliche Nachfragespitzen bereithalten müssen, ihre Gesamtrendite beeinträchtigen.

Durch die Verkürzung der Modellstartzeit und die schnellere Freigabe von Rechenressourcen kann Nebius die Dienstflexibilität erhöhen und gleichzeitig die Abhängigkeit von GPU-Reserven verringern.

Bemerkenswert ist, dass Bortnikov zuvor auch das Softwareunternehmen Granulate für die Optimierung von Recheninfrastruktur mitgegründet hat. Granulate entwickelt Technologie zur Verbesserung der Rechenressourceneffizienz und wurde 2022 von Intel (INTC.US) übernommen. Dieser Hintergrund verdeutlicht die Erfahrung des Inferize-Teams im Bereich der Optimierung von Recheninfrastruktur.

Fortlaufende Übernahmen von KI-Technologieunternehmen Nebius stärkt seine Inferenzplattform weiter

Die Übernahme von Inferize ist Teil einer Reihe von Übernahmen im Bereich KI-Inferenz und Modelloptimierung durch Nebius. Zuvor hatte Nebius Eigen AI für 643 Millionen US-Dollar übernommen. Darüber hinaus wurde kürzlich das KI-Technologieunternehmen Clarifai gekauft, jedoch wurden keine genauen Angaben zum Transaktionswert veröffentlicht.

Ziel dieser Übernahmen ist es, die KI-Inferenz- und Modelloptimierungsfähigkeiten von Nebius zu stärken und seine KI-Infrastruktur­dienstleistungen weiter zu verbessern.

Im Gegensatz zu den Infrastrukturinvestitionen, die sich hauptsächlich auf die bei der KI-Modell-Trainierung benötigte Rechenleistung konzentrieren, legt die KI-Inferenz mehr Wert auf die Effizienz des tatsächlichen Einsatzes des Modells, einschließlich Bearbeitungsgeschwindigkeit von Anfragen, Ressourcen­management, Modellausbringung und den Kosten pro Recheneinheit.

Während Nebius entsprechende Technologien kontinuierlich integriert, erweitert sich sein Geschäftsmodell von der Bereitstellung von GPU-Rechenressourcen hin zu Technologien und Dienstleistungen zur Verbesserung der Effizienz laufender KI-Modelle.

Die Übernahme von Inferize wird Nebius weitere technische Fähigkeiten bei der dynamischen Rechenleistungssteuerung und schnellen Modellimplementierung bringen. Wie viel Kosteneinsparung und Effizienzsteigerung die Technologieintegration tatsächlich ermöglicht, muss jedoch durch die zukünftige operative Leistung bewiesen werden.