Viele Unternehmen verlagern KI-Workloads zunehmend aus der Public Cloud zurück in eigene Rechenzentren. Laut einer aktuellen Studie geschieht das vor allem aus Gründen der Datensouveränität, der Kostenkontrolle und der Performance.

Foto: Cloudian Jon Toor, CMO bei Cloudian Künstliche Intelligenz gilt als einer der wichtigsten Treiber der digitalen Transformation. Doch während viele KI-Projekte zunächst stark auf Cloud-Infrastrukturen setzten, zeichnet sich zunehmend eine Gegenbewegung ab: Unternehmen holen ihre KI-Workloads wieder stärker in eigene Rechenzentren zurück. Der aktuelle „Enterprise AI Infrastructure Survey 2026“, den der Speicheranbieter Cloudian in Auftrag gegeben hat, deutet auf eine deutliche Verschiebung der Infrastrukturstrategie hin.

Für die Untersuchung befragte das Forschungsunternehmen Centiment insgesamt 203 Entscheidungsträger, die in ihren Organisationen für KI-Strategie, Investitionen oder Infrastruktur verantwortlich sind. Die Ergebnisse zeigen, dass der Betrieb von KI-Systemen auf lokaler Infrastruktur – also on-premises – für viele Unternehmen wieder an Bedeutung gewinnt. Besonders in Bereichen mit sensiblen Daten oder hohen Anforderungen an Reaktionszeiten wird die Public Cloud zunehmend kritisch bewertet.

Viele Unternehmen verlagern KI-Workloads zurück

Die Studie zeigt eine klare Entwicklung: 93 Prozent der Unternehmen haben in den vergangenen zwei Jahren zumindest einen Teil ihrer KI-Workloads aus der Public Cloud zurück auf lokale Server verlagert, befinden sich derzeit in einer entsprechenden Migration oder planen einen solchen Schritt. Konkret geben 79 Prozent der Befragten an, KI-Workloads bereits von der Cloud in ihre eigene On-premises-Infrastruktur migriert zu haben.

Auch für die Zukunft rechnen viele Organisationen mit einer stärkeren Rolle lokaler Systeme. Rund 73 Prozent der Unternehmen planen demnach, künftig verstärkt auf On-premises- oder hybride Infrastrukturen zu setzen. Die Studie identifiziert drei zentrale Gründe für diese Entwicklung: Bedenken hinsichtlich der Datenhoheit, schwer kalkulierbare Cloud-Kosten und Anforderungen an eine möglichst geringe Latenz bei der Verarbeitung von Daten.

Quelle: Cloudian

Gerade im Kontext von KI-Anwendungen, die mit sensiblen Unternehmensdaten arbeiten, spielt Datensouveränität eine entscheidende Rolle. 91 Prozent der Befragten würden in solchen Fällen Alternativen zur Public Cloud bevorzugen. Gleichzeitig sehen viele Organisationen Risiken durch die unkontrollierte Nutzung cloudbasierter KI-Tools durch Mitarbeitende: 74 Prozent stufen dies als kritisches oder erhebliches Sicherheitsrisiko ein.

Hinzu kommt, dass bei 58 Prozent der Unternehmen Bedenken hinsichtlich des Speicherortes sensibler Daten ihre KI-Initiativen bereits verzögert oder negativ beeinflusst haben.

Kosten und Performance als zentrale Faktoren

Neben Sicherheits- und Compliance-Fragen spielen wirtschaftliche Überlegungen eine wichtige Rolle. 40 Prozent der Unternehmen berichten, dass ihre tatsächlichen Ausgaben für Cloud-basierte KI-Workloads das ursprünglich geplante Budget überschritten haben.

Fast die Hälfte der Befragten nennt daher die mangelnde Vorhersehbarkeit der Cloud-Kosten als Hindernis für eine stärkere Nutzung von KI. Insbesondere verbrauchsbasierte Preismodelle und schwer kalkulierbare Gesamtbetriebskosten erschweren aus Sicht vieler Unternehmen eine langfristige Planung.

Ein weiterer entscheidender Faktor ist die Leistungsfähigkeit der Infrastruktur. Drei Viertel der Befragten – 75 Prozent – sehen in lokalen Servern derzeit die einzige Möglichkeit, eine ausreichende Performance für bestehende oder geplante KI-Anwendungen sicherzustellen.

Zu den typischen Einsatzszenarien zählen etwa Echtzeit-Videoanalysen, Qualitätskontrollen in der industriellen Fertigung oder Transaktionsverarbeitung mit minimaler Latenz. In solchen Fällen kann der direkte Betrieb von KI-Systemen in der eigenen Infrastruktur Vorteile gegenüber entfernten Cloud-Ressourcen bieten.

Wachsende KI-Budgets fließen in lokale Infrastruktur

Die Bedeutung von KI für Unternehmen spiegelt sich auch in steigenden Investitionen wider. Laut der Studie erwarten 86 Prozent der Befragten, dass ihre Organisationen die Budgets für KI im laufenden Jahr erhöhen werden. Besonders deutlich fällt diese Entwicklung bei größeren Investitionsplänen aus: 40 Prozent rechnen mit einer Budgetsteigerung von mindestens 25 Prozent.

Ein erheblicher Teil dieser zusätzlichen Mittel dürfte in den Ausbau lokaler oder hybrider KI-Infrastrukturen fließen. Unternehmen investieren damit verstärkt in eigene Rechenzentrumsressourcen, um ihre KI-Anwendungen unabhängiger von Cloud-Anbietern betreiben zu können.

Jon Toor, Chief Marketing Officer bei Cloudian, sieht darin keine Abkehr von der Cloud, sondern eine differenziertere Nutzung verschiedener Infrastrukturmodelle:

„Unternehmen kehren der Public Cloud natürlich nicht den Rücken. Sie machen sich nur mehr Gedanken, wo welche KI-Workloads am besten angesiedelt sind. Der Enterprise AI Infrastructure Survey 2026 bestätigt, was wir täglich von unseren Kunden hören: Wenn sensible Daten, planbare Kosten und Echtzeitleistung entscheidend sind, bietet eine lokale KI-Infrastruktur Vorteile, die die Public Cloud nicht erreichen kann.“