Aufgabe 5: Technische KI-Plattform aufbauen | Head of AI Guide – ALEXANO
Technisches FundamentAUFGABE 05

Technische KI-Plattform
aufbauen und weiterentwickeln.

Das technische Fundament für alle KI-Projekte schaffen

Sie bereiten die grundlegenden Architektur- und Betriebsentscheidungen vor, vergleichen Optionen und sichern die Umsetzung – gemeinsam mit IT, KI-Experten und gegebenenfalls externen Partnern.

← Zurück zu Aufgabe 4: KI-Projekt begleiten

Kurzbeschreibung

Jedes KI-Projekt braucht eine technische Basis. Ihre Aufgabe als Head of AI ist es, die Entscheidungen über dieses Fundament vorzubereiten, Optionen zu vergleichen, zu entscheiden und die Umsetzung zu sichern.

Dafür ist Sachverstand nötig, den der Head of AI in der Regel mitbringt. Wo das nicht der Fall ist, erarbeiten Sie die Lösung gemeinsam mit der IT, mit KI-Experten und KI-Beratern.

Ein Fundament für alle KI-Projekte

Das Ergebnis: Ein technisches Fundament, auf dem alle KI-Projekte aufbauen, mit drei getroffenen Grundsatzentscheidungen.

Entscheidung 1

Architektur

Welche Architektur nutzen wir: Cloud, private KI oder eine Kombination aus beiden?

Entscheidung 2

Verantwortung

Wer verantwortet Aufbau und Betrieb: die IT allein, die IT mit KI-Experten oder ein externer Partner?

Entscheidung 3

Betrieb

Wie überwachen wir den Betrieb und gehen mit Störungen um?

Wozu Sie das technische Fundament brauchen

Die technische Basis entscheidet weit über die Technik hinaus.

Von der technischen Basis hängt weit mehr ab als die Technik: die Einhaltung der Regeln, der Umgang mit den Daten, die Steuerung der Kosten, im Grunde die ganze Governance und Compliance rund um KI.

KI wächst zu einem fast gleichberechtigten Bestandteil der Unternehmenssysteme heran. Auf der einen Seite steht das Business, auf der anderen die Technik, und die besteht künftig aus Hardware, Software und KI-Lösungen. Denn richtig eingestellt verarbeitet KI Daten und Informationen schneller, als wir es können.

Was passiert, wenn das Fundament fehlt oder nicht durchdacht ist?

Wenn diese Aufgabe nicht bis zur letzten Konsequenz durchdacht und zu Ende geführt wird, ist es außerordentlich schwer, später einen ordnungsgemäßen Gang der Geschäfte mit KI sicherzustellen. Dann sind Sie ständig damit beschäftigt, hinterherzuräumen, zu kontrollieren und zu deeskalieren.

Die Entscheidungen müssen am Anfang richtig getroffen werden.

Schritte zur Umsetzung

Sie treffen die notwendigen Architekturentscheidungen, klären die Betriebsverantwortung und stellen das Monitoring einschließlich der Störungswege sicher.

1

Die Architektur entscheiden – Cloud, private KI oder hybrid

Vergleichen Sie die möglichen Betriebsmodelle. Der Text betrachtet Cloud-KI sowie eine private KI-Lösung, die bei Bedarf durch Cloud-KI ergänzt wird.

Option 1

Cloud-KI

Vorteile
  • Sie funktioniert sofort.
  • Rechenleistung und Modellleistung lassen sich jederzeit skalieren.
  • Es fallen kaum Anfangsinvestitionen an.
Nachteile
  • Die Daten verlassen das Unternehmen. Trotz aller Zusicherungen und schriftlichen Verpflichtungen der Anbieter: Die Daten sind draußen. Aus der Prozessarbeit lassen sich Abläufe rekonstruieren und damit das Geschäftsmodell nachbauen. Die DNA des Unternehmens wandert potenziell nach außen.
  • Die Kosten sind schwer kontrollierbar. Die Währung sind Tokenkosten, und die hängen von der Nutzung ab. Je mehr Agenten eingesetzt werden, desto höher steigen sie. Einen laufenden Prozess anzuhalten, weil das Budget erschöpft ist, ist keine Option.
  • Das Unternehmen wird abhängig vom KI-Modell-Anbieter.
Option 2

Private KI plus Cloud-KI (hybrid)

Die private KI läuft auf einem dedizierten Server in einem Rechenzentrum, der ausschließlich für das Unternehmen betrieben wird, mit dem Unternehmen verbunden ist und keinen Kontakt zum Internet hat. Darauf läuft ein Open-Weight-Modell mit den nötigen Verbindungselementen. Bei Bedarf wird zusätzlich Cloud-KI genutzt.

Vorteile
  • Die Daten bleiben im Unternehmen und unter Kontrolle.
  • Es entsteht keine Abhängigkeit von einem Anbieter.
  • Die Nutzungskosten sind planbar. Sie hängen von Last und Kapazität ab, nicht von Tokenkosten.
Nachteile
  • Die Rechenleistung ist festgelegt und muss bei der Auswahl gut bemessen werden.
  • Die offenen Modelle hinken den führenden Cloud-Modellen derzeit einige Monate hinterher. Es ist aber davon auszugehen, dass sie aufholen.

Die Abwägung

Vieles spricht für eine private Lösung, vor allem bei hoher Nutzung mit vielen Abfragen und vielen Nutzern. Für sie wird die private KI zur Routine.

Sehr anspruchsvolle oder rechenintensive Aufgaben und Lastspitzen können weiter in der Cloud erledigt werden. Eine private KI-Lösung, ergänzt um Cloud-KI für diese Fälle, ist inzwischen möglich und vorteilhaft.

2

Die Verantwortung festlegen – intern oder extern

Wer kümmert sich um Aufbau und Betrieb der Plattform?

IT allein

Interne IT trägt Aufbau und Betrieb.

IT und KI-Experten

Geteilte Fachkompetenz für Aufbau und Betrieb.

Externer Partner

Ein spezialisierter Dienstleister übernimmt Aufgaben.

Das wichtigste Kriterium ist die Rolle, die KI im Unternehmen spielen soll. Je größer sie ist, desto mehr gute Gründe gibt es für eine eigene Verantwortung im Haus.

3

Monitoring und Störungsmanagement einrichten

Legen Sie fest, wie der Betrieb überwacht wird, wann und wohin eskaliert wird und wie Störungen behoben werden. Das muss bereits mit der ersten KI-Integration funktionieren, nicht erst, wenn mehrere Lösungen laufen.

Monitoring

Wie wird der laufende Betrieb überwacht?

Eskalation

Wann und an wen wird ein Problem weitergegeben?

Störungsbehebung

Wer übernimmt die Untersuchung und Lösung?

Spätestens hier kommen alle Akteure ins Spiel: IT, KI-Experten, die Fachbereiche, die mit der Lösung arbeiten, und gegebenenfalls externe Partner.

Checkliste: Technisches Fundament

0 von 6 erledigt

Die Checkliste dient der Orientierung. Ein Abhaken auf dieser Seite speichert keine Entscheidungen dauerhaft.

FAQ

Muss ich als Head of AI selbst technischer Experte sein?

Sie brauchen genug Sachverstand, um Optionen zu vergleichen und Entscheidungen vorzubereiten. Wo er fehlt, holen Sie IT, KI-Experten und Berater dazu.

Warum nicht einfach mit der Cloud anfangen und später wechseln?

Weil die Daten dann bereits draußen sind und Abhängigkeiten entstanden sind. Ein späterer Wechsel ist aufwendig, und was einmal das Unternehmen verlassen hat, holt man nicht zurück.

Wann müssen diese Entscheidungen fallen?

Spätestens vor der Umsetzung des ersten Projekts, denn dort werden Hosting, Modelle und Lösung bereits gebraucht.

Templates

Diese Arbeitsmittel unterstützen die Architekturentscheidung, die Verantwortungsverteilung und den zuverlässigen Betrieb. Für das MVP sind sie als vorgesehene Vorlagen aufgeführt.

Entscheidungsvorlage Architektur (Daten, Kosten, Abhängigkeit, Leistung)
Kriterienliste: Welche Aufgaben in die Cloud, welche privat?
Entscheidungsvorlage Verantwortung intern oder extern
Monitoring- und Eskalationsplan
Checkliste technisches Fundament

Die Vorlagen werden im AI Business Playbook bereitgestellt; Downloadlinks sind in dieser MVP-Fassung noch nicht hinterlegt.

Der nächste Schritt

Aufgabe 6: KI-Portfolio steuern

Wir priorisieren und koordinieren die wachsende Zahl der KI-Projekte entlang unserer Unternehmensziele.

← Zurück zu allen Aufgaben