KI in der Cloud oder auf dedizierter Infrastruktur: wie Sie die realen Vorgaben bewerten

„Ich möchte eine private künstliche Intelligenz“ ist fast immer die Antwort auf eine konkrete Sorge: dass Unternehmensdaten dorthin gelangen, wo sie nicht hingehören. Das ist eine berechtigte Sorge, reicht aber nicht aus, um zwischen einem Cloud-Dienst, einer dedizierten Infrastruktur und einem Server im Unternehmen zu wählen. Die Wahl erfolgt anhand schriftlich festgelegter Anforderungen, verglichen mit dem, was jede Lösung an Kompetenzen, Wartung und laufenden Kosten erfordert. Dieser Leitfaden dient dazu, diese Liste aufzubauen.

Was Sie wirklich entscheiden müssen

„Wo steht das Modell“ ist die Folge, nicht die Ausgangsfrage. Vorab sind vier Fragen zu klären.

• Welche Daten das System berührt und welche davon Ihren Bereich nicht verlassen dürfen. Oft ist es nur ein kleiner Teil des Ganzen: bestimmte Dokumentkategorien, nicht das gesamte Archiv.
• Was passiert, wenn der Dienst einen halben Tag lang nicht verfügbar ist. Steht die Arbeit dann still, verändert die Anforderung an die Verfügbarkeit alles Übrige.
• Wer es in den nächsten drei Jahren namentlich warten wird. Das ist die Anforderung, die am häufigsten übersehen wird, und sie entscheidet mehr als jede andere.
• Wie vorhersehbar die Nutzung ist. Eine konstante Last und eine Last mit Spitzen werden sehr unterschiedlich bezahlt.

Die drei Bereitstellungsarten und was sie verlangen

Vereinfacht gibt es drei Optionen. Die Tabelle vergleicht, was jede verlangt, nicht was sie verspricht.

Keine Spalte ist absolut die beste: Jede verlagert Arbeit und Risiko an eine andere Stelle. Die Cloud verlagert sie auf den Vertrag, die dedizierte Infrastruktur auf die Beziehung zum Anbieter, der lokale Server auf Sie selbst.

Die Kompetenzen, die bei Ihnen bleiben

Ein Server im Unternehmen ist nicht einfach ein eingeschalteter Computer. Es sind Tätigkeiten, die jemand fortlaufend ausführen muss und die nicht verschwinden, wenn diese Person die Stelle wechselt.

• System- und Sicherheitsupdates, mit einem Zeitfenster, in dem sie durchgeführt werden können, ohne jemanden aufzuhalten.
• Sicherungskopien der Daten und Konfigurationen, mit mindestens einer getesteten Wiederherstellung.
• Zugriffsverwaltung: wer das System nutzen darf, wer sein Verhalten ändern darf, wer die Protokolle einsehen darf.
• Austausch defekter Hardware, mit der Zeit, die die Beschaffung erfordert.
• Aktualisierung der Modelle, die weder automatisch noch schmerzlos ist: Was zuvor funktionierte, kann sich anders verhalten und muss erneut getestet werden.

Fallen diese Aufgaben einer Person zu, die bereits zwanzig andere hat, bleibt das System auf dem Stand des Installationstags. Das ist kein Pessimismus: Es ist das gewöhnliche Schicksal von Servern, die in einem Schrank vergessen werden.

Verträge und Datenflüsse

Bei einem externen Dienst liegen die Garantien im Vertrag und in der technischen Dokumentation, nicht in den Werbeseiten. Die schriftlich zu prüfenden Punkte sind wenige und präzise.

• Wo die Daten verarbeitet und gespeichert werden und ob sich das ohne Vorankündigung ändern kann.
• Wie lange sie bestehen bleiben und was passiert, wenn Sie den Dienst kündigen.
• Ob Ihre Inhalte zum Training von Modellen verwendet werden können und wie man das ausschließt.
• Wer auf Seiten des Anbieters darauf zugreifen kann und in welchen Fällen.
• Was von Ihrer Nutzung protokolliert wird und für wie lange.

Auch die Lieferkette muss betrachtet werden: Viele Dienste nutzen im Hintergrund weitere Dienste. Ein Anbieter, der Ihnen nicht sagen kann, von wem er abhängt, verheimlicht Ihnen nicht zwangsläufig etwas, kann Ihnen aber auch nichts garantieren.

Der Test am selben Anwendungsfall

Die Entscheidung fällt mit einem Test, nicht mit einem Vergleich auf dem Papier. Voraussetzung ist, dass es dieselbe Aufgabe mit denselben Daten und demselben Maßstab ist.

1. Wählen Sie eine reale, klar abgegrenzte Aufgabe mit echten Dokumenten, auch die schwierigen.
2. Bereiten Sie eine Reihe von Beispielen vor, deren richtige Antwort Sie bereits kennen. Ohne das bleibt der Vergleich ein bloßer Eindruck.
3. Testen Sie jede Option an derselben Sammlung und messen Sie Antwortqualität, Wartezeit und Verhalten, wenn eine Information fehlt.
4. Schätzen Sie die Kosten anhand eines realistischen Jahresvolumens, nicht anhand des Testvolumens: Hier trennen sich die Optionen wirklich.
5. Rechnen Sie die internen Stunden hinzu, die des Tests und die der künftigen Wartung.

Ein ehrlicher Test dauert wenige Wochen und kann mit dem Ergebnis „keine der drei, das Problem liegt nicht beim Modell“ enden. Das ist ein ebenso nützliches Ergebnis wie jedes andere.

„Lokal“ bedeutet nicht sicher

Die Gleichsetzung von Daten im Haus mit geschützten Daten ist die Abkürzung, die zu falschen Entscheidungen führt.

Die Wahl muss auch nicht zwangsläufig eine einzige sein. Eine häufige und sinnvolle Aufteilung behält die sensibelsten Dokumente intern, mit einem lokalen System, das sie durchsucht, und lagert die Aufgaben, die keine vertraulichen Daten erfordern, nach außen aus. Der Preis dieser Lösung ist die Komplexität: zwei zu wartende Systeme und eine Regel darüber, was vom einen zum anderen wechseln darf. Lässt sich die Regel nicht in drei für die Nutzenden verständlichen Zeilen formulieren, wird sie umgangen.

Was dieser Leitfaden nicht behandelt

Hier geht es darum, ausgehend von den Vorgaben zu entscheiden, wo ein auf Modellen basierendes System betrieben wird. Die wiederkehrenden Kostenposten eines bereits laufenden Assistenten — nutzungsabhängiger Verbrauch, Überprüfung der Antworten, Aktualisierungen — werden gesondert behandelt, ebenso wie die Verwaltung von Berechtigungen, Protokollen und Sicherungskopien einer Unternehmenssoftware, die hier nur gestreift wird.