Betriebsmodelle
Drei Orte, dieselbe Software
„Das darf unser Haus nicht verlassen" meint in den meisten Gesprächen nicht, was der Satz wörtlich sagt. Gemeint ist eine von vier Sorgen, und drei davon brauchen kein eigenes Rechenzentrum.
Was sich zwischen den drei Modellen ändert, ist der Ort und eine Zeile im Vertrag. Oberfläche, Rollen, Retrieval, Protokoll und Kostendeckel sind in allen dreien dieselben.
Der Aufbau
Dreimal derselbe Stapel
Nur die unterste Zeile unterscheidet sich. Das ist der ganze Punkt, und er ist in einem Blick zu sehen, was eine Tabelle nicht leistet.
Managed Cloud
Deutschland
Aufbau im Betriebsmodell Managed Cloud. Ort: Deutschland. Wir betreiben, Sie benutzen. Der Aufbau ist in allen drei Betriebsmodellen derselbe: die Oberfläche InsideAI, darunter Rollen, Retrieval und Protokoll, darunter die Modelle auf eigener Hardware oder über europäische Endpunkte.
Wir betreiben, Sie benutzen.
Für alle, die schnell anfangen und den Betrieb nicht selbst tragen wollen.
Dedizierte Umgebung
Deutschland, eigene Instanz
Aufbau im Betriebsmodell Dedizierte Umgebung. Ort: Deutschland, eigene Instanz. Wir betreiben, getrennt von allem anderen. Der Aufbau ist in allen drei Betriebsmodellen derselbe: die Oberfläche InsideAI, darunter Rollen, Retrieval und Protokoll, darunter die Modelle auf eigener Hardware oder über europäische Endpunkte.
Wir betreiben, getrennt von allem anderen.
Für alle, die eine vertragliche Trennung brauchen: eigene Datenbank, eigener Schlüssel.
On-Premises
Ihr Rechenzentrum
Aufbau im Betriebsmodell On-Premises. Ort: Ihr Rechenzentrum. Sie betreiben, wir richten ein und halten Bereitschaft. Der Aufbau ist in allen drei Betriebsmodellen derselbe: die Oberfläche InsideAI, darunter Rollen, Retrieval und Protokoll, darunter die Modelle auf eigener Hardware oder über europäische Endpunkte.
Sie betreiben, wir richten ein und halten Bereitschaft.
Für alle, bei denen nichts das Haus verlassen darf.
Entscheidung
Vier Fragen, die es entscheiden
Verlangt ein Kunde oder eine Aufsicht den Eigenbetrieb schriftlich?
Dann ist die Frage beantwortet, und die Kosten sind Teil des Auftrags, den Sie damit halten.
Betreibt Ihre IT heute schon Container-Anwendungen?
Wenn ja, ist der Zusatzaufwand klein. Wenn nein, ist er groß, und die dedizierte Umgebung ist der bessere Weg.
Sollen Modelle im Haus laufen?
Das ist die eigentliche Kostenfrage. Anwendung im Haus und Modelle über europäische Endpunkte ist eine gängige und deutlich günstigere Kombination.
Wie viele Menschen arbeiten damit?
Unter fünfzig rechnet sich eigene Hardware für Modelle fast nie. Über fünfhundert kann sie sich rechnen.
Ausführlich steht das unter KI on premises, mit den drei Kostenposten und dem, der in Angeboten regelmäßig fehlt.
Datensouveränität
Der Weg einer Anfrage
Verarbeitet wird in Deutschland. Modellzugriffe laufen über europäische Endpunkte der jeweiligen Anbieter. Wer die Halle betreibt, steht als Unterauftragsverarbeiter im AV-Vertrag.
Protokoll
- POST /v1/anfrageStandortSchritt 1
- TLS 1.3 · Verbindung stehtTransitSchritt 2
- Eingang RechenzentrumDeutschlandSchritt 3
- Retrieval · ModellaufrufEU-EndpunktSchritt 4
- 200 OK · Antwort mit FundstellenRückwegSchritt 5
- Eingang StandortStandortSchritt 6
Verarbeitet wird in Deutschland. Modellzugriffe laufen über europäische Endpunkte der jeweiligen Anbieter.
Einordnung
Drei Wege, ein Vergleich
Eigenentwicklung, Standardassistent je Kopf, DeepStack mit InsideAI. Zwei der drei Wege haben einen echten Vorteil, und der steht in der Tabelle.
| Kriterium | Eigenentwicklung | Standardassistent je Kopf | DeepStack mit InsideAI |
|---|---|---|---|
| Bis zum ersten Nutzen | Monate | Tage | Wochen |
| Passt auf Ihre Vorgänge | genau | gar nicht | auf die Vorgänge zugeschnitten |
| Zugriff auf Bestandsdokumente | wenn Sie es bauen | nur, was hochgeladen wird | am Bestand, mit Rollen |
| Kosten | Entwicklung plus Betrieb | je Kopf, auch ungenutzt | nach Verbrauch, mit Deckel |
| Verarbeitung in der EU | Ihre Entscheidung | je nach Anbieter | zugesichert |
| Protokoll je Schritt | wenn Sie es bauen | nicht vorgesehen | eingebaut |
| Wer trägt den Betrieb | Ihr Team, allein | der Anbieter | wir, oder Ihr Team nach Übergabe |
Die ersten beiden Wege haben jeweils einen echten Vorteil, und der steht in der Tabelle. Wer für ein einzelnes, sehr eigenes Problem baut, baut es genauer selbst. Wer morgen anfangen will und keine Bestandsdokumente braucht, ist mit einem Standardassistenten schneller da.
Fragen
Was dazu gefragt wird
Welches Modell passt zu uns?
Vier Fragen entscheiden das: Verlangt ein Kunde oder eine Aufsicht den Eigenbetrieb schriftlich? Betreibt Ihre IT heute schon Container-Anwendungen? Sollen Modelle im Haus laufen oder genügen europäische Endpunkte? Und wie viele Menschen arbeiten damit? In der Mehrzahl der Fälle, in denen „on premises" gefordert wird, ist die dedizierte Umgebung die Antwort. Sie kostet weder eigene Hardware noch eigenes Personal.
Können wir das Modell später wechseln?
Ja, in beide Richtungen. Der Wechsel von Managed Cloud in eine dedizierte Umgebung ist eine Migration der Datenbank und eine Vertragsänderung. Der Wechsel nach On-Premises ist zusätzlich eine Einrichtung in Ihrer Umgebung. Beides ist eingeplant und keine Notoperation.
Ist On-Premises datenschutzrechtlich immer besser?
Nicht automatisch. Ein Unterauftragsverarbeiter entfällt, das ist real. Dafür tragen Sie die technischen und organisatorischen Maßnahmen vollständig selbst: Protokollierung, Zugriffsschutz, Aktualisierungen. Ein schlecht betriebenes System im eigenen Haus ist keine bessere Lage als ein gut betriebenes daneben.
Welche Hardware brauchen wir für On-Premises?
Das hängt daran, ob Sie Modelle selbst betreiben. Ohne eigene Modelle genügen gewöhnliche Server; die Last liegt bei Datenbank und Anwendung. Mit eigenen Modellen beginnt es bei Grafikkarten mit ausreichend Speicher für das größte Modell, das Sie fahren wollen, und zwar mindestens zwei für den Ausfallfall.
Was ändert sich am Funktionsumfang?
Nichts. Oberfläche, Rollen, Retrieval, Protokoll und Kostendeckel sind in allen drei Modellen dieselben. Das ist keine Selbstverständlichkeit: Ein System, dessen On-Premises-Fassung weniger kann, zwingt Sie zu einer Entscheidung zwischen Souveränität und Funktion.
Wie kommen wir wieder heraus?
Die Datenbank ist eine Postgres-Datenbank, die Dokumente liegen weiterhin in Ihren Quellsystemen, die Protokolle lassen sich exportieren, und die Komponenten sind quelloffen. Es gibt keinen Bestandteil, den nur wir betreiben können. Diese Frage gehört in jede Ausschreibung, und zwar vor die Frage nach dem Preis.
Kontakt
Welches Modell zu Ihnen passt
Schildern Sie Ihre Anforderungen an Ort und Betrieb. Wir sagen Ihnen, welches der drei Modelle sie erfüllt, und welches Sie sich sparen können.