ChatGPT, Copilot oder eigener Server? Die 7 Wege, KI ins Unternehmen zu bringen

Drei Angebote liegen auf dem Tisch. Das erste verspricht „ChatGPT für Ihr ganzes Team“, das zweite „KI direkt in Ihrer Office-Umgebung“, das dritte „volle Datenkontrolle auf eigener Infrastruktur“. Nebenbei hat das letzte Update Ihrer Buchhaltungssoftware einen KI-Assistenten mitgebracht, den niemand bestellt hat, und auf der Branchenmesse stand ein Startup, das Ihren Kernprozess mit KI revolutionieren will. Alles klingt nach derselben Sache, nur in anderer Verpackung. Ist es aber nicht. Dahinter stehen grundverschiedene Architekturen, die sich darin unterscheiden, wo Ihre Daten liegen, wie viele Lieferanten in der Kette stecken und wie abhängig Sie von einem einzelnen Anbieter werden.

Wer KI einführt, trifft deshalb keine Produktauswahl, sondern eine Architekturentscheidung. Die gute Nachricht: Es gibt nur 7 grundsätzliche Wege. Wer sie kennt, kann jedes Angebot einordnen, das auf dem Tisch landet, und stellt im Anbietergespräch die richtigen Fragen.

Danke für das Bild an planet-volumes-unsplash

Weg 1: Direkt zum KI-Anbieter

Der direkteste Weg führt zu den Herstellern der Sprachmodelle selbst: OpenAI mit ChatGPT, Anthropic mit Claude. Beide bieten Unternehmenstarife, bei denen Ihre Eingaben nicht für das Training der Modelle verwendet werden und ein Auftragsverarbeitungsvertrag geschlossen wird. Das unterscheidet diese Tarife grundlegend von den privaten Konten, die viele Mitarbeiter längst nutzen.

Die Stärke dieses Wegs: Sie sitzen direkt an der Modellquelle. Neue Fähigkeiten kommen hier zuerst an, und für den KI-Teil haben Sie genau einen Lieferanten. Die Einführung ist eine Sache von Tagen, die Kostenlogik einfach: eine Lizenz pro Kopf, gut kalkulierbar. Für den typischen Einstieg, also Mails, Texte, Recherche und Auswertungen ohne tiefe Anbindung ans Firmenwissen, ist das oft der schnellste Weg, Erfahrung aufzubauen.

Die Schwäche liegt auf der anderen Seite derselben Medaille: Die Anbindung Ihres Unternehmenswissens ist hier vergleichsweise schlank. Dateien hochladen und einfache Wissensbasen pflegen geht, eine tiefe Verbindung zu Ihren Systemen mit sauberem Berechtigungsabgleich ist nicht die Stärke dieser Kategorie.

Beim Datenschutz lohnt der genaue Blick, denn hier bewegt sich gerade viel. OpenAI bietet für neu angelegte Unternehmens-Arbeitsbereiche inzwischen eine echte EU-Datenhaltung an, inklusive Verarbeitung in Europa. Bei Anthropic führt der EU-Weg dagegen derzeit über einen zusätzlichen Cloud-Anbieter, etwa über Rechenzentren in Frankfurt, womit ein dritter Lieferant in der Kette steht. Wichtig dabei: Verbindlich garantiert wird die EU-Datenhaltung in der Regel erst in den Enterprise-Verträgen, die individuell verhandelt werden und mit ihren Mindestabnahmen schnell teuer werden können. Das zeigt ein Grundprinzip: Datenschutz entsteht aus Vertrag, Technik und Organisation zusammen, nicht aus einem Markennamen.

Für wen passt das? Für Unternehmen, die schnell starten und erste Erfahrung aufbauen wollen, deren Anwendungsfälle vor allem im Schreiben, Zusammenfassen und Recherchieren liegen und die noch keine tiefe Anbindung ans Firmenwissen brauchen.

Weg 2: KI im bestehenden Office-Paket

Der zweite Weg nutzt die KI der großen Cloud-Konzerne, eingebettet in die Arbeitsumgebung, die Sie ohnehin nutzen: Microsoft 365 Copilot in der Microsoft-Welt oder Gemini in Google Workspace. Hier kommt die KI nicht als eigenes Werkzeug, sondern als Zusatzfunktion in Word, Excel, Outlook und Teams beziehungsweise in den Google-Pendants. Die Kostenlogik: ein Aufschlag pro Nutzer auf die bestehende Office-Lizenz, der sich bei flächendeckender Einführung entsprechend summiert.

Der entscheidende Unterschied zu den meisten anderen Wegen: Die Wissensschicht wird nicht extra aufgebaut, sie wächst aus den Daten, die ohnehin in Ihrer Umgebung liegen. Die KI durchsucht E-Mails, Dokumente und Kalender und hält sich dabei an die bestehenden Zugriffsrechte. Ein Lieferant, eine Rechnung, Berechtigungen aus dem System, das Sie schon pflegen. Wenn Ihr Unternehmen tief in einer dieser Welten steckt, ist die Einstiegsreibung nirgends geringer. Eine vertraglich zugesicherte EU-Datenverarbeitung ist inzwischen möglich, aber teils nicht ab Werk aktiv, sondern muss bewusst eingeschaltet werden.

Die Kehrseite hat zwei Gesichter. Erstens: maximale Abhängigkeit von einem Konzern, dessen Preisgestaltung Sie nicht beeinflussen. Zweitens, und das wird regelmäßig unterschätzt: „Müll rein, Müll raus“ wirkt hier brutal. Die KI indexiert, was sie erreicht, nicht, was kuratiert ist. Wenn fast jeder auf fast alles zugreifen kann, findet die KI das auch und legt es jedem Mitarbeiter vor. Wenn ein Angebot in sieben Versionen herumliegt, zitiert sie womöglich die falsche, und vom veralteten Preisblatt weiß sie nicht, dass es veraltet ist. Und was nicht maschinenlesbar ist, etwa eingescannte PDFs ohne Texterkennung, existiert für sie schlicht nicht. Vor der Einführung stehen deshalb drei Hausaufgaben: Zugriffsrechte prüfen, alte Versionen und Dubletten ausmisten, Dokumente lesbar machen. Nicht die Diskussion über Funktionen.

Für wen passt das? Für Unternehmen, die ohnehin die Microsoft- oder Google-Welt leben und ihre Datenablage im Griff haben oder bereit sind, die drei Hausaufgaben vor dem Start zu machen. Dann ist dieser Weg oft die erste Wahl.

Weg 3: KI in der Fachsoftware, die Sie schon haben

Der dritte Weg ist der einzige, den Sie nicht wählen. Er kommt von selbst: Die Hersteller Ihrer Fachanwendungen bauen KI direkt in ihre Produkte ein. Die Buchhaltungssoftware liest Belege automatisch aus, das Dokumentenmanagement schlägt Verschlagwortung vor, das CRM formuliert Antwortentwürfe. Mit fast jedem Update zieht irgendwo ein neuer KI-Assistent ein.

Die Stärke liegt auf der Hand: Die KI sitzt genau dort, wo der Prozess lebt. Kein neues Werkzeug, keine zusätzliche Oberfläche, kaum Schulungsaufwand, und der Hersteller kennt den Fachkontext besser als jeder Generalist. Eine automatische Belegerkennung in der Buchhaltung ist oft der unspektakulärste und zugleich schnellste KI-Nutzen im ganzen Unternehmen.

Die Schwächen sind weniger offensichtlich, aber gewichtig:

1. Sie haben keine Wahl. Welches Modell der Hersteller einsetzt, wo die Verarbeitung stattfindet und welche Unterauftragsverarbeiter dabei neu in Ihre Verträge rutschen, entscheidet er, nicht Sie. Genau das gehört geprüft, bevor eine KI-Funktion aktiviert wird, denn mit ihr kann ein US-Modellanbieter in eine Datenverarbeitung einziehen, die bisher rein deutsch war.

2. Die Kosten verstecken sich. Mal ist die KI im Update enthalten, mal kostet sie als Add-on extra, und über viele Fachanwendungen summieren sich diese Zuschläge unbemerkt.

3. Der wichtigste Punkt: Ohne Spielregeln entsteht hier Wildwuchs. Jede Abteilung aktiviert ihre eigene KI, und plötzlich arbeiten im Unternehmen acht verschiedene KI-Systeme, ohne dass je jemand eine KI-Entscheidung getroffen hätte.

Für wen passt das? Die ehrliche Antwort: für alle, ob gewollt oder nicht. Die Frage ist hier nicht „ob“, sondern „welche dieser Funktionen aktivieren wir, unter welchen Regeln und nach welcher Prüfung“. Dieser Weg ersetzt keinen der anderen, er ergänzt sie und braucht vor allem eines: jemanden, der den Überblick behält.

Weg 4: Die branchenspezifische KI-Lösung

Der vierte Weg führt weg vom Büroalltag und mitten hinein in Ihr Kerngeschäft: eigenständige KI-Lösungen, die für die zentralen Prozesse einer Branche gebaut wurden. Das KI-Bautagebuch, das Fotodokumentation und Baufortschritt automatisch auswertet. Die Bildauswertung in der medizinischen Praxis. Die Recherche-Lösung für die Kanzlei. Die Qualitätsprüfung per Kamera in der Produktion.

Diese Kategorie wird am häufigsten übersehen, aus einem einfachen Grund: Sie kommt in den allgemeinen KI-Nachrichten nicht vor. Über ChatGPT berichtet jede Zeitung, über das KI-Bautagebuch nur die Fachpresse. Die Anbieter sind oft junge Spezialfirmen statt bekannter Tech-Konzerne, und man findet sie auf Branchenmessen, in Verbandspublikationen und im Austausch mit Kollegen. Dabei liegt hier oft der größte Hebel, denn diese Lösungen entlasten nicht die Korrespondenz, sondern die Arbeit, mit der Sie Ihr Geld verdienen.

Anders als die Wege 1 bis 3 ist das kein Abo, das man bucht, sondern ein klassisches Auswahl- und Einführungsprojekt mit eigenen Prüffragen:

• Passt die Lösung fachlich wirklich, getestet mit Ihren echten Fällen statt mit den Demo-Daten des Anbieters?

• Was sagen Datenschutz und Berufsrecht, gerade bei Patientendaten, Mandantengeheimnissen oder Beweissicherung?

• Wie stabil ist der Anbieter, und wie kommen Sie im Ernstfall an Ihre Daten?

• Fügt sich die Lösung in Ihre bestehende Fachsoftware ein, oder erzeugt sie Doppelarbeit?

Die Kostenlogik ist die eines Projekts: Auswahl, Einführung und Integration wiegen schwerer als die laufende Lizenz.

Für wen passt das? Für Unternehmen, die einen klaren Engpass im Kerngeschäft haben und bereit sind, dafür ein richtiges Projekt aufzusetzen. Meist als zweiter Schritt sinnvoll, nachdem das Team mit den einfacheren Wegen erste KI-Erfahrung gesammelt hat, denn diese Erfahrung macht die Auswahl der Speziallösung deutlich besser.

Weg 5: Der KI-Hub als eigenständige Drehscheibe

Der fünfte Weg ist hierzulande noch wenig bekannt, für den Mittelstand aber oft die interessanteste Option für den breiten Zugang: eigenständige KI-Plattformen wie Langdock aus Deutschland oder die US-Anbieter Glean und Writer. Diese Hubs liefern Oberfläche, Verwaltung, Wissensanbindung und Protokollierung aus einer Hand, beziehen das Sprachmodell aber von Dritten und verbinden sich über Schnittstellen mit Ihren Datenquellen, etwa SharePoint oder dem Dokumentensystem.

Die Kostenlogik ähnelt Weg 1: pro Nutzer und Monat, mit der Plattform als Gegenwert für Verwaltung und Wissensanbindung.

Die Stärke: Diese Plattformen sind für KI gebaut, nicht nachträglich angeflanscht. Sie können zwischen mehreren Modellen wählen (heute GPT, morgen Claude, je nachdem, was für die Aufgabe passt) und sind an keinen einzelnen Hersteller gebunden. Der Abgleich von Zugriffsrechten ist oft eingebaut, und die EU-Anbieter haben Hosting und Verträge auf die DSGVO zugeschnitten.

Die Schwäche steckt in der Lieferkette: Es sind mindestens zwei bis drei Parteien beteiligt, nämlich der Hub, der Modell-Anbieter und gegebenenfalls eine Cloud-Region. Das ist beherrschbar, muss aber vertraglich sauber geregelt sein. Bei den funktional starken US-Hubs ist die Frage der EU-Datenhaltung der Knackpunkt, nicht der Funktionsumfang; zudem zielen sie eher auf größere Organisationen.

Für wen passt das? Für mittelständische Unternehmen, die vielen Mitarbeitern Zugang geben, das eigene Wissen anbinden und sich nicht auf das Modell eines einzelnen Herstellers festlegen wollen. Mit einem EU-gehosteten Hub ist das für viele Mittelständler der vernünftige Standardweg.

Weg 6: Self-Hosted Open Source, der eigene Server

Der sechste Weg holt die KI ins Haus: Quelloffene Oberflächen wie OpenWebUI oder LibreChat laufen auf eigener Hardware oder in einem Rechenzentrum Ihrer Wahl, kombiniert mit offenen Sprachmodellen. Volle Kontrolle über jede Schicht, keine Lizenzkosten pro Kopf; bezahlt wird stattdessen mit Infrastruktur und vor allem mit eigenem Betriebsaufwand.

Das ist der Weg, an den viele zuerst denken, wenn es heißt: „Unsere Daten dürfen das Haus nicht verlassen.“ Und genau hier sitzt ein verbreiteter Trugschluss, den man kennen sollte: On-Premise fühlt sich sicher an, ist es aber nicht automatisch. Datensicherheit entsteht aus Vertrag, Technik und Organisation, nicht aus dem Hosting-Ort. Ein selbst betriebenes System ohne professionelle Absicherung, ohne sauberen Berechtigungsabgleich und ohne revisionssichere Protokollierung kann unsicherer sein als ein gut verhandelter Cloud-Vertrag. Genau diese Bausteine, die bei den Wegen 1, 2 und 5 mitgeliefert werden, müssen Sie hier selbst bauen oder schmerzhaft vermissen. Sie sind Integrator und Fehlersucher in einem, ohne Anbieter, der haftet.

Als Produktivplattform für ein mittelständisches Unternehmen ist dieser Weg deshalb in aller Regel nicht die richtige Antwort. Wofür er sich hervorragend eignet: als Lern- und Experimentierumgebung. Wer einmal selbst erlebt hat, wie eine KI mit eigenen Dokumenten arbeitet, wo sie glänzt und wo sie scheitert, versteht den Unterbau aller anderen Wege und führt Anbietergespräche auf einem ganz anderen Niveau.

Für wen passt das? Als Lernumgebung für jedes Unternehmen, das den Maschinenraum verstehen will. Als Produktivsystem nur für Organisationen mit echter IT-Tiefe, die wissen, dass sie damit den Betrieb, die Sicherheit und die Verantwortung vollständig selbst übernehmen.

Weg 7: Der Eigenbau mit Frameworks

Der siebte Weg ist kein Produkt, sondern Softwareentwicklung: Mit Baukästen wie LangChain oder LlamaIndex wird eine individuelle KI-Anwendung gebaut, Schicht für Schicht, exakt zugeschnitten auf einen Prozess. Maximale Freiheit, maximale Verantwortung, und eine Kostenlogik, die nichts mit Lizenzen zu tun hat: Hier zahlt man Entwicklung, Pflege und Weiterentwicklung, dauerhaft.

Für den klassischen Mittelstand ist das in aller Regel Overengineering: Es braucht Entwickler, Monate Vorlauf und dauerhafte Betreuung, für ein Ergebnis, das die Wege 2, 4 und 5 in vielen Fällen inzwischen fertig mitbringen. Warum dieser Weg trotzdem auf die Landkarte gehört: damit Sie ihn im Anbietergespräch wiedererkennen. Wenn eine Agentur Ihnen eine „individuelle KI-Lösung“ anbietet, ist es fast immer dieser Weg, mit allen Folgekosten. Und es lohnt sich zu wissen, dass viele KI-Hubs aus Weg 5 und manche Branchenlösung aus Weg 4 intern genau auf diesen Frameworks aufbauen. Sie kaufen dort also den Eigenbau als fertiges Produkt, mit einem Anbieter, der ihn pflegt.

Für wen passt das? Für Unternehmen mit eigener Softwareentwicklung und einem Prozess, der so wertvoll und so speziell ist, dass keine fertige Lösung ihn abbildet.

Welcher Weg ist der richtige?

Die Frage „Welches Tool sollen wir nehmen?“ lässt sich jetzt präziser stellen, nämlich als drei Architektur-Fragen:

1. Wo soll die Verbindung zu Ihrem Firmenwissen entstehen, und wer pflegt sie?

2. Wie viele Lieferanten stehen in der Kette, und wer haftet wofür?

3. Wo liegen Ihre Daten, vertraglich und technisch, nicht nur gefühlt?

In der Praxis kombinieren mittelständische Unternehmen meist mehrere Wege, in einer typischen Reihenfolge: Für den breiten Zugang im Büroalltag fährt gut, wer tief in der Microsoft- oder Google-Welt arbeitet und seine Zugriffsrechte im Griff hat, mit Weg 2; wer unabhängiger bleiben will, mit einem EU-gehosteten Hub aus Weg 5. Der direkte Anbieter (Weg 1) ist der schnelle Einstieg, die Branchenlösung (Weg 4) der gezielte zweite Schritt für den Kernprozess, der eigene Server (Weg 6) das Lernlabor und der Eigenbau (Weg 7) die Ausnahme für Spezialfälle. Weg 3, die KI in der Fachsoftware, läuft bei alledem ohnehin mit: Er braucht keine Einführung, sondern Spielregeln.

Auf konkrete Preise verzichtet dieser Artikel bewusst, denn sie ändern sich am KI-Markt schneller, als ein Artikel altern sollte. Wichtiger ist ohnehin etwas anderes: Die Lizenz ist bei fast jedem dieser Wege der kleinste Posten. Den Großteil der Investition machen Einführung, Schulung und die Arbeit an den eigenen Daten und Prozessen aus, und diese Posten stehen auf keiner Preisliste. Was sich dagegen nicht ändert, ist die Kostenlogik der sieben Wege: Lizenz pro Kopf, Aufschlag aufs Office-Paket, versteckte Add-ons, Projektbudget, Plattformgebühr, eigene Infrastruktur, Entwicklungsaufwand. Genau diese Logik, nicht der Tagespreis, sollte Ihre Entscheidung leiten.