Automatisierung & KI
Lokale KI: wann sie sich lohnt und wann nicht
· 5 Minuten
Die Frage kommt in fast jedem Gespräch: Können wir das nicht bei uns im Haus laufen lassen, statt Daten an einen Anbieter zu geben? Technisch ja. Ob es sinnvoll ist, hängt an drei Dingen.
47 %
der Unternehmen nennen Unsicherheit beim Datenschutz als Hindernis beim KI-Einsatz. Der Wunsch nach einer Lösung im eigenen Haus kommt selten aus technischem Interesse, sondern aus dieser Unsicherheit.
Wann es sich lohnt
- Sie verarbeiten Inhalte, die das Haus rechtlich nicht verlassen dürfen, etwa Gesundheits-, Personal- oder Mandantendaten.
- Die Anwendung läuft dauerhaft mit hohem Volumen, sodass laufende Kosten je Abfrage ins Gewicht fallen.
- Sie wollen unabhängig davon sein, dass ein Anbieter Preise, Bedingungen oder Modelle ändert.
Wann es sich nicht lohnt
- Sie wollen es zuerst ausprobieren. Für einen Test ist der Aufwand zu hoch.
- Die Aufgabe braucht die Leistungsfähigkeit der größten Modelle. Was auf einer Firmenmaschine läuft, ist schwächer.
- Niemand im Haus kann die Maschine betreuen. Ein Modell im Keller ist ein Server, der Aktualisierungen, Sicherung und Überwachung braucht.
Der ehrliche Zwischenweg
In vielen Fällen ist die Antwort nicht ganz oder gar nicht, sondern eine Trennung: unkritische Aufgaben über einen Anbieter mit Auftragsverarbeitungsvertrag, sensible Inhalte lokal. Das kostet etwas mehr Abstimmung im Aufbau und erspart die Entscheidung zwischen Datenschutz und Leistungsfähigkeit.
Was in jedem Fall vorher geklärt gehört: welche Daten überhaupt verarbeitet werden. Diese Frage ist oft unbequemer als die Technikentscheidung und wird trotzdem regelmäßig übersprungen.