Die freundliche Fassade der KI

Die KI-Systeme sind freundlich geworden. Verständnisvoll. Geduldig. Immer bereit zu helfen.

Man stellt eine Frage und bekommt eine Antwort, die so klingt, als säße jemand neben einem.

ChatGPT, Gemini, Claude. Alle drei sind so. Und das ist kein Zufall. Sondern Strategie.

Die Fassade ist Teil des Produkts

Google hat sein selbstfahrendes Auto bewusst nicht als schwarzen Sportwagen entworfen. Sondern als kleines, pummeliges Fahrzeug. Eher Fiat 500 als KITT aus Knight Rider.

Das senkt die Hemmschwelle. Man hat weniger Angst vor einem Roboter, der freundlich aussieht, als vor einem, der bedrohlich wirkt.

Bei den großen KI-Modellen funktioniert das genauso. Die ganze Tonalität dieser Systeme ist darauf ausgerichtet, Vertrauen zu erzeugen. Sie duzen nicht nur. Sie reagieren empathisch, sie bestätigen, sie loben. Sie tun so, als wären sie ein Kollege, dem man am Schreibtisch gegenübersitzt.

Das ist nicht per se schlecht. Es macht KI im Alltag tatsächlich nutzbar. Aber es verändert auch, wie wir mit den Systemen umgehen.

Was wir den Systemen erzählen

Wer mit einem virtuellen Kollegen plaudert, denkt selten daran, was er ihm gerade alles erzählt.

Mandantendaten. Personalakten. Strategieentwürfe. Interne Zahlen. Alles im Chatfenster. Alles auf irgendeinem Server.

In der Beratungspraxis sehen wir das immer wieder. Eine Geschäftsführerin lässt sich von ChatGPT bei einem heiklen Kündigungsschreiben helfen und kopiert die ganze Personalakte rein. Ein Steuerberater fragt nach einer Einschätzung zu einem Mandanten und liefert Klartext-Zahlen mit. Ein Vertriebsleiter lässt sich Argumente gegen einen Mitbewerber formulieren und nennt dabei interne Marktanalysen.

Niemand davon hat in böser Absicht gehandelt. Aber die Daten sind raus.

Daten werden gespeichert. Auf Vorrat.

Dass RAM, SSDs und Festplatten gerade spürbar teurer werden, kommt nicht von ungefähr. Der weltweite Speicherbedarf wächst rapide. Daten werden archiviert. Auf Vorrat.

Seit Edward Snowden wissen wir, dass es Institutionen gibt, die genau das in großem Stil tun. Die Methoden sind in den letzten zehn Jahren nicht schlechter geworden. Und es macht für die Bewertung kaum einen Unterschied, ob der Datenfundus bei einer Behörde liegt oder bei einem amerikanischen Konzern.

Was ein Anbieter heute mit den Daten machen darf, hängt von seinen Nutzungsbedingungen ab. Was er morgen tut, hängt von Geschäftsmodellen, Übernahmen oder gesetzlichen Anforderungen ab. Was bereits abgespeichert wurde, lässt sich nicht mehr zurückholen.

Eine DSGVO-Frage, kein abstraktes Thema

Für Unternehmen ist das längst mehr als ein theoretisches Problem. Es ist eine DSGVO-Frage.

Personenbezogene Daten dürfen nicht ohne Rechtsgrundlage an Drittländer übermittelt werden. Wer Mandanten- oder Kundendaten in ein Cloud-KI-System tippt, übermittelt sie genau dorthin. Was Mitarbeiter heute beiläufig in ein Chatfenster eingeben, wäre vor zwei Jahren ein Compliance-Vorgang gewesen.

Spätestens wenn ein Wirtschaftsprüfer oder eine Aufsichtsbehörde fragt, wie die KI-Nutzung im Unternehmen geregelt ist, wird die Antwort interessant. „Wir vertrauen darauf, dass unsere Mitarbeiter schon nichts Falsches eingeben” ist keine.

Die gute Nachricht: Es gibt einen Weg

Wir brauchen KI im Mittelstand nicht zu verbieten. Wir müssen sie auch nicht in eine pauschale Cloud-Lösung auslagern.

Es gibt einen dritten Weg: eigene Modelle, lokal betrieben, kombiniert mit einer RAG-Architektur auf den internen Wissensbeständen. Das Sprachmodell läuft auf eigener Hardware oder in einem europäischen Rechenzentrum. Es greift nur auf die Daten zu, die das Unternehmen ihm freigibt. Es lernt nichts dazu, was es danach an Dritte weitergeben könnte.

Die Antwortqualität ist heute erstaunlich nah an dem, was die großen Cloud-Modelle liefern. Für viele Anwendungsfälle im Mittelstand reicht das nicht nur. Es ist sogar überlegen, weil das Modell auf den eigenen Bestand zugreifen kann statt auf das halbe Internet.

Bei spiritdev haben wir genau diese Kombination in der Praxis im Einsatz. Ein lokales Sprachmodell, das auf die in spiritflow erfassten Projekte, Aufgaben und Kundenvorgänge zugreifen kann. Die Daten verlassen das Unternehmen nicht. Trotzdem entsteht aus dem vorhandenen Wissen plötzlich eine durchsuchbare, dialogfähige Quelle.

Fazit

Die freundliche Fassade der KI-Systeme ist kein Skandal. Sie ist gutes Produktdesign.

Aber sie ändert nichts daran, dass dahinter Server, Rechenzentren und Geschäftsmodelle stehen. Was wir den Systemen erzählen, gehört am Ende nicht mehr uns.

Wer KI im Unternehmen einsetzt, sollte wissen, wo seine Daten landen. Das ist keine Bremse für KI. Das ist die Voraussetzung, sie ernsthaft zu nutzen.