Ohne Mathematik: wie ein Sprachmodell Wort für Wort weiterschreibt, was die Temperatur verändert, woher Halluzinationen kommen und warum eigene Quellen und ein Mensch am Ende den Unterschied machen.
eingabe → ihr text, in tokens zerlegtvorhersage → wahrscheinlichkeit für jedes nächste stückauswahl → die temperatur entscheidet, wie mutigausgabe → stück für stück, bis zum satzendewissen → muster aus trainingstexten, keine quelle ✕mit rag → ihre dokumente als quelle ✓am ende → ein mensch prüft ✓
Wenn heute von KI die Rede ist, sind meist Sprachmodelle gemeint: Programme, die Texte schreiben, zusammenfassen und Fragen beantworten. Dahinter steckt keine Magie und kein Verstehen im menschlichen Sinn, sondern Statistik über Sprache. Ein Sprachmodell hat beim Training sehr viele Texte gesehen und dabei gelernt, welche Wortstücke in welchem Zusammenhang typischerweise aufeinander folgen.
Beim Schreiben tut es immer dasselbe: Es schaut auf den bisherigen Text, berechnet für jedes mögliche nächste Stück eine Wahrscheinlichkeit, wählt eines aus und hängt es an. Dann beginnt es von vorn, Stück für Stück, bis der Text fertig ist. Das funktioniert erstaunlich gut, weil in den Trainingstexten viel Wissen über Sprache, Fachgebiete und Zusammenhänge steckt.
Wahrscheinlich ist nicht dasselbe wie wahr. Ein Sprachmodell schreibt, was gut klingt und oft auch stimmt. Ob es stimmt, prüft es nicht.
Ein Sprachmodell kennt Sprache aus seinen Trainingstexten, nicht aus Erfahrung. Was nach dem Ende dieser Texte passiert ist, weiß es nicht, außer man gibt es ihm mit.
Es hat keine Kartei mit Fakten, in der es nachsieht. Sein Wissen steckt in Mustern. Darum kann es von sich aus keine Fundstelle nennen.
Es hat keine Absicht, kein Gewissen und keine Erfahrung am Patientenbett. Es erkennt Muster in Sprache, und das sehr gut.
Wie das Weiterschreiben funktioniert, zeigt die Wort-Maschine. Sie ist kein echtes Sprachmodell, sondern eine kleine, von Hand geschriebene Tabelle für drei Sätze aus dem Verwaltungsalltag. Das Prinzip ist aber dasselbe: Für jedes nächste Wort gibt es Kandidaten mit Wahrscheinlichkeiten, und ein Würfel entscheidet.
DieWundeistseitgestern
Meist plausibel, ab und zu überraschend. Typisch für Entwürfe.
Drei Dinge fallen auf. Die Maschine plant den Satz nicht im Voraus, sie entscheidet immer nur über das nächste Wort, sogar über das Satzende. Auch unwahrscheinliche Wörter können gewinnen, denn gewürfelt wird über alle Kandidaten. Und jeder Satz, der herauskommt, war nur einer von vielen möglichen.
Echte Sprachmodelle wählen aus ihrem gesamten Vorrat an Wortstücken und berechnen die Wahrscheinlichkeiten bei jedem Schritt neu, aus dem ganzen bisherigen Text statt aus einer festen Tabelle. Am Ablauf ändert das nichts.
Die Temperatur ist ein Regler, der die Wahrscheinlichkeiten vor dem Würfeln verformt. Bei niedriger Temperatur werden die Favoriten noch stärker, bei hoher Temperatur werden die Unterschiede eingeebnet, und Außenseiter bekommen eine echte Chance. Bei null gewinnt immer das wahrscheinlichste Wort: Derselbe Anfang ergibt dann immer denselben Text. Probieren Sie den Regler in der Wort-Maschine aus und sehen Sie, wie sich die Balken verformen.
Gleiche Eingabe, fast gleiche Ausgabe. Passt zu Dokumentation, Zusammenfassungen und Formularen, wo es auf Verlässlichkeit ankommt.
Abwechslungsreich und meist plausibel. Typisch für Entwürfe von Briefen und Beiträgen, die ein Mensch ohnehin überarbeitet.
Für Ideensammlungen und Formulierungsvarianten. Hier steigt das Risiko für Unsinn deutlich.
In vielen Anwendungen ist die Temperatur fest eingestellt und gar nicht sichtbar. Wichtig ist vor allem eine Einsicht: Auch bei Temperatur null schreibt das Modell, was am wahrscheinlichsten ist, nicht, was nachweislich stimmt. Eine niedrige Temperatur macht Antworten gleichförmiger, nicht richtiger.
Sprachmodelle lesen weder einzelne Buchstaben noch unbedingt ganze Wörter, sondern Tokens: Stücke, die beim Training häufig vorkamen. Häufige Wörter sind oft ein einziges Stück, seltene Fachwörter zerfallen in mehrere. Schneiden Sie selbst:
Fachwörter zerfallen in mehr Stücke als Alltagswörter. Mehr Stücke heißt mehr Rechenarbeit, und viele Dienste rechnen nach Tokens ab.
Viele KI-Dienste rechnen nach verarbeiteten Tokens ab, für die Eingabe und für die Antwort. Ein langes Dokument kostet mehr als eine kurze Frage.
Ein Modell kann nur eine bestimmte Menge Tokens auf einmal berücksichtigen. Was nicht hineinpasst, fällt heraus oder muss vorher ausgewählt werden.
Medizinische Fachbegriffe und Abkürzungen sind in Trainingstexten seltener als Alltagssprache. Sie werden in mehr Stücke zerlegt und sind dem Modell weniger vertraut.
Auch Zahlen werden in Stücke geschnitten. Exaktes Rechnen gehört deshalb nicht in den frei geschriebenen Text, sondern in feste Regeln oder ein Rechenwerkzeug.
Wenn ein Sprachmodell etwas erfindet, das plausibel klingt, aber nicht stimmt, spricht man von einer Halluzination. Das ist kein seltener Defekt, sondern folgt direkt aus dem Prinzip: Das Modell setzt ein, was in ähnlichen Sätzen häufig vorkommt. Eine Zahl, ein Paragraf oder ein Literaturverweis klingt dann genauso selbstsicher wie eine richtige Angabe.
FrageWie oft muss der Verband laut Expertenstandard gewechselt werden?
Noch keine Antwort. Drücken Sie „Antwort schreiben“.
Die Maschine schreibt nur aus dem, was in ihren Trainingstexten häufig vorkam. Gelesen hat sie den Standard nicht.
Fragen Sie mehrmals, und Sie bekommen ohne Quelle verschiedene Zahlen, jede gleich selbstsicher formuliert. Die Maschine hat den Expertenstandard nie gelesen. Mit Quelle antwortet sie anders: Sie beruft sich auf das Dokument, das ihr mitgegeben wurde, und die Angabe lässt sich nachprüfen.
Das wichtigste Gegenmittel heißt Retrieval-Augmented Generation, kurz RAG. Übersetzt: erst nachschlagen, dann schreiben. Vor der Antwort sucht ein System in Ihren eigenen, freigegebenen Dokumenten nach passenden Abschnitten und gibt sie dem Modell mit. Das Modell schreibt auf dieser Grundlage und nennt die Fundstelle.
Die Frage wird mit Ihren freigegebenen Dokumenten abgeglichen: Verfahrensanweisungen, Standards, Verträge. Gefunden werden die passenden Abschnitte.
Das Modell bekommt Frage und Abschnitte zusammen. Die Antwort stützt sich auf diesen Text und verweist auf die Stelle, aus der sie stammt.
Mit der Fundstelle lässt sich die Antwort schnell nachprüfen. Freigegeben wird, was stimmt. Was nicht stimmt, wird korrigiert.
RAG senkt das Risiko, schafft es aber nicht ab. Ein Modell kann eine Quelle falsch wiedergeben, und die Suche kann den falschen Abschnitt finden. Deshalb bleibt der letzte Schritt beim Menschen. Und die Antwort ist nur so gut wie die Dokumente dahinter: Eine veraltete Verfahrensanweisung ergibt eine veraltete Antwort.
Aus dem Prinzip ergibt sich, wofür Sprachmodelle taugen: überall dort, wo ein Entwurf hilft und ein Mensch das Ergebnis schnell prüfen kann. Und wofür nicht: überall dort, wo ein Fehler unbemerkt Schaden anrichten würde.
Gesundheitsdaten gehören nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist grundsätzlich untersagt, es sei denn, eine der dort genannten Ausnahmen greift, etwa für Zwecke der Gesundheitsversorgung. Für viele Berufe im Gesundheitswesen kommt die Schweigepflicht dazu. Für den Einsatz von KI heißt das: Wo Patientendaten im Spiel sind, entscheidet nicht die Bequemlichkeit, sondern der Rahmen.
Was in einen frei zugänglichen Chatdienst getippt wird, landet bei dessen Anbieter. Ob es gespeichert oder weiterverwendet wird, regeln dessen Bedingungen, nicht Sie.
Auch ohne Namen kann ein Fall über Alter, Wohnort, Diagnose und Datum erkennbar sein. Pseudonymisierte Daten bleiben personenbezogene Daten.
Verarbeitet ein Dienstleister Daten in Ihrem Auftrag, braucht es einen Vertrag zur Auftragsverarbeitung. Bei Berufsgeheimnissen kommt die Verpflichtung zur Verschwiegenheit dazu.
Bei uns laufen Modelle für Gesundheitsdaten in europäischen Rechenzentren oder in Ihrer eigenen Infrastruktur, je nach Schutzbedarf.
Ihre Daten werden nicht zum Training von Modellen verwendet, es sei denn, Sie vereinbaren es ausdrücklich und die Rechtsgrundlage ist geklärt.
Wer Gesundheitsdaten in größerem Umfang mit neuen Technologien verarbeitet, muss häufig vorab eine Datenschutz-Folgenabschätzung durchführen.
Vereinfacht dargestellt, ersetzt keine Prüfung im Einzelfall.
Welche Werkzeuge und welche Daten in Ihrem Haus erlaubt sind, regelt am besten eine kurze, klare Richtlinie. Im Leitfaden KI-Richtlinie stellen Sie Ihre zusammen.
Wir setzen KI selektiv ein: dort, wo sie eine konkrete, wiederkehrende Aufgabe abnimmt und ein Mensch das Ergebnis prüfen kann. Eingebettet in Ihre bestehende Software, mit Ihren Dokumenten als Quelle und mit einem Menschen, der entscheidet. Den EU AI Act denken wir von Anfang an mit: Jede Funktion wird eingestuft und dokumentiert, und Ihr Team wird im Umgang mit KI geschult.
Wir sehen uns an, wo heute Texte geschrieben, gesucht und abgetippt werden, und welche Ihrer Dokumente als Quelle taugen.
Dokumente und Daten ziehen sinnvoll und mit dem Einverständnis Ihres Teams in eine EU-Cloud oder bleiben im Haus. Erst dann sind sie als Quelle erreichbar.
Dann kommen Sprachmodelle dazu: mit Ihren Dokumenten als Quelle, niedriger Temperatur, wo Verlässlichkeit zählt, und einem Menschen, der freigibt.
Mehr zu unserem Vorgehen · KI im Einsatz: ein Blick unter die Haube
Nicht so, wie Menschen verstehen. Es hat aus sehr vielen Texten gelernt, welche Stücke in welchem Zusammenhang wahrscheinlich folgen, und schreibt damit erstaunlich sinnvolle Texte. Eine Absicht, Erfahrung oder eine eingebaute Faktenprüfung hat es nicht.
Weil gewürfelt wird. Bei einer Temperatur über null kann jedes Mal ein anderes Wort gewinnen, und danach verzweigt sich der Text. Bei Temperatur null wird die Antwort gleichförmiger, aber nicht automatisch richtiger.
Nein. Man kann sie aber seltener machen und abfangen: mit Ihren eigenen Dokumenten als Quelle, einer Fundstelle zu jeder Angabe, festen Regeln, die unabhängig vom Modell prüfen, und einem Menschen, der freigibt.
In frei zugängliche Chatdienste: nein. Gesundheitsdaten sind besonders geschützt und unterliegen oft der Schweigepflicht. Infrage kommen nur Lösungen mit geklärter Rechtsgrundlage, Vertrag zur Auftragsverarbeitung und Betrieb in der EU oder im eigenen Haus.
Das Modell selbst verändert sich durch Ihre Eingaben nicht, sein Wissen stammt aus dem Training. Ob ein Dienst Eingaben speichert oder später für das Training nutzt, regeln Anbieter und Vertrag. Bei uns gilt: kein Training mit Ihren Daten ohne ausdrückliche Vereinbarung.
Nein. Wir binden KI-Funktionen an Ihre bestehende Praxis-, Pflege- oder Branchensoftware an und nutzen Ihre vorhandenen Dokumente als Quelle.
Sie möchten wissen, wo KI in Ihrem Haus sinnvoll ist, und wo nicht? Erstgespräch vereinbaren