KI-Sprachmodelle aus Österreich: DSGVO-konforme LLMs für Unternehmen

LLMs (große Sprachmodelle) sind zum Standardwerkzeug geworden. Für Unternehmen im DACH-Raum hängt an ihrem Einsatz allerdings eine Frage, die mit Leistung nichts zu tun hat: Wohin fließen meine Daten? Wer ein Modell produktiv nutzt, gibt ihm interne Dokumente und mitunter Kalkulationen zu lesen. Herkunft und Betriebsort eines LLM entscheiden deshalb mit darüber, ob der Einsatz rechtlich trägt.

Diese Seite klärt zwei Dinge: was „aus Österreich“ bei einem Sprachmodell heißt und welche Modelle im europäischen Rechtsraum zur Verfügung stehen. Dass sich leistungsfähige Modelle überhaupt im eigenen Haus betreiben lassen, gehört zu den wenigen Verschiebungen der letzten Jahre mit Bestand. Der Überblick zu den neuesten Entwicklungen der künstlichen Intelligenz ordnet sie ein.

Gibt es ein Sprachmodell aus Österreich?

Ein Modell, das hierzulande trainiert wurde und mit den bekannten großen mithält, gibt es derzeit nicht. Die Frage zielt in der Praxis auch auf etwas anderes, nämlich darauf, ob ein Unternehmen ein Sprachmodell nutzen kann, ohne Daten aus dem eigenen Rechtsraum zu geben. Das ist möglich, und zwar mit quelloffenen Modellen, deren Gewichte jeder herunterladen und auf eigener Hardware ausführen darf:

Llama stammt von Meta und damit von einem US-Konzern. Die Gewichte liegen offen; wer sie im eigenen Rechenzentrum lädt, verarbeitet dort und nirgendwo sonst.
Mistral kommt aus Frankreich, unterliegt also europäischem Recht, und steht in mehreren Größen zur Verfügung, vom kleinen Modell für einen einzelnen Server bis zum großen.
Teuken ist im EU-Projekt OpenGPT-X entstanden und auf die Amtssprachen der Union ausgelegt, Deutsch eingeschlossen.

Welches davon passt, entscheidet der Anwendungsfall. Über die Rechtslage entscheidet keines der drei Namensschilder.

Warum der Verarbeitungsort über die DSGVO entscheidet

Die meisten bekannten Sprachmodelle werden von US-Konzernen betrieben. Sobald Eingaben dorthin gehen, verlassen sie den europäischen Rechtsraum, mit allen datenschutzrechtlichen Folgen. Für viele Anwendungsfälle im Mittelstand ist das ein echtes Problem:

Personenbezogene Daten unterliegen der DSGVO; ihre Übermittlung in Drittländer ist nur unter strengen Auflagen zulässig.
Betriebsgeheimnisse wie Kalkulationen, Verträge und Entwicklungsdaten haben in fremden Rechenzentren nichts verloren.
Branchenspezifische Pflichten, etwa die Verschwiegenheit in Kanzleien oder im Gesundheitswesen, schließen unkontrollierten Datenabfluss faktisch aus.

„Aus Österreich“ meint daher weniger die Nationalität des Modells als den Ort der Datenverarbeitung und die rechtliche Kontrolle darüber. Ein Modell aus amerikanischer Entwicklung, das auf einem Server in Linz läuft, sendet nichts nach Kalifornien. Ein europäisches Modell, das über die Schnittstelle eines US-Anbieters angesprochen wird, tut es sehr wohl.

Drei Wege zu einem DSGVO-konformen Sprachmodell

Es gibt nicht das eine österreichische LLM, sondern mehrere tragfähige Architekturen. Was davon trägt, hängt am Schutzbedarf:

Europäisch gehostete Modelle. Ein Anbieter im EU-Raum betreibt das Modell, Sie schließen mit ihm einen Auftragsverarbeitungsvertrag. Der Einstieg geht schnell und die Rechtslage ist sauber; die Maschine gehört allerdings jemand anderem.
Quelloffene Modelle auf eigener Infrastruktur. Die oben genannten Modelle laufen on-premise oder in einer privaten Cloud. Kein Datenabfluss, planbare Kosten, volle Kontrolle.
Spezialisierte, DSGVO-konforme Dienste. Lösungen wie DIALOG.pro verbinden ein Sprachmodell mit einem Berechtigungskonzept und der Anbindung an Ihr Wissen, auf Wunsch vollständig im eigenen Haus.

An der Modellwahl scheitert selten ein Vorhaben. Es scheitert an Hardware, Betreuung und laufenden Kosten, und wie sich die im Mittelstand rechnen, beantwortet die Seite zur lokalen KI.

Was Unternehmen mit einem eigenen Sprachmodell erreichen

Ein souverän betriebenes LLM ist kein Selbstzweck. Es trägt Anwendungen, die im Mittelstand regelmäßig anfallen.

Mitarbeiter befragen den eigenen Dokumentenbestand in natürlicher Sprache und bekommen die Antwort mit der Fundstelle dazu, weil Retrieval Augmented Generation (RAG) das Modell an geprüfte Quellen bindet. Große Textmengen lassen sich zusammenfassen, strukturieren und auswerten, ohne dass eine Datei das Haus verlässt. Für Service und Vertrieb entstehen daraus datenschutzkonforme KI-Chatbots. Und im Arbeitsalltag übersetzt und formuliert dasselbe Modell vertraulich mit.

Welche Angriffsvektoren beim Betrieb eigener Sprachmodelle zu beachten sind, etwa Prompt Injection oder unbeabsichtigte Datenpreisgabe, behandeln wir im Bereich KI-Sicherheit.

Datensouveränität als Standortvorteil

Die strenge europäische Regulierung gilt vielen als Nachteil. Sie kann zum Qualitätsmerkmal werden: Wer nachweislich datenschutzkonform mit KI arbeitet, muss im Vergabegespräch oder beim Kundenaudit nicht ausweichen. Und wer sein Sprachmodell im europäischen Rechtsraum betreibt, erfüllt die DSGVO und ist zugleich auf die Anforderungen des EU AI Act vorbereitet.

Für KMU in Oberösterreich ist der Einstieg zudem förderbar: Projekte rund um lokale KI lassen sich über DIGITAL.PLUS 26 mit bis zu € 7.000 unterstützen.

Sie möchten ein Sprachmodell datenschutzkonform einsetzen? In einem kostenlosen Erstgespräch klären wir, welche Architektur zu Ihrem Anwendungsfall und Schutzbedarf passt. Jetzt unverbindlich Kontakt aufnehmen

Häufige Fragen

Gibt es Large Language Models aus Österreich?

Ein in Österreich trainiertes Modell, das an die bekannten großen heranreicht, existiert nicht. Praktisch führen trotzdem zwei Wege zum Ziel: quelloffene Modelle auf Infrastruktur im eigenen Rechtsraum oder ein spezialisierter Dienst wie unser DIALOG.pro, der auf Wunsch vollständig lokal läuft. Welche Modelle zur Wahl stehen und wie sie rechtlich einzuordnen sind, klärt oben der Abschnitt „Gibt es ein Sprachmodell aus Österreich?“. Wie Sprachmodelle überhaupt arbeiten, erzählen wir anschaulich in Das Geheimnis der großen Sprachmodelle aus Österreich.

Warum nicht einfach ChatGPT im Unternehmen nutzen?

Für unkritische Aufgaben spricht nichts dagegen. Sobald aber personenbezogene Daten, Kundenkommunikation oder Betriebsgeheimnisse in den Prompt geraten, wird der Datenabfluss an einen US-Anbieter datenschutzrechtlich heikel. Eine europäisch gehostete oder lokal betriebene Lösung nimmt dieses Risiko aus dem Vorhaben. Welcher Ersatz für ein konkretes US-Produkt in Frage kommt, behandelt die Seite zur OpenAI-Alternative aus Österreich.

Was bedeutet Datensouveränität bei KI konkret?

Sie wissen jederzeit, wo Ihre Daten verarbeitet und gespeichert werden und wer darauf zugreifen darf. Läuft das Sprachmodell im eigenen Haus, verlassen Eingaben und Dokumente das Unternehmen nicht; eine Auskunft an eine ausländische Behörde ist damit technisch gar nicht möglich. Für Kanzleien, das Gesundheitswesen und produzierende Betriebe ist das oft das Argument, das den Ausschlag gibt.

Sind lokale Sprachmodelle leistungsfähig genug für den Unternehmenseinsatz?

Für die üblichen Aufgaben ja. Quelloffene Modelle haben stark aufgeholt und liefern beim Textverständnis, beim Zusammenfassen und beim Beantworten von Fragen zu eigenen Dokumenten belastbare Ergebnisse. Über die Qualität entscheidet dabei meist die Anbindung an die eigenen Daten und nicht die Größe des Modells. Welche Größenklasse für wie viele Nutzer reicht, steht auf unserer Seite zur lokalen KI-Infrastruktur.