KI sicher einsetzen: Datenschutz und Sicherheit für Ihr Unternehmen.

Es kommt darauf an, was eingegeben wird und mit welchem Zugang. Bei den kostenlosen Endkundenzugängen liegt die Eingabe beim Anbieter, kann zur Verbesserung der Modelle herangezogen werden und ist damit für ein Angebot oder eine Personalakte der falsche Ort. Ein Verbot löst das selten, es verlagert die Nutzung nur aus dem Blickfeld. Der praktikable Weg ist ein freigegebener Zugang mit klarer Regel, welche Datenarten hineindürfen. Wie verbreitet die inoffizielle Nutzung ist und wie man sie einfängt, steht auf unserer Seite zu Schatten-KI.

Mit einer Sammlung von Testfällen, die man wiederholen kann. Der erste Block zielt auf den System Prompt: Der Chatbot soll ihn ausgeben oder überschreiben. Der zweite Block ist der wichtigere, weil er sich im Betrieb schwerer bemerken lässt: Die Anweisung steckt nicht in der Eingabe, sondern in einem Inhalt, den der Bot verarbeitet, etwa in einer hochgeladenen Datei, einer verlinkten Seite oder einem Lebenslauf mit weißer Schrift auf weißem Grund. Geprüft wird dabei zweierlei: ob der Bot mitspielt und worauf er in diesem Moment überhaupt zugreifen kann. Läuft der Chatbot bei einem Dienstleister, holen Sie vor dem Test dessen Einverständnis ein.

Nein. Lokaler Betrieb schließt eine Risikoklasse aus, die schwerste im Mittelstand: Daten verlassen das Haus nicht. Alles andere bleibt. Ein Modell auf dem eigenen Server lässt sich genauso über manipulierte Eingaben steuern und gibt genauso Inhalte aus den angebundenen Dateiablagen preis, für die der Fragende keine Berechtigung hat. Zu weit gefasste Rechte richten dort denselben Schaden an wie in der Cloud. Rollen und Zugriffe gehören deshalb auch bei lokaler KI-Infrastruktur sauber gesetzt.

Ein guter Test ist die Frage, was im schlimmsten Fall passiert, wenn das Modell die nächste Anfrage vollständig missversteht. Kann es dann eine E-Mail nach außen senden, einen Datensatz löschen oder eine Bestellung auslösen, sind die Rechte zu weit. Zwei Warnzeichen aus der Praxis: Der Assistent hängt an einem technischen Benutzer, der historisch gewachsen alles darf, und niemand kann auf Anhieb sagen, welche Werkzeuge er tatsächlich aufrufen kann. Der Ausweg ist selten ein besseres Modell, meist ein engerer Zuschnitt der Berechtigungen und eine menschliche Bestätigung vor jeder Aktion, die sich nicht zurücknehmen lässt.

Den Datenfluss, nicht das Modell. Zuerst wird aufgeschrieben, welche Daten in das System hineingehen, wo sie verarbeitet werden, wer die Antworten sieht und was das System außerhalb seiner selbst auslösen kann. Diese Zeichnung deckt die meisten Probleme bereits auf, oft ohne dass ein einziger Angriff gefahren wurde. Erst danach folgen die Tests auf Prompt Injection und der Blick auf die zugelieferten Bausteine. Am Ende steht eine Liste mit Befunden, jeweils mit Aufwand und Wirkung, damit Sie entscheiden können, was zuerst drankommt.

Ausdrücklich geregelt sind Genauigkeit, Robustheit und Cybersicherheit in Artikel 15, und der gilt für Hochrisiko-Systeme. Die meisten Werkzeuge im Mittelstand fallen nicht darunter. Der Bedarf entsteht trotzdem an anderer Stelle: Sobald personenbezogene Daten im Spiel sind, verlangt die DSGVO angemessene technische Maßnahmen, und Kunden fragen im Lieferantenfragebogen zunehmend danach. Welche Pflichten Sie im Einzelnen treffen, klärt unsere Seite zum EU AI Act; wer die Themen im Haus bündelt, findet die Rolle unter KI-Beauftragter.