Berechtigungen und Datensicherheit bei Unternehmens-KI: Was Sie fragen sollten

Berechtigungen und Datensicherheit bei Unternehmens-KI umfassen die Gesamtheit der Fragen, auf welchem Weg der Assistent auf welche Daten zugreift, was er verändern kann und wer was sehen darf. Auf dem Bildschirm einer Führungskraft wirkt eine Frage einfach; sie kann aber Budget, kundenbezogenen Umsatz oder Lieferdaten öffnen. Deshalb sollte man bei der Auswahl eines KI-Assistenten zuerst darauf schauen, was im Hintergrund läuft, und erst dann darauf, wie flüssig die Antwort ist. So schlicht die Chat-Oberfläche auch sein mag, darunter liegen eine Schicht, die sich mit der Datenbank verbindet, ein Konto und ein Berechtigungsmodell; das Risiko liegt in dieser Schicht, nicht in der Oberfläche.

Die folgende Liste sammelt Fragen, die Sie jedem Anbieter stellen können. Unter jedem Punkt schreiben wir getrennt auf, was wir für Fero, den Assistenten der Unternehmens-KI von YazSis, heute sagen können und was nicht.

Zwei Ansätze: freie Abfrage und definierte Werkzeuge

• Freie Abfrage: Das Modell schreibt je nach Frage direkt eine Abfrage an die Datenbank und führt sie aus. Das ist flexibel; es wird aber schwer zu kontrollieren, welche Abfrage gelaufen ist und welche Tabellen verknüpft wurden, und eine falsche Zahl zu erkennen. Eine falsch verknüpfte Tabelle kann ein scheinbar plausibles, aber falsches Ergebnis liefern.
• Definierte Geschäftswerkzeuge: Das Modell ruft nur vorab definierte Werkzeuge auf; was jedes Werkzeug tut, was es liest und wie es rechnet, steht fest. Das ist weniger flexibel, aber kontrollierbar. Der Umfang der möglichen Fragen bleibt auf den Umfang der Werkzeuge beschränkt; das sollte man nicht als Mangel lesen, sondern als den Preis, der für Kontrolle gezahlt wird.

Fero verwendet den zweiten Ansatz. Die künstliche Intelligenz schreibt kein SQL; auf die Daten wird nur mit definierten Geschäftswerkzeugen zugegriffen, und freie Abfragen werden nicht ausgeführt. Die folgenden Fragen suchen die konkreten Entsprechungen dieses Ansatzes.

Sieben Fragen an den Anbieter

Zugriff: Auf welchem Weg werden die Daten erreicht, und kann der Assistent sie verändern?

Die ersten beiden Fragen hängen zusammen. Bei Fero wird nur über 17 definierte, schreibgeschützte Geschäftswerkzeuge auf die Daten zugegriffen, und die Anwendung verbindet sich mit der Datenbank nur über ein Konto mit Leserechten. Der Assistent kann die Daten also nicht verändern. Geben Sie sich mit der Erklärung des Anbieters nicht zufrieden: Prüfen Sie die Rechte des Datenbankkontos, das für die Verbindung verwendet wird, gemeinsam mit Ihrem eigenen IT-Team. Dass das Konto nur Leserechte hat, bedeutet nicht, dass das System „versucht zu ändern und scheitert“, sondern dass es von Anfang an keinen Weg zum Ändern gibt; für die Sicherheit ist der Unterschied groß.

Genauigkeit: Wer erzeugt die Zahlen und den Bildschirm?

Die dritte und vierte Frage betreffen die Verlässlichkeit der Zahl, die die Führungskraft sieht. Bei Fero werden KPI, Prozentwerte und Differenzen im Backend berechnet; das Modell kann keine Zahl nennen, die nicht im Ergebnis des Werkzeugs steht. Auch die Bildschirme werden nur aus 13 freigegebenen Dashboard-Bausteinen aufgebaut, und die künstliche Intelligenz erzeugt keinen Code. Verlangen Sie vom Anbieter, dass er zeigen kann, aus welchem Werkzeug und aus welcher Berechnung eine Zahl stammt. Lässt sich die Quelle einer Zahl, die in einer Managementsitzung verwendet werden soll, nicht erklären, genügt die Antwort für eine Entscheidung nicht, so überzeugend sie auch klingt.

Umfang: Wer sieht was, wohin gehen die Daten?

Für die fünfte und sechste Frage geben wir in diesem Beitrag keine allgemeine Zusicherung, denn die Antworten sind projektspezifisch. Welche Daten welcher Person nach Nutzer und Rolle vorgelegt werden, sollte in der Demo und im Projektgespräch mit konkreten Beispielen gefragt werden. Ebenso muss schriftlich geklärt werden, welche Informationen an das vom Assistenten genutzte Sprachmodell gehen, wo sie verarbeitet werden und ob sie gespeichert werden. Wir stellen keine absolute Behauptung auf wie „die Daten verlassen das Unternehmen nie“; stellen Sie diese Frage jedem Anbieter schriftlich, uns eingeschlossen. Auch ein praktischer Test bei den Berechtigungen ist möglich: Nehmen Sie an, die oberste Führungskraft und der Verantwortliche einer Abteilung stellen dieselbe Frage, und verlangen Sie, nicht mündlich, sondern auf dem Bildschirm zu sehen, welche Daten jedem vorgelegt werden. Ist die Antwort nicht eindeutig, schlagen Sie vor, das Berechtigungsmodell als eigenen Posten in den Projektplan aufzunehmen.

Quelle: Welche Datenquellen sind wirklich einsatzbereit?

Die siebte Frage trennt die Anbindungsliste der Präsentation vom heutigen Stand. Bei Fero ist die heute einsatzbereite Datenquelle MySQL; Quellen wie SQL Server, PostgreSQL, REST API, Logo, SAP, Odoo und Excel werden im Rahmen eines Projekts behandelt. Jede neue Quelle bringt ihr eigenes Zugriffskonto und ihre eigene Berechtigungsprüfung mit; planen Sie das von Anfang an im Projekt ein. Der Unterschied zwischen „einsatzbereit“ und „im Rahmen eines Projekts“ betrifft sowohl den Zeitplan als auch das Budget; diese Trennung schriftlich vom Anbieter zu bekommen, legt den wirklichen Stand der Anbindungsliste in der Präsentation offen.

Drei Szenarien zum Ausprobieren in der Demo

• Änderungswunsch: Bitten Sie den Assistenten, einen Eintrag zu löschen oder zu aktualisieren. In einem schreibgeschützt arbeitenden System sollte das nicht möglich sein; achten Sie auch darauf, wie die Antwort gegeben wird.
• Frage außerhalb des Umfangs: Stellen Sie eine Frage, die die definierten Werkzeuge nicht abdecken, und beobachten Sie, wie sich das System verhält. Ein gutes System nennt seine Grenze offen, statt eine erfundene Zahl zu erzeugen.
• Zahlenkontrolle: Lassen Sie nach einer Zahl fragen, die Sie kennen, und vergleichen Sie sie mit Ihrem eigenen Bericht. Weicht sie ab, verlangen Sie, dass sich erklären lässt, aus welchem Werkzeug und welcher Berechnung die Abweichung stammt.

Ein Sicherheitsmerkmal ist nicht das, was in der Präsentation erzählt wird, sondern das, was sich in der Demo ausprobieren lässt.

Wie Fero arbeitet und was er heute kann, können Sie auf der Seite Unternehmens-KI ansehen; Ihre Fragen können Sie in der Live-Demo stellen.