Wir alle kennen die Geschichten. Künstliche Intelligenz kann Texte schreiben, komplexe Fragen beantworten und uns den Arbeitsalltag erleichtern. Doch gerade für Unternehmen gibt es oft einen grossen Haken. Wer seine sensiblen Geschäftsdaten in eine KI wie ChatGPT eingibt, schickt diese Informationen auf eine Reise um die halbe Welt. Was genau mit den Daten passiert, bleibt oft unklar. Für Firmen mit hohen Ansprüchen an Datenschutz und Compliance ist das meist keine Option.
Dazu kommt eine ganz praktische Hürde. Das wertvolle Unternehmenswissen liegt oft in Datenbanken. Für eine gewöhnliche KI sind diese völlig unzugänglich. Ein direkter und sicherer Zugriff auf diese Daten wäre der Idealfall.
Wir bei Edorex haben uns intensiv damit beschäftigt. Die Herausforderung war klar. Wir wollten Datenbanken mit einer KI verbinden, ohne dabei den Datenschutz zu vernachlässigen. Hier zeigen wir, wie wir das gelöst haben.
Wie versteht die KI unsere Datenbank?
Die Antwort klingt trivial, erfordert aber viel Know-how im Hintergrund. Die Technologie nennt sich «Text-to-SQL».
Normalerweise schreibt eine Programmiererin oder ein Programmierer eine Datenbankabfrage in der Sprache SQL und baut dazu eine Benutzeroberfläche um die Resultate anzuzeigen. Mit Kira übernimmt ein Sprachmodell (LLM) diesen Job. Du tippst deine Frage ganz normal in Alltagssprache ein. Zum Beispiel: «Welche Projekte haben mehr als 90% ihres Budgets verbraucht?».
Kira übersetzt diesen Satz im Bruchteil einer Sekunde in SQL. Die Datenbank liefert die Fakten (Daten) und die KI formuliert daraus die Antwort für dich.
Das bringt natürlich Herausforderungen mit sich. Wir mussten sicherstellen, dass die KI nur gültiges SQL generiert, das exakt zur Struktur unserer Datenbank passt. Noch wichtiger war die Frage, wie wir verhindern, dass die KI Daten verändert oder im schlimmsten Fall sogar löscht. Auf diese Fragen haben wir mittlerweile gute Antworten gefunden.
Die Daten bleiben zu Hause
Wir konnten zeigen, dass KI auch in einer absolut sicheren Umgebung funktioniert. Unsere Lösung «Kira» verarbeitet sensible Daten ausschliesslich lokal oder auf einer Schweizer IT-Infrastruktur. Kein einziges Bit wandert an Tech-Giganten wie OpenAI oder Google.
Möglich machen das sogenannte „Open-Weight Models“. Diese KI-Modelle betreiben wir direkt auf der eigenen Infrastruktur. Die Daten bleiben also dort, wo sie hingehören.
Wissenschaftlich begleitet
Sicheres Text-to-SQL erfordert mehr als nur gute Programmierung. Wir haben unseren Ansatz daher wissenschaftlich begleiten lassen. Im Projekt «SecureRAG» prüften wir gemeinsam mit der Berner Fachhochschule (BFH), ob die Umgebung wirklich dicht hält (zum Blog SecureRAG). Das Resultat ist eindeutig: Wir haben gezeigt, dass komplexe Datenbankabfragen auch in einer sicheren Umgebung funktionieren.
