Audit Intelligence – Wenn Technik Bedeutung findet
Systeme, die verstehen, was sie tun – und warum. Ein Gedanke über auditierbare Intelligenz.
Die Klage war noch nicht eingereicht, aber der Anwalt hatte schon angerufen. Ein ehemaliger Bewerber fühlte sich durch ein KI-gestütztes Auswahlverfahren benachteiligt. Er wollte wissen, nach welchen Kriterien aussortiert wurde.
Der HR-Leiter rief beim Softwareanbieter an. Die Antwort: „Das Modell gewichtet verschiedene Faktoren.“ Mehr Information gab es nicht – weder für ihn noch für den Anwalt.
> ### Ein System, das funktioniert, ist nicht automatisch erklärbar
Die Software hatte über Monate zuverlässig Vorauswahlen getroffen. Niemand hatte sich beschwert – bis jetzt. Und plötzlich zeigte sich: Funktionieren und Erklärenkönnen sind zwei verschiedene Eigenschaften.
Ein System kann technisch einwandfrei laufen und trotzdem niemandem im Unternehmen erlauben, eine einzelne Entscheidung im Nachhinein zu begründen. Genau das wird in Auseinandersetzungen zum Problem – nicht die Technik, sondern die Lücke dahinter.
> ### Was „auditierbare Intelligenz“ eigentlich bedeutet
Es bedeutet nicht, jeden Algorithmus offenzulegen. Es bedeutet, dass für jede relevante automatisierte Entscheidung rekonstruierbar bleibt:
- Welche Kriterien tatsächlich angewendet wurden
- Wer diese Kriterien festgelegt hat – und wann
- Ob sich diese Kriterien seitdem verändert haben
Diese drei Punkte lassen sich vorab klären. Im Streitfall ist es dafür meist zu spät.
> ### Fazit
Ein System, das Entscheidungen trifft, ohne dass jemand sie erklären kann, ist kein technisches Risiko – es ist ein rechtliches.
Wenn morgen jemand eine automatisierte Entscheidung Ihres Unternehmens anfechten würde – könnten Sie heute erklären, wie sie zustande kam?
Wir prüfen das, bevor ein Anwalt es tut.
Audit Insights
Sie möchten einen Fall unabhängig prüfen lassen.
Schildern Sie uns kurz den konkreten Fall. Wir sagen Ihnen offen, ob eine unabhängige Prüfung sinnvoll ist.