Die EU-Anforderungen an „Vertrauenswürdige KI“ betonen hochwertige Daten, die Einhaltung gesetzlicher Vorgaben bei der Datenverarbeitung und -speicherung, die Kontrolle über das System sowie die Sicherstellung, dass KI dem Wohl der Nutzer dient.
Eine KI-Systemarchitektur für Hochschulen sollte diese Prinzipien von Anfang an integrieren.
Dies kann durch ein algorithmisches Framework erreicht werden, das Vertrauen als grundlegendes Designelement verankert – eine „vertrauensgetriebene KI-Architektur“.
Wir schlagen dazu die folgende Architektur vor und richten unsere Entwicklung an dieser Architektur aus, denn diese vereint Nutzerfreundlichkeit einerseits und Kontrolle/Steuerung andererseits.