Ab dem 2. August 2026 gelten weitere zentrale Vorgaben des EU AI Acts. Betrifft uns als Hochschule das? Müssen wir jetzt unsere KI-Tools prüfen lassen? Was passiert, wenn wir nichts tun? Die kurze Antwort: Es kommt sehr darauf an, was Sie mit KI machen. Die längere Antwort lesen Sie hier.
Was gilt ab 2. August 2026?
Wer mit einem KI-System interagiert, muss grundsätzlich erkennen können, dass es sich um KI handelt. Ein Chatbot für Studierende oder ein digitaler Assistent sollte sich daher spätestens zu Beginn des Gesprächs eindeutig als KI-System zu erkennen geben – sofern dies nicht ohnehin offensichtlich ist.
Für Hochschulen bedeutet das vor allem:
- KI-Chatbots eindeutig kennzeichnen,
- KI-generierte Medien nicht als authentische Aufnahmen ausgeben,
- Verantwortlichkeiten für eingesetzte KI-Systeme festlegen,
- den KI-Einsatz nachvollziehbar dokumentieren.
KI-Kompetenz bleibt Pflicht
Bereits seit Februar 2025 müssen Einrichtungen Maßnahmen zur Förderung der KI-Kompetenz ihrer Beschäftigten anbieten. Ab August 2026 kann die Einhaltung dieser Verpflichtung stärker kontrolliert werden.
Ein bestimmtes Zertifikat ist nicht vorgeschrieben. Sinnvoll sind jedoch:
- interne Regeln für ChatGPT und andere KI-Werkzeuge,
- Schulungen zu Datenschutz, Halluzinationen und vertraulichen Daten,
- besondere Einweisungen für sensible Bereiche wie Prüfungsamt, Zulassung und Personal,
- eine Dokumentation der angebotenen Maßnahmen.
- TraiNex unterstützt Sie mit dem E-Tutorial „KI an der Hochschule in 10 Kapitel“. Diese können Sie direkt im TraiNex für Lehrkräfte und Verwaltungsmitarbeitende hinterlegen, absolvieren lassen und den Nachweis automatisch dokumentieren. Sprechen Sie uns an.
Sind Studierende betroffen?
Studierende sind bei der privaten Nutzung allgemein verfügbarer KI-Werkzeuge normalerweise weder Anbieter noch Betreiber im Sinne des AI Acts. Sie sind jedoch als betroffene Personen geschützt. Nutzt eine Hochschule KI für Zulassung, Prüfungsbewertung oder Prüfungsüberwachung, entstehen Pflichten für die Hochschule.
Was gilt für Lehrkräfte?
Lehrkräfte sind ebenfalls weder Anbieter noch Betreiber im Sinne des AI Acts. Sie müssen aber die Vorgaben der Hochschule, den Datenschutz, das Urheberrecht und die Prüfungsordnungen beachten. Um die Verwendung von KI für diese Bereiche abschätzen zu können, ist eine Teilnahme an einer Fortbildung notwendig.
Wie TraiNex KI-Funktionen einordnet
Bei TraiNex betrachten wir jede KI-Funktion anhand ihres konkreten Zwecks und ihrer Auswirkungen.
KI-gestützte Suchfunktionen, Textvorschläge, Zusammenfassungen und allgemeine Chatbots unterstützen Nutzerinnen und Nutzer, ohne selbst über Zulassungen, Noten oder Sanktionen zu entscheiden. Diese Risikoklassen sind weitgehend unproblematisch erlaubt.
Anders kann es aussehen, wenn ein KI-Ergebnis unmittelbar für folgenreiche Entscheidungen verwendet wird. Eine automatische Auswertung von Anwesenheitsdaten ist beispielsweise anders zu bewerten, wenn daraus ohne weitere Prüfung die Prüfungszulassung abgeleitet wird.
Deshalb prüfen wir insbesondere:
- Einsatzzweck und verwendete Daten,
- Auswirkungen auf Studierende und Beschäftigte,
- Grad der Automatisierung,
- menschliche Kontrollmöglichkeiten,
- Protokollierung und Nachvollziehbarkeit,
- Datenschutz und IT-Sicherheit.
Was gilt für KI-Agenten?
KI-Agenten bilden im AI Act keine eigene Risikokategorie. Entscheidend ist auch hier, welche Aufgaben sie übernehmen.
Ein Agent, der Dokumente vorbereitet, Informationen überträgt oder Änderungen zur Freigabe vorschlägt, ist anders zu bewerten als ein Agent, der selbstständig Zulassungen ablehnt, Noten verändert oder Personen sanktioniert. Letzteres wäre zu autonom und gem. AI Act zu riskant. Um eine akzeptable und erlaubte Risikoklasse zu erreichen, wäre mindestens die Freigabe durch einen Mensch zwingend notwendig.
Bei TraiNex-KI-Agenten setzen wir deshalb auf:
- klar begrenzte Zuständigkeiten,
- abgestufte Zugriffsrechte,
- vollständige Protokollierung,
- menschliche Freigaben bei folgenreichen Vorgängen,
- die Möglichkeit, Aktionen zu stoppen oder rückgängig zu machen,
- Einschränkung der KI-Autonomie.
Siehe waas.campus-management-system.de
Was Hochschulen jetzt tun sollten
Hochschulen und Bildungsträger sollten jetzt:
- ihre eingesetzten KI-Systeme erfassen,
- deren konkrete Einsatzzwecke dokumentieren,
- KI-Chatbots und generierte Inhalte korrekt kennzeichnen,
- Beschäftigten geeignete Schulungen und Leitlinien anbieten,
- Anwendungen mit Einfluss auf Zulassung, Prüfungen oder Personalentscheidungen besonders prüfen.
Fazit
Ab dem 2. August 2026 werden für Hochschulen vor allem Transparenz, Kennzeichnung und dokumentierte Verantwortlichkeit wichtiger.
Nächster Termin: Die umfassenden Hochrisiko-Anforderungen für den Bildungsbereich gelten ab dem 2. Dezember 2027.
