Der KI-Rat berät Präsidium und CIO bei grundsätzlichen und strategischen Fragen des Einsatzes von Künstlicher Intelligenz (KI), bereitet Präsidiumsbeschlüsse vor und koordiniert den hochschulweiten Einsatz von KI-Technologien an der LUH. Der KI-Rat steuert die Umsetzung der Anforderungen aus der EU KI-VO sowie weiterer rechtsverbindlicher Vorschriften an der LUH.
Zu den Aufgaben des KI-Rats gehört die Beurteilung des Einsatzes von KI-Systemen sowie die Veranlassung von Richtlinien, Standards und Handlungsempfehlungen für den Einsatz von KI in Forschung, Lehre, Studium und Verwaltung. Der KI-Rat behält die Umsetzung der KI-VO und Aktualisierungen der KI-Richtlinie und anderer begleitender Maßnahmen im Blick bzw. initiiert diese.
-
Mitglieder
Die Mitglieder des KI-Rats werden durch das Präsidium der LUH bestellt. Den Vorsitz des KI-Rats übernimmt die oder der ClO.
Der KI-Rat ist interdisziplinär besetzt.Prof. Frahm (Chief Information Officer, Vorsitz): IT-strategische Perspektive
Prof. Escher (Vizepräsident für Personalentwicklung): Perspektive der Hochschulleitung
Hr. Graupe (Datenschutzbeauftragter): datenschutz- und KI-rechtliche Perspektive
Prof. Nehring (Institut für Didaktik der Naturwissenschaften ): Didaktische Perspektive
Prof. Ostermann (Institut für Informationsverabeitung): Technische PerspektiveZur Unterstützung seiner Aufgaben kann der KI-Rat beratend um fachbezogene Expertise ergänzt werden, bspw. zu juristischen oder ethischen Fragestellungen.
-
Anfragen zur Zustimmung des verpflichtenden Einsatzes von KI in der Lehre
Gemäß der Richtlinie für den Einsatz von KI in der Hochschullehre §4(2) bedarf der verpflichtende Einsatz dezentraler KI-Systeme in Lehrveranstaltungen der Zustimmung des KI-Rats. Entsprechende Anfragen sind per E-Mail an den KI-Rat zu richten. Hierbei sind mindestens die folgenden Informationen bereitzustellen:
- Beschreibung des KI-Systems, insbesondere:
- ist eine persönliche Registrierung / ein persönlicher Account notwendig
- werden Nutzungsdaten zu KI-Traininszwecken genutzt
- Zweck bzw. Einsatzszenario der Nutzung
- Welche Daten werden im Rahmen der Nutzung erhoben
- Bei externen Angeboten: Sitz und Webseite des Anbieters
- Beschreibung des KI-Systems, insbesondere:
-
Anzeige des nicht-zustimmungspflichtigen Einsatzes von KI in der Lehre
Gemäß der Richtlinie für den Einsatz von KI in der Hochschullehre §4(3) ist der Einsatz dezentraler KI-Systeme, bei welchen keine Zustimmung des KI-Rats erforderlich ist, zu dokumentieren und dem KI-Rat anzuzeigen.
Entsprechende Anzeigen sind formlos per E-Mail an den KI-Rat zu richten. Hierbei sind mindestens die folgenden Informationen bereitzustellen:- Beschreibung des KI-Systems, insbesondere:
- ist eine persönliche Registrierung / ein persönlicher Account notwendig
- werden Nutzungsdaten zu KI-Traininszwecken genutzt
- Zweck bzw. Einsatzszenario der Nutzung
- Welche Daten werden im Rahmen der Nutzung erhoben
- Bei externen Angeboten: Sitz und Webseite des Anbieters
- Beschreibung des KI-Systems, insbesondere:
-
Anfragen zur Ausnahmegenmigung des Einsatz von Hockrisiko-KI-Systemen in der Lehre
Gemäß der Richtlinie für den Einsatz von KI in der Hochschullehre §10 ist der Einsatz von Hochrisiko-Systemen in der Lehre untersagt.
Der KI-Rat kann unter Einhaltung der KI-VO Ausnahmegenehmigungen erteilen.
Entsprechende Anfragen sind per E-Mail an den KI-Rat zu richten. Hierbei sind mindestens die folgenden Informationen bereitzustellen:- Beschreibung des KI-Systems, insbesondere:
- ist eine persönliche Registrierung / ein persönlicher Account notwendig
- werden Nutzungsdaten zu KI-Traininszwecken genutzt
- Zweck bzw. Einsatzszenario der Nutzung
- Welche Daten werden im Rahmen der Nutzung erhoben
- Bei externen Angeboten: Sitz und Webseite des Anbieters
- Ausführliche Begründung der Erforderlichkeit des Einsatz und Abwägung der Risiken
- Beschreibung des KI-Systems, insbesondere:
-
Anzeige des Einsatzes von autonomen KI-Agenten und agentischen Browsern in der Forschung
Gemäß der Richtlinie für den Einsatz von autonomen KI-Agenten und agentischen Browsern an der LUH §4 (1) ist der Einsatz von KI-Agenten und agentischen Web-Browsern grundsätzlich unzulässig, sofern sie nicht zu Forschungszwecken nach §5 verwendet werden.
Sofern KI-Agenten oder agentische Web-Browser grundlegender Gegenstand von Forschungsvorhaben sind, ist ein Einsatz unter den in §5 aufgeführten Bedingungen gestattet. Der Bedarf eines Einsatzes ist zu dokumentieren und dem LUH KI-Rat anzuzeigen
Entsprechende Anzeigen sind formlos per E-Mail an den KI-Rat zu richten.
Gemäß §5 (3) ist die Verarbeitung von personenbezogenen Daten der Schutzstufen B bis E mit KI-Agenten oder agentischen Web-Browsern nur in Absprache mit der LUH Stabsstelle Datenschutz zulässig.
Gemäß §5 (4) unterliegt die Verarbeitung von LUH-Beschäftigtendaten mit KI-Agenten oder agentischen Web-Browsern der Mitbestimmung des Personalrats.
Gemäß §5 (6) sind vor Projektbeginn ein Informationssicherheitskonzept sowie ein Datenschutzkonzept zu erstellen. Die Aktivitäten von KI-Agenten sind zu protokollieren.
-
Ausnahmegenehmigung des Einsatzes von autonomen KI-Agenten und agentischen Browsern außerhalb der Forschung
Gemäß der Richtlinie für den Einsatz von autonomen KI-Agenten und agentischen Browsern an der LUH §4 (1) ist der Einsatz von KI-Agenten und agentischen Web-Browsern grundsätzlich unzulässig, sofern sie nicht zu Forschungszwecken nach §5 verwendet werden.
Gemäß §4 (2) sind weitere Ausnahmen möglich, wenn die Informationsverarbeitungsprozesse dokumentiert und von der LUH genehmigt werden.
Ausnahmegenehmigungen sind formlos per E-Mail an den KI-Rat beim LUH KI-Rat zu beantragen.
- Informationen zur Nutzung von KI an der LUH
- Weiterführende Informationen zu KI
