Dies ist der vierte und letzte Beitrag zu unserer Blogreihe „KI in der Hochschule“. Nachdem es im ersten Beitrag um KI-Detektoren ging, beschäftigten wir uns daraufhin mit den rechtlichen Aspekten bei KI und OER. Der dritte Beitrag behandelte Prompt-Tipps für hochwertige OER. Mit dem folgenden Beitrag zu den verpflichtenden KI-Kompetenzen ist die Reihe nun abgeschlossen.
Pflichten für Hochschulen nach der KI-Verordnung
Am 1. August 2024 ist die KI-Verordnung (AI-Act (EU) 2024/1689) in Kraft getreten und gilt in den Mitgliedsstaaten unmittelbar, ohne dass es einer Umsetzung in nationale Gesetze bedarf. Die KI-VO definiert KI‑Anwendungsszenarien, die von vornherein verboten sind und solche, die voraussichtlich mit einem hohen Risiko einhergehen und daher besondere Sorgfalt erfordern.
Die KI-VO erfasst auch die an vielen Hochschulen zu Lehr- und Studienzwecken über eine Schnittstelle des Hochschulnetzes zugänglichen GPAI-Systeme von Anbietern wie OpenAI sowie die auf eigenen Servern betriebenen LLM-Systeme. Die Hochschule nimmt dabei die Rolle als Betreiber bzw. Anbieter im Sinne der KI-VO ein. Für Anbieter und Betreiber von GPAI-Modellen sieht die KI-VO in den Art. 4, Art. 50, Art. 53 und Art. 55 Pflichten vor. Es handelt sich im Wesentlichen um Informations- und Transparenzpflichten, Pflichten zum Risiko- und Datenschutzmanagement, zur Cybersicherheit, zur Einhaltung des EU-Urheberrechts und der Vermittlung von KI-Kompetenz.
Verstöße gegen die in der KI-VO auferlegten Pflichten, sind mit hohem Bußgeld bewehrt. Für die einzuhaltenden Pflichten sieht Art. 113 KI-VO einen in zeitlicher Hinsicht gestaffelten Geltungsbeginn vor, um den betroffenen Akteuren die Umsetzung zu erleichtern.
Erste geltende Pflicht ist die Vermittlung von KI-Kompetenz (AI Literacy). Diese muss zum 2. Februar 2025 umgesetzt werden. Was heißt das für Hochschulen? Hochschulen müssen kompetenzbildende Maßnahmen zum Erwerb von KI-Kompetenz des Personals und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, ergreifen. Als Maßnahmen kommen Workshops oder E‑Learning-Kurse in Betracht. Weiterzubildende Personen werden in der Regel neben Hochschulbeschäftigten und nicht im Dienstverhältnis zur Hochschule stehende Hochschulmitglieder, wie Studierende, auch Lehrbeauftragte sein.
Welche KI-Kompetenzen sind zu vermitteln?
Nach Art. 3 Nr. 56 KI-VO umfasst KI‑Kompetenz die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden. Dabei sind laut Art. 4 KI-VO die technischen Kenntnisse, die Erfahrung, die Ausbildung und Schulung, der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.
Nach Wienrich/Carolus/Markus/Augustin sollten KI-kompetente Personen
- KI erkennen und identifizieren können: Sie sollten verschiedene Formen der KI unterscheiden und ihre Funktionsweise zumindest in ihren Grundzügen verstehen.
- Ethische Prinzipien kennen und befolgen, die eine verantwortungsbewusste Integration von KI-Systemen ermöglichen: Sie sollten Gefahrenpotenziale der KI reflektieren und ggf. Gegenmaßnahmen einleiten können.
- Rechtskompetent sein: Sie sollten mit den Gesetzen zur Nutzung mit KI vertraut sein und über allgemeine Datenschutzkenntnisse verfügen.
Welche Umsetzungshilfen gibt es?
Das Büro für künstliche Intelligenz der EU (European AI Office) hat angekündigt, Praxisleitfäden zur Umsetzung der Pflichten für KI-Systeme mit allgemeinem Verwendungszweck (GPAI-Systeme) im Internet herauszugeben. Der Europäische Datenschutzbeauftragte (EDSB) hat bereits Leitlinien zur Gewährleistung von Datenschutzkonformität bei der Verwendung generativer KI-Systeme im Internet zur Verfügung gestellt.
twillo bietet bereits einen Workshop zu KI-Kompetenzen an. Hierbei liegt der Schwerpunkt auf der Erstellung von Bildungsmaterialien, insbesondere OER, mit Hilfe von KI. In dem Workshop werden didaktische und rechtliche Aspekte, wie z.B. das Urheberrecht, thematisiert. Bei Interesse melden Sie sich gerne unter info@twillo.de an.