Chancen und Herausforderungen

KI-Technologien bieten im Hochschulkontext vielfältige Chancen, bringen jedoch gleichzeitig neue Herausforderungen mit sich.

Chancen

  • Arbeitserleichterung & Hilfe (KI als Assistent:in bzw. "Copilot")
  • Entwicklung digitaler Kompetenzen für die Zukunft
  • Personalisierte Lernpfade und individualisierte Lerninhalte
  • Effizientere Verwaltung und Organisation
  • Forschungsunterstützung (z.B. Analyse großer Datenmengen)
  • Schaffung barrierearmer Lernumgebungen
  • Automatisierte Bewertungen und Echtzeit-Feedback

Herausforderungen

  • Qualität der erzeugten Ergebnisse (u.a. abhängig von "Prompts")
  • Mangelnde Motivation von Studierenden, bestimmte Kompetenzen zu erwerben
  • Integration von Schreibprozessen in Lernszenarien
  • Überlegung von "neuen" Prüfungsmodalitäten
  • Eigenleistung der Studierenden nachvollziehbarer machen (z.B. über Prozessdokumentation, klare Angabe der Hilfsmittel etc.)
  • Förderung des kritischen Denkens
  • Detektion von KI-generierten Inhalten
Die Nutzung von KI-Systemen macht es notwendig, auch "größere" gesellschaftliche Aspekte zu thematisieren. Nachfolgend finden Sie erste Denkanstöße.

Datenschutzrechtliche Aspekte

Die Nutzung von KI-Systemen wie ChatGPT beinhaltet die Verarbeitung personenbezogener Daten, die auf Servern in den USA stattfindet. Den USA wird vom Europäischen Gerichtshof kein angemessenes Datenschutzniveau attestiert. Die von ChatGPT verarbeiteten Daten umfassen Ihren Vor- und Nachnamen, E-Mailadresse, Telefonnummer, IP-Adresse und die von Ihnen eingegebenen Chat-Nachrichten. Die eingegebenen Daten werden gespeichert und für das Training des Chatbots sowie zur Generierung von Antworten (weiter-)verwendet. Bei der Verwendung von KI-Systemen ist allgemein mit der Bekanntgabe persönlicher Daten sorgsam umzugehen. Studierende dürfen nicht dazu verpflichtet werden, persönliche Daten bekanntzugeben. Seitens der EU liegt der Vorschlag für einen AI Act vor, um zu gewährleisten, dass der Einsatz von KI-basierter Systemen keine negativen Auswirkungen auf die Sicherheit, Gesundheit und die Grundrechte von Menschen hat.

Urheberrechtliche Aspekte

Laut aktueller Gesetzeslage entsteht die Urheber:innenschaft an einem Werk durch eine - von Menschen vorgenommene - Werkschöpfung. KI-generierte Erzeugnisse sind demnach nicht urheberrechtlich geschützt, die Benutzer:innen der KI haben auch keinen Urheberschaftsanspruch an den von der KI generierten Erzeugnissen. Dennoch sind derzeit nicht alle mit dem Urheberrecht verbundenen Fragen eindeutig beantwortbar.

Ethische Aspekte

Zentrale ethische Prinzipien im Umgang mit KI sind Wohltätigkeit, Transparenz, Nicht-Boshaftigkeit, Autonomie, Gerechtigkeit und Datenschutz (siehe Prinzipien für die ethische Nutzung künstlicher Intelligenz, 2022). Der ethische Umgang mit KI geht über Rechtsvorschriften hinaus und stellt sicher, dass KI nicht zum Schaden Einzelner oder der Gesellschaft angewandt wird. Im Kontext der Lehre können - obwohl für die Schule entwickelt - die Ethischen Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke hilfreich sein.

Inhaltliche Aspekte

Informationskompetenz ist (auch) im Umgang mit KI sehr wichtig. Menschen benötigen die Fähigkeit, KI-generierte Erzeugnisse und die dafür herangezogenen Daten und Quellen kritisch zu prüfen und zu hinterfragen. KI-Erzeugnisse basieren auf den jeweiligen Trainingsdaten der KI-Systeme, hier können Verzerrungseffekte (Daten-Bias) nicht ausgeschlossen werden. Eine gute basale Einführung dazu bieten die Grundlagen zu Bias und Fairness in KI-Systemen.
Disclaimer: KI-Technologien im Bildungssystem

Es gibt aktuell viele offene Fragen rund um den Einsatz von KI-Tools (in der Lehre), die entweder noch ungeklärt sind oder bei denen Entscheidungen bzw. Überlegungen auf privater, institutioneller, staatlicher oder globaler Ebene einbezogen werden müssen. Zudem befinden sich die Technologien und Anwendungen in stetiger/rasanter Entwicklung, sodass zukünftige Entwicklungen kaum absehbar sind.

Wir alle sollten uns jedoch der möglichen und faktischen Auswirkungen auf unsere Gesellschaft bewusst sein. Als Lehrende und Akteur:innen im Hochschulbereich müssen wir die Auswirkungen kritisch bewerten und eine informierte und reflektierte Haltung einnehmen.

Für eine allgemeine Betrachtung des Themas steht auch die nachfolgende Website des Bundesministeriums für Bildung, Wissenschaft und Forschung zur Verfügung.