Identifikation und Umgang mit Verdachtsfällen beim unerlaubten Einsatz von KI

An der Universität Graz legen die Lehrenden fest, ob und in welcher Form Studierende in Lehrveranstaltungen und bei Prüfungsleistungen Künstliche Intelligenz (KI) einsetzen dürfen. Ob und wie KI in einer Lehrveranstaltung eingesetzt werden darf, ist in der Lehrveranstaltungsbeschreibung vor Semesterbeginn auszuschildern. Entsprechende Hinweise und Textbausteine sind im Bereich LV-Ressourcen verfügbar.

Haben Lehrende – insbesondere bei schriftlichen (Teil-)Leistungen – den Verdacht, dass Studierende unerlaubterweise KI-Applikationen eingesetzt haben, sind damit zwei grundsätzliche Fragestellungen verbunden:

  1. Wie lässt sich der unerlaubte KI-Einsatz identifizieren?
  2. Welche Maßnahmen können gesetzt werden?

 

Identifikation eines unerlaubten KI-Einsatzes

Im Gegensatz zu herkömmlichen Plagiaten ist es derzeit nicht möglich, KI-generierte Texte mithilfe von Software-Applikationen (z.B. einer Plagiatssoftware) ausreichend treffsicher zu erkennen. Die Verwendung einer KI-Applikation ist ebenfalls nicht geeignet, um zu überprüfen, ob ein Text mithilfe von KI erstellt wurde. Hier sind zudem Aspekte des Datenschutzes und des Urheberrechts zu beachten. Ein Täuschungsversuch in Form eines KI-generierten Textes lässt sich daher am ehesten mit Ghostwriting vergleichen.

Allerdings können u.a. folgende Indikatoren auf einen KI-generierten Text hindeuten:

  • Thematische oder faktische Inkonsistenzen im Textdokument
  • Unzureichende inhaltliche Originalität
  • Stilbrüche innerhalb des gesamten Textdokuments
  • Häufiges Vorkommen ungewöhnlicher Wortwahlen
  • Häufige sprachliche Redundanzen
  • Nicht-reale Quellenangaben

Aus dem Vorliegen dieser Indikatoren kann zwar ein Verdacht abgeleitet, aber nicht automatisch der Schluss gezogen werden, dass der betreffende Text (oder einzelne darin enthaltene Textteile) tatsächlich mithilfe einer unerlaubten KI-Applikation erstellt wurde.

 

Maßnahmen beim Verdacht auf einen unerlaubten KI-Einsatz

Besteht der Verdacht auf einen unerlaubten KI-Einsatz bei der Erstellung von schriftlichen Prüfungsleistungen, wird empfohlen, ein Gespräch mit dem Studierenden zu führen. So kann man sich ein Bild von der Situation machen und auch besser einschätzen, ob ein unerlaubter KI-Einsatz vorliegt.

Im Folgenden werden in Form von FAQs beispielhafte Szenarien im Umgang mit Verdachtsfällen dargestellt:

Maßnahmen beim Verdacht auf nicht ausgewiesenen KI-Einsatz

In der Lehrveranstaltungsbeschreibung ist vor Semesterbeginn anzugeben, welche KI-Applikationen in welchem Umfang zulässig sind. Ein unerlaubter Einsatz liegt vor, wenn gegen die Bestimmungen der jeweiligen Lehrveranstaltung verstoßen wird.

Im Abschnitt "Identifikation und Umgang mit Verdachtsfällen beim unerlaubten Einsatz von KI" wird dargelegt, dass der Einsatz von KI nicht verlässlich nachweisbar ist, dass aber sehr wohl einige Indikatoren für die Begründung des Verdachts auf Ghostwriting oder KI-Schreibassistenz herangezogen werden können. Weiters werden dort beispielhafte Szenarien, Maßnahmen und rechtliche Grundlagen im Umgang mit Verdachtsfällen geschildert.

Nein. Der Einsatz unerlaubter KI-Applikationen ist wie jedes andere wissenschaftliche Fehlverhalten zu werten. Die zu ergreifenden Maßnahmen sind im Satzungsteil „Studienrechtliche Bestimmungen“ geregelt.
Weitere Informationen zum Umgang mit wissenschaftlichem Fehlverhalten finden Sie auf der Website zur guten wissenschaftlichen Praxis (GWP). 

Ja. Sowohl im Verdachtsfall bei Bachelorarbeiten/wissenschaftlichen Arbeiten oder bei Prüfungen/prüfungsimmanenten Lehrveranstaltungen ist ein persönliches Gespräch mit dem:der Studierenden zu führen. 

Kommt bei der Begutachtung der Bachelorarbeit/wissenschaftlichen Arbeit ein Verdacht auf, ist zunächst mit die:der Studierenden ein Gespräch zu führen, um sich ein Bild von der Situation zu machen. Des Weiteren ist der Sachverhalt insbesondere durch Aktenvermerk und falls zutreffend durch Sicherstellung von Beweismitteln zu dokumentieren.
In weitere Folge ist nach einem abgestuften System vorzugehen (§ 41b Satzungsteil Studienrechtliche Bestimmungen). Den Ablauf sowie die Konsequenzen finden Sie auf der Website zur guten wissenschaftlichen Praxis (GWP).

Achtung: Je nachdem ob die Bachelorarbeit als eigenständige Arbeit oder im Rahmen einer prüfungsimmanenten Lehrveranstaltung beurteilt wird (§ 37 Abs 2 Satzungsteil Studienrechtliche Bestimmungen), kommen unterschiedliche Regelungen zur Anwendung. Informationen dazu finden Sie auf der Website zur guten wissenschaftlichen Praxis (GWP). 

Der Ablauf bei unerlaubter KI-Anwendung bei Prüfungen in einem Prüfungsvorgang entspricht dem Ablauf bei unerlaubter KI-Anwendung in prüfungsimmanenten Lehrveranstaltungen.
Den Ablauf sowie die Konsequenzen finden Sie auf der Website zur guten wissenschaftlichen Praxis (GWP). 

Kommt bei der Begutachtung der Bachelorarbeit/wissenschaftlichen Arbeit ein Verdacht auf, ist es ratsam zunächst mit der:dem Studierenden ein Gespräch zu führen, um sich ein Bild von der Situation zu machen. Kommen Sie als Betreuer:in zu der Überzeugung, dass eine unerlaubte Verwendung vorliegt, ist die Arbeit negativ zu beurteilen. Es muss objektiv nachvollziehbar sein, wie Sie zu dieser Überzeugung gekommen sind. Dies ist natürlich eher der Fall, wenn Sie zumindest mit der:dem Studierenden gesprochen haben. Die Täuschung ist der:dem Studiendirektor:in zu melden (§ 40 Abs. 1 Satzungsteil „Studienrechtliche Bestimmungen“).

Wird eine Bachelorarbeit oder wissenschaftliche Arbeit negativ beurteilt, können Sie als Betreuer:in die erneute Betreuung ablehnen und/oder verlangen, dass eine inhaltlich und/oder thematisch gänzlich neue Bachelorarbeit oder wissenschaftliche Arbeit zu verfassen ist. Bei Bachelorarbeiten können Sie als Betreuer:in auch verlangen, dass die Bachelorarbeit im Rahmen einer anderen dafür geeigneten Lehrveranstaltung verfasst werden muss. Vor der Entscheidung hat die:der Studiendirektor:in die Stellungnahme der:des Betroffenen einzuholen (§ 40 Abs. 3 Satzungsteil „Studienrechtliche Bestimmungen“).

Wird vor der endgültigen Beurteilung festgestellt, dass aufgrund der unerlaubten Verwendung einer KI-Applikation keine hinreichende eigene Leistung vorliegt, können Sie als Betreuer:in die weitere Betreuung ablehnen und/oder verlangen, dass eine inhaltlich und/oder thematisch gänzlich neue wissenschaftliche Arbeit zu verfassen ist. Vor der Entscheidung ist die Stellungnahme der:des Betroffenen durch die:den Studiendirektor:in einzuholen (§ 40 Abs. 2 Satzungsteil „Studienrechtliche Bestimmungen“).

Liegt bereits eine positive Beurteilung vor und besteht der Verdacht einer unzulässigen Verwendung einer KI-Applikation, ist ein Verfahren gemäß § 73 UG (Nichtigerklärung einer Beurteilung) bzw. § 89 UG (Widerruf akademischer Grade) einzuleiten. Bitte wenden Sie sich in diesem Fall an das für das betreffende Studium zuständige Dekanat.