Schreiben mit KI

Die Universität Graz hat sich dafür entschieden, die Verwendung von KI-Technologien nicht zu verbieten. Für die Nutzung sieht der Orientierungsrahmen der Universität Graz vor, dass Lehrende festlegen, „welche textgenerierenden KI-Systeme in welcher Form verwendet werden dürfen“ (Vizerektorat für Studium und Lehre, 2023, S. 3). Das bedeutet, dass es in manchen Lehrveranstaltungen zulässig sein kann, diese Technologien zu nutzen, während das in anderen Lehrveranstaltungen nicht erlaubt ist. Die Art und Weise, wie Sie KI-Technologien verwenden dürfen und wie Sie die Verwendung dokumentieren und kennzeichnen müssen, entscheiden ebenfalls Lehrende vor dem Hintergrund didaktischer Überlegungen.

Es ist daher wichtig, dass Sie die Verwendung von KI-Technologien in Ihren Schreibprozessen für jede Lehrveranstaltung und für jeden Einsatzzweck mit Ihren Lehrenden besprechen und abklären.

Stand: 30.10.2023

Sie können KI-Technologien für verschiedene Aufgaben in wissenschaftlichen Schreib- und Forschungsprozessen nutzen, wenn Sie den Einsatz zuvor mit Ihren Lehrenden besprochen haben. Mithilfe von KI-Technologien können Sie beispielsweise Fragestellungen reflektieren, Literatur bearbeiten, Gliederungen weiterentwickeln oder Texte sprachlich verfeinern (siehe Orientierungsrahmen).

Damit die Verwendung von KI-Technologien gewinnbringend für Ihr Lernen ist, empfehlen wir, dass Sie sich die folgenden Fragen stellen, bevor Sie KI-Tools für Ihr Schreiben nutzen (siehe auch Reflexionsfragen zum Umgang mit KI beim Schreiben):

• Wofür möchte ich KI-Technologien beim Schreiben/im Schreibprozess konkret nutzen?
• Ist dieser Einsatzzweck im Kontext der entsprechenden Lehrveranstaltung zulässig?
• Wenn ja, wie muss ich die Nutzung der KI-Technologien dokumentieren, kennzeichnen und reflektieren?
• Welche KI-Tools sind für die jeweilige Aufgabe geeignet?
• Wie würde ich diesen Arbeitsschritt ohne KI-Technologien bestreiten?

Zudem finden Sie hier Anleitungen für einige KI-Tools. Darüber hinaus enthält diese Ressourcensammlung weitere Informationen zur Funktionsweise, den Potenzialen und den Grenzen von generativen KI-Technologien.

Stand: 26.01.2024

Wenn Sie KI-Technologien nutzen, ist es wichtig, dass Sie sich an den Prinzipien der guten wissenschaftlichen Praxis orientieren und den Einsatz mit Ihren Lehrenden abstimmen. Ein kritischer und reflektierter Umgang mit diesen Technologien ist grundlegend, um neben den Potenzialen auch die Grenzen einschätzen und beachten zu können. Als Orientierungsgrundlage können Ihnen die Informationen dienen, die wir auf dieser Seite für Sie gesammelt haben.

Folgende Punkte sollten Sie unbedingt berücksichtigen:
 

• Nutzung im Rahmen der Vorgaben in der jeweiligen Lehrveranstaltung
• Kennzeichnung und Dokumentation der KI-Nutzung
• Inhaltliche Prüfung aller KI-generierten Informationen
• Wissen um die und bewusster Umgang mit den Limitationen und Schwächen von KI-Systemen
• Sicherstellung von Datenschutz (von Ihren persönlichen Daten und ggf. Forschungsdaten)
• Einhaltung der Prinzipien guter wissenschaftlicher Praxis
• Ethische Überlegungen (siehe zum Beispiel diesen Artikel zu Prinzipien für die ethische Nutzung künstlicher Intelligenz)
• Verantwortungsvolle Nutzung von KI-Technologien, um Ihre Eigenständigkeit als Autor*in zu bewahren

Stand: 30.10.2023

Sie sollten KI-Technologien keinesfalls…
 

• …so nutzen, dass Ihre Verwendung den Vorgaben in der jeweiligen Lehrveranstaltung widerspricht.
   
• …verwenden, ohne die Nutzung der KI-Technologien transparent zu dokumentieren.
   
• …nutzen, um damit die Verantwortung für Ihre Arbeit an ein KI-System abzugeben: Wenn Sie eine Schreibaufgabe (z.B. ein Exzerpt, eine Seminararbeit oder eine Masterarbeit) zur Beurteilung einreichen, dann tragen Sie als Autor*in immer die Verantwortung für den Text. Diese Verantwortung dürfen Sie nicht an ein KI-System delegieren.
   
• …so nutzen, dass sie Ihre Eigenständigkeit als Autor*in beeinträchtigt (siehe dazu Frage zur Eigenständigkeit) oder der guten wissenschaftlichen Praxis widerspricht.
  
  
• … so nutzen, dass sie Ihren Lernprozess behindert: Wenn Sie KI-Technologien nutzen, kann es verlockend sein, diese als entlastende Hilfsmittel zu betrachten, die Ihnen mühsame Schreibarbeit abnehmen und Zeit sparen. Dies ist zum einen nur bedingt richtig, denn die Nachbearbeitung eines KI-generierten Texts kann sehr viel Zeit in Anspruch nehmen. Zum anderen müssen Sie bedenken, dass Ihnen durch die KI-Unterstützung womöglich auch wichtige Lernchancen verloren gehen könnten und Sie wichtige Kompetenzen nicht oder nur eingeschränkt erwerben.
  Damit die Verwendung von KI-Technologien gewinnbringend für Ihr Lernen ist, empfehlen wir, dass Sie sich immer die folgenden Fragen stellen, bevor Sie KI-Tools für Ihr Schreiben nutzen:
  – Wofür möchte ich KI-Technologien beim Schreiben/im Schreibprozess konkret nutzen?
  – Ist dieser Einsatzzweck im Kontext der entsprechenden Lehrveranstaltung zulässig?
  – Wenn ja, wie muss ich die Nutzung der KI-Technologien dokumentieren, kennzeichnen und reflektieren?
  – Welche KI-Tools sind für die jeweilige Aufgabe geeignet?
  – Wie würde ich diesen Arbeitsschritt ohne KI-Technologien bestreiten?
  Hier finden Sie weiterführende Reflexionsfragen zum Umgang mit KI beim Schreiben.

Stand: 26.01.2024

Wenn Sie sich dafür entscheiden, generative KI-Technologien zu nutzen, dann ist es wichtig, dass Sie sich die Grenzen, Schwächen und Limitationen dieser Technologien bewusst machen. Hier haben wir die wichtigsten Grenzen und Schwächen von generativen KI-Technologien aufgelistet:

• KI-Technologien sind „stochastische Papageien“: Generative KI-Technologien beruhen auf statistischen Modellen. Das führt dazu, dass die KI Texte generiert, die möglichst wahrscheinliche Wortfolgen enthalten, wobei sich die Wahrscheinlichkeit aus den verwendeten Trainingsdaten ergibt. KI-Systeme sind daher in der Lage, elaborierte und gut klingende Texte zu generieren. Diese Texte können den Anschein erwecken, als wären die Technologien tatsächlich „intelligent“. Generative KI-Systeme werden daher oft als „stochastische Papageien“ (Bender et al., 2021) bezeichnet, die wahrscheinliche Wortfolgen „nachplappern“, ohne deren inhaltliche, argumentative oder faktische Korrektheit prüfen zu können.
• KI-Technologien produzieren fehlerhafte Inhalte und Zitate: KI-generierte Texte zielen nicht auf Faktenwahrheit ab. Beispielsweise prüft ChatGPT die Korrektheit der ausgegebenen Informationen in der aktuellen Version nicht. Deswegen ist es möglich, dass die generierten Texte Fehler und falsche Informationen enthalten. Darüber hinaus kommt es durch die stochastische Funktionsweise der Technologien oft zu „halluzinierten“ Fakten und Quellen, die zwar auf einer sprachlichen Ebene „wahrscheinlich“ sind, aber nicht unbedingt faktisch korrekt.
• KI-Technologien liefern keine aktuellen Informationen: KI-Systeme beruhen auf Trainingsdaten, die aus einem bestimmten Zeitraum stammen. So berücksichtigt die aktuelle Version von ChatGPT beispielsweise nur Daten, die bis September 2021 erstellt wurden und bezieht daher tagesaktuelle Informationen nicht ein.
• KI-Technologien sind mit Bias behaftet: Neben der zeitlichen Beschränkung der Trainingsdaten führt die Auswahl der Daten auch zu möglichen inhaltlichen Verzerrungen, die diskriminierende Auswirkungen haben können (vgl. Bender et al., 2021). Weiters enthalten die generierten Texte vor allem jene inhaltlichen Muster, die auch in den Trainingsdaten oft vorgekommen sind. Damit bilden sie oft hegemoniale Positionen ab, wodurch es zu einer Unterrepräsentation von marginalisierten Ansichten kommt. Weitere Informationen zu Bias und Fairness in KI-Systemen finden Sie auch auf dieser Webseite.
• KI-Technologien fehlt Kontextwissen: Obwohl KI-Modelle auf einer großen Menge an Daten beruhen, haben sie nur ein beschränktes Kontextwissen. Das fehlende semantische Verständnis von KI-Systemen führt auch dazu, dass die generierten Texte zwar faktisch wahr sein können, diese aber für den Verwendungszweck der Anwender*innen dennoch nicht angemessen sind.
• KI-Technologien begehen Plagiate und Urheberrechtsverletzungen: Ein weiteres Problem ist, dass für Anwender*innen nicht systematisch ersichtlich ist, auf welchen Quellen die generierten Texte beruhen. Das bedeutet, dass generierte Texte Plagiate enthalten können, die nicht als Zitat gekennzeichnet sind. Wenn Sie generierte Texte direkt in Ihren Text übernehmen, kann es also sein, dass Sie gegen die gute wissenschaftliche Praxis verstoßen.

Diese Limitationen erfordern eine sorgfältige inhaltliche Prüfung aller generierten Informationen (siehe auch Frage zur direkten Übernahme von KI-generierten Texten). In der Ressourcensammlung finden Sie weitere Informationen zur Funktionsweise, den Potenzialen und den Grenzen von generativen KI-Technologien.

Stand: 30.10.2023

Nein, ein generative KI wie ChatGPT kann Ihre Texte nicht für Sie schreiben. Wenn Sie eine Schreibaufgabe (z.B. ein Exzerpt, eine Seminararbeit oder eine Masterarbeit) zur Beurteilung einreichen, dann tragen Sie als Autor*in immer die Verantwortung für den Text, d.h. Sie müssen in der Lage sein, zu erklären, was Sie warum wie geschrieben haben. Diese Verantwortung dürfen Sie nicht an ein KI-System delegieren.

Auch wenn es in einer Lehrveranstaltung zulässig ist, KI-Technologien für einzelne Zwecke zu verwenden, so muss die Nutzung der Technologien eigenständig und verantwortlich erfolgen. Eigenständig und verantwortlich bedeutet in diesem Zusammenhang:

• Erstens, dass Sie sich immer an die Vorgaben Ihrer Lehrenden zum Umgang mit KI-Technologien in einzelnen Lehrveranstaltungen halten müssen. Wenn Sie KI-Technologien bei Schreibaufträgen, Abschlussarbeiten oder anderen Prüfungsleistungen in Widerspruch zu den Richtlinien Ihrer Lehrenden nutzen, dann kann das als Täuschungsversuch gewertet werden und zu einer negativen Beurteilung führen.
• Zweitens, dass Sie alle Prüfungsleistungen eigenständig erarbeiten müssen. Die unverhältnismäßige Verwendung von KI-Tools kann dieser Vorgabe widersprechen, wenn beispielsweise Texte ausschließlich von einer KI erstellt werden (siehe dazu auch Frage zur Eigenständigkeit).
• Drittens müssen alle Schreibaufträge und Prüfungsleistungen den Prinzipien guter wissenschaftlicher Praxis entsprechen. Zur guten wissenschaftlichen Praxis gehört unter anderem die Kennzeichnung der verwendeten Quellen und Hilfsmittel. Das bedeutet auch, dass Sie angeben müssen, welche Technologien Sie als Hilfsmittel in ihrem Arbeitsprozess genutzt haben. Wenn Sie generative KI-Technologien verwenden, kann mit Blick auf Einhaltung der Prinzipien guter wissenschaftlicher Praxis noch eine weitere Problematik entstehen: Die derzeit verfügbaren Tools ermöglichen es nicht, zuverlässig nachzuvollziehen, auf welchen Informationen die ausgegebenen Texte beruhen. Daher können KI-generierte Texte auch unmarkierte direkte Zitate (Plagiate) aus anderen Quellen enthalten.
  Wenn Sie eine Abschlussarbeit zur Beurteilung einreichen, müssen Sie eine eidesstattliche Erklärung abgeben. In dieser Erklärung versichern Sie beim derzeitigen Stand der Dinge sinngemäß, dass Sie Ihre Arbeit selbstständig und ohne fremde Hilfe nach den Prinzipien der guten wissenschaftlichen Praxis verfasst haben und dabei alle verwendeten Quellen korrekt gekennzeichnet haben (siehe z.B. Anleitung zum Einreichen einer BA-Arbeit).

Achtung! – Wenn Sie KI-Technologien in Ihren Arbeiten so nutzen, dass die Verwendung diesen Punkten widerspricht, dann kann das als Täuschungsversuch gewertet werden, was eine negative Beurteilung der Prüfungsleistungen zur Folge haben kann (siehe § 25 Abs. 6, § 37 Abs. 4, § 38 Abs. 8, § 39 Abs. 9, § 40 Abs. 1-4 Satzung der Universität Graz Studienrechtliche Bestimmungen).

Stand: 30.10.2023

Es ist in jedem Fall wichtig, dass Sie KI-Technologien so verwenden, dass Ihre Eigenleistung als Autor*in gewährleistet ist. Diese zeigt sich im wissenschaftlichen Schreiben dadurch, wie Sie bestehende Ideen, Materialien und Texte in die eigene Argumentation einbinden und weiterführen. Es ist jedoch schwierig, konkrete Angaben darüber zu machen, welche Nutzung von KI-Technologien dem Kriterium der Eigenständigkeit widerspricht und welche nicht. Auch die Universität Graz hat keine allgemeinen Kriterien formuliert, die man heranziehen könnte, um die Eigenständigkeit von Leistungen im Kontext von KI-gestützten Arbeitsprozessen zu beurteilen. Vielmehr ist es auch hier so, dass Lehrende festlegen und prüfen müssen, ob es mit dem Prinzip der Eigenständigkeit vereinbar ist, KI für einen bestimmten Einsatzzweck zu verwenden.

Angesichts dieser Lage ist es besonders wichtig, dass Sie die Verwendung von KI-Technologien immer mit Ihren Lehrenden besprechen. Darüber hinaus sind Sie verpflichtet, transparent zu machen, wie Sie die Technologien konkret genutzt haben (z.B. durch Dokumentation der verwendeten Prompts, Reflexionen oder Textentwürfe).

Ein deutsches Rechtsgutachten zum Umgang mit KI-Software im Hochschulkontext enthält einige Beispiele zur Beurteilung der Eigenleistung von Studierenden, die die Problematik gut veranschaulichen, aber auch keine allgemeingültige Antwort auf diese Frage geben können:

„Werden ohne signifikante geistige Eigenleistung KI-generierte Erzeugnisse kopiert, welche für die Prüfungsleistung relevante Inhalte enthalten, wird ein selbstständiges Verfassen ohne fremde Hilfe wohl nicht vorliegen können, da keine Eigenständigkeit mehr gegeben ist. So bedeutet der Begriff der Eigenständigkeit in diesem Zusammenhang, dass die Ergebnisse auf eigener Grundlage fußen, also das für die Lösung der Prüfungsleistung erforderliche Wissen von den Studierenden stammen muss. Wenn dieses Wissen von der KI „generiert“ wird, kann nicht mehr von einer selbständigen Leistung ausgegangen werden.
Das bedeutet, dass je nach Art der Verwendungsweise ein Täuschungsversuch vorliegen kann. Soweit die Studierenden z. B. ChatGPT oder perspektivisch eine „Word-KI“ verwenden und von ihr generiertes sowie formuliertes Wissen wortwörtlich übernehmen, ohne dies kenntlich zu machen und ohne signifikant die Textproduktion gesteuert zu haben, wird man einen Täuschungsversuch annehmen müssen. Dagegen kann die Verwendung zulässig sein, wenn sie lediglich ergänzende Formulierungsvorschläge macht, ohne den Studierenden die Lösung der Prüfung abzunehmen. Auch die inspirierende Nutzung einer KI als Gedankenanstoß wird noch als zulässig zu erachten sein.
Fraglich ist die Zulässigkeit der Nutzung einer KI dagegen beispielsweise dann, wenn die Studierenden ihren prompt so weit präzisieren, dass dieser prompt schon vorhandenes, für die Prüfung relevantes Wissen erfordert, und wenn dann das KI-Erzeugnis in die Prüfungsleistung übernommen wird. Hierbei wird es immer auch maßgeblich auf die jeweilige Prüfungsordnung, Eigenständigkeitserklärung und die Bewertung der prüfenden Personen des Maßes der geistigen Eigenleistung der Studierenden ankommen. Es hängt daher vorrangig von dem jeweiligen Einzelfall und womöglich auch den Anforderungen der einzelnen Fachbereiche ab.“ (Hoeren, 2023, S. 33)

Stand: 30.10.2023

Von einer direkten Übernahme von KI-generiertem Text in die eigene Arbeit ist dezidiert abzuraten. Denn wenn Sie eine Schreibaufgabe (z.B. ein Exzerpt, eine Seminararbeit oder eine Masterarbeit) zur Beurteilung einreichen, dann tragen Sie als Autor*in immer die Verantwortung für den Text.

Es ist daher in jedem Fall essenziell, dass Sie KI-generierte Texte kritisch bewerten, bevor Sie mit ihnen weiterarbeiten. Insbesondere sollten Sie aufgrund der Fehleranfälligkeit von KI-Technologien alle Informationen genau prüfen (siehe Frage zu den Grenzen, Schwächen und Limitationen von KI) und unbedingt noch andere wissenschaftliche Quellen in Ihre Recherche einbeziehen.

Oft klingen KI-generierte Texte stilistisch geschliffen und scheinen auf den ersten Blick zu überzeugen. Wenn man jedoch genauer hinsieht, zeigt sich in vielen Fällen, dass sie den intendierten Kommunikationszweck nicht ganz erfüllen bzw. den Sinn verzerren, den Sie eigentlich transportieren möchten. Daher ist es unabdingbar, dass Sie KI-generierte Texte überarbeiten, um eine gute inhaltliche, strukturelle und stilistische Passung zu erreichen (siehe dazu auch dieses Lernvideo zur Textüberarbeitung). Speziell für den Umgang mit KI-generierten Texten empfiehlt die Universität Mannheim die folgende Vorgehensweise:

• Prüfung des Inhalts in Bezug auf:
  • Fakten, Falschinformationen, Fehler: Sind die enthaltenen Informationen faktisch korrekt?
  • Spezifische oder generische Antworten: Ist die Frage spezifisch genug beantwortet oder ist die Antwort allgemeingültig und zu wenig auf Ihren konkreten Einsatzzweck bezogen?
• Prüfung der Perspektive: Aus welcher kulturellen und sozialen Perspektive ist der generierte Text verfasst?
• Prüfung der Passung: Passt der Text zu Ihren Erwartungen und Ihrem intendierten Einsatzzweck?

Der Orientierungsrahmen der Universität Graz beschreibt den Umgang mit direkten Zitaten wie folgt:

„Das wörtliche Übernehmen von KI-generierten Textpassagen ist – analog zu herkömmlichen Zitaten – durch die Angabe des KI-Systems und die Spezifikation der Interaktion zu kennzeichnen.“ (Vizerektorat für Studium und Lehre, 2023, S. 2)

In der APA-Zitierweise kann das zum Beispiel so aussehen (siehe dazu diesen APA-Artikel):
Zitat im Text:
Eigener Text „direktes Zitat von ChatGPT“ (OpenAI, 2023).
Im Literaturverzeichnis:
OpenAI. (2023). ChatGPT (Version vom 14. März) [Large language model]. https://chat.openai.com/chat

Ein weiterer Fallstrick ist, dass KI-Technologien Plagiate und Urheberrechtsverletzungen begehen. Für Anwender*innen ist nicht systematisch ersichtlich, auf welchen Quellen die generierten Texte beruhen. Die generierten Texte können damit Plagiate enthalten, die nicht als Zitat gekennzeichnet sind. Wenn Sie generierte Texte direkt in Ihren Text übernehmen, kann es also sein, dass Sie gegen die Prinzipien der guten wissenschaftlichen Praxis verstoßen.

Schließlich müssen Sie bei der Verwendung von KI-Technologien immer darauf achten, dass Sie die Technologien nur im Rahmen der Vorgaben der jeweiligen Lehrveranstaltung nutzen. Insbesondere dann, wenn Sie Textpassagen direkt übernehmen, ist es essenziell, dass Sie Ihre Nutzungspraktiken transparent dokumentieren und dabei Ihre Eigenständigkeit als Autor*in bewahren (siehe dazu Frage zur Eigenständigkeit).

Stand: 30.10.2023