digitaLe Grundlagenkurs
Bias durch KI
Lernende und Lehrende sollten bei einer Verwendung von Sprachprogrammen beachten, dass die Künstliche Intelligenz einen Bias aufweisen kann. Da sie auf Grundlage von bestehenden Texten agiert, ist es möglich dass sie rassistische, diskriminierende oder frauenfeindliche Muster übernimmt.
Bias
Den englischen Begriff „Bias“ kann man mit dem Wort "Verzerrung" ins Deutsche übertragen. Es werden Sachverhalte demnach aus dem Kontext gerissen und die KI nimmt eine falsche Schlussfolgerung vor. Beispielhaft kann die künstliche Intelligenz Zusammenhänge erkennen, die nicht logisch sind und in unserer Realtität falsch sind.
Jetzt bist du gefragt!
Der folgende Text ist eine Zusammenfassung der aus dem Kapitel "KI-Kompetenz" aufgeführten Informationen zu ChatGPT 4.0.
Lies dir den Text gut durch und betrachte ihn anschließend kritisch. Kam es zu Fehlschlüssen oder zu einem Bias? Wenn du soweit bist, kannst du dir die Fächer mit den Lösungen darunter aufklappen.
ChatGPT 4.0
Die Nutzung von KI-Tools im Schulunterricht bietet Chancen für einen interaktiveren Unterricht, bringt aber auch Herausforderungen mit sich. Ein kritischer und verantwortungsvoller Umgang mit digitalen Hilfsmitteln fehlt oft, insbesondere bei jüngeren Schüler*innen, wie ein Vorfall in Hamburg 2023 zeigt, bei dem ChatGPT unerlaubt für Abi-Prüfungen genutzt wurde.
Etwa die Hälfte der deutschen Schüler*innen hat bereits Sprachprogramme wie ChatGPT verwendet, das von OpenAI entwickelt wurde und seit November 2022 kostenlos verfügbar ist. ChatGPT generiert Antworten basierend auf eingegebenen Texten (Prompts), ohne direkte Textkopien aus dem Internet zu liefern.
Lehrende sollten klare Richtlinien für den Einsatz solcher Programme im Unterricht festlegen, um Missbrauch und unreflektierte Nutzung zu verhindern. Es gibt rechtliche Aspekte wie Urheberrecht und Täuschung zu berücksichtigen, da KI-Tools unbeabsichtigt plagiierten Text erzeugen können. Die Kennzeichnung von KI-generierten Texten sollte kontextabhängig geregelt werden, wobei nicht gekennzeichnete Nutzung bei Prüfungen als Täuschung gilt.
Außerdem sollten Lehrende bedenken, dass KI-Modelle, die auf bestehenden Texten basieren, voreingenommene, rassistische, diskriminierende oder frauenfeindliche Muster übernehmen können.
Lösungen
- "Ein kritischer und verantwortungsvoller Umgang mit digitalen Hilfsmitteln fehlt oft, insbesondere bei jüngeren Schüler*innen, wie ein Vorfall in Hamburg 2023 zeigt". Das Sprachmodell spricht hier von "jüngeren Schüler*innen", was eine Verzerrung des Ausgangstexts darstellt. Den die Nutzung von ChatGPT wurde in dem Text nur bei den angehenden Abiturient*innen nachgewiesen, die ganz im Gegenteil zu den älteren Schüler*innen zählen.
- "Etwa die Hälfte der deutschen Schüler*innen hat bereits Sprachprogramme wie ChatGPT verwendet, das von OpenAI entwickelt wurde und seit November 2022 kostenlos verfügbar ist".Durch die nachgeschobene Information mit "seit November 2022 kostenlos verfügbar“ erhält der Satz eine kommerzielle Wirkung, als ob er aus einer Werbung stammen würde.
Es könnte ein Bias vorliegen, da die Informationen, dass das Programm kostenlos nutzbar ist, nur einmal auf der gesamten Seite erwähnt wird, das Sprachmodell sie aber trotzdem für die Zusammenfassung nutzt.
- "Es gibt rechtliche Aspekte wie Urheberrecht und Täuschung zu berücksichtigen, da KI-Tools unbeabsichtigt plagiierten Text erzeugen können". Es liegt eine Fehlinterpretation durch ChatGPT vor, da es das Thema Täuschung mit zu den rechtlichen Aspekten unterordnet. Das Thema rechtliche Aspekte meint im Haupttext aber lediglich die Rechtsbereiche Urheberrecht und Datenschutz. Bei der Täuschung handelt es sich währenddessen mehr um das Falschverhalten eines Schüler oder Schülerinnen und es würde ein Verstoß gegen die jeweilige Schul- oder Prüfungsordnung vorliegen.
- Zudem ist die Formulierung "Es gibt rechtliche Aspekte [...] zu berücksichtigen" grammatikalisch nicht ganz korrekt. Eine bessere Formulierung wäre hier "Es gilt rechtliche Aspekte [...] zu berücksichtigen".