Einführung in den Einsatz von generativen KI-Systemen / LLMs

Ein verantwortungsvoller Umgang mit dem Einsatz von generativen KI-Anwendungen als Arbeitsmittel oder Lerninhalt an Hochschulen setzt ethische Überlegungen voraus. Dazu gehören ein Bewusstsein für die Stärken und Schwächen von KI-Tools, die Sicherstellung der Datensouveränität der Nutzer*innen, der Schutz vor Diskriminierung sowie klare Spezifikationen und Evaluationsverfahren. Zudem ist die umfassende Information und Einbeziehung aller Nutzer*innen solcher Systeme notwendig. Die Vermittlung digitaler Kompetenzen in Bezug auf generativer KI sollte daher immer mit der Förderung ethischer Haltungen und Fähigkeiten einhergehen.

Datensouveränität und Datenschutz:

Hochschulen müssen sicherstellen, dass die Privatsphäre und der Schutz persönlicher Daten gewährleistet sind. Studierende und Mitarbeitende müssen Kontrolle über ihre Daten haben, und es sollte Transparenz darüber herrschen, wie Daten von generativen KI-Systemen genutzt werden.

Diskriminierungsfreiheit:

Generative KI-Anwendungen dürfen keine Benachteiligung aufgrund von Geschlecht, Herkunft, sozialem Status oder anderen diskriminierenden Faktoren fördern. Dies erfordert eine sorgfältige Prüfung der Daten, mit denen generative KI-Systeme trainiert werden, sowie eine kontinuierliche Überwachung auf potenzielle Verzerrungen. Insbesondere ist eine Sensibilisierung für Bias in Sprachmodellen wichtig, um sicherzustellen, dass diese Modelle nicht unbeabsichtigt bestehende Vorurteile verstärken (siehe Risiken & Grenzen).

Einbeziehung und Aufklärung der Nutzer*innen:

Alle Betroffenen – ob Studierende, Lehrende oder Mitarbeitende – sollten über die Funktionsweise und die Implikationen von generativen KI-Anwendungen informiert und geschult werden. Nur so können sie fundierte Entscheidungen über die Nutzung treffen und Risiken erkennen.

Klare Spezifikationen und Evaluationsprozeduren:

Um sicherzustellen, dass generative KI-Systeme zuverlässig und ethisch vertretbar arbeiten, sollten Hochschulen standardisierte Spezifikationen für den Einsatz und klare Evaluationsprozesse entwickeln. Diese sollten regelmäßige Überprüfungen der Systeme beinhalten.

Vermittlung digitaler und ethischer Kompetenzen:

Die universitäre Bildung sollte nicht nur technische Fähigkeiten im Umgang mit generativer KI fördern, sondern auch ethische Reflexion und Verantwortungsbewusstsein. Studierende müssen lernen, die sozialen und ethischen Implikationen der generativen KI zu verstehen, um zukünftige Technologien verantwortungsvoll einsetzen zu können. (Christen et al., 2020; Bodmann & Wannemacher; 2021)

Abb. 3: Yutong Liu & Kingston School of Art / Better Images of AI / Talking to AI 2.0 / CC-BY 4.0