Ethische Aspekte

Die Firmen, die generative KI-Anwendungen anbieten, haben ein Interesse daran, dass ihre Anwendungen von den Nutzenden als angenehm und nützlich wahrgenommen werden. Grundlage für dieses Interesse sind ökonomische Faktoren. Ein Angebot, dass den Erwartungen und Interessen der Nutzenden nicht entspricht, wird bald nicht mehr genutzt werden. Darüber hinaus ist davon auszugehen, dass zumindest bei kostenlosen Angeboten die eingegebenen Daten weitergenutzt werden. Teilweise ist diese Verarbeitung in den Nutzungsbedingungen der Angebote verankert. Diese ökonomischen Faktoren haben ganz konkrete Auswirkungen auf die Arbeit mit KI-Anwendungen gerade im Hochschulbereich. So ist zum Beispiel eine ehrliche und kritische Auseinandersetzung mit Themen, von denen die Firmen annehmen, dass sie zu Kontroversen führen könnten, nicht ohne weiteres möglich. Außerdem muss auf urheberrechtliche und datenschutzrechtliche Bedingungen geachtet werden.

Der Fall des Sprachmodells Deep Seek aus China zeigt, dass auch politische Interessen Angebote beeinflussen können. Einige Nutzende haben versucht, Deep Seek zu in China heiklen Themen wie dem Massaker auf dem Tian’anmen-Platz in Peking 1989 zu befragen. Nachdem die Ausgabe dazu gestartet war, sah man auf den Videos, dass plötzlich der Text verschwand und stattdessen eine allgemeine Aussage zu sehen war, dass es zu diesem Thema keine Informationen gäbe. Dies ist kein Einzelfall, KI-Systeme können in vielen Feldern missbraucht werden, um Meinung gezielt zu manipulieren, Schaden an demokratischen Grundwerten anzurichten und dem gesellschaftlichen Miteinander zu schaden.

Das zeigt, dass die anbietenden Firmen bestimmten wirtschaftlichen Interessen und politischen Vorgaben unterworfen sein können, die eine vorurteilsfreie wissenschaftliche Auseinandersetzung mit bestimmten Themen unmöglich machen. Das muss nicht unbedingt der Fall sein, sollte aber immer mitbedacht werden.

Ein mögliche Lösung für diese Probleme ist der Einsatz von eigenen KI-Plattformen, wie z. B. der KI-Experimentierumgebung der FernUniversität oder die Nutzung von anderen Zugangswegen, bei denen ökonomische oder politische Interessen nicht im Vordergrund stehen. Einige dieser Möglichkeiten sind auf der Seite "Zugangswege zu generativer KI" versammelt.

Training und Betrieb von großen KI-Systemen verbrauchen enorme Ressourcen wie Energie und Wasser. Auch wenn sich die betreibenden Firmen größtenteils bedeckt halten, wie hoch der Ressourcenverbrauch genau ist, ist davon auszugehen, dass zum Beispiel die CO₂-Emissionen bei KI-Systemen sehr viel höher sind als bei einer herkömmlichen Internetsuche. Nicht zu vergessen ist der Abbau von Mineralien und Metallen, auf den die Infrastruktur angewiesen ist und der erhebliche Auswirkungen auf Mensch und Umwelt mit sich bringt.

Im täglichen Gebrauch von KI sollte sich jede*r Nutzende fragen, ob die Anfrage an eine KI-Anwendung wirklich sinnvoll ist oder ob auch ein anderer Weg zum gleichen Ziel führt.

Im Sinne einer wissenschaftlichen Auseinandersetzung mit KI-Anwendungen müssen die Potentiale und Grenzen allerdings manchmal detailliert ausgetestet werden. Eine intensive Nutzung ist dann sicherlich unumgänglich. Das Bewusstsein für diese Zusammenhänge ist dennoch erforderlich.

KI-Anwendungen bieten auch beim Thema "Chancengleichheit" einige Möglichkeiten. Auf der einen Seite können Lernende sich Inhalte noch einmal erklären lassen, die ihnen zunächst unverständlich geblieben sind. Oder sie nutzen KI-Anwendungen, um sich individualisierte Ressourcen wie Lernpläne oder Selbsttests erstellen zu lassen, die z. B. ihre Chancen erhöhen, Prüfungen zu bestehen. Allerdings nutzt diese Herangehensweise dann vor allem denjenigen, die mit KI-Anwendungen umgehen können.

Auch im Bereich Barrierefreiheit bietet KI einige Möglichkeiten. KI-basierte Unterstützungssysteme für Menschen mit Behinderungen können z. B. Bildbeschreibungen liefern, diese auf Nachfrage verfeinern oder automatisiert Videos untertiteln.

Auf der anderen Seite stellen kommerzielle Angebote bessere KI-Anwendungen mit mehr Funktionen häufig nur als kostenpflichtiges Angebot bereit. Nutzende, die bereit sind, für solche Angebote zu zahlen, können unter Umständen Vorteile von den besseren Systemen haben. Das wirkt sich unmittelbar auf die Chancengleichheit aus, die Studierenden an einer Hochschule garantiert werden muss.

Lehrende sollten daher paritätische Zugangsmöglichkeiten mit ihren Studierenden thematisieren, sodass alle Studierenden die gleichen Voraussetzungen zur Arbeit mit KI-Anwendungen haben.