Präsenzveranstaltung

Die Frage nach den zukünftigen und ethischen Konsequenzen von nicht mehr kontrollierbaren KI-Systemen trifft das Faszinosum des ‚Unerhörten‘ (Goethe), Neuen und ganz Unbekannten, das durch eine entgrenzte Kreativität entstehen könnte. Innerhalb der (Science-Fiction-)Literatur werden vor allem Emotions- und Affektregimes ‚vorahmend‘ erforscht (Nitzke 2017), indem der Umgang mit derartigen Szenarien medien- und genrespezifisch imaginiert und experimentell durchgespielt wird. Diese fiktiven Szenarien, die teilweise von wiederkehrenden Narrativen seit der Antike wie dem Golem-Mythos geprägt sind (Schönhoff 2023), beeinflussen wiederum unsere kulturellen Vorstellungen. In literarischen Erzähltexten wurde und wird immer wieder die Gefahr des Menschenähnlich-Werdens von Automaten, Robotern und Maschinen reflektiert, die in der Erlangung von Bewusstsein, Denken und Sprachfähigkeit liegt. Letztere sah Descartes als ‚die‘ differentia zwischen Mensch und Maschine bzw. Mensch und Tier.

Um der Gefahr von Programmier- und Kommunikationsfehlern, Unwissenheit und Missverständnissen vorzubeugen oder auch einem möglichen Durchbrechen der ‚Klugheitsbarriere‘ in den Erzählungen von Stanislav Lem (Golem XIV:12), erfand Isaac Asimov die berühmten Robotergesetze (man denke in diesem Zusammenhang an ähnliche, nachträglich eingebaute Kontrollen in KI-Systeme wie ChatGPT). Die anthropozentrisch geprägte Angst des Menschen vor einer Machtübernahme durch künstliche Intelligenzen, als von rein ausführenden Auftragsgeschöpfen zu übermächtigen Wesen, ist dabei kaum ohne dystopische Szenarien denkbar.

Texte

Jakob Grimm: Entstehung der Verlagspoesie (1808)

E.T.A. Hoffmann: Die Automate (1814 ) und Der Sandmann (1816)

Gustav Meyring: Der Golem (1915, Textausschnitt)

Stanislav Lem: GOLEM XIV (1981)

Isaac Asimov: Runaround (1982)

Isaac Asimov: Robot Al-76 Goes Astray (1982)

Terry Pratchett: Hohle Köpfe. Ein Roman von der bizarren Scheibenwelt (Textausschnitt, Original: Feet of Clay, 1996)

Forschungsliteratur

Nitzke, Solvejg (2017): „Das Unvorhersehbare planen. Katastrophen zwischen Szenario und Science Fiction“. In: Matthias Koch, Christian Köhler, Julius Othmer u.a. (Hg.): Planlos! Zu den Grenzen von Planbarkeit (Schriftenreihe des Graduiertenkollegs "Automatismen"), Paderborn: Fink. S. 151–164.