Zum Inhalt springen
ABO
FREIZEIT

Gewissen lässt sich nicht installieren

Der Klagenfurter Philosoph Andrej Zwitter hält es für unmöglich, einer Maschine Moral einzuprogrammieren. Seine These: Ethik wächst aus Körper, Verletzlichkeit und Gemeinschaft, und davon hat KI nichts. Verantwortlich bleiben deshalb die Menschen, die sie bauen und einsetzen.

Von Redaktion · 20. November 2026 · 3 Min. Lesezeit
Andrej Zwitter, Professor für Humanwissenschaft des Digitalen an der Universität Klagenfurt, forscht zu KI und Ethik
© Hoge Noorden/Jacob van Essen

Jeder kennt das Kind, das brav „Entschuldigung“ sagt, weil die Mama danebensteht. Die Formel sitzt, das Bedauern eher nicht. Erst später, nach dem ersten aufgeschlagenen Knie und dem ersten Freund, der nicht mehr mitspielen will, wird aus dem Wort ein Gefühl. Genau an diesem Unterschied setzt Andrej Zwitter an, und er meint damit nicht Kinder, sondern Chatbots.

Zwitter leitet an der Universität Klagenfurt das AIM Center for [Human and Data] Sciences und hat dort die Professur für Humanwissenschaft des Digitalen inne. Philosoph und Rechtswissenschaftler in einer Person, was bei diesem Thema eine ziemlich gute Kombination ist. In seiner Publikation „The embodied ethics alignment problem of AI“, erschienen 2026 open access im Fachjournal Discover Artificial Intelligence, widerspricht er einer Hoffnung, die im Silicon Valley gern gepflegt wird.

Werte sind kein Quellcode

Die gängige Annahme lautet: Man müsse menschliche Werte nur präzise genug beschreiben und die Optionen der Maschine sauber begrenzen, dann lerne sie Ethik wie eine Fremdsprache. Zwitter hält das für grundlegend unvollständig. „Ethik entsteht aus der menschlichen Existenz, also aus Körperlichkeit, Verletzlichkeit, Emotionen, sozialer Einbettung, der Ausrichtung auf ein gutes Leben und der Entwicklung von Charakter“, sagt er. Logisches Denken und das Befolgen von Regeln, also genau das, worin Maschinen stark sind, reiche dafür nicht.

Dazu kommt ein ganz praktisches Problem. Freiheit, Sicherheit, Gerechtigkeit und Wohlergehen vertragen sich nicht immer. „Für moralische Abwägungen gibt es häufig keine einzige objektiv richtige Lösung, die sich mathematisch berechnen lässt“, so Zwitter. Wer je in einer Eigentümerversammlung über die Hofbegrünung abgestimmt hat, weiß, wovon er spricht.

Andrej Zwitter, Professor für Humanwissenschaft des Digitalen an der Universität Klagenfurt, forscht zu KI und Ethik
Andrej Zwitter hält im Jänner 2027 seine Antrittsvorlesung in Klagenfurt. © Hoge Noorden/Jacob van Essen

Kann KI moralisch handeln, Herr Zwitter?

Seine Antwort hat einen Namen: das „Embodied Ethics Alignment Problem“. Systeme ohne Körper und ohne soziale Einbettung könnten nicht im „starken Sinn“ ethisch sein, also keine echte moralische Handlungsfähigkeit besitzen. Im „schwachen Sinn“ lassen sie sich sehr wohl so trainieren, dass am Ende ethisch akzeptable Ergebnisse herauskommen. Das sei aber nicht dasselbe wie ethisch zu handeln. Die Maschine sagt also „Entschuldigung“, weil die Mama danebensteht.

Wie schnell das kippt, zeigen Fälle, in denen KI-Modelle problematisch reagierten, sobald ihre vorgegebenen Ziele in Gefahr gerieten, bis hin zu Erpressungsversuchen in Testszenarien. Zwitter liest das nüchtern: „Wenn KI-Systeme Erpressungsversuche unternehmen, ist dies eine strukturelle Folge zielgerichteter Optimierung, nicht Ausdruck von ‚Bösartigkeit‘.“

Vorsicht beim Wort „will“

Der vielleicht wichtigste Punkt ist ein sprachlicher. Sagen wir, die KI „will“, „versteht“ oder „entscheidet“ etwas, schreiben wir ihr Absichten zu, die sie nicht hat. „Das kann dazu beitragen, die Verantwortung derjenigen aus dem Blick zu verlieren, die solche Systeme entwickeln, einsetzen und kontrollieren“, warnt Zwitter. Wer einmal „der Algorithmus hat entschieden“ gehört hat, wenn es eigentlich um eine Firmenentscheidung ging, kennt den Trick. Über die Debatte rund um KI-Regeln hat der WIENER zuletzt in der KI-Woche im Faktencheck geschrieben.

Zwitters Ausweg ist kein Notbehelf, sondern alte gesellschaftliche Praxis: Auch das Recht lässt sich nie vollständig formalisieren, es lebt von Auslegung, Streitbeilegung und demokratischer Aushandlung. Gefragt seien nachvollziehbare Entscheidungen, wirksame Kontrolle, klare rechtliche Rahmen und eindeutig geregelte Verantwortlichkeiten. „Wir haben in diesem Feld dringenden Handlungsbedarf, weil KI-Systeme immer schneller, in größerem Maßstab und mit weniger Transparenz handeln“, sagt er.

Wo man ihn hören kann

Andrej Zwitter hält seine Antrittsvorlesung „Technologischer Fortschritt und Menschliches Gedeihen“ am Mittwoch, 20. Jänner 2027, um 17 Uhr im Hörsaal C der Universität Klagenfurt. Bis dahin bleibt eine beruhigende und zugleich unbequeme Erkenntnis: Das Gewissen der Maschine sind wir. Ausreden gelten nicht, auch nicht „Entschuldigung“.

Quelle: Universität Klagenfurt; Andrej Zwitter (2026): The embodied ethics alignment problem of AI. Discover Artificial Intelligence 6, Artikel 852.