Er sagt: Das menschliche Gehirn ist kreativ, aber kann sich fast nichts merken. Lernende Maschinen werden den Wissenshorizont jenseits menschlichen Denkvermögens erweitern.

Sie sagt: Diese Technologie wird Auswirkungen haben auf Menschen und Demokratie, Macht und Chancengleichheit. Wir müssen gut überlegen, wie wir diese Technologie einsetzen wollen.

Er und sie, das sind Joachim Buhmann und Angela Müller. Er ist Professor am Institut für maschinelles Lernen an der ETH Zürich. Sie ist Geschäftsleiterin von AlgorithmWatch CH, einer NGO, die sich mit den Auswirkungen von Algorithmen und künstlicher Intelligenz (KI) auf Menschenrechte und Gesellschaft beschäftigt.

Gemeinsam stellen sie sich der Diskussion um künstliche Intelligenz im Bodensee Wirtschaftsforum, auf Einladung des Thurgauer Wirtschaftsinstituts (TWI) und des Thurgauer Instituts für digitale Transformation (TIDIT). Einig waren sich beide: In der Diskussion um KI muss der Mensch viel mehr im Mittelpunkt stehen. Es geht weniger um die Frage, was KI eines Tages alles leisten können wird, sondern eher darum, wie der Mensch mit ihr umgehen wird. Moderiert wurde die Veranstaltung von Urs Fischbacher, Leiter des TWI.

„Maschinelles Lernen ist die Mathematisierung der Erkenntnistheorie“

Joachim Buhmann schildert künstliche Intelligenz als einen großen Paradigmenwechsel in der Erkenntnistheorie. Buhmann attestiert dem Menschen ein grundlegendes „Defizit des Merkens“, eine natürliche Grenze unseres Auffassungsvermögens in einer komplexen Welt. Diesen begrenzten Kapazitäten steht nun mit der künstlichen Intelligenz eine Technologie gegenüber, die in ihren Abwägungen Daten von gewaltiger Komplexität berücksichtigen kann. KI könnte der Menschheit einen Erkenntnissprung ermöglichen, indem sie für uns komplexe Zusammenhänge auswertet, die das menschliche Gehirn nicht überblicken kann. Wir könnten dadurch unsere Welt neu entdecken, neu verstehen. Allerdings würde dies zugleich bedeuten, dass der Mensch in einem Bereich jenseits seiner Verstandesgrenzen operiert.

„Menschen werden Algorithmen steuern, aber sie nicht mehr verstehen.“

Joachim Buhmann, Professor am Institut für maschinelles Lernen an der ETH Zürich

Dies führt uns zu einem zentralen Problem im Umgang mit künstlicher Intelligenz: das Problem der Validierung der Ergebnisse. Joachim Buhmann macht eine Kernfrage deutlich: „Wie wird es validiert? Woher kann ich sicher sein, dass das richtig ist?“ Oder mit anderen Worten: Wie erkennt man, wann ein Algorithmus falsch liegt, wenn wir sein „Denken“ nicht mehr verstehen? Wie also können wir einschätzen, wann wir einer KI glauben können und wann nicht? Buhmann macht deutlich, dass wir einen gewissen blinden Fleck akzeptieren werden müssen: „Wir haben damit zu leben.“ Denn auch ohne KI, argumentiert Buhmann, leben wir mit einem blinden Fleck: mit der Komplexität einer Welt, die wir nicht überblicken können.

„Technologie allein löst keine gesellschaftlichen Probleme“

Angela Müller dreht die Debatte in Richtung der Verantwortlichkeit. „Mich interessiert der Vergleich zwischen Mensch und Maschine nicht so richtig“, eröffnet sie. Ihr geht es nicht um die Frage, worin die Maschine nun besser oder schlechter ist als der Mensch. Viel entscheidender ist für sie die Diskussion über die gesellschaftlichen Auswirkungen, die der Einsatz von KI mit sich bringt. „Wir brauchen eine Lösung, wie wir damit umgehen, wenn wir Entscheidungsprozesse an Algorithmen auslagern“, fordert Müller. Denn: „Algorithmen und KI können Auswirkungen auf Menschen und ihre Grundrechte haben. Das sind Systeme, die Entscheidungen über Menschen beeinflussen und treffen können.“ Müller schildert reale Fälle, in denen staatlich eingesetzte KI zu strukturellen Benachteiligungen von ganzen Personengruppen geführt haben, weil diese Menschen „falsch klassifiziert“ wurden: zum Beispiel bei Sozialleistungen in den Niederlanden.

„Mein Plädoyer lautet nicht ‚weniger Technologie‘“, betont Angela Müller. Sie bestreite nicht das große Potenzial von künstlicher Intelligenz. Wir sollten aber gut überlegen, wie wir diese Technologie einsetzen wollen.

„Die Technologie allein löst keine gesellschaftlichen Probleme. Wir wollen die Technologie so gestalten, dass sie allen zugutekommt. Dafür ist Regulierung notwendig; wir brauchen eine Governance von Algorithmen und KI. Regulierung ist jedoch mehr als nur ein KI-Gesetz, es sind verschiedene Gesellschaftsbereiche betroffen. Es geht um Bedingungen der Demokratie, um Fragen der Gerechtigkeit.“

Angela Müller, Geschäftsleiterin von AlgorithmWatch CH

Angela Müller möchte bei der Debatte um KI den Blick auf die Gegenwart gerichtet haben und nicht auf spekulative Zukunftsszenarien. „Ein bisschen weniger Hype, ein bisschen mehr Evidenz.“ Sorge bereitet ihr die Machtkonzentration, wenn die Entwicklung und Ausgestaltung von KI in den Händen einiger weniger Technikunternehmen liegt. „Worauf wir achten müssen, ist, dass bei der Entwicklung von Technologie genügend Konkurrenz herrscht“, pflichtet Buhmann ihr bei.

Der menschliche Schachzug

„Was bleibt uns Menschen?“, eröffnet Moderator Urs Fischbacher die Schlussdiskussion und bringt einen neuen Gedanken ein: „Was empfehlen Sie Jugendlichen, in welche Richtung sie sich bilden sollen?“ Joachim Buhmanns Rat lautet: „Solide technische Ausbildung mit deutlich mehr Geisteswissenschaften.“ Angela Müller pflichtet ihm bei, dass dies eine gute Option sei, ergänzt aber, dass es eine Vielzahl von wichtigen Fähigkeiten gibt – von der Pflegekraft oder dem Handwerk über die Medizin bis hin zur Philosophie – auf die wir als Gesellschaft auch in Zukunft angewiesen bleiben. 

Im Zeitalter künstlicher Intelligenz wird der menschliche Standpunkt weiterhin maßgeblich sein, macht die Diskussion deutlich. Joachim Buhmann schließt mit einem sinnbildlichen Vergleich: „Wenn jemand nicht gegen einen Algorithmus Schach spielen will, dann soll er gegen einen Menschen spielen. Vielleicht hat er so mehr Vergnügen.“ Was damit gemeint ist: Das menschliche Handeln ist nicht obsolet, nur weil ein Computer in einer Sache besser ist. Auch wenn der Mensch nicht gegen die KI Schach spielt, er bleibt weiterhin im Spiel.

Die Veranstaltung:

• Bodensee Wirtschaftsforum, Podiumsdiskussion „Künstliche Intelligenz – zwischen Begeisterung und Sorge“, Juni 2024
• Eine Veranstaltung des Thurgauer Wirtschaftsinstituts (TWI) und des Thurgauer Instituts für digitale Transformation (TIDIT)