Mächtige Technologie kann helfen, Herausforderungen der Zukunft zu bewältigen

20. Januar 2022

Wohin wird sich Künstliche Intelligenz (KI) in den kommenden Jahren entwickeln? Was wird sie an Risiken mitbringen, welche Möglichkeiten wird sie eröffnen? Prof. Dr. Stefan Kramer vom Institut für Informatik der Johannes Gutenberg-Universität Mainz (JGU) gibt einige Antworten auf diese Fragen – und stellt ein umfangreiches interdisziplinäres Forschungsprojekt vor, das sich in den kommenden sechs Jahren mit zentralen Aspekten der KI beschäftigen wird.
 

"Wenn es um Künstliche Intelligenz geht, ist die breite Öffentlichkeit leider bestenfalls auf dem Wissensstand von vor zehn, fünfzehn Jahren", konstatiert Prof. Dr. Stefan Kramer. "Wir haben hier viel Aufklärungsarbeit vor uns. Wir müssen das Thema vor allem noch mehr an die Schulen und die Universitäten bringen. Unseren Studierenden sollten wir ein ordentliches Know-how zu Daten und Digitalität vermitteln."

Künstliche Intelligenz birgt Gefahren, das will Kramer gar nicht wegdiskutieren. "Es ist eine mächtige Technologie. Man sollte sie unbedingt im Auge behalten. Aber wir dürfen nicht nur die Risiken sehen, sondern sollten auch die Chancen im Blick behalten. Nach meinem Eindruck wird im Moment die negative Seite überbetont."

Carl-Zeiss-Stiftung fördert JGU-Projekt TOPML

Kramer sitzt ausnahmsweise nicht an seinem Büroschreibtisch im Institut für Informatik, sondern in seiner Wohnung in der Mainzer Altstadt vor dem Computerbildschirm. Das Gespräch mit ihm muss digital stattfinden, denn momentan steigen die Infektionszahlen rapide, Covid-19 ist wieder auf dem Vormarsch. Doch für den Informatiker ist diese Art der Kommunikation kein Problem – im Gegenteil: Nebenher öffnet er immer wieder Dateien und präsentiert Grafiken, um sein Thema möglichst klar zu umreißen. Ein zentraler Punkt ist dabei ein großes, ambitioniertes Forschungsprojekt, das nicht nur ihn, sondern eine ganze Reihe Wissenschaftlerinnen und Wissenschaftler verschiedenster Fachrichtungen an der JGU beschäftigen wird.

"Trading Off Non-Functional Properties of Machine Learning" (TOPML) nennt sich das Vorhaben, das vier wesentliche Aspekte rund um Künstliche Intelligenz aufs Tapet bringen wird. "Die Carl-Zeiss-Stiftung stellt uns dafür rund fünf Millionen Euro in den kommenden sechs Jahren zur Verfügung", erzählt Kramer. TOPML ist Teil des Förderprogramms "Wissenschaftliche Durchbrüche in Künstlicher Intelligenz", das die Stiftung jüngst auf den Weg brachte. Insgesamt fördert sie damit sechs Projekte bundesweit.

"Bei TOPML wird es um Transparenz gehen, um Privatsphäre, um Fairness und Ressourceneffizienz. Wir werden die Beziehungen dieser vier Bereiche zueinander beleuchten und die Wechselwirkungen untersuchen. Wie zum Beispiel lässt sich die Transparenz von KI-Entscheidungen mit der Wahrung der Privatsphäre in Einklang bringen? Mehr Effizienz erreichen wir mit weniger Rechenschritten, das verbraucht weniger Energie, spart Zeit und Geld, aber geht das vielleicht auf Kosten der Fairness?"

Diese Fragen sollen über die Disziplinen hinweg diskutiert werden. "Wir kooperieren mit Fachleuten aus den Rechtswissenschaften, der Ethik und der Philosophie. Sie sollen die neuesten KI-Verfahren kennenlernen, und wir Informatiker werden uns mit ihren Standpunkten vertraut machen. Wir können diese Technologie gestalten, aber dafür ist es wichtig, dass wir in den Austausch gehen." Unter anderem sind Prof. Dr. Thomas Metzinger vom Philosophischen Seminar sowie Prof. Dr. Matthias Bäcker und Prof. Dr. Friederike Wapler von den Rechtswissenschaften mit im Boot. Anfangs sind sechs Teilprojekte geplant, die sich jeweils der Beziehung von zwei der vier genannten Aspekte widmen. "Außerdem wird es eine eigene Stiftungsprofessur geben."

Die guten Seiten Künstlicher Intelligenz

Doch das ist nicht alles, TOPML geht über die reine Forschung hinaus. "Wir wollen Workshops und Podiumsdiskussionen anbieten, um die breitere Öffentlichkeit zu erreichen. Dafür ist extra ein Budget vorgesehen. Wir werden dort auch über die guten Seiten von KI informieren können."

Dies ist Kramer wichtig, denn: "Gerade in Deutschland und in Österreich geht der Diskurs schnell in Richtung Kritik. Man sorgt sich sehr um den Datenschutz. Das ist zwar absolut nachvollziehbar, aber eben nur ein Gesichtspunkt. KI kann uns zum Beispiel helfen, Ressourcen besser einzusetzen. Sie kann Logistikprozesse optimieren. Außerdem kann sie sehr objektiv sein, objektiver als der Mensch: Wir haben Verfahren entwickelt, die gewährleisten, dass niemand bevorzugt oder benachteiligt wird. Mit diesem Thema beschäftigt sich die Forschungs-Community bereits länger, das ist uns ein großes Anliegen." KI soll dasselbe Maß an Service für alle bieten, sie soll Gleichstellung unterstützen und unterprivilegierten Gruppen zu mehr Teilhabe verhelfen. "All das können wir über sehr bewusst eingesetzte Algorithmen erreichen."

Natürlich müsse der Einsatz von KI kontrolliert werden, meint Kramer. "Aber da tut sich einiges. Gerade gibt es einen guten Entwurf auf EU-Ebene. Er unterteilt alle KI-Anwendungen in vier Bereiche." Der Informatiker blendet die Grafik einer Pyramide ein: Ihre Spitze ist leuchtend rot gefärbt, zur Basis hin folgen Lila- und Blautöne. "Der obere Bereich umfasst alle inakzeptablen Anwendungen wie 'social scoring' oder biometrische Verfahren im öffentlichen Raum. Sie sind verboten. Es folgt eine High-Risk-Schicht, in der medizinische Verfahren, Strukturen zum Verkehr oder zur Ausbildung zusammengefasst sind. Sie unterliegen einer sehr genauen Kontrolle." Die unteren beiden Stufen werden dann nur noch schwach reguliert. Sie enthalten zum Beispiel Chatbots oder Systeme für Spiele und Entertainment. "Ich finde diesen Entwurf clever gemacht", sagt Kramer. "Er betrachtet die Dinge von außen, setzt einen Rahmen und lässt darin Raum für Gestaltung."

Vorsichtige Prognosen für die Zukunft

Was aber wird diese Gestaltung bringen? Zunehmend autonome Systeme, wie sie bereits für den Straßenverkehr in voller Entwicklung sind? Wird KI den Menschen entlasten und unterstützen – oder wird sie ihn womöglich überflüssig machen?

"Momentan haben wir es mit der dritten Welle von KI zu tun. In der ersten entstanden wissensbasierte Systeme, die zweite brachte KIs, die anhand von Massendaten statistisch lernen. Nun, in der dritten Welle, arbeiten wir daran, beides zusammenzubringen. Wir wollen Lernen und Schlussfolgern weiter voranbringen." Wohin das genau führen wird, ist noch nicht klar, und Kramer spekuliert nicht gern über die Zukunft. "Ich bin kein Prophet", meint er. Doch es sei klar, dass neue Techniken immer auch gesellschaftliche Umwälzungen mit sich bringen. "Ein wichtiger Aspekt ist die Automatisierung. Sie wird dank KI weiter voranschreiten. Und Automatisierung hat schon immer bedeutet, dass weniger Arbeit übrigbleibt, die dann neu verteilt werden muss." Dies sei eine gesellschaftliche Herausforderung.

"Wenn es um Themen wie nachhaltiges Wirtschaften, Energiesparen oder die Eindämmung des Klimawandels geht, kann uns KI helfen", sagt Kramer. "Diese Technologie allein kann uns zwar nicht retten, da werden Änderungen im Lebensstil notwendig werden, aber sie kann helfen, mit rationalem Haushalten in allen möglichen Bereichen ein paar Prozentpunkte zu sparen. Das könnte entscheidend sein." Kramer lehnt sich zurück und atmet durch. "Aber ich bin kein Hellseher", betont er abschließend noch mal. "Ich bin Informatiker."