Macht KI uns menschlicher?

Hamburg News: ‚Wir leben mitten in einer KI-Evolution‘, sind viele Expert:innen überzeugt und prognostizieren große Veränderungen vor allem im beruflichen Umfeld. Sehen Sie das auch so?

Professor Frank Steinicke: Ja. Ich denke, uns erwartet eine enorme Disruption verschiedenster Berufsfelder. Dabei sind es vor allem einfache Aufgaben, die zunehmend von KI übernommen werden, etwa im Informatikumfeld oder Recherchen im Bereich Rechtswissenschaften sowie zu Krankheitsbildern. Zwar wird KI auf absehbare Zeit keine Top-Informatiker oder Anwälte ersetzen, aber Top-Ärzte, die KI nutzen, werden solche ersetzen, die keine KI nutzen.

Hamburg News: Das klingt nach düsteren Aussichten für Arbeitnehmer:innen, die nicht in der Top-Liga spielen …

Steinicke: Ja, wir werden als Gesellschaft entscheiden müssen, wie wir mit den veränderten Verhältnissen umgehen wollen – und mit der Technologie selbst. Das Ziel muss sein, KI zum Wohle der Menschheit einzusetzen. Dabei ist der AI-Act ein guter Weg, allerdings müssen wir aufpassen, dass wir Innovationen nicht ausbremsen. Tatsächlich ist die Risikoeinschätzung von KI-Anwendungen nicht einfach. Nehmen wir ein Beispiel aus der Hochschule. Der AI-Act verbietet die KI-basierte Emotionserkennung beispielsweise im Bildungsumfeld. Für mich als Professor wäre es jedoch hilfreich, wenn die KI mich informieren würde, ‚Achtung, die Körpersprache der Studierenden signalisiert Überforderung‘. Ich denke, wir brauchen mehr Sandbox-Ansätze, also KI-Reallabore, in denen Innovation in realistischen Szenarien und unter realen Bedingungen ausprobiert werden kann.

Hamburg News: Sollte denn alles, was entwickelt werden kann, tatsächlich auch entwickelt werden? Auf der diesjährigen OMR hat Nicholas Turley, Head of Product bei ChatGPT, dem mit einem „absolutely“ entschieden zugestimmt … 

Steinicke: Ich sehe das anders. Wir brauchen eine menschenzentrierte Entwicklung, die stets das Wohl des Menschen im Blick behält. Allerdings stoßen wir dabei auf auch die Dual-Use-Problematik: Was wir entwickeln, kann zu unserem Vor- aber auch unserem Nachteil eingesetzt werden. Darum müssen wir schon bei der Entwicklung die jeweiligen Risiken abwägen – und gegebenenfalls entscheiden, nicht zu entwickeln oder vor der Entwicklung zu warnen.

Hamburg News: OpenAI plant in ChatGPT ein Shoppingerlebnis mit Produktauswahl und Kauf-Buttons. Wie funktioniert das Shoppen in der GenAI-Welt?

Steinicke: Zunehmend personalisiert. Die Kauferlebnisse werden immer stärker auf jeden einzelnen Konsumenten zugeschnitten, beziehen seinen Familienstand oder Hobbies mit ein. Diese Individualisierung bietet enorme Möglichkeiten für das Marketing, kann aber auch stärker zum Kauf verleiten. Dessen müssen wir uns bewusst sein.

Hamburg News: Also ist Manipulation eine KI-Gefahr?

Steinicke: Es geht um einen bewussten Umgang mit der Technologie. Nehmen wir das Beispiel ‚anthropomorphe Roboter‘, bei dem wir Robotern ein menschliches Gesicht geben. Doch menschlich erscheinenden Robotern bringen Nutzer:innen vielleicht zu großes Vertrauen entgegen. Was andererseits in der Therapie oder in Senioreneinrichtungen durchaus nützlich sein kann. Besonders wenn diese Roboter trainiert werden, Empathie oder auch Liebe zu simulieren. Wir müssen uns nur immer klar machen: Die Technologie simuliert Gefühle. Sie sind nicht echt.

Hamburg News: China treibt die humanoide Robotik massiv voran, der Eintritt in den Massenmarkt würde zu deutlich sinkenden Preisen führen. Welche Perspektiven eröffnet das? 

Steinicke: Etwa die Möglichkeit, die Abwanderung der Industrie in Länder mit niedrigen Lohnkosten rückgängig zu machen. Mit kostengünstigen Robotern in der Fertigung, könnte das gelingen. Das wird allerdings noch einige Jahre oder Jahrzehnte dauern.

Hamburg News: Wesentlich früher dürften wir die Unterstützung durch KI-Agenten erleben. Was können diese Systeme? 

Steinicke: KI-Agenten sind eine Art anthropomorphe Repräsentation der KI. Wir sprechen ganz natürlich mit der Technologie, erteilen ihr Aufträge und bedanken uns sogar für geleistete Arbeit. So wird der Computer vom Werkzeug zum Assistenten. Und in Zukunft vielleicht sogar zum Partner, der uns mit seinem immensen Wissensschatz intellektuell herausfordert und inspiriert. Aber noch ist er ein Assistent von der Qualität eines Praktikanten, dem wir sagen, was er tun soll und dessen Ergebnisse wir besser nochmals überprüfen. Würden wir jedoch die bereits vorhandenen Tools miteinander verknüpfen – beispielsweise die Ortserkennung im Handy, Verkehrsdaten, Terminkalender und Kontakte – können KI-Agenten etwa eigenständig erkennen, wenn unser Zeitplan in Gefahr gerät und Folgetermine automatisch verschieben.

Hamburg News: Könnten wir es auch mit einem destruktiven KI-Agenten zu tun bekommen? 

Steinicke: Tatsächlich sehen wir schon heute mehrere 10.000 automatische Angriffe täglich auf die kritische Infrastruktur in Deutschland. Dazu kommen Angriffe auf die deutsche Wirtschaft, die viele Unternehmen teuer zu stehen kommen. Doch das größere Problem ist aktuell eher die ‚Verschmutzung des Internets‘ durch KI-Agenten und Chatbots. Sie überfluten das Netz mit (Falsch-)Informationen und es ist nicht zu erkennen, ob Bots oder Menschen Nachrichten teilen. Das bedeutet, wir müssen Informationen stets hinterfragen und nach weiteren Quellen suchen. 

Hamburg News: Wie kreativ ist KI inzwischen? 

Steinicke: Wir unterscheiden hier zwischen ‚Little C‘ und ‚Big C‘, also kleiner oder außergewöhnlicher Kreativität. KI kann sehr gut reproduzieren und daraus auch in kleinen Schritten Neues schaffen. Aber Big C, wie ein neuer (KI-)Mozart oder Goethe, dürfte in absehbarer Zeit kaum entstehen. Allerdings kann KI Inspirationsprozesse beschleunigen. Ein Kreativer könnte seinen KI-Agenten bitten, ihm 10 Vorschläge zum Thema X zu machen und die bekommt er innerhalb weniger Sekunden. Die werden alle nicht vollkommen neu sein, aber Vorschlag Nr. 7 inspiriert ihn vielleicht zu einem völlig neuen Ansatz. Der KI-Agent hat für ihn quasi die Hausaufgaben gemacht und das rasend schnell.

Hamburg News: Abschließend: In welche Richtung schlägt das Pendel aktuell aus: Rettet KI unsere Welt oder zerstört sie uns? 

Steinicke: Ich halte mich für einen Technik-Realisten und bin davon überzeugt, KI kann unsere Welt besser machen. Dazu müssen wir den Zugang zu KI allerdings weltweit ermöglichen. Und vielleicht besteht dieses ‚besser‘ in vielen Fällen ‚nur‘ in einer Zunahme an Bequemlichkeit – und Zeit. Wenn KI beispielsweise Ärzten Routinearbeiten abnimmt, bleibt mehr Zeit, um auf den Patienten als Mensch einzugehen. In gewisser Weise ermöglicht die Technologie es uns damit menschlicher zu sein.

Hamburg News: Vielen Dank für das interessante Gespräch.

Das Interview führte Yvonne Scheller

ys/kk/sb