Robotik verantwortungsvoll gestalten

Robotersysteme, die sich autonom in der physischen Welt bewegen und mit Menschen interagieren: Erleben wir gerade einen Durchbruch in der Robotik durch die Verbindung mit KI?

Straube: Den Versuch, KI und Robotik zusammenzubringen, gibt es seit Langem. Durch die Entwicklung der generativen KI ist die Vorstellung entstanden, dass man ein System wie ChatGPT nur auf einen Roboter packen muss, und schon hat man einen alltagstauglichen humanoiden Roboter, der alles Mögliche kann. Aus meiner Sicht ist das noch eine Wette. Die KI hat noch keine wirkliche Verbindung zur physischen Welt, sondern lernt immer noch aus datenbasierten statistischen Mustern. Diesen Link zur Robotik muss man erst einmal schließen.

Hochgeschwender: Die Idee einer verkörperten künstlichen Intelligenz in Form eines robotischen Systems hat es schon bei Alan Turing gegeben, vor mehr als 80 Jahren. Was jetzt zusammenkommt, sind große Entwicklungsschritte bei der Hardware, der Bilderkennung und der Sensorik, gepaart mit dem Zugriff auf hochskalige Daten. Hinzu kommen entsprechende Fortschritte in der algorithmischen Entwicklung. Das eröffnet neue Möglichkeiten.

Welche Anwendungen haben Sie im Blick?

Straube: KI und Robotik können überall dort helfen, wo wir große Herausforderungen haben – sei es der demografische Wandel, die Klimakrise oder der Arbeitskräftemangel. Da können solche Systeme eine große Lücke schließen, auch in Umgebungen, die nicht für den Menschen gemacht sind, wie unter Wasser oder im Weltall. Es wird auch Bereiche geben, wo KI und Robotik den Menschen ersetzen werden. Aber man weiß heute noch gar nicht, was die Technologie später einmal leisten kann. Es ist ein kontinuierlicher Lernprozess. Letztlich geht es immer darum, einen gesellschaftlichen Mehrwert zu schaffen.

Hochgeschwender: Das klassische Vorgehen, zunächst eine Technologie zu entwickeln und dann zu überlegen, welchen Impact sie haben wird, funktioniert hier nicht. Die Technologie ändert sich wahnsinnig schnell; das überrascht selbst mich als Forschendem immer wieder und darauf sind wir als Gesellschaft gar nicht vorbereitet. Wir müssen viel agiler werden, um mit der Entwicklung mitzuhalten.

„Was Bremen auszeichnet, ist die hohe Dichte an Forschungseinrichtungen. Die Infrastruktur, die wir haben, gibt es in Deutschland und vermutlich auch in Europa nicht noch einmal.“

Wie lässt sie sich steuern im Sinne einer verantwortungsvollen Robotik?

Hochgeschwender: Was darf ein Haushaltsroboter, was nicht? Es gibt noch keinen Konsens darüber, was diese Systeme entscheiden können dürfen. Für welche Anwendungen und welche Personen sind sie geeignet, wie schafft man mit ihnen einen Mehrwert für die Menschen? Für mich bedeutet verantwortungsvolle Robotik, sich zunächst über solche Fragen Gedanken zu machen.

Straube: Wir sprechen über technische Systeme, die in einem gewissen Grad eigenständige Entscheidungen treffen. Wir haben aber noch keinen guten Rahmen, in dem wir so eine Technologie etablieren können. Wir brauchen eine Art Führerschein, einen Qualifikationsprozess, der Sicherheit garantiert, aber auch Flexibilität ermöglicht. Roboter müssen sich für bestimmte Tätigkeiten qualifizieren, so entsteht auch Vertrauen. Aber bis dahin ist es ein langer Weg.

Wie schafft man Vertrauen und welche Bedeutung hat es für die Akzeptanz solcher Systeme?

Straube: Vertrauen ist die Voraussetzung dafür, dass die Systeme auch eingesetzt werden. Es muss aber natürlich erst einmal etabliert werden, dafür müssen die Roboter zuverlässig arbeiten. Wahrnehmung schafft Vertrauen. Man muss sich jedoch auch im Klaren darüber sein, dass autonome Roboter nie zu 100 Prozent funktionieren werden. Das können sie gar nicht, denn sie bewegen sich nicht in einer statischen, sondern in einer sich verändernden Welt.

Hochgeschwender: In meiner Arbeitsgruppe führen wir Simulationen von robotischen Systemen unter unterschiedlichen Bedingungen durch. Diese Tests sind aus meiner Sicht der einzige Weg, um belastbare Aussagen über Funktionsfähigkeit und funktionale Sicherheit dieser komplexen Systeme machen zu können. Im Einsatz muss ihre Leistungsfähigkeit natürlich nachgewiesen werden. Vertrauen entsteht auch durch eine gewisse Resilienz – durch die Fähigkeit, mit unvorhergesehenen Situationen adäquat umgehen zu können, indem so ein System auch mal sagt: „Ich mache jetzt meine Arbeit nicht, weil mir das Wissen für eine Entscheidung fehlt“.

Was unterscheidet verantwortungsvolle Robotik von klassischer KI-Entwicklung?

Straube: Wenn ich mit einer generativen KI spreche und die macht irgendwelchen Quatsch, kann ich das im Dialog korrigieren. Läuft ein Roboter durch die Gegend und macht das Falsche, geht das nicht. Und er hat noch nicht die Fähigkeit, aus seinen Fehlern zu lernen.

Hochgeschwender: Neben den tollen Möglichkeiten, die die KI-Robotik bietet, geht es auch darum, Gefahren einzugrenzen: Warum trifft ein Roboter bestimmte Entscheidungen? Kognitive Roboter müssen zunächst in die Lage versetzt werden, ihr Verhalten preiszugeben. Hierfür braucht es neue Methoden, an denen wir forschen. Nur durch solche Verfahren können wir belastbare Aussagen darüber treffen, wie sicher und vertrauenswürdig sie arbeiten.

Wenn Sie eine Roadmap skizzieren sollten – welche Elemente sind zentral, damit Robotersysteme verlässlich arbeiten?­

Straube: Ich komme wieder auf das Bild mit dem Führerschein zurück: Man wird erst einmal festlegen müssen, was ein System in seinem Anwendungsfeld können soll. Dann werden Fehler passieren und man wird immer wieder nachjustieren müssen. Das ist wie beim Auto: Erst kam die Gurtpflicht, dann der Airbag.

Hochgeschwender: Es führt kein Weg daran vorbei, dass es zu Fehlentscheidungen kommen wird. Es werden hoffentlich keine sicherheitsrelevanten sein, die Schäden für Lebewesen und Umwelt verursachen. Das sollten wir regulatorisch verhindern können. Wir werden keine perfekten Systeme haben, sondern im besten Fall solche, die aus ihren Fehlern lernen und ihr Verhalten anpassen.

Straube: Fehler sind integraler Bestandteil des Handelns dieser Systeme. Dass wir dies anerkennen, halte ich für extrem wichtig. Autonomie bedeutet, sich in Wahrscheinlichkeiten zu bewegen: Mal machen die Systeme das Richtige, mal das Falsche. Will man ein technisches System erfolgreich autonom machen, braucht es diese Bandbreite.

„Bremen ist sicher nicht die reichste Region, aber beim Input-Output-Verhältnis sind wir top.“

Welche Rolle nimmt Bremen bei der Robotikforschung
ein? Was zeichnet den Standort aus?

Straube: Was Bremen auszeichnet, ist die hohe Dichte an Forschungseinrichtungen. Wir haben viel Wissen vor Ort und es wächst weiter. So siedeln sich immer mehr Robotikfirmen hier an. Was das DFKI betrifft: Die Infrastruktur, die wir haben, gibt es in Deutschland und vermutlich auch in Europa nicht noch einmal.

Hochgeschwender: Bei Erfolgsbewertungen schaue ich gerne auf das Verhältnis von Input und Output. Wie viel Geld fließt in das System rein und was entsteht daraus? Bremen ist sicher nicht die reichste Region, aber beim Input-Output-Verhältnis sind wir top. Was in Bremen noch toll ist: Es herrscht eine ausgeprägte Kultur der Kollaboration. Man arbeitet auf ein gemeinsames Ziel hin, das ist nicht überall der Fall.