Jeffrey Bohn: «Die Grenzen maschineller Intelligenz verstehen»

English version

Vielleicht müssen wir uns von der Vorstellung von komplett unabhängig funktionierenden Maschinen lösen und das maschinelle Lernen als ein vom Menschen geführtes Werkzeug verstehen, schreibt Jeffrey Bohn in seinem Essay auf finews.first.

Dieser Beitrag erscheint in der Rubrik finews.first. Darin nehmen Autorinnen und Autoren wöchentlich Stellung zu Wirtschafts- und Finanzthemen.

Robo-Berater bearbeiten Kundenanfragen, Vergleichswebsites stellen Offerten zusammen: Die maschinelle Intelligenz (MI) setzt sich in immer mehr Bereichen des Versicherungssektors durch. Allerdings entsprechen die Endergebnisse nicht immer den Erwartungen.

Algorithmen haben ihren immensen Nutzen bei zahlreichen Anwendungen wie dem Sortieren von Bildern oder dem Verarbeiten komplexer Berechnungen eindrucksvoll bewiesen; daraus wurde teilweise geschlossen, dass sie in naher Zukunft allgegenwärtig sein würden. Dies könnte sich jedoch als trügerische Hoffnung erweisen.

Algorithmen auf Vergleichswebsites tun sich beispielsweise häufig schwer mit der komplexen Frage, welches das beste Angebot ist, das den Kunden angezeigt werden soll. Die Angebote schlicht anhand der Prämienhöhe zu bewerten, ist noch relativ einfach. Doch sobald zusätzliche Faktoren wie Deckungsumfang, Ausschlüsse usw. mit einbezogen werden, wird die Sache schnell kompliziert.

«Es gibt viele komplexe Szenarien, welche die maschinelle Intelligenz nicht allein bewältigen kann»

Vielleicht müssen wir uns von der Vorstellung von komplett unabhängig funktionierenden Maschinen und den damit verbundenen Erwartungen lösen und das maschinelle Lernen vielmehr als ein vom Menschen geführtes Werkzeug verstehen. Dieses können wir nutzen, um Arbeitsprozesse und die Interaktionen von Mitarbeitenden mit Kunden zu verbessern.

Es gibt viele komplexe Szenarien, welche die maschinelle – und insbesondere die künstliche – Intelligenz nicht allein bewältigen kann. So übersteigt es etwa ihre Möglichkeiten, die Kette der Ereignisse nach wirtschaftlichen Turbulenzen oder die Folgen einer politischen Veränderung vorauszusagen. Vielmehr dürfte jedes grosse trendverändernde Ereignis für eine Maschine verwirrend sein.

Das grösste Potenzial liegt darin, dass wir Tools für maschinelles Lernen nutzen, um die Arbeit von Menschen zu optimieren. Ein Beispiel: Viele Unternehmen haben ihr Marketing in weiten Teilen automatisiert und lassen Tools und Plattformen entscheiden, welche Werbung oder welcher Artikel bei verschiedenen Zielgruppensegmenten platziert wird.

«Wir brauchen weiterhin einsatzbereite menschliche Experten für den Fall, dass Systeme ausfallen»

Dennoch dürften die Kunden in den allermeisten Fällen – ausser es handelt sich um ganz einfache Transaktionen – auch weiterhin froh um einen menschlichen Ansprechpartner sein, den sie anrufen oder als Teil des Kundenerlebnisses persönlich treffen können, um Optionen zu besprechen, ein Produkt ihren Bedürfnissen anzupassen oder Anliegen zu äussern.

Hinzu kommt ein weiterer, fast noch wichtigerer Punkt: Wir brauchen auch weiterhin einsatzbereite menschliche Experten für den Fall, dass Systeme ausfallen oder sich die ihnen zugrunde liegenden Rahmenbedingungen plötzlich ändern.

«Dass in vielen Fällen nicht der Besitz, sondern der Nutzen zählt, zeigt sich in der Beliebtheit von Mobilitätsdiensten»

Auch im Bereich der selbstfahrenden Autos wird die künstliche Intelligenz erfolgreich genutzt. Fortschritte bei der autonomen Mobilität bedeuten jedoch nicht zwangsläufig, dass alle damit verknüpften geschäftlichen Aspekte – einschliesslich der Versicherung – geklärt sind. Man sagt oft, dass Kunden nicht eine Bohrmaschine kaufen wollen, sondern sie wollen das Loch in der Wand. Dieses Bild lässt sich auch auf das Auto übertragen. Meist geht es nicht primär darum, ein Auto zu besitzen, sondern entscheidend ist die Möglichkeit, von A nach B zu gelangen.

Die Tatsache, dass in vielen Fällen nicht der Besitz, sondern der Nutzen zählt, zeigt sich auch in der wachsenden Beliebtheit von Mobilitätsdiensten, die durch innovative Technologien, einschliesslich verschiedener Formen von MI, ermöglicht werden.

Schauen wir uns eine konkrete Situation an, bei der es die Frage der Haftung im Zusammenhang mit einem Mobilitätsdienst geht.

«Der Preis für den Komfort von Mobilitätsdiensten sind zunehmende algorithmenbedingte Risiken»

Eine Kundin benötigt ein Fahrzeug und bucht daher eines über eine Mobilitätsplattform. Der Vertrag besteht nur zwischen diesen beiden Parteien und ist daher sehr einfach. Gleichzeitig besteht die Wertschöpfungskette aufgrund der immer komplexer werdenden Fahrzeugtechnik aber aus enorm vielen Teilen und Verknüpfungen. Da wären der Fahrzeughersteller, der Software-Entwickler und der Sensorhersteller, und das GPS-Gerät könnte wieder von einem anderen Hersteller stammen.

Übertragen wir diese Situation nun auf eine intelligente Stadt und berücksichtigen wir dabei auch die Sensoren, die über die ganze Stadt verteilt sind, was die Lage noch komplexer macht. Wenn es einen Fehler in einer Programmzeile gibt oder ein Sensor defekt ist oder es zu einem stadtweiten Systemausfall kommt, der das High-Tech-Fahrzeug in seiner Funktion beeinträchtigt – wer muss dann die Haftung übernehmen?

Der Preis für den Komfort von Mobilitätsdiensten sind zunehmende algorithmenbedingte Risiken und Cyberrisiken, da wir immer stärker von Sensoren, Netzwerken, Systemen und MI abhängig sind.

«Wir setzen nicht voll auf diese Technologie»

Aktuell ist noch viel Zurückhaltung zu beobachten, was die stärkere Nutzung von Technologie im Auto anbelangt. Dies zeigt sich beispielsweise darin, dass die meisten Städte in den USA zögern, Tests von selbstfahrenden Fahrzeugen auf ihren Strassen zuzulassen. Gleichzeitig sind viele dieser Technologien bereits in aktuell erhältlichen Fahrzeugen verbaut und werden dort als Fahrhilfen beschrieben. Dazu zählt beispielsweise der Abstandsregeltempomat, der dafür sorgt, dass der Sicherheitsabstand zum vorausfahrenden Auto eingehalten wird.

Die neuen verfügbaren Tools haben zwar allesamt das Potenzial, Autofahrten sicherer und angenehmer zu machen, doch zumindest in der Anfangsphase können sie auch kurzzeitig Verwirrung beim Fahrer auslösen oder ihn ablenken. Durch die inkonsequente Haltung hinsichtlich der Nutzung von Fahrtechnologie entstehen höhere Risiken – wir setzen nicht voll auf diese Technologie, verbieten sie aber auch nicht komplett. Deshalb befinden wir uns in einer Art Grauzone.

«Maschinelle Intelligenz beseitigt keine Risiken»

Versicherer, Software-Entwickler, Behörden und Städte werden in Zukunft noch viel zu tun haben, um herauszufinden, wie wir Systeme am besten entwerfen, entwickeln, einsetzen und koordinieren. Maschinelle Intelligenz beseitigt keine Risiken, sondern sie transformiert die Risiken, mit denen wir konfrontiert sind, in Risiken mit attraktiveren Merkmalen. Unter dem Strich bleibt, dass die menschliche Kognition weiterhin eine entscheidende Rolle in diesem Prozess spielt.

Jeffrey Bohn stiess 2017 zur Swiss Re und leitet seither das Swiss Re Institute. In dieser Funktion verwantwortet er auch alle Forschungs- und Entwicklungs- Aktivitäten des Rückversicherungskonzerns. Vor seiner Tätigkeit für die Swiss Re arbeitete er als Chief Science Officer und Head of GX Labs bei der State Street Global Exchange in San Francisco. Vor seiner Zeit in Kalifornien war er für State Street sowie für das Beratungsunternehmen PwC in Japan tätig.

Bisherige Texte von: Rudi Bogni, Oliver Berger, Rolf Banz, Werner Vogt, Walter Wittmann, Alfred Mettler, Robert Holzach, Craig Murray, David Zollinger, Arthur Bolliger, Beat Kappeler, Chris Rowe, Stefan Gerlach, Marc Lussy, Nuno Fernandes, Richard Egger, Dieter Ruloff, Marco Bargel, Steve Hanke, Urs Schoettli, Maurice Pedergnana, Stefan Kreuzkamp, Oliver Bussmann, Michael Benz, Albert Steck, Martin Dahinden, Thomas Fedier, Alfred Mettler, Brigitte Strebel, Mirjam Staub-Bisang, Thorsten Polleit, Kim Iskyan, Stephen Dover, Denise Kenyon-Rouvinez, Christian Dreyer, Kinan Khadam-Al-Jame, Robert Hemmi, Anton Affentranger, Yves Mirabaud, Hans-Martin Kraus, Gérard Guerdat, Mario Bassi, Stephen Thariyan, Dan Steinbock, Rino Borini, Bert Flossbach, Michael Hasenstab, Guido Schilling, Werner E. Rutsch, Dorte Bech Vizard, Adriano B. Lucatelli, Katharina Bart, Maya Bhandari, Jean Tirole, Hans Jakob Roth, Marco Martinelli, Thomas Sutter, Tom King, Werner Peyer, Thomas Kupfer, Peter Kurer, Arturo Bris, Frédéric Papp , James Syme, Dennis Larsen, Bernd Kramer, Ralph Ebert, Marionna Wegenstein, Armin Jans, Nicolas Roth, Hans Ulrich Jost, Patrick Hunger, Fabrizio Quirighetti, Claire Shaw, Peter Fanconi, Alex Wolf, Dan Steinbock, Patrick Scheurle, Sandro Occhilupo, Will Ballard, Michael Bornhäusser, Nicholas Yeo, Claude-Alain Margelisch, Jean-François Hirschel, Jens Pongratz, Samuel Gerber, Philipp Weckherlin, Anne Richards, Antoni Trenchev, Benoit Barbereau, Pascal R. Bersier, Shaul Lifshitz, Ana Botín, Martin Gilbert, Jesper Koll, Ingo Rauser, Carlo Capaul, Claude Baumann, Markus Winkler, Konrad Hummler, Thomas Steinemann, Christina Böck, Guillaume Compeyron, Miro Zivkovic, Alexander F. Wagner, Eric Heymann, Christoph Sax, Felix Brem, Jochen Möbert, Jacques-Aurélien Marcireau, Peter Hody, Ursula Finsterwald, Claudia Kraaz, Michel Longhini, Stefan Blum, Zsolt Kohalmi, Karin M. Klossek, Nicolas Ramelet, Søren Bjønness, Lamara von Albertini, Andreas Britt, Gilles Prince, Fabrizio Pagani, Darren Williams, Shanu Hinduja, Salman Ahmed, Stéphane Monier, Peter van der Welle, Swetha Ramachandran, Teodoro Cocca, Beat Wittmann, Ken Orchard, Michael Welti, Christian Gast und Didier Saint-Georges.