Bericht zum Workshop „AI in Insurance“

17./18. November 2022 — King’s College London (KCL),

gefördert durch die FUB (CIC) und das KCL

 

Der Workshop widmete sich rechtlichen Fragen und Herausforderungen, welche der Einsatz von Künstlicher Intelligenz (Artificial Intelligence – AI) im Versicherungssektor aufwirft. Im Folgenden soll zunächst ein Überblick über die Vorträge gegeben werden, welche die Teilnehmenden jeweils zum Einstieg in die Diskussion hielten (sub A). Sodann folgt eine Zusammenfassung der Diskussionen und der dabei erarbeiteten übergreifenden und weiterführenden Erkenntnisse (sub B). Abschließend wird ein Ausblick auf die Perspektiven der künftigen Zusammenarbeit gegeben (sub C).

 

A. Überblick über die Vorträge

17. November 2022

Im ersten Vortrag des Workshops beschäftigte sich Prof. Roger Brownsword (KCL) mit der Frage, ob KI-Programme im Privatrecht als juristische Person anerkannt werden sollten. Nach seiner Ansicht gibt es zwei verschiedene Ansätze, sich dieser Frage zu nähern: den regulatorischen Ansatz und den dogmatischen Ansatz. Prof. Brownsword sprach sich im Ergebnis für den regulatorischen Ansatz aus, da die Eigenart derartiger Systeme eine völlige neue Herangehensweise fordere.

Anschließend widmete sich Julian Westphal (FUB) den vertragsrechtlichen Herausforderungen von KI. Anhand einer Fallstudie zeigte er, dass die meisten Willenserklärungen einer KI deren Inhaber nach allgemein-vertragsrechtlichen Grundsätzen zurechenbar sind. Nur in Ausnahmefällen scheitere die Zurechnung. In diesen Ausnahefällen könne auch über das Stellvertretungsrecht oder die Figur der „Blanketterklärung“ keine vertragliche Bindung konstruiert werden.

Prof. Bertram Lomfeld (FUB) beleuchtete anschließend die ethischen Herausforderungen im Umgang mit KI. Er ging dabei auf das sog. Trolley-Dilemma im Kontext selbstfahrender Autos ein. Als eines der größten Probleme identifizierte Herr Prof. Lomfeld die mangelnde Vorhersehbarkeit der Entscheidungen eines KI-Systems. Er stellte eine technische Lösung aus einem seiner aktuellen Forschungsprojekte vor, die dabei helfen soll, die Entscheidungen einer KI besser nachvollziehen zu können. Dabei soll die Präzision und Leistungsfähigkeit der KI – anders als bei anderen technischen Lösungsansätzen – nicht beeinträchtigt werden.

Nach einer kurzen Pause widmete sich Prof. Christian Armbrüster (FUB) dem Einsatz von KI in der Personenversicherung. Er präsentierte einen Überblick über verschiedene Anwendungsbereiche im Versicherungssektor – in der privaten Krankenversicherung würden KI-Systeme beispielsweise beim Erkennen von Krankheitsmustern im Rahmen der Diagnose helfen. Die Datenverwendung durch eine KI könne jedoch nicht grenzenlos erfolgen: Das deutsche Gendiagnostikgesetz verbiete die Verwendung von genetischen Daten bei der Entscheidung über den Abschluss einer Lebensversicherung. Eine vergleichbare Regelung war den Anwesenden aus anderen Rechtsordnungen jedoch unbekannt.

Im Anschluss hielt Victor Claussen (FUB) einen Vortrag über die Gefahren von Diskriminierung durch den Einsatz von KI, wobei die algorithmische Berechnung von Versicherungsprämien im Fokus stand. Insbesondere sei es problematisch, wenn die Verarbeitung von risikobezogenen Merkmalen in der „Black Box“ der KI erfolge, so etwa bei der Verwendung von „subsymbolischer“ KI. Hierfür biete auch der von der Europäischen Kommission vorgeschlagene AI Act keine Lösung.

Den Abschlussvortrag des ersten Tages hielt Dr. Kyriaki Noussia (Reading University), die das Thema selbstfahrende Autos aufgriff. Sie fokussierte sich auf ethische Fragen bei der Datenverarbeitung und das Haftungsrecht. Spontan schwächte sie eine ihrer Kernthesen ab, da der erste Vortrag des Tages von Prof. Brownsword ihr „die Augen geöffnet“ habe.

18. November 2022

Den zweiten Tag des Workshops eröffnete Prof. Baris Soyer (Swansea University) mit einem Vortrag zu den Möglichkeiten des „internet of things“ (IoT) insbesondere in der Industrieversicherung. Er präsentierte eine Vielzahl von Beispielen und sprach über rechtliche und regulatorische Schwierigkeiten bei der Implementierung dieser Technologien. Anders als Prof. Brownsword sprach er sich gegen eine starke Regulierung von KI aus.

Markus Hoffmann (FUB) schloss mit einem Vortrag zu Telematik-Tarifen an. Solche Tarife sind ein konkreter Anwendungsfall des IoT. Er erörterte Vor- und Nachteile sowie ethische Fragen, die sich bei der andauernden Überwachung bestimmter risikorelevanter Umstände stellen.

Anschließend widmete sich Dr. Lukas Böffel (FUB) den aufsichtsrechtlichen Herausforderungen von KI. Er beschrieb aktuelle Anwendungsfälle und die neusten Initiativen der EU-Kommission und der Aufsichtsbehörde EIOPA. Er stellte die Position von EIOPA zum AI Act vor, nach welcher KI-Systeme im Bereich der Versicherungen von der Regulierung ausgenommen sein sollten. Im Ergebnis sprach er sich gegen eine regulatorische Aufspaltung zu Gunsten branchenspezifischer Akteure aus.

Einen Exkurs in die japanische Erdbebenversicherung unternahm Prof. Satoshi Nakaide (Waseda University). Er legte dar dass in Japan neuerdings Tarife angeboten werden, die unabhängig von einem konkreten Schadenseintritt die Geldleistung des Versicherers an einen bestimmten Index knüpfen - etwa die Stärke eines Erdbebens auf der Richterskala („Indexversicherung“). Mittels einer App wird die Leistung des Versicherers ohne konkrete Prüfung eines eventuellen Schadens (etwa in Form von Amazon-Gutscheinen) ausgeschüttet. Die deutschen Teilnehmenden des Workshops bemerkten hierbei interessante Unterschiede zu grundlegenden Prinzipien des deutschen Versicherungsrechts.

Zurück zum Thema des Seminars führte der Vortrag von Prof. Dan Hunter (Dean, KCL)zu maschinellem Lernen und willensgesteuertem Verhalten. Oft werden Rechtsfolgen daran geknüpft, ob ein Verhalten wissentlich oder unwissentlich war. Prof. Hunter argumentierte, die Entscheidungsfindung bei KI sei nicht unter die Kategorien wissentlich/unwissentlich zu fassen. Er plädierte für eine regulatorische Lösung.

Im abschließenden Vortrag des Seminars behandelte Prof. Özlem Gürses (KCL) den Betrug im Kontext maschinellen Lernens. Aus verschiedenen Informationen einer telefonischen Schadensmeldung in der Sachversicherung (z.B. Tonlage, Sprechgeschwindigkeit, Formulierung) könne eine KI Rückschlüsse über einen möglichen Betrugsversuch ziehen. Bemerkenswert war dabei für die Teilnehmenden, wie (vermeintlich) wenige Informationen eine KI zur Entscheidungsfindung benötigt; Prof. Gürses nannte das Beispiel einer privaten Krankenversicherung, die als vorvertragliche Gesundheitsinformation des Versicherungsnehmers ein einziges Selfie ausreichen lasse.

B. Zusammenfassung der Diskussionen

Die große Bandbreite an Themen, die im Rahmen des Seminars diskutiert wurden, ermöglichte es, Parallelen zwischen verschiedenen Fragestellungen zu ziehen. Ein wiederkehrender Diskussionspunkt war etwa, ob und in welchem Umfang ein (zusätzlicher) regulatorischer Rahmen für KI erforderlich ist. Diesbezüglich waren die Meinungen in den Diskussionen bisweilen geteilt. Im Ergebnis sprach sich die Mehrzahl der Teilnehmenden mit Blick auf die neuartigen Herausforderungen, die mit KI einhergehen, für einen regulatorischen Rahmen aus. Dabei – das war wohl allgemeiner Konsens – müsse jedoch eine Überregulierung vermieden werden, um Innovationen und den offenkundigen Vorteilen von KI nicht im Weg zu stehen.

Den zweiten Schwerpunkt des Seminars bildeten ethische Fragestellungen, die in verschiedenen Vorträgen und zahlreichen Diskussionen thematisiert wurden. Es zeigte sich, dass die Probleme in diesem Bereich komplex und vielschichtig sind. Sie reichen von Datenschutz und Privatsphäre bis hin zu Diskriminierung und mangelnder Entscheidungstransparenz.

Insbesondere in der Diskussion zu Telematik-Tarifen wurde deutlich, dass der mit der Überwachung einhergehende Verlust an Privatsphäre von den meisten Anwesenden nicht als problematisch eingeordnet wurde. Dies lag zum einen daran, dass Kunden einen solchen Tarif frei auswählen können und daher selbst die Informationen preisgeben. Zudem lässt sich das Risiko (und damit auch die Prämie) besser bestimmen, was einen erheblichen Vorteil gegenüber gewöhnlichen Tarifen darstellt. Auch beim Einsatz von KI zur Aufdeckung von Versicherungsbetrug überwiegen nach Auffassung der Workshopbeteiligten die Vorteile.

Einen kritischeren Standpunkt nahmen die Anwesenden bei der Verarbeitung von sehr privaten Daten (etwa Erkenntnisse aus einer Genanalyse) und bei diskriminierenden Entscheidungen ein. Der Einsatz von KI darf nicht dazu führen, dass Versicherungsnehmer diskriminiert werden oder (mittelbar) Druck auf sie ausgeübt wird, höchstpersönliche Daten preiszugeben.

C. Perspektiven der künftigen Zusammenarbeit

Der Workshop fand bei allen Beteiligten ein sehr positives Echo. Fazit war, dass die Vorträge und Diskussionen zu einem international relevanten und aktuellen Themenfeld neue Erkenntnisse verschafft und Einblicke in unterschiedliche Sichtweisen geboten haben. Das persönliche Zusammentreffen wurde daher auch dazu genutzt, gemeinsam über künftige Perspektiven der Zusammenarbeit nachzudenken. Dabei stellte sich heraus, dass die Herausforderungen des Klimawandels für den Versicherungssektor als ein aktuelles und spannendes Themenfeld angesehen werden, bei dem sich auch an die Erkenntnisse aus dem Workshop anknüpfen lässt, soweit es um den Einsatz von AI geht. Es wird daher ins Auge gefasst, im Jahr 2023 einen Folgeworkshop an der FUB abzuhalten.

<pdf>