Die für jedermann verfügbaren KI-Systeme sind nicht nur in meinem anwaltlichen Alltag eine Arbeitserleichterung, sondern werden auch gerne – so berichten mir Freunde – zur Anlageberatung genutzt. «Der macht mir bessere Aktienvorschläge als mein Kundenberater», hörte ich kürzlich. 

Die Steigerung davon wäre, wenn KI-Agenten die Trades selbständig vornehmen, Aktien kaufen und verkaufen. 

Der Glaube an die Richtigkeit und Vollständigkeit von Aktien-Empfehlungen dürfte bereits eingeschränkt sein, weil KI-Systeme in der Regel mit einem Disclaimer «KI kann Fehler machen. Bitte überprüfe die Antworten» warnt. 

Und trotzdem ist das Vertrauen in die Aussage von KI-Systemen erstaunlich, scheinen diese doch unbestechlich und haben auch kein Provisionsinteresse – sicherlich eine Herausforderung für Kundenberater. 

AGB der Anbieter schliessen Haftung aus

Für Finanzintermediäre, die ebenso KI- Anwendungen nutzen, lohnt sich durchaus ein Blick in die AGB und Terms & Conditions der Modell-Anbieter wie ChatGPT oder Anthropics. Denn diese schliessen faktisch jede Haftung aus und begrenzen diese. Schon visuell nicht zu übersehen wird in den AGB in Grossbuchstaben der Ausschluss von Garantien oder der Haftung aufgeführt. 

Auch die Gesamthaftung wird beschränkt und zwar – je nachdem welcher Betrag höher ist – die vom Nutzer in den letzten 12 Monaten gezahlten Gebühren oder einhundert Dollar. Hinzukommt, dass der Gerichtsstand bei am Sitz des Anbieters, also in den USA. 

Eine Rechtsdurchsetzung ist damit faktisch ausgeschlossen, es sei denn, der Finanzintermediär hat gewisse Marktmacht , finanzielle Potenz oder individuelle Vereinbarungen. Daher ist in der Regel ein Anspruch gegen den Anbieter eines KI-System faktisch kaum umsetzbar. 

Nutzer haften für Schlechterfüllung

Wer als Unternehmer KI-Systeme im beruflichen Alltag einsetzt, haftet für das Ergebnis und eine etwaige Schlechterfüllung. Die Exkulpation «Die KI hat das erstellt» wird (derzeit) keinesfalls entlasten. 

Nach einer meines Erachtens auch auf KI-Systeme übertragbaren Entscheidung des Bundesgerichts (BGer 4A_305/2021) stellt die Verwendung von Hilfsmitteln wie z.B. eines Computers, welches Market Making automatisiert durchführt, keine unzulässige Substituierung im auftragsrechtlichen Sinne dar. Das heisst: Finanzprodukteanbieter dürfen sich zur Auftragserfüllung KI-Systeme bedienen (muss das möglicherweise sogar aus Sorgfaltspflicht), bleibt dann aber dennoch für das Ergebnis verantwortlich.

Für Arbeitnehmer stellen sich noch weitere Pflichten, insbesondere zum Schutz von Betriebs- und Geschäftsgeheimnissen. Oftmals werden KI-Systeme eingesetzt, obwohl der Arbeitgeber keine Freigabe erteilt hat – die sogenannte «Shadow-AI» ist ein Problem in vielen Unternehmungen. 

Wie man rechtlich damit umgeht? Innerhalb des Unternehmens empfehle ich eine KI-Governance-Strategie und Reglements über den Einsatz von KI. 

Im Verhältnis zum Kunden sollten die Verträge überprüft werden, ob es hinsichtlich der verwendeten Haftungsbedingungen bei dem Einsatz von KI-Systemen (k)einen zu grossen Gap gibt und ob Transparenzhinweise erforderlich sind, was auch ein urheberrechtliches Thema wäre. 

Alles machbar, im Zweifel auch mit KI. Oder mit Modellverträgen wie sie beispielsweise auch SwissICT anbietet. 

Sven Kohlmeier ist Co-Leiter der Rechtskommission swissICT und IT-Fachanwalt bei Wicki Partners. 

swissICT, der grösste ICT-Verband der Schweiz, vernetzt IT-Wirtschaft, Anwenderunternehmen und Fachkräfte. 

In der Kolumne nehmen Juristinnen und Juristen der Rechtskommission von swissICT regelmässig einen Blick auf aktuelle Rechtsfragen rund um Technologie.