Bislang ist die Haftung für Schäden durch KI bei Unternehmen noch nicht geregelt.
(Foto: imago images / Jan Huebner)
Berlin Es wäre ein typischer Fall für Schadensersatz und Schmerzensgeld: Ein Krankenhaus setzt einen Pflegeroboter ein. Doch durch eine fehlerhafte Künstliche Intelligenz (KI), aber auch durch falsches Trainieren des Pflegeroboters nehmen Patienten Schaden.
Diese würden daraufhin das Krankenhaus in Anspruch nehmen. Sowohl der Hersteller als auch die Klinik würden gegenüber den Patienten haften. Das Krankenhaus könnte zudem die Firma für die fehlerhafte KI in Regress nehmen.
Bislang ist die Haftung für Schäden durch KI bei Unternehmen allerdings noch nicht geregelt. Für die Wirtschaft bedeutet das Unsicherheit. Der Verband „Die Familienunternehmer“ ruft darum nun nach mehr Regulierung. Der Schritt ist ungewöhnlich, denn normalerweise fordert die Lobbyvereinigung Deregulierung. Nun hält er ein KI-Haftungsrecht für Geschäfte zwischen Unternehmen für nötig.
Verbandspräsidentin Marie-Christine Ostermann sagte dem Handelsblatt: „Würde hierzulande ein klares KI-Haftungsregelwerk geschaffen, könnte das ein wichtiger Standortfaktor für Investoren sein, aber auch für Hersteller, Dienstleister, Verkäufer und Käufer von KI-Waren.“
Das Motto: Lieber Haftung als Gebote und Verbote. So müsse der Staat nicht im Voraus alle „denkbaren Schreckensszenarien“ beschreiben. Ostermann berichtet von positiven Rückmeldungen zu dem Vorstoß aus der Wirtschaft. „Es hätte auch eine Protestwelle gegen neue Regulierung geben können“, sagte sie. „Aber die Unternehmen haben ein Schutzinteresse.“ Zu wissen, dass die Haftung nicht ausufere, sei für die Unternehmen wichtig.
KI-Wirtschaft fordert ebenfalls strengere Regeln für die Technologie
Auch andere Unternehmen, sogar die KI-Wirtschaft selbst, hat bereits strengere Regeln für die Technologie gefordert. OpenAI-Geschäftsführer Sam Altman hält beispielsweise eine nationale oder globale Behörde für nötig, die die Einhaltung von Sicherheitsstandards kontrolliert oder Lizenzen verteilt. Die Firma bietet das Sprachmodell ChatGPT an.
OpenAI-Geschäftsführer Sam Altmann hält beispielsweise eine nationale oder globale Behörde für nötig, die die Einhaltung von Sicherheitsstandards kontrolliert oder Lizenzen verteilt.
(Foto: AP)
Konkret plädiert der Verband „Die Familienunternehmer“ für eine sogenannte Gefährdungshaftung. Diese ist zum Beispiel aus dem Straßenverkehr bekannt. Gemeint ist eine Schadensersatzpflicht, die entsteht, wenn jemand bei einer zulässigen Handlung unvermeidlich andere gefährdet.
Übertragen auf KI würde künftig also ein Geschädigter einen Anbieter in Anspruch nehmen. Schließlich kann er nicht beurteilen, wer tatsächlich für den Produktfehler verantwortlich ist. Innerhalb der Leistungskette, also etwa zwischen Hersteller und Dienstleister, könnte dann beim wirklichen Verursacher der Schaden zurückgefordert werden. Dies würde in der Regel über Versicherungen geschehen.
Basis der Forderung ist ein Rechtsgutachten, das der Göttinger Rechtsprofessor Gerald Spindler im Auftrag des Verbands „Die Familienunternehmer“ erstellt hat. Fazit: Mit Blick auf die Haftung für Schäden durch KI bei Unternehmen kann der deutsche Gesetzgeber tätig werden und nationale Regelungen schaffen. Bislang existieren zwar Entwürfe der Europäischen Kommission zum KI-Haftungsrecht. Diese betreffen aber ausschließlich die Rechte der Verbraucher.
>> Lesen Sie hier: Drogeriemarkt dm führt firmeneigenes ChatGPT ein – aus Angst vor Datenpannen
Demnach wird das Haftungsrecht für KI-gestützte Waren derzeit – relativ unübersichtlich – gleich in vier EU-Vorhaben entwickelt, darunter der KI-Verordnung (AI Act) zum Umgang und Sicherheit von KI.
Reaktionen aus der Politik
Um die Gefährdungshaftung „überschaubar“ zu gestalten, schlägt der Verband Haftungsgrenzen vor. Dies, so meint der Verband, würde dazu dienen, KI-Risiken überhaupt versichern zu können. Er bringt sogar eine Versicherungspflicht ins Spiel, ähnlich der Einlagensicherung von Banken. Der Verband fordert außerdem Zertifizierungen: Geprüfte und zertifizierte KI-Produkte könnten dann als frei von einem Produktfehler gelten.
Die Vorsitzende des Digitalausschusses des Bundestags, Tabea Rößner (Grüne), hat zwar Verständnis für die Forderungen der Wirtschaft. „Schließlich wollen alle Akteure Rechtssicherheit“, sagte sie dem Handelsblatt. Es sei allerdings schon jetzt absehbar, dass es keine pauschale Lösung für die unterschiedlichen Bereiche geben wird.
Es ist ungewöhnlich, dass der Verband nach mehr Regulierung ruft, normalerweise fordert die Lobbyvereinigung Deregulierung.
(Foto: dpa)
„Beim Einsatz von KI-Systemen sind viele Akteure involviert, sodass die Frage der Haftung komplexer betrachtet und gut ausbalanciert werden muss“, sagte sie. Rößner verweist auch auf die Verhandlungen in der EU zur KI-Verordnung.
>> Lesen Sie hier: So hat mir die KI in kurzer Zeit ein neues Business aufgebaut
Diese schaffe die Grundlage dafür, indem sie KI-Systeme risikobasiert unterscheidet. „Es ist daher sinnvoll, Haftungsfragen am Risiko- und Schadenspotenzial des KI-Systems zu orientieren“, sagte sie.
Der digitalpolitische Sprecher der FDP im Bundestag, Maximilian Funke-Kaiser, spricht ebenfalls von neuen haftungsrechtlichen Herausforderungen. „Da KI-Systeme in der Regel darauf abzielen, menschliche Schwächen auszugleichen, halte ich eine allgemeine Gefährdungshaftung für KI-Systeme für problematisch“, sagte er dem Handelsblatt.
Trotzdem bedürfe es einheitlicher Vorschriften auf europäischer Ebene, um Rechtssicherheit zu gewährleisten und Schäden geltend machen zu können.
Mehr: Die Angst der Deutschen vor der Künstlichen Intelligenz