Enterprise Liability for Human-AI-Decisions

A Multidisciplinary Approach for Identifying Principals’ Duties of Care

Abstract

Obwohl KI-Systeme fortlaufend verbessert werden, werden sie in den meisten Bereichen den Menschen in naher Zukunft nicht vollständig ersetzen. Vielmehr werden KI-Systeme und Menschen zunehmend Seite an Seite arbeiten. Für viele Unternehmen birgt die Integration von Mensch-KI-Interaktionen ein großes Potenzial. Die Einführung von KI unter Beibehaltung menschlicher Kontrolle kann es ermöglichen, sowohl das Potenzial der KI als auch das des Menschen vollständig auszuschöpfen. Mensch-KI-Interaktionen bringen jedoch auch spezifische Schadensrisiken mit sich, was die Frage nach der Haftung der Unternehmen aufwirft. In Rechtsordnungen, in denen die Haftung des Geschäftsherrn ein Verschulden voraussetzt – wie in der Regel in Deutschland –, hängt die Antwort auf diese Frage maßgeblich vom Umfang der Sorgfaltspflichten des Geschäftsherrn ab. Diese Pflichten werden in diesem Beitrag untersucht. Im Kontext von Mensch-KI-Interaktionen kann die Komplexität der menschlichen Entscheidungsprozesse, der KI-Systeme sowie des Zusammenwirkens von Mensch und KI die Bestimmung der Sorgfaltspflichten des Geschäftsherrn erheblich erschweren. Der Beitrag zeigt, wie ein multidisziplinärer Ansatz dazu beitragen kann, einige Hürden zu überwinden. Er enthält keine abschließende Aufzählung der Sorgfaltspflichten des Geschäftsherrn, sondern stellt einen methodischen Rahmen vor und veranschaulicht das Potenzial nicht-juristischer KI-Forschung anhand konkreter Beispiele. Der Beitrag geht zudem kurz auf den mittlerweile aufgegebenen Vorschlag für eine Richtlinie über KI-Haftung ein.