🎧 Was passiert rechtlich, wenn nicht mehr der Mensch selbst auf „Kaufen“ klickt, sondern ein KI-Agent eigenständig auswählt und bestellt? In Folge #144 von „Alles Legal – Fintech-Recht kompakt“ sprechen wir darüber, wem solche Entscheidungen zugerechnet werden, welche Rolle das Mandat des Nutzers spielt und wo die Grenzen autonomer KI-Agenten liegen. Jetzt reinhören!
Wenn KI-Agenten Kaufentscheidungen übernehmen
KI-Agenten können längst mehr, als Informationen zu suchen und passende Angebote vorzuschlagen. Im Agentic Commerce können sie innerhalb bestimmter Vorgaben selbst Entscheidungen treffen und Käufe auslösen.
Doch was bedeutet das für unser bestehendes Recht? Darüber spricht Moderatorin Dana Wondra von Payment & Banking mit Annerton-Partner und PayTechLaw-Autor Frank Müller.
Im Mittelpunkt steht eine entscheidende Frage: Wem wird eine Entscheidung rechtlich zugerechnet, wenn ein KI-Agent sie eigenständig getroffen hat?
Kann eine KI selbst einen Vertrag schließen?
Stellen Sie sich vor, Sie möchten nach Barcelona fliegen und geben Ihrem KI-Agenten lediglich einige Parameter vor: maximal 300 Euro, Abflug am Vormittag und kein Zwischenstopp. Welchen konkreten Flug der Agent auswählt, überlassen Sie ihm.
Damit verschiebt sich ein entscheidender Moment des Onlinehandels. Statt dass ein Mensch am Ende selbst ein Angebot auswählt und auf „Kaufen“ klickt, kann der Agent diesen Schritt übernehmen.
Eine KI kann nach geltendem Zivilrecht allerdings weder selbst Vertragspartner noch Stellvertreter sein. Hinter einer Willenserklärung muss weiterhin eine natürliche oder juristische Person stehen. Damit stellt sich die Frage, auf welcher rechtlichen Grundlage das Handeln eines autonomen Agenten dem Nutzer zugerechnet werden kann.
Frank Müller erläutert in der Folge unterschiedliche Ansätze – von der klassischen Stellvertretung über die Botenschaft und Computererklärung bis hin zur sogenannten Blanketterklärung.
Das Mandat bestimmt den Handlungsspielraum
Ein besonders interessanter Ansatz ist das Mandatsmodell. Der Nutzer muss dabei nicht jede einzelne Entscheidung im Voraus treffen. Stattdessen definiert er einen Handlungsspielraum, innerhalb dessen der KI-Agent selbstständig agieren darf.
Wie weit dieser reicht, hängt vom konkreten Mandat ab: Welchen Betrag darf der Agent maximal ausgeben? Bei welchen Händlern darf er einkaufen? Welche Eigenschaften muss ein Produkt oder eine Dienstleistung erfüllen?
Der entscheidende Grundsatz lautet: Ein KI-Agent sollte nicht mehr tun können, als der Nutzer nachweisbar an ihn delegiert hat.
Damit gewinnen technische Lösungen an Bedeutung, mit denen Mandate, Berechtigungen und Limits maschinenlesbar festgelegt und dokumentiert werden können. Denn im Streitfall muss nachvollziehbar sein, welche Befugnisse der Nutzer tatsächlich erteilt hat.
Wer haftet, wenn der Agent das Mandat überschreitet?
Besonders deutlich wird die Bedeutung dieser Grenzen, wenn etwas schiefgeht. Was passiert beispielsweise, wenn der Agent statt eines Flugs für maximal 300 Euro ein Ticket für 450 Euro bucht?
Ob und wem dieser Vertrag zugerechnet werden kann und wer für eine Überschreitung einstehen muss, hängt unter anderem vom zugrunde gelegten rechtlichen Modell und davon ab, ob die Überschreitung des Mandats für die Beteiligten erkennbar war.
Für Anbieter von Agentic-Commerce-Lösungen ergibt sich daraus eine wichtige Konsequenz: Nicht möglichst große Autonomie sollte im Mittelpunkt stehen, sondern kontrollierbare und nachweisbare Autonomie.
Nutzer, Agent, Anbieter und Händler müssen eindeutig identifizierbar sein. Ebenso müssen Mandate und Limits klar festgelegt und Entscheidungen nachvollziehbar dokumentiert werden.
Viele der dafür notwendigen rechtlichen Instrumente existieren bereits. Die eigentliche Herausforderung besteht darin, sie auf autonome KI-Agenten und neue technische Abläufe zu übertragen.
Und mit dem Vertragsschluss ist noch längst nicht alles geklärt: Wie darf ein KI-Agent anschließend eigentlich bezahlen? Genau darum geht es in der nächsten Folge von „Alles Legal – Fintech-Recht kompakt“.
Über diesen Podcast
Alles Legal – Fintech-Recht kompakt liefert jede Woche spannende Insights zum Thema Recht und Compliance im Banking.
Der Podcast ist eine Kooperation zwischen Payment & Banking und PayTechLaw. Wir erklären Ihnen die rechtlichen Entwicklungen der Finanzwelt kompakt, verständlich und jeden Mittwoch neu. Seit 2021 geben die PayTechLaw-Autor:innen und Annerton-Rechtsanwälte dem Podcast die nötige Tiefe, ohne dabei im Juristen-Kauderwelsch zu versinken. Egal ob PSD3, DORA oder FiDA: Wir liefern Ihnen den Kontext, den Sie brauchen. In 20 Minuten. Ohne Umwege.
