Verantwortung wird nicht mitdelegiert
Ein Unternehmen kann Arbeit delegieren. Seine Verantwortung für Kunden, Beschäftigte und Geschäftspartner verschwindet dadurch nicht. Governance bedeutet hier, Ziele, Mandate, Kontrolle und Zuständigkeit für konkrete Vorgänge festzulegen. Sie ist die Voraussetzung dafür, dass produktive Delegation nicht in zufällige Machtverteilung übergeht.
Die Geschäftsführung ordnet Auftrag, Freigabe, technischen Betrieb und Fehlerbearbeitung konkreten Personen zu. Auch bei mehreren beteiligten Diensten bleibt erkennbar, wer eine Entscheidung verantwortet und wer bei einer Störung handelt. Eine Erstattung braucht etwa einen anderen Freigabeweg als das Abrufen einer Lieferauskunft.
Die Handlungsmatrix
| Handlung | Typische Einstufung | Passende Kontrolle |
|---|---|---|
| Öffentliche Produktdaten lesen | begrenzte Außenwirkung | Zugangs- und Lastgrenzen |
| Vertrauliche Preise abrufen | geschützter Kontext | Organisations- und Rollenprüfung |
| Angebot vorbereiten | noch keine verbindliche Ausführung | Daten- und Plausibilitätsprüfung |
| Bestellung auslösen | kommerzielle Verpflichtung | gültige Zustimmung oder begrenztes Mandat |
| Adresse oder Vertrag ändern | erhebliche Kundenwirkung | spezifische Rechte und Nachvollziehbarkeit |
| Geld erstatten | finanzielle Wirkung | Betragsgrenze und eindeutiger Vorgang |
Für die konkrete Ausgestaltung kommen Produkt, Markt, Vertragslage und die Rolle der Beteiligten hinzu. Die Tabelle hilft Ihrem Team, für jeden Anwendungsfall die zuständige Person und die nötige Kontrolle festzulegen.
Datenschutz entlang des Zwecks
Für Kundendaten gelten Zweckbindung, Datenminimierung und angemessene Sicherheit. Bei Agenten betrifft das besonders Gespräche, Präferenzen und den Austausch mit weiteren Diensten. Legen Sie für jede Verwendung fest, welche Daten benötigt werden, auf welcher Grundlage sie verarbeitet werden und wie der Kunde seine Rechte ausübt. [S59, S119]
Trennen Sie Informationen, die der Händler für eine Lieferung benötigt, von privaten Überlegungen, die der persönliche Agent verwaltet. Ein Geschenkauftrag kann sensible Zusammenhänge verraten. Der Verkäufer benötigt möglicherweise nur Produkt, Adresse und Versandhinweise, nicht den emotionalen Hintergrund des Kaufs.
Rechtliche Pflichten bleiben konkret
Verbraucherinformation, Vertragsschluss, Widerruf und Zahlungsanforderungen gelten auch in einer agentischen Oberfläche. Gesamtbedingungen und die Zustimmung des Kunden müssen im Ablauf nachvollziehbar bleiben. Dieses Kapitel beschreibt den europäischen und deutschen Rahmen zum 15. Oktober 2026. Für die Vertragsgestaltung zählt anschließend der jeweilige Absatzmarkt. [S61, S120]
Für einen Shopping-Assistenten ist Artikel 50 Absatz 1 des EU AI Act besonders konkret: Anbieter müssen die direkte Interaktion mit KI erkennbar machen, sofern das für eine verständige Person im jeweiligen Zusammenhang nicht ohnehin offensichtlich ist. Die Information muss spätestens beim ersten Kontakt klar und zugänglich sein. Die Transparenzregeln gelten seit dem 2. August 2026. Ein als KI erkennbarer Einstieg und ein erreichbarer menschlicher Service gehören deshalb in die Gestaltung des Einkaufswegs. Weitere Pflichten hängen vom konkreten System und Verwendungszweck ab. [S60, S161]
Wer ein KI-System im Unternehmen einsetzt, ist nach dem AI Act regelmäßig Betreiber. Wer es entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt, kann Anbieter sein. Für einen Händler macht es deshalb einen Unterschied, ob er einen fremden Assistenten nutzt oder ein eigenes System bereitstellt. Die Informationspflicht bei direkter KI-Interaktion aus Artikel 50 Absatz 1 richtet sich an Anbieter; die konkrete Rolle folgt aus dem jeweiligen Einsatz. [S162, S161]
Menschliche Kontrolle muss bedienbar sein
Eine Freigabe hilft nur, wenn der Mensch erkennen kann, was er bestätigt. Zeigen Sie die entscheidenden Bedingungen, Abweichungen und Folgen. Vermeiden Sie Bestätigungsflut: Wenn jede harmlose Abfrage eine Freigabe verlangt, wird die wirklich wichtige schnell zur Routine.
Widerruf muss wirksam sein. Er sollte neue Handlungen verhindern und laufende Vorgänge in einen nachvollziehbaren Zustand bringen. Eine bereits versandte Bestellung lässt sich nicht durch Löschen des Chats rückgängig machen. Die Oberfläche muss zwischen Entzug künftiger Rechte und Korrektur bereits eingetretener Folgen unterscheiden.
Beschreiben Sie für jeden relevanten Anwendungsfall eine Matrix der Mandate und Rechte und einen verständlichen Freigabemoment. So führt das Unternehmen auch die Arbeit seiner Agenten. Der Papierordner mit „KI-Governance“ auf dem Rücken ist nur ihre mögliche Aufbewahrungsform.
Wenn der Agent den falschen Kauf auslöst
Eine Bestellung kann auch dann rechtlich verbindlich sein, wenn Software sie übermittelt. Bei automatisierten Erklärungen zählen Inhalt und Zuordnung zum Menschen oder Unternehmen. Das OLG Düsseldorf behandelte 2016 eine automatisch erzeugte Auftragsbestätigung als Vertragsannahme des Händlers. Entscheidend war, wie die Nachricht zu verstehen war. Für den agentischen Einkauf sind deshalb der erteilte Auftrag und die tatsächlich übermittelte Erklärung sorgfältig auseinanderzuhalten. [S146]
Die Reisende erlaubt 180 Euro, ausgeführt werden 230 Euro. Nun muss sich klären lassen, ob das System den Auftrag überschritten hat, ein falscher Preis übermittelt wurde oder ein Dritter den Zugang missbrauchte. Davon hängen die Wirksamkeit des Kaufs, eine mögliche Anfechtung und spätere Ersatzansprüche ab.
§ 164 BGB regelt die Wirkung einer Erklärung durch einen Vertreter innerhalb seiner Vertretungsmacht. § 177 behandelt einen Vertrag ohne Vertretungsmacht und die nachträgliche Genehmigung. Bei Software ist zuerst zu klären, wem ihre Erklärung rechtlich zugeordnet wird; sie ist selbst kein menschlicher Vertreter. Die Vorschriften helfen, die Rolle eines tatsächlich beteiligten Vertreters und dessen Befugnis zu beurteilen. [S132, S133]
Der Shop bindet die Zustimmung an die konkrete Angebotsfassung. Enthält diese 180 Euro, wird eine Bestellung über 230 Euro vor der Ausführung gestoppt und zur erneuten Entscheidung vorgelegt. Der Händler sollte Auftrag, Angebotsfassung, Zustimmung und ausgeführten Preis zuordnen können. Der Zahlungsdienst dokumentiert seine Autorisierung, der Shop seine Bestellung und der Agentenanbieter den übernommenen Auftrag. So lässt sich ein Streit anhand des tatsächlichen Ablaufs bearbeiten.
Verbraucherrechte reisen mit
Bei erfassten elektronischen Verbraucherverträgen verlangt § 312j BGB hervorgehobene Informationen unmittelbar vor der Bestellung und eine ausdrückliche Bestätigung der Zahlungspflicht. Ein universelles „Weiter“ im Chat ist dafür keine verlässliche Gestaltung. Wie ein konkreter Agentenablauf die Anforderungen erfüllt, muss anhand seiner Darstellung und Kommunikation beurteilt werden. [S134]
Das gesetzliche Widerrufsrecht bleibt bei entsprechenden Fernabsatzverträgen relevant. Es beträgt grundsätzlich 14 Tage; Beginn und Ausnahmen hängen von den einschlägigen Regeln ab, etwa bei bestimmten individuell angefertigten Waren. Lassen Sie Pflichtinformationen den Kunden nachweisbar erreichen und halten Sie Widerruf, Gewährleistung und freiwillige Rückgabe auseinander. [S135, S136, S61]
Zahlungserlaubnis und starke Authentifizierung
Nach der EBA-Einordnung zur PSD2 können bestimmte vom Zahlungsempfänger ausgelöste Zahlungen anders behandelt werden als vom Zahler initiierte Transaktionen. Ein aus der Ferne erteiltes Zahlungsmandat kann selbst starke Kundenauthentifizierung verlangen. Ein Auftrag an einen Einkaufsagenten begründet deshalb keine allgemeine Ausnahme von SCA. Klären Sie mit dem Zahlungsdienst, wie der konkrete Ablauf eingeordnet und bestätigt wird. [S137]
Datenzugang und Preisentscheidungen in Europa
Artikel 6 Absatz 10 des Digital Markets Act gibt gewerblichen Nutzern benannter Plattformdienste Zugang zu bestimmten Daten ihres eigenen Geschäfts; für personenbezogene Daten gelten zusätzliche Voraussetzungen, insbesondere die erforderliche Einwilligung der Endnutzer. Das Unternehmensportal der Kommission verlinkt die Datenzugänge und zum Teil Wege für zusätzliche Anfragen bei den Anbietern. Für Händler lohnt sich die Prüfung, welche Bestell- und Leistungsdaten aus ihrem konkreten Kanal für die eigene Auswertung verfügbar sind. [S138, S147]
Preisagenten unterliegen weiterhin dem Wettbewerbsrecht. Besonders sensibel ist die Koordination konkurrierender Unternehmen über gemeinsame Anbieter, Daten oder Regeln. Die EU-Leitlinien zur horizontalen Zusammenarbeit behandeln auch den Informationsaustausch über Algorithmen. Ein Händler sollte seine eigenen Preise aus eigenen Kosten, Zielen und zulässigen Marktinformationen ableiten und die Zusammenarbeit mit Dritten entsprechend gestalten. [S139]
Ein Auftrag mit gültiger Zustimmung kann trotzdem durch fremde Anweisungen oder missbrauchten Zugang verändert werden. Der Schutz beginnt an diesen Übergängen.