KI-Agenten und der EU AI Act: Was Unternehmen beachten müssen
Der EU AI Act betrifft auch kleinere Unternehmen, die KI-Agenten einsetzen — auch wenn die strengsten Regeln vor allem Hochrisiko-Anwendungen betreffen.
Der EU AI Act kategorisiert KI-Systeme nach Risikostufen, und die meisten CRM- oder ERP-nahen KI-Agenten fallen normalerweise nicht in die strengste Kategorie. Trotzdem gibt es auch für „normale" Anwendungen grundlegende Transparenz- und Dokumentationspflichten, die Unternehmen kennen sollten.
Worauf wir bei Projekten achten
Transparenz gegenüber Kunden, wenn sie mit einem KI-System statt einem Menschen interagieren — das ist in vielen Fällen bereits verpflichtend. Außerdem eine nachvollziehbare Dokumentation, welche Daten ein Agent verarbeitet und wofür, besonders wenn personenbezogene Daten im Spiel sind.
Besondere Vorsicht bei automatisierten Entscheidungen
Sobald ein KI-Agent Entscheidungen trifft, die spürbare Auswirkungen auf Personen haben — etwa bei automatisierter Vorauswahl von Bewerbern oder Kreditwürdigkeitsprüfungen — gelten deutlich strengere Anforderungen. In solchen Fällen empfehlen wir grundsätzlich, frühzeitig rechtliche Beratung einzuholen.
Hinweis: Dies ist eine praxisnahe Einordnung, keine Rechtsberatung. Für eine verbindliche rechtliche Bewertung Ihres konkreten Anwendungsfalls empfehlen wir eine Beratung durch eine spezialisierte Kanzlei.
Sie möchten das Thema für Ihr Unternehmen umsetzen? Mehr zu unseren Leistungen: Webdesign.