Zu den ersten KI-Unternehmen, die von der Federal Trade Commission als Verbraucherbetrüger entlarvt wurden, gehört DoNotPay. Das Unternehmen wurde ursprünglich als „der erste Roboteranwalt der Welt“ beworben, der „jeden mit einem Mausklick verklagen“ könne.
Am Mittwoch hat die FTC angekündigt dass es Maßnahmen ergriffen hat, um DoNotPay davon abzuhalten, falsche Behauptungen aufzustellen, nachdem es erfahren hatte, dass das KI-Startup keine Tests durchgeführt hatte, „um festzustellen, ob die Ergebnisse seines KI-Chatbots dem Niveau eines menschlichen Anwalts entsprechen“. DoNotPay hat auch „keine Anwälte engagiert oder beauftragt“, um bei der Überprüfung der KI-Ergebnisse oder der Bestätigung der Rechtsansprüche von DoNotPay zu helfen.
DoNotPay übernahm keine Haftung. Um die Vorwürfe beizulegen, DoNotPay habe gegen den FTC Act verstoßen, erklärte sich das KI-Startup jedoch bereit, 193.000 US-Dollar zu zahlen, wenn die Zustimmungsvereinbarung der FTC nach einer 30-tägigen öffentlichen Kommentierungsfrist bestätigt wird. Darüber hinaus erklärte sich DoNotPay bereit, „Verbraucher, die den Dienst zwischen 2021 und 2023 abonniert haben“, vor den „Einschränkungen der rechtsbezogenen Funktionen des Dienstes“ zu warnen, so die FTC.
Im Rahmen des Vergleichs wäre es DoNotPay künftig auch untersagt, unbegründete Behauptungen aufzustellen, dass eine seiner Funktionen einen professionellen Dienst ersetzen könne.
Ein Sprecher von DoNotPay sagte gegenüber Ars, dass das Unternehmen „erfreut darüber ist, konstruktiv mit der FTC zusammengearbeitet zu haben, um diesen Fall beizulegen und diese Probleme vollständig zu lösen, ohne eine Haftung einzugestehen.“
„Die Beschwerde bezieht sich auf die Nutzung von Diensten durch einige Hundert Kunden vor einigen Jahren (von Millionen von Menschen), die diese Dienste schon lange nicht mehr nutzen“, sagte der Sprecher von DoNotPay.
Die Einigung der FTC mit DoNotPay ist Teil einer größeren Anstrengung der Behörde, gegen betrügerische KI-Behauptungen vorzugehen. Vier weitere KI-Unternehmen wurden am Mittwoch mit Zwangsmaßnahmen belegt, teilte die FTC mit, und FTC-Vorsitzende Lina Khan bestätigte, dass die sogenannte „Operation AI Comply“ der Behörde weiterhin die Versuche von Unternehmen überwachen wird, „Verbraucher in betrügerische Systeme zu locken“ oder KI-Tools zu verwenden, um „Täuschungen zu beschleunigen“.
„Der Einsatz von KI-Tools, um Menschen auszutricksen, zu täuschen oder zu betrügen, ist illegal“, sagte Khan. „Die Durchsetzungsmaßnahmen der FTC machen deutlich, dass es keine Ausnahme von den geltenden Gesetzen für KI gibt. Indem sie gegen unfaire oder betrügerische Praktiken in diesen Märkten vorgeht, stellt die FTC sicher, dass ehrliche Unternehmen und Innovatoren eine faire Chance bekommen und die Verbraucher geschützt werden.“
DoNotPay hat nie einen Roboteranwalt getestet
DoNotPay wurde 2015 zunächst als kostenlose Möglichkeit zur Anfechtung von Strafzetteln gegen Falschparken eingeführt. Bald darauf erweiterte das Unternehmen seine Dienste auf angeblich 200 Rechtsgebiete – von Vertragsverletzungen über einstweilige Verfügungen bis hin zu Versicherungsansprüchen und Scheidungsvereinbarungen.
Als DoNotPay seine juristischen Dienstleistungen erweiterte, verteidigte das Unternehmen seinen innovativen Ansatz, Anwälte zu ersetzen, räumte jedoch ein, dass dieser auf scheinbar wackeligen Beinen stand. Im Jahr 2018 erklärte DoNotPay-CEO Joshua Browder bestätigt gegenüber dem ABA Journal dass die Rechtsdienstleistungen „ohne Aufsicht eines Anwalts“ erbracht wurden. Er sagte jedoch, dass er nur „ein bisschen besorgt“ sei über Drohungen, DoNotPay wegen unerlaubter Anwaltspraxis zu verklagen. Da DoNotPay kostenlos sei, gehe er davon aus, dass er einige rechtliche Auseinandersetzungen vermeiden könne.
Laut der FTC BeschwerdeDoNotPay begann 2019 damit, seinen Abonnenten alle zwei Monate 36 US-Dollar in Rechnung zu stellen und stellte in seinen Anzeigen mehrere falsche Behauptungen auf, um offenbar die Zahl der Abonnements anzukurbeln.
