Nevada hat bei seinem Bestreben, den Rückstand an Arbeitslosenanträgen abzuarbeiten, einen neuen Helfer: Google AI. Gizmodo Berichte dass die Initiative eines der Cloud-basierten KI-Modelle des Unternehmens damit beauftragen wird, Protokolle von Berufungsverhandlungen zu analysieren und Vorschläge zu unterbreiten, ob Fälle genehmigt werden sollten. Willkommen in der Zukunft, in der ein Roboter darüber entscheidet, ob Sie das von Ihnen beantragte staatliche Geld erhalten.
Der Nevada Independent schrieb Im Juni wurde bekannt gegeben, dass das KI-Modell, das auf das Arbeitslosengesetz und die Arbeitslosenpolitik des Staates trainiert wurde, die Protokolle virtueller Berufungsverhandlungen analysieren wird. Anschließend wird es eine Entscheidung ausspucken, die ein Staatsangestellter auf Fehler überprüft und entscheidet, ob sie befolgt wird.
Es ersetzt den aktuellen Prozess des Nevada Department of Employment, Training and Rehabilitation (DETR), der für einen echten Menschen durchschnittlich drei Stunden dauert. Carl Stanfield, IT-Administrator des DETR, sagte gegenüber der Nevada Independent dass die KI von Google (die die KI des Unternehmens nutzt) Vertex-Cloud-System) kann innerhalb von fünf Minuten entscheiden. „Die Zeitersparnis ist ziemlich phänomenal“, sagte Stanfield.
Es ist leicht zu verstehen, warum Nevada sich so gerne auf die neue Technologie verlässt. Noch im Juni hatte der Staat Berichten zufolge einen Rückstand von über 10.000 unbearbeiteten Einsprüchen, von denen etwa 1.500 aus der Pandemie stammen. Und wenn die Überprüfungen der Technologie korrekt sind – oder die menschlichen Prüfer ihre Fehler entdecken – könnte dies eine enorme Zeitersparnis bedeuten.
Allerdings könnte es für die Mitarbeiter, die die Fälle prüfen, psychologischen Druck geben, die Schlussfolgerungen der KI abzusegnen. „Wenn Ihnen ein Roboter gerade eine Empfehlung gegeben hat und Sie nur noch ein Kästchen ankreuzen müssen und dann der Druck besteht, einen Rückstand aufzuarbeiten, ist das ein wenig beunruhigend“, sagte Michele Evermore, ehemalige stellvertretende Direktorin für die Modernisierungspolitik bei der Arbeitslosigkeit im Arbeitsministerium, Gizmodo.
Stanfield sagte Gizmodo dass ein Governance-Komitee wöchentlich zusammenkommt, während der Staat das Modell verfeinert, und vierteljährlich, nachdem es in Betrieb genommen wurde, um auf Halluzinationen und Voreingenommenheit zu achten. Für die Kläger könnte viel auf dem Spiel stehen, da das KI-gestützte System ihre Möglichkeit beeinträchtigen könnte, gegen falsche Entscheidungen Berufung einzulegen. „In Fällen, in denen es um Sachfragen geht, kann das Bezirksgericht sein eigenes Urteil nicht an die Stelle des Urteils des Berufungsschiedsrichters setzen“, sagte Elizabeth Carmona, eine leitende Anwältin bei Nevada Legal Services, gegenüber GizmodoMit anderen Worten: Wenn der Mensch, der die Entscheidung überprüft, die Fehler der KI übersieht, hat ein Gericht möglicherweise nicht die rechtliche Befugnis, die Entscheidung aufzuheben.
Ein Politiker aus Nevada drückte es etwas unverblümter aus. „Sind wir verrückt?“, sagte der Senator des Staates Nevada, Skip Daly (D-Reno), gegenüber der Nevada Independent diesen Sommer. „Ich bin einfach skeptisch gegenüber dem ganzen Konzept, sich zu sehr auf Algorithmen und Computer zu verlassen. Ich hoffe, dass wir vorsichtig damit umgehen und nachdenken, bevor wir einfach sagen: ‚Wir müssen schneller oder besser sein als der Nächste.‘“
