Wanneer je moet beslissen of je recht hebt op een werkloosheidsuitkering, wil je misschien niet dat de AI van een techgigant de rechter is. En toch is dat in Nevada nu het geval.
Nevada is niet alleen casino’s en woestijn. Het is nu ook een overheid die Google AI gebruikt om te beslissen of je al dan niet recht hebt op een werkloosheidsuitkering.
Het moet gezegd worden dat de Amerikaanse staat een lange lijst administratieve dossiers achter zich aan sleept, en beslissingen kunnen soms lang aanslepen, en dat is precies waarom de bureaucratie van Nevada heeft besloten om voor AI te kiezen, zoals Gizmodo uitlegt.
Het principe is eenvoudig: de AI van het bedrijf uit Mountain View heeft de beschikking over de transcripties van de hoorzittingen over werkloosheidsberoepen en kan deze samenvatten en een beslissing nemen over de zaak van de persoon.
Het enige geruststellende element: een mens zal de beslissing van de kunstmatige intelligentie altijd moeten valideren en deze zal nooit worden gepubliceerd zonder eerst te zijn bewerkt.
Deze methode is nu officieel aangenomen na een jaar van schijnbaar overtuigende tests, en het is natuurlijk niet zonder vragen te stellen. Het hoeft geen betoog dat we hier een rode lijn overschrijden door generatieve AI een belangrijke beslissing over het leven van een mens toe te vertrouwen, ook al behoudt de mens, nogmaals, de eindbeslissing.