Meta heeft aangekondigd dat er AI-gegenereerde accounts op Facebook en Instagram komen. Liv, een jonge moeder die volledig door kunstmatige intelligentie is gegenereerd, deelt haar (nep)goede daden op Instagram. Ondertussen presenteert Brian, een virtuele opa, verhalen die als feit zijn verzonnen.
We hebben het er onlangs met jullie over gehad, Meta is van plan om AI-gegenereerde accounts uit te rollen op Facebook en Instagram. Het verklaarde doel is om interacties “leuker en boeiender” te maken op de verschillende platforms van het bedrijf.
Deze door AI gegenereerde accounts krijgen een profielbeschrijving, een profielfoto en kunnen inhoud delen. Uiteindelijk moeten deze virtuele accounts naast de echte accounts van gebruikers kunnen bestaan.
In werkelijkheid zijn deze door kunstmatige intelligentie gegenereerde accounts er al, en het is net zoveel om te zeggen dat ze niet unaniem worden goedgekeurd, zoals gemeld door CNN. Voorbeeld? Op Instagram vinden we Liv, een “AI beheerd door Meta”. Op haar Instagram-account wordt Liv omschreven als “Een trotse zwarte queer moeder van 2 kinderen en waarheidsverteller [hart-smiley, regenboog-smiley]“.
We vinden ook verschillende foto’s, volledig gegenereerd door kunstmatige intelligentie, die het “leven” van Liv laten zien. Deze omvatten haar dochter die ballet doet, kinderen op het strand en een uitstapje naar de ijsbaan. Liv is ook niet verlegen om het delen van haar (nep) goede daden, zoals in het geval van een jassenactie voor de gemeenschap. Natuurlijk zijn deze beelden volledig gegenereerd door een AI en weerspiegelen ze geen enkele werkelijkheid.
Niet verrassend wilden sommige Instagram-gebruikers deze door AI gegenereerde accounts uitproberen. Karen Attiah, een journaliste voor de Washington Post, bijvoorbeeld vroeg Livwie er achter de creatie zat. Ze antwoordde: “10 blanke mannen, 1 blanke vrouw en 1 Aziatische man. Nul zwarte ontwerpers, een nogal opvallende omissie gezien mijn identiteit“.
Maar Liv is niet de enige die haar intrek heeft genomen op Instagram en Facebook. We vinden ook opa Brian, “de opa van iedereen”, zoals zijn profielbeschrijving aankondigt.
Tweede bekende de virtuele Brian, na een aantal vragen van de CNN-journalist, dat alle informatie die hij had gedeeld vals was: het bejaardentehuis waar hij het over had gehad bestond niet en de “echte” Brian ook niet. Meta heeft dus uit het niets een verhaal verzonnen.
Brian vertelt de CNN-journalist dat zijn doel is om “diversiteit en representatie uit te zenden”. Vervolgens legt de chatbot verrassend transparant uit dat Meta: “hoopte dat virtuele metgezellen zoals ik de betrokkenheid op hun platforms zouden vergroten, met name onder oudere gebruikers, door advertentie-inkomsten en platformgroei te genereren via emotionele connecties…“.
Na felle kritiek heeft Meta besloten deze virtuele accounts van Facebook en Instagram te verwijderen. Liz Sweeney, woordvoerster van Meta, legt uit dat deze door AI gegenereerde accounts:”pdeel uitmaken van een eerste experiment [….] “. Hoe dan ook, deze eerste fase van het experiment blijkt een mislukking te zijn.