YouTube använde i hemlighet AI för att ändra skapares videor utan tillstånd

YouTube har medgett att de i hemlighet använt AI för att ändra på videor utan att informera skaparna, vilket väcker oro kring tillit och verklighetsförankring i onlineinnehåll.

Rick Beato, som driver en kanal med över fem miljoner prenumeranter, märkte något konstigt i en av sina senaste uppladdningar.

”Jag tänkte ‘oj, mitt hår ser konstigt ut […] Och ju mer jag tittade, desto mer såg det ut som om jag hade smink på mig” sa han till BBC, som först undersökte denna berättelse. Han tillade. Till en början undrade han om han bara inbillade sig. Men det gjorde han inte.

Under de senaste månaderna har YouTube använt AI för att förbättra bilder, släta ut huden och till och med förvränga öron på subtila sätt. Modifieringarna är svåra att upptäcka vid självständig betraktelse, men många innehållsskapare tror att dessa förändringar ger ett konstgjort utseende som liknar AI-genererat innehåll.

”Ju mer jag tittade på det, desto mer upprörd blev jag […] Om jag ville ha denna fruktansvärda över-skarphet hade jag gjort det själv. Men den större frågan är att det ser AI-genererat ut. Jag tror att det starkt missrepresenterar mig och vad jag gör och min röst på internet. Det kan potentiellt urholka förtroendet jag har hos min publik på ett litet sätt. Det stör mig bara.” säger musik-YouTubern Rhett Shull, som rapporterat till BBC.

Shull producerade en video som visar dessa förändringar:

Efter månader av spekulationer bekräftade YouTube att ändringarna var en del av ett test på Shorts. ”Vi genomför ett experiment på utvalda YouTube Shorts som använder traditionell maskininlärningsteknologi för att göra oskärpa, denoise och förbättra klarheten i videor,” sa Rene Ritchie, YouTubes chef för redaktionellt innehåll och skaparrelationer, enligt BBC.

Men experter varnar för att det är mer än bara en teknisk justering. ”Det här fallet med YouTube avslöjar hur AI alltmer är ett medium som definierar våra liv och verkligheter”, säger Samuel Wooley från University of Pittsburgh, enligt rapporter från BBC.

Wooley tillägger, ”Vad händer om människor vet att företag redigerar innehåll uppifrån och ner, utan att ens berätta för innehållsskaparna själva?”