Studie varnar: AI kan förstärka polariseringen på sociala medier

Artificiell intelligens skulle kunna förstärka polariseringen på sociala medier, varnar forskare och studenter vid Concordia, vilket väcker oro över yttrandefrihet och desinformation.

Även om polarisering på sociala medier inte är något nytt, varnar forskare och studentaktivister vid Concordia University för att artificiell intelligens kan förvärra problemet avsevärt.

”Istället för att visa vad som faktiskt händer eller innehåll från journalisterna som rapporterar om det, ser vi överdramatiserad AI-konst om saker vi borde bry oss om politiskt […] Det skapar verkligen distans mellan människor och tar bort ansvar” sa Danna Ballantyne, externa affärer och mobiliseringskoordinator för Concordia Student Union, som rapporterat av The Link.

Hennes oro speglar ny forskning från Concordia, där professor Rastko R. Selmic och doktorand Mohamed N. Zareer visade hur förstärkningsinlärningsrobotar kan främja splittring online. ”Vårt mål var att förstå vilken tröskel artificiell intelligens kan ha på polarisering och sociala medienätverk, och simulera det […] för att mäta hur denna polarisering och oenighet kan uppstå.” sa Zareer som rapporterat av The Link.

Resultaten antyder att algoritmer inte behöver privat data för att skapa splittring, där grundläggande signaler som följarräkningar och nyliga inlägg är tillräckliga. ”Det är oroande, eftersom [medan] det inte är en enkel robot, är det fortfarande en algoritm som du kan skapa på din dator […] Och när du har tillräckligt med datorkraft, kan du påverka fler och fler nätverk” förklarade Zareer för The Link.

Detta speglar en bredare forskning som visar hur förstärkningsinlärning kan användas för att driva samhällen isär. Studien av Concordia använde Double-Deep Q-learning och visade att fientliga AI-agenter kan ”flexibelt anpassa sig till förändringar inom nätverket, vilket gör att det effektivt kan utnyttja strukturella sårbarheter och förstärka splittringen bland användare,” som forskningen noterade.

Visst, Double-Deep Q-learning är en AI-teknik där en bot lär sig optimala åtgärder genom försök och misstag. Den använder djupa neurala nätverk för att hantera komplexa problem och två värdeuppskattningar för att undvika övervärdering av belöningar. På sociala medier kan den strategiskt sprida innehåll för att öka polariseringen med minimal data.

Zareer varnade för att beslutsfattare står inför en svår balans. “Det är en hårfin linje mellan att övervaka och censurera och att försöka kontrollera nätverket,” sa han till The Link. För lite tillsyn låter botar manipulera konversationer, medan för mycket riskerar att förtrycka yttrandefriheten.

Under tiden är studenter som Ballantyne rädda för att AI suddar ut levda erfarenheter. ”AI skrotar helt och hållet det,” sa hon till The Link.