Skapade program driver på det kvinnofientliga

I dagens digitala era är algoritmer på sociala medier portvakter till våra virtuella liv. Det vill säga de liv vi lever på internet och huvudsakligen genom sociala medier. Algoritmer är konstruerade för att optimera användarupplevelsen. De anpassar det innehåll vi får se baserat på våra tidigare interaktioner och beteenden kopplade till innehållet på internet.

Även om vi ofta talar om den tekniska utvecklingen med algoritmer och AI i termer av matematik och binära system, är det viktigt att komma ihåg att algoritmer inte existerar med en matematisk absolut objektivitet. De är snarare människoskapade produkter i form av kodning och programmering. Algoritmer påverkas således av de värderingar, preferenser och prioriteringar som människor för in i deras utveckling och användning. De formas och förfinas i samspel med användarnas, människornas, handlingar och interaktioner.

Denna dynamik mellan människa och algoritm är avgörande för att förstå hur dessa digitala verktyg integreras i samhället och hur de påverkar våra åsikter, våra värderingar och vår tillvaro.

Enligt en ny studie från bland annat Universitetet i Kent har forskare under en femdagarsperiod sett en algoritmstyrd fyrdubbling av misogynt innehåll på den sociala medieplattformen TikTok. Forskarna har sedan spårat hur detta innehåll av könsmässiga fördomar och stereotyper sprids från skärmen till skolgården där det sedan normaliseras. Trots att studien är utförd på TikTok, gäller resultatet sannolikt även för andra sociala medieplattformar.

Det är en mänsklig hand som har skapat algoritmerna som styr vad som blir synligt i sociala medier, skriver Carolina Bergquist.

Foto: Fredrik Sandberg/TT

Den algoritmiska förstärkningen av misogyni och risken att den nya teknologin cementerar exempelvis stereotypa könsroller är varken ny eller okänd. Redan 2019 visade rapporten "I'd blush if I could" hur digitala serviceassistenter som Siri och Alexa bidrog till att upprätthålla stereotyper. Detta dels genom att tilldela just servicefunktioner ett kvinnligt namn och en kvinnlig röst, dels genom att programmera dessa för att utstå bland annat sexuella trakasserier. 

Sedan lanseringen av AI-verktyget Chat GPT i slutet av 2022 har AI-verktygen utvecklats från att vara serviceinriktade till att vara involverade i mer strategiska, kunskapsintensiva uppgifter, såsom att ge djupgående svar på komplexa frågor och ge analytiskt stöd. Såvitt jag kan se, heter inte längre dessa verktyg Siri eller Alexa, utan Jasper och Bard.

Varken algoritmer eller AI-verktyg är produkter av matematik, utan snarare av mänsklig skapelse. Därför är det hög tid att säkerställa att den nya teknologin inte bara återspeglar samhällets värderingar, utan också arbetar för att utmana och förändra dem till det bättre.

Carolina Bergquist är jurist och tidigare ledarskribent i SN. Hon medverkar som fristående krönikör.