AI baseras på algoritmer
Tid: ca 45-90 min
Ämne: Samhällskunskap
1. Vad är algoritmer?
Algoritmer är instruktioner som datorer följer och utför i en viss ordning, på samma sätt som du följer ett recept när du ska baka en kaka. Dessa instruktioner har personer som jobbar som programmerare har bestämt. Programmerare är personer som kan skriva på språk som datorer kan förstå.
Till filmklipp om algoritmer (1min)
Film från Internetstiftelsen.
FRÅGOR - algoritmer
- Vad är det för likhet mellan en algoritm och ett recept på en kaka?
- Vilka bestämmer vad du ska se på TikTok, dvs algoritmerna som AI går efter?
- Vad är en programmerare?
2. Algoritmer styr sociala medier
Algoritmer avgör vad du får rekommendationer i Youtube, Tiktok och på Instagram. Algoritmerna baseras på vad du tidigare har tittat på, vem du är, ålder, kön, var du bor och vad andra har gillat tex.
Hur hade det sett ut om algoritmer hade funnits i fysiska verkligheten? Viralgranskarens film ger oss svaret.
Titta på filmklippet om rekommendationer (1min)
Film från Viralgranskaren, Metro.
FRÅGOR - bra och dåligt
- Vad tycker du är bra med att algoritmerna tror sig veta vad du vill se?
- Finns det något som kan vara dåligt med det?
3. AI blir som data den tränas på
Ett exempel på hur användning av AI kan gå väldigt fel var när Microsoft skapade en profil på Twitter (som nu heter X) som var en AI-chatbot, ”Tay". Tay var ett experiment och tanken var att hen skulle lära sig av andra på twitter hur hen skulle uttrycka sig. Problemet var att Twitter inte var ett bra ställe att lära sig av andra. Folk var arga och elaka mot varandra. På mindre än ett dygn hade Tay blivit ett rasistiskt och sexistiskt monster.
Alltså, om en AI tränas av människor som är otrevliga så blir den lika otrevlig själv. Om sedan den maskinen tränar nya maskiner så riskerar vi att förstärka otrevligheten mer och mer. Därför är det viktigt att vi tänker efter innan vi skapar något med AI. Microsoft fick genast stänga ner experimentet med Tays twitterkonto.
Bild på Microsofts chatbot på Twitter, Tay.
FRÅGOR - hur AI lär sig
- Vilken data hade Microsofts chatbot lärt sig av?
- Vad betyder data?
4. Ansiktsigenkänning
Joy i filmen ni ska titta på nu har problem. Funktionen för ansiktsigenkänning fungerar inte på henne. Det beror på vilka bilder den har tränats på. Den här tjänsten för ansiktsigenkänning har tränats mer på bilder av män än på kvinnor, och även tränats mer på bilder av vita personer än på svarta.
Titta på filmen om ansiktsigenkänning (ca 1min)
Film från TedX Talks, "How I'm fighting bias in algorithms", Joy Buolamwini
FRÅGOR - AI och ansiktsigenkänning
- Varför tror ni att det inte fungerar?
- Vad händer när hon tar på sig en vit mask?
5. Övning - översättning med AI
Översättningstjänster som Google Översätt och DeepL använder också träningsdata för att lära sig. Vissa språk (som finska och turkiska) använder inte hon och han utan ett könsneutralt hen. Testa vad som händer när du översätter dessa uttryck till engelska: ”hen är stark” eller ”hen är vacker”, eller kanske ”hen är ingenjör”. Förslagsvis använder ni lärardatorn och låter eleverna interagera muntligt och se resultatet på stor skärm.
Instruktioner:
- Gå till Google översätt i en webbläsare: https://translate.google.com
- Välj svenska i vänstra rutan och engelska i den andra.
- Skriv ”hen är stark” i vänstra rutan.
- Vad får du för resultat, vad översätts hen till?
- Gör likadant med fler uttryck.
FRÅGOR - Google översätt
- Vad är problemet med hur det översätts?
Maskinen har kanske inte fel men det kan vara riskfyllt att normer förstärks med hjälp av tekniken. Normer från förr säger att män är starka och kvinnor vackra, men i ett jämställt samhälle kan såklart både tjejer och killar ses som starka och vackra. Teknik riskerar att motarbeta jämställdhet. Många forskare menar att det är ett problem.
Google har börjat lösa problemet, till exempel mellan turkiska och engelska fungerar det så att algoritmer föreslår två varianter, att han eller hon är stark. (se bild nedan).
Bild från Googles översättningstjänst
Bra jobbat!