Lektion 1b ‑ Bra och dåligt med AI

Tid: ca 45min
Ämne: Teknik och Samhällskunskap

AI kan vara både bra och dåligt. I den här lektionen tittar vi på samma fem exempel som i föregående lektion och går igenom risker och möjligheter med AI.

Exempel 1
Rekommendationer på tex Youtube, Tiktok och Instagram

Algoritmer gör att du får rekommendationer baserade på vad du tidigare har tittat på, vem du är, tex ålder, kön, var du bor och vad andra har gillat. 

Titta på filmklippet:
"Om internets algoritmer hade funnits i fysiska verkligheten hade det kunnat se ut så här", från Viralgranskaren.

Diskutera:

• • Vad tycker du är bra med att algoritmerna tror sig veta vad du vill se?
  • Finns det något som kan vara dåligt med det? 

Exempel 2
Virtuella assistenter som Siri, Alexa, Google Assistant

Till exempel skapade Microsoft ett twitterkonto som var en AI-chatbot, ”Tay". Tay var ett experiment och tanken var att hen skulle lära sig av andra på twitter hur hen skulle uttrycka sig. Problemet var att Twitter inte var ett bra ställe att lära sig av andra. Folk var arga och elaka mot varandra. På mindre än ett dygn hade Tay blivit ett rasistiskt monster. Så man kan säga att om en maskin tränas av människor som är otrevliga så blir den lika otrevlig själv. Om sedan den maskinen tränar nya maskiner så riskerar vi att förstärka otrevligheten mer och mer. Därför är det viktigt att vi tänker efter innan vi skapar så smart teknik. Microsoft fick genast stänga ner experimentet med Tays twitterkonto.

Exempel 3
Självkörande bilar

I filmen kan du ser hur det fungerar när självkörande bilar tar beslut i svåra situationer.

Titta på filmklippet:
"AI - Risker och Etik" från forskning.se

Exempel 4
Ansiktsigenkänning

Joy i filmen ni ska titta på nu har problem. Funktionen för ansiktsigenkänning fungerar inte på henne. 

I lektion 2b kommer ni att lära er att det beror på vilka bilder den har tränats på. Det har visat sig att tjänster för ansiktsigenkänning fungerar bättre på män än på kvinnor, och bättre på vita än på svarta.

Titta på filmklippet:
"Ansiktsigenkänning genom AI", TedX Talks

Diskutera: 

• • Varför tror ni att det inte fungerar?
  • Vad händer när hon tar på sig en vit mask? 

Exempel 5
Google Översätt

Google Översätt är en tjänst som också använder träningsdata för att lära sig. Vissa språk (som finska och turkiska) använder inte hon och han utan ett könsneutralt hen. Testa vad som händer när du översätter dessa uttryck till engelska: ”hen är stark” eller ”hen är vacker”, eller kanske ”hen är ingenjör”.

Instruktioner:

1. Gå till Google översätt i en webbläsare: https://translate.google.com
2. Välj svenska i vänstra rutan och engelska i den andra.
3. Skriv ”hen är stark” i vänstra rutan.
4. Vad får du för resultat, vad översätts hen till?
5. Gör likadant med fler uttryck. 

Diskutera:

• • Vad är problemet med hur det översätts? 

Maskinen har kanske inte fel men det kan vara riskfyllt att normer förstärks med hjälp av tekniken. Normer från förr säger att män är starka och kvinnor vackra, men i ett jämställt samhälle kan såklart både tjejer och killar ses som starka och vackra. Teknik riskerar att motarbeta jämställdhet. Många forskare menar att det är ett problem. 

Google har börjat lösa problemet, till exempel mellan turkiska och engelska fungerar det så att algoritmer föreslår två varianter, att han eller hon är stark. (se bild nedan). 

Bra jobbat! Ni har levlat upp till: 

Lektion 2a