Bra och dåligt med AI
Tid: ca 45min
Ämne: Samhällskunskap
Exempel som använder AI
AI kan vara både bra och dåligt. I den här lektionen tittar vi på samma fem exempel som i föregående lektion och går igenom risker och möjligheter med AI.
1. Rekommendationer
Algoritmer avgör vad du får rekommendationer i Youtube, Tiktok och på Instagram. Algoritmerna baseras på vad du tidigare har tittat på, vem du är, ålder, kön, var du bor och vad andra har gillat tex.
Titta på filmklippet:
"Om internets algoritmer hade funnits i fysiska verkligheten hade det kunnat se ut så här", från Viralgranskaren.
Diskutera:
-
- Vad tycker du är bra med att algoritmerna tror sig veta vad du vill se?
- Finns det något som kan vara dåligt med det?
2. Virtuella assistenter
Siri, Alexa, Google Assistant är några virtuella assistenter. Ett exempel på hur användning av AI kan gå fel var när Microsoft skapade ett twitterkonto som var en AI-chatbot, ”Tay". Tay var ett experiment och tanken var att hen skulle lära sig av andra på twitter hur hen skulle uttrycka sig. Problemet var att Twitter inte var ett bra ställe att lära sig av andra. Folk var arga och elaka mot varandra. På mindre än ett dygn hade Tay blivit ett rasistiskt monster. Så man kan säga att om en maskin tränas av människor som är otrevliga så blir den lika otrevlig själv. Om sedan den maskinen tränar nya maskiner så riskerar vi att förstärka otrevligheten mer och mer. Därför är det viktigt att vi tänker efter innan vi skapar så smart teknik. Microsoft fick genast stänga ner experimentet med Tays twitterkonto.
3. Självkörande bilar
I filmen kan du ser hur det fungerar när självkörande bilar tar beslut i svåra situationer.
Titta på filmklippet:
"AI - Risker och Etik" från forskning.se
4. Ansiktsigenkänning
Joy i filmen ni ska titta på nu har problem. Funktionen för ansiktsigenkänning fungerar inte på henne.
I lektion 2b kommer ni att lära er att det beror på vilka bilder den har tränats på. Det har visat sig att tjänster för ansiktsigenkänning fungerar bättre på män än på kvinnor, och bättre på vita än på svarta.
Titta på filmklippet:
"Ansiktsigenkänning genom AI", TedX Talks
Diskutera:
-
- Varför tror ni att det inte fungerar?
- Vad händer när hon tar på sig en vit mask?
5. Översättningsverktyg
Google Översätt är en tjänst som också använder träningsdata för att lära sig. Vissa språk (som finska och turkiska) använder inte hon och han utan ett könsneutralt hen. Testa vad som händer när du översätter dessa uttryck till engelska: ”hen är stark” eller ”hen är vacker”, eller kanske ”hen är ingenjör”.
Instruktioner:
- Gå till Google översätt i en webbläsare: https://translate.google.com
- Välj svenska i vänstra rutan och engelska i den andra.
- Skriv ”hen är stark” i vänstra rutan.
- Vad får du för resultat, vad översätts hen till?
- Gör likadant med fler uttryck.
Diskutera:
-
- Vad är problemet med hur det översätts?
Maskinen har kanske inte fel men det kan vara riskfyllt att normer förstärks med hjälp av tekniken. Normer från förr säger att män är starka och kvinnor vackra, men i ett jämställt samhälle kan såklart både tjejer och killar ses som starka och vackra. Teknik riskerar att motarbeta jämställdhet. Många forskare menar att det är ett problem.
Google har börjat lösa problemet, till exempel mellan turkiska och engelska fungerar det så att algoritmer föreslår två varianter, att han eller hon är stark. (se bild nedan).
Bra jobbat, nu är ni redo att gå vidare!