Hur funkar generativ AI?

Hur funkar det?

Generativ AI, som till exempel ChatGPT, Bing AI, eller My AI i SnapChat, är en form av artificiell intelligens som är tränad att utifrån massiva träningsdata generera output, alltså text, bild, video, musik etc., utifrån prompter/frågor som ställs av en användare. AI i olika former och även generativ AI är, och kommer att förbli, en del av våra liv och vi behöver alla förhålla oss till detta. Det innefattar att kunna ta kloka och informerade beslut och även ta avgöranden kring hur och när AI kan användas, och det kräver att var och en av oss informerar oss om vad AI är och hur det påverkar oss i våra olika roller och kan sägas vara en del av det som kallas AI-litteracitet.

En prompt är den instruktion du matar in i det generativa AI-verktyget och ju bättre prompter du skriver, desto bättre output eller resultat kommer du få fraån verktyget. Att vara tydlig, ge kontext, använda nyckelord och ange nivå på det du vill ha är en del i att skriva bra prompter. Att testa sig fram och tänka att du samtalar med AI-tjänsten är andra delar. Utveckla, ställ följdfrågor och be om förtydliganden. 

Det är även en viktig del i AI-litteracitet att ha kännedom om hur språkmodellerna, som ChatGPT, och annan generativ AI fungerar för att förstå möjligheter och begränsningar med verktygen. Enkelt uttryckt fungerar modellerna så att de tränats på att förutse troliga sammansättningar av meningar eller bilder och helt bortser från vad som är sant eller rätt. Träningen har skett på en mycket stor mängd data från många olika typer av källor. Exakt vilka källor som använts i träning är inte känt i dagsläget.  I sig är en språkmodell, det vill säga ett AI-verktyg som tränats att generera text som till exempel ChatGPT, bara bra på att sätta ihop meningar som låter bra utifrån sannolikhet och den är alltså inte tränad för att redogöra för fakta. Det är inte det samma som en sökmotor som Google, utan handlar bara om att producera en text (bild, video etc) som ser bra ut. 

Källkritik och bias

Utifrån den data som använts i träningen och hur generativa språkmodeller fungerar så blir källkritiskt användande extremt viktigt eftersom modellerna bara tränats på att generera en text som låter bra, eller en bild som ser bra ut och inte om det som står i texten eller visas på bilden är rimligt och sant. Det innebär att innehållet kan vara snedvridet och missrepresentera vad som är sant. Till exmepel så tenderar AI att tillskriva vissa yrken till personer av vissa kön, eller vissa egenskaper till personer av en viss nationalitet eller hudfärg. Den överlägset största delen av den data som modellerna tränats på kommer från den engelskspråkiga delen av världen och en anglifierad bild av världen är alltså den dominanta när det kommer till det som skapas av AI-verktyg just nu. Detta handlar om att datan som AI:n tränats på speglar det som finns i vår värld och eftersom diskriminering och skevheter finns så kommer denna hittas och i vissa delar till och med kunna förstårkas av AI:n. 

Mittuniversitetets bibliotek har producerat material för att hjälpa dig som student att vara källkrititisk. Du hittar detta i lärplattformen Moodle och i MiunSkills, och du är också varmt välkommen till Studieverkstaden med frågor och funderingar kring källkritik.