Som alle former for KI er språkmodeller programmer som er trent på store datamengder. Man bruker gjerne begrepet «stordata» på norsk. Språkmodeller er trent på store mengder tekst, såkalte korpus. Mens tradisjonelle analysemetoder er avhengige av å bli programmert til å finne sammenhenger og koblinger, så kan den nye typen KI, basert på dyplæring, trene opp seg selv. Språkmodellene lages ved at KI-systemet Språkmodellene lages ved at KI-systemet dekker til neste ord i inndataene og deretter forsøker å gjette dette. Slik trener systemet på å gi bedre utdata ved å finne mønstre og sammenhenger mellom ord i korpuset. Til å begynne med vil modellen "gjette" helt tilfeldig, men etterhvert som den mottar positiv og negativ respons, vil modellen gradvis danne et statistisk bilde av sammenhenger. Med dette statistiske grunnlaget kan modellen beregne sammenhenger med langt høyere treffsikkerhet. Illustrasjonen under viser sammenhengen mellom et KI-system, operatør og omgivelser.

Illustrasjon: Sammenhengen mellom et KI-system, operatør og omgivelser. Fra Nasjonal strategi for kunstig intelligens. (s.12), av Kommunal- og moderninseringsdepartementet, 2020

Illustrasjon: Kommunal-og moderniseringsdepartementet. (2020). Nasjonal strategi for kunstig intelligens. s. 12. regjeringen.no

I maskinlæring for språkmodeller benytter man også tilbakemeldinger fra menneskelige brukere for å forbedre svarene. I praksis betyr det at alternativere som får positiv respons forsterkes. Dette bidrar også til at tekst generert av en språkmodell samsvarer med verdier som veldig mange mennesker har. Forsker og forfatter Inga Strümpke forklarer her hvordan slike store språkmodeller bak avanserte chatbots fungerer med utgangspunkt i MyAI som er integrert i SnapChat.

Video: Tenk. (2023). MyAI og språkmodeller. youtube.com

Klipp 3 av AI Art: How to see like a machine

Videoklipp: Museum of Modern Art (MoMA). (2023). AI Art: How artists are using and confronting machine learning | How to see like a machine. youtube.com

Sosiale medier Nyhetsmedier Faglitteratur Kunstig intelligens