Skjermdump fra en student i X, tidligere Twitter, med teksten "Was trying to get a linkedin profile photo with a more professional look and this is what it gave med". Under vises to ansiktsbilder. Først et som viser studentens asiatiske utsende, og så et hvor dette fotoet er endret av KI til et vestlig utseende.

Illustrasjon: Wang, R. [@ronawang]. (2023) was trying to get a linkedin profile photo with AI editing & this is what it gave me 🤨.
Twitter/X. twitter.com Tweet gjengitt med tillatelse.

Illustrasjonen over viser hvordan bruk av KI og bildemodifisering kan gi uønskede resultater. MIT-studenten Rona Wang ville få profilbildet sitt til å se mer profesjonelt ut ved hjelp av KI, men resultatet ble ganske sjokkerende. Wang ønsket seg sikkert profesjonelt antrekk i stedet for en collegegenser. Det genererte bildet beholdt genseren, men endret Wangs ansiktstrekk. Det avslører hvordan generativ KI er preget av dataene den trenes på. Vi kaller gjerne denne typen feil for «bias», men i motsetning til hallusinasjonene er kanskje problemet i disse tilfellene snarere at det KI-genererte speilbildet er ubehagelig nært dataene modellen er trent på.

I alle fall illustrerer dette eksempelet hvordan generativ KI har problemer med å forholde seg korrekt til komplekse normative standarder. Dette gjelder, som vi har sett, å ha et sannferdig forhold til fakta, men det gjelder også etiske og sosiale normer knyttet til kjønn, alder, legning, hudfarge og annet. Tekstgeneratorer kan på samme måte som billedgeneratorer forsterke fordommer og andre problematiske tendenser i datagrunnlaget de er trent på.

En morsom test utviklet av Samia Touileb, førsteamanuensis i språkteknologi ved UiB, er Gender Guesser, som viser hvor gode noen ulike norske språkmodeller på å gjette den korrekte kjønnssammensetningen i ulike yrker i Norge. Klarer du å slå modellene? Trykk på bildet under for å åpne demoen i et nytt vindu.

Sosiale medier Nyhetsmedier Faglitteratur Kunstig intelligens