KI er menneskeskapt — kan det endres?

Valg kan tas om igjen

KI omtales ofte som et naturfenomen: en bølge som kommer, et vær vi må forholde oss til. AILit-rammeverkets fjerde domene — på norsk Forstå og forme KI — er bygget på det motsatte premisset: KI er menneskeskapt og foranderlig, ikke uunngåelig. Bak hver modell ligger en kjede av menneskelige valg. Noen valgte hvilke data som skulle samles inn, og hvem som skulle merke dem. Noen valgte hva modellen skulle optimaliseres mot, hva den skal nekte å svare på, hvordan den skal snakke. Rammeverket er nøkternt om konsekvensen: fordi data og design alltid bærer menneskelige avtrykk, finnes det alltid skjevheter — spørsmålet er ikke om, men hvilke, og hvem de rammer.

Det er her det tekno-kritiske blikket blir konstruktivt. At alt er valgt, betyr at alt kunne vært valgt annerledes. AILit beskriver hva ansvarlig design innebærer: rettferdighet, transparens, forklarbarhet, ansvarlighet, respekt for personvern og lovlydighet. Det er ikke en ønskeliste, men kriterier man kan holde virkelige systemer opp mot — og etterspørre der de mangler. Rammeverkets etiske grunnspørsmål følger med: hvem tjener på systemet slik det er utformet, og hvem taper?

Utdanningsforskeren Cathy Adams sier i rammeverket at elevene ikke trenger å bli KI-ingeniører — poenget er å hjelpe dem å se at de kan forme teknologien, ikke bare formes av den. Det gjelder læreren først. Og påvirkningskanalene er flere enn man tror: du velger verktøy, og valg er markedsmakt. Du gir tilbakemeldinger til leverandører, og skoleeiere stiller krav i anskaffelser. Du deltar i offentlig debatt. Og du underviser — hver time der elever oppdager at en modells atferd skyldes beslutninger noen har tatt, flytter teknologien fra naturfenomen til politikk, fra skjebne til noe et demokrati kan mene noe om.

Dette er kulminasjonen av KI-kompetansen slik rammeverket beskriver den: fra å samhandle kritisk, via å skape og styre bevisst, til å forstå og forme. En elev — eller en lærer — som har nådd dit, spør ikke lenger bare «hvordan bruker jeg dette?», men «hvorfor er det slik, og hvordan burde det vært?».

For norske klasserom har dette domenet en ekstra kvalitet: det krever ingen elevbruk av generativ KI. Å undersøke valgene bak et system — hvem som har bestemt hva det skal gjøre, og hvem det tjener — er analyse og samfunnsfag, ikke verktøybruk, og kan gjøres med brukervilkår, avisartikler og diskusjon som eneste materiell. Elevoppleggene i kategorien «vurdere» på kiforskolen er bygget på nettopp den innsikten. Domenet som høres mest teknisk ut, er i praksis det mest demokratiske.