Av professor Marcela Milana

Kunstig intelligens (KI) er i dag et allestedsnærværende fenomen. Nesten alle generasjoner bruker KI-drevne verktøy i hverdagen – til studier, på jobb og i fritiden. Derfor forventes det også at vi skal kunne «samarbeide og samhandle» med KI i mange ulike sammenhenger (Laupichler et al., 2022, s. 2). Både offentlige og private organisasjoner tar i bruk eller prøver ut ulike KI-løsninger for å støtte arbeidsprosesser, tjenesteleveranser og livslang læring. Utdanningsaktører er intet unntak – KI-verktøy som intelligente veiledningssystemer og språklæringsapper kan støtte både utvikling av programmer og pedagogisk praksis.

KI-drevne støtteverktøy i voksnes læring og utdanning

KI-baserte verktøy kan tas i bruk i voksnes læring både i utdanningsinstitusjoner, på arbeidsplassen og i selvstyrte læringssituasjoner. Et sentralt eksempel er samtalepartnere, ofte kalt chatboter – programvare som simulerer menneskelig samtale via tekst eller tale. Disse chatbotene er vanligvis bygd på maskinlæring og algoritmer som analyserer input-data for å gjenkjenne mønstre og forbedre resultatene.

Mer avanserte varianter – som ChatGPT, DeepSeek og lignende – tilhører kategorien generativ KI. Disse kan prosessere store mengder data, lære av dem og generere ny informasjon i form av tekst, bilder eller musikk (Labadze et al., 2023).

Både undervisere og deltakere i voksnes læring kan bruke slike verktøy til å søke og oppsummere informasjon, lage undervisningsmateriell, skrive sammendrag eller produsere kreative uttrykk som tekst og bilder. Mange slike aktiviteter kan være nyttige, men noen innebærer også betydelige etiske utfordringer.

Det er for eksempel relativt uproblematisk å bruke KI til å oppsummere en tekst – selv om man bør være klar over at essensen kanskje ikke fanges like presist som man selv ville gjort. Mer komplekse oppgaver – som å hente frem informasjon eller produsere nye tekster og bilder – krever imidlertid større etisk bevissthet. Å bruke en chatbot innebærer at brukeren må stille gode spørsmål for å få relevante svar. Dette kan fremme kritisk tenkning og problemløsing, men det krever også at brukeren evner å vurdere kvaliteten på informasjonen – og at man er ærlig om hva som faktisk er egen innsats og hva som er produsert av en KI.

Forskning viser at KI-verktøy kan spille ulike roller i læringsprosesser (Chiu et al., 2023), men også at disse rollene kan innebære etiske utfordringer som må håndteres for å sikre reell og meningsfull læring (se tabell 1).

Uansett hvilke filosofiske, psykologiske eller moralske innvendinger man måtte ha mot bruken av KI, finnes det uunngåelige etiske hensyn som må ligge til grunn for utviklingen av undervisningstilbud. Det er like viktig at både lærere og deltakere i voksnes læring er bevisste på hvilke etiske implikasjoner bruken av KI-verktøy kan ha i læringssituasjoner (Mouta et al., 2023).

Den europeiske KI-forordningen AI Act: Mennesket i sentrum 

EUs AI Act setter nettopp etikk i sentrum. Dette rettslige rammeverket, vedtatt av Europaparlamentet og Rådet, skal regulere sikker og ansvarlig bruk av KI i Europa. Ved å ta et menneskesentrert (antropocentrisk) perspektiv, fastslår forordningen at mennesker alltid skal ha kontroll over og tilsyn med KI, og at teknologien ikke må krenke grunnleggende rettigheter (jfr. EUs charter om grunnleggende rettigheter: Charter of Fundamental Rights of the European Union). Forordningen peker også ut hvilke KI-systemer som anses som høy risiko – blant annet de som brukes i utdanning for å styre opptak, evaluere læringsutbytte, eller styre læringsprosesser (se vedlegg III til KI-forordningen).

Derfor understrekes det at:

KI-kompetanse skal sette tilbydere, brukere og berørte personer i stand til å ta informerte beslutninger om KI-systemer. (KI-forordningen, pkt. 20)

KI-litterasitet eller KI-kompetanse?

KI-litterasitet kan tolkes på ulike måter. Én mulig definisjon beskriver det som:

et sett med kompetanser som gjør det mulig for enkeltpersoner å vurdere KI-teknologier kritisk, kommunisere og samarbeide effektivt med KI, og bruke KI som et verktøy på nettet, hjemme og på arbeidsplassen (Long & Magerko, 2020, s. 2).

Forstått på denne måten omfatter KI-litterasitet både spesifikk kunnskap og evnen til å forstå, bruke, anvende og vurdere etiske aspekter ved tilegnelse og utvikling av ny kunnskap gjennom KI-drevne verktøy. Dette begrenser seg altså ikke til teknisk ekspertise knyttet til slike verktøy. Nettopp derfor hevder enkelte at det er mer treffende å snakke om KI-kompetanse enn KI-litterasitet, dersom målet er å sikre etisk bruk av KI-verktøy i ulike sammenhenger – inkludert i utdanning og arbeidsliv (Cetindamar et al., 2022) (se tabell 2).

KI-kapasitet og etiske retningslinjer

For å styrke et menneskesentrert KI-bruk og sikre at teknologien ikke truer folks rettigheter, forplikter KI-forordningen både EU-kommisjonen og medlemslandene til å fremme frivillige etiske retningslinjer i samarbeid med relevante aktører.

Selv om det allerede finnes flere veiledere og håndbøker for bruk av KI i utdanning – som for eksempel Generative AI in Student-Directed Projects: Advice and Inspiration (beskrevet her) – er det viktig at utdanningsinstitusjoner utvikler egne retningslinjer for etisk forsvarlig bruk av KI. Slike retningslinjer vil ikke bare beskytte integriteten i undervisningen, men også bidra til å styrke brukernes KI-kompetanse over tid. 

Referanser

Cera, R. (2024), Intelligenza artificiale ed educazione continua democratica degli adulti: personalizzazione, pluralismo e inclusione [Artificial intelligence and democratic adult continuing education: personalisation, pluralism and inclusion], Lifelong Lifewide Learning, 22(45), 117-129 https://doi.org/10.19241/lll.v22i45.894

Chiu, T., Xia, Q., Zhou, X., Chai, C. S., & Cheng, M. (2023). Systematic literature review on opportunities, challenges, and future research recommendations of artificial intelligence in education. Computers and Education: Artificial Intelligence, 4, 100118. 

Labadze, L., Grigolia, M., & Machaidze, L. (2023). Role of AI chatbots in education: Systematic literature review. International Journal of Educational Technology in Higher Education, 20, 56. 

Laupichler, M. C., Aster, A., Schirch, J., & Raupach, T. (2022). Artificial intelligence literacy in higher and adult education: A scoping literature review. Computers and Education: Artificial Intelligence, 3, 100101. https://doi.org/ 10.1016/j.caeai.2022.100101   

Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems (CHI ‘20), New York, NY, USA (pp. 1–16). Association for Computing Machinery. 

Mouta, A., Pinto-Llorente, A. M., & Torrecilla-Sánchez, E. M. (2023). Uncovering blind spots in education ethics: Insights from a systematic literature review on artificial intelligence in education. International Journal of Artificial Intelligence in Education, 1–40.

Bio 

Marcella Milana er førsteamanuensis ved Universitetet i Verona og æresprofessor i voksnes læring ved Universitetet i Nottingham. Hun har omfattende forsknings- og publikasjonsvirksomhet innen styring, politikk og praksis i voksnes læring og utdanning. Hun er også styreleder i European Society for the Education of Adults (ESREA), sjefredaktør for International Journal of Lifelong Education og EPALE-ekspert på voksnes læring.