Texten är en översättning av originalinlägget The ethical use of AI-powered tools for the education and learning of adults av Marcella MILANA

Artificiell intelligens (AI) är nu ett genomgående fenomen. Nästan alla generationer använder flera AI-drivna verktyg i vardagen, för studier, på jobbet och på fritiden. De förväntas därför ”samarbeta och samverka” med AI i flera sammanhang (Laupichler m.fl., 2022, s. 2). Samtidigt implementerar eller experimenterar organisationer från den offentliga och privata sektorn med olika tillämpningar av AI-drivna verktyg för att stödja arbetsprocesser, tillhandahållande av tjänster och fortbildning av anställda. Här är offentliga och privata utbildningsanordnare inga undantag, med tanke på att AI-drivna verktyg såsom intelligenta handledningssystem eller språkinlärningsappar, för att nämna några, kan stödja programutveckling och undervisnings- och inlärningsmetoder. 

AI-drivna verktyg till stöd för vuxnas utbildning och lärande

Olika AI-drivna verktyg kan användas för vuxnas utbildning och lärande vid utbildningsinstitutioner, på arbetsplatsen och i självstyrt lärande. Bland sådana verktyg är konversationsagenter nu vanliga. Även kända som chatbottar är de programvara som kan efterlikna mänskliga konversationer genom text- eller röstinteraktion. Chatbottar är vanligtvis byggda på maskininlärning eller algoritmer som tillämpas på indata som gör att digitala enheter lär sig och förbättrar en viss uppgift, basis av att de identifierar mönster och förutsägelser. Mer avancerade chattbottar, som ChatGPT (Generative Pre-trained Transformer), DeepSeek eller liknande, även kända som generativ AI, kan behandla stora mängder indata, lära av den genom algoritmiska mönster och slutligen generera nya data eller utdata i form av text, bilder eller musik (Labadze m.fl., 2023).  

Både lärare och elever kan använda chattbottar och otroligt generativa AI-drivna verktyg för att söka efter och syntetisera information, producera undervisningsmaterial (lärare) eller studera syntes (elever) och producera nya texter, bilder eller musik. Sådana aktiviteter kan hjälpa lärare och elever på många sätt, men vissa är mer etiskt känsliga än andra.  

En mer instrumentell användning, som att sammanfatta en text, är mindre problematisk (men användaren bör vara medveten om att sammanfattningarna som produceras av AI-drivna verktyg kanske inte nödvändigtvis fångar kärnan i en text som användaren skulle ha gjort). Men andra användningsområden, som att få tillgång till information eller producera en ny text eller bild, är mer etiskt laddade. Att delta i en konversation med en chatbot kräver att användaren har kapacitet att mata in rätt uppmaningar för att generera tillfredsställande resultat. Detta kan stimulera användarens kritiska tänkande eller problemlösningsförmåga. Sådana samtal kräver emellertid också att användaren har kapacitet att kritiskt utvärdera giltigheten av den information som hämtas och källan till denna information, som inte alltid är känd för användaren. Dessutom kräver det intellektuell ärlighet för att undvika att en användare hävdar att en utdata som produceras av ett AI-drivet verktyg är hans eller hennes ursprungliga skapelse.  

Forskare har identifierat olika roller för AI-drivna verktyg för att stödja utbildare och/eller inlärningsprocesser (Chiu et al., 2023), som också medför etiska risker eller utmaningar för att producera betydande lärande (se tabell 1).

Oberoende av de filosofiska, psykologiska eller moraliska farhågor som organisationer och människor kan ha när det gäller användningen av AI-drivna verktyg finns det oundvikliga etiska dimensioner som utbildningsanordnare bör beakta. Lika viktigt är det för lärare och elever att vara medvetna om de etiska dimensionerna av att använda AI-drivna verktyg när de deltar i undervisnings- och inlärningsmetoder (Mouta m.fl., 2023).

AI-akten: Människan i centrum  

Etiska frågor står i centrum för AI-akten,  den europeiska rättsliga ram som godkänts av Europaparlamentet och rådet för att reglera en effektiv och säker användning av AI. Genom att anta en antropocentrisk strategi kräver AI-akten att AI:s utdata alltid står under mänsklig kontroll och övervakning och att tekniken inte påverkar de grundläggande rättigheterna (se EU-stadgan om de grundläggande rättigheterna). I AI-akten identifieras därför de AI-system som medför betydande risker för skada på människors hälsa, säkerhet eller grundläggande rättigheter. Inom utbildning omfattar AI-system med hög risk sådana som används för att kontrollera tillträde eller antagning till utbildningsinstitutioner, utvärdera läranderesultat och styra inlärningsprocessen samt bedöma den akademiska nivå som uppnåtts eller som människor kan få tillgång till (bilaga III till AI-akten). Av denna anledning föreskrivs i AI-akten att

AI-kompetens bör förse leverantörer, spridare och berörda personer med de begrepp som krävs för att fatta välgrundade beslut om AI-system. (AI-förordningen, punkt 20)

AI-kompetens eller AI-förmåga?

AI-kompetens kan betyda något olika saker. En möjlig definition är 

en uppsättning kompetenser som gör det möjligt för individer att kritiskt utvärdera AI-teknik, kommunicera och samarbeta effektivt med AI och använda AI som ett verktyg online, hemma och på arbetsplatsen (Long & Magerko, 2020, s. 2)

Förstådd på detta sätt omfattar AI-kompetens specifik kunskap och kapacitet att förstå, använda, tillämpa och utvärdera den etiska dimensionen när det gäller att förvärva och skapa ny kunskap genom AI-drivna verktyg, vilket inte är begränsat till expertis som är direkt relaterad till AI-drivna verktyg. Att tala om AI-förmåga (AI capabilities) snarare än AI-kompetens skulle därför vara lämpligare för att säkerställa en etisk användning av AI-drivna verktyg i olika sammanhang, bland annat i utbildningsmiljöer och på arbetsplatsen (Cetindamar m.fl., 2022) (se tabell 2).

AI-förmåga och uppförandekoder

För att främja sin antropocentriska strategi och säkerställa att tekniken inte påverkar människors grundläggande rättigheter föreskriver AI-akten också ett aktivt engagemang från Europeiska kommissionens och medlemsstaternas sida för att säkerställa att frivilliga uppförandekoder utarbetas i samarbete med relevanta intressenter.

Även om olika handböcker eller riktlinjer för användningen av AI-drivna verktyg som riktar sig till lärare och elever har tagits fram under årens lopp, såsom Generative AI in Student-Directed Projects: Advice and Inspiration (beskrivs här på EPALE), är utarbetandet av uppförandekoder  avgörande för utbildningsanordnare för att stödja en etiskt sund praxis när det gäller att använda AI-drivna verktyg av lärare och lärande samtidigt som de utvecklar sin AI-förmåga 

Källor

Cera, R. (2024), Intelligenza artificiale ed educazione continua democratica degli adulti: personalizzazione, pluralismo e inclusione [Artificial intelligence and democratic adult continuing education: personalisation, pluralism and inclusion], Lifelong Lifewide Learning, 22(45), 117-129 https://doi.org/10.19241/lll.v22i45.894

Chiu, T., Xia, Q., Zhou, X., Chai, C. S., & Cheng, M. (2023). Systematic literature review on opportunities, challenges, and future research recommendations of artificial intelligence in education. Computers and Education: Artificial Intelligence, 4, 100118. 

Labadze, L., Grigolia, M., & Machaidze, L. (2023). Role of AI chatbots in education: Systematic literature review. International Journal of Educational Technology in Higher Education, 20, 56. 

Laupichler, M. C., Aster, A., Schirch, J., & Raupach, T. (2022). Artificial intelligence literacy in higher and adult education: A scoping literature review. Computers and Education: Artificial Intelligence, 3, 100101. https://doi.org/ 10.1016/j.caeai.2022.100101   

Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems (CHI ‘20), New York, NY, USA (pp. 1–16). Association for Computing Machinery. 

Mouta, A., Pinto-Llorente, A. M., & Torrecilla-Sánchez, E. M. (2023). Uncovering blind spots in education ethics: Insights from a systematic literature review on artificial intelligence in education. International Journal of Artificial Intelligence in Education, 1–40.

Biografisk notering 

Marcella Milana är docent vid universitetet i Verona och hedersprofessor i vuxenutbildning vid universitetet i Nottingham. Hon är specialiserad på vuxenutbildning och har forskat och skrivit mycket om vuxenutbildningens styrning, politik och praxis. Hon är också vice ordförande för European Society for the Education of Adults (ESREA), chefredaktör för International Journal of Lifelong Education och EPALE-expert.