EPALE - Plataforma Eletrónica para a Educação de Adultos na Europa

Autoria: Marcella MILANA 

Tradução: EPALE Portugal

A Inteligência Artificial (IA) é hoje um fenómeno generalizado. Quase todas as gerações utilizam múltiplas ferramentas baseadas em IA na vida diária, para estudar, no trabalho e nos tempos livres. Por conseguinte, espera-se que “colaborem e cooperem” com a IA em múltiplos contextos (Laupichler et al., 2022, p. 2). Entretanto, as organizações dos setores público e privado estão a implementar ou a experimentar várias aplicações de instrumentos baseados em IA para apoiar os processos de trabalho, a prestação de serviços e a formação contínua dos trabalhadores. Neste caso, os operadores de educação públicos e privados não são exceção, uma vez que as ferramentas baseadas na IA, como os sistemas de tutoria inteligente ou as aplicações de aprendizagem de línguas, para mencionar algumas, podem apoiar o desenvolvimento de programas e as práticas de ensino e de aprendizagem.

Ferramentas baseadas em IA para apoiar a aprendizagem e a educação de adultos

Várias ferramentas baseadas em IA podem ser utilizadas na aprendizagem e na educação de adultos em instituições de ensino, no trabalho e em atividades de aprendizagem autónoma. Entre essas ferramentas, os agentes de conversação são atualmente comuns. Também conhecidos como chatbots, são softwares que podem imitar conversas humanas através da interação de texto ou de voz. Os chatbots são normalmente construídos com base na machine learning ou em algoritmos aplicados a dados de entrada que fazem com que os dispositivos digitais aprendam e melhorem uma tarefa específica, graças à identificação de padrões e a previsões. Os chatbots mais avançados, como o ChatGPT (Generative Pre-trained Transformer), o DeepSeek ou similares, também conhecidos como IA generativa, podem processar grandes quantidades de dados de entrada, aprender com estes através de padrões algorítmicos e, finalmente, gerar novos dados ou resultados sob a forma de texto, imagens ou música (Labadze et al., 2023).

Tanto os educadores como os aprendentes podem utilizar chatbots e ferramentas de IA incrivelmente generativas para procurar e sintetizar informações, produzir materiais didáticos (educadores) ou sintetizar estudos (aprendentes) e produzir novos textos, imagens ou música. Estas atividades podem ajudar os educadores e os alunos de muitas formas, mas algumas são mais sensíveis do que outras do ponto de vista ético. 

Uma utilização mais instrumental, como resumir um texto, é menos problemática (no entanto, o utilizador deve estar ciente de que os resumos produzidos por ferramentas baseadas em IA podem não captar necessariamente a essência de um texto como esse utilizador teria feito). No entanto, as utilizações mais significativas, como o acesso à informação ou a produção de um novo texto ou imagem, são mais problemáticas do ponto de vista ético. O envolvimento numa conversa com um chatbot requer capacidade de o utilizador introduzir instruções adequadas para gerar resultados satisfatórios. Isto pode estimular o pensamento crítico do utilizador ou as suas capacidades de resolução de problemas. Todavia, essas conversas também exigem capacidade de o utilizador avaliar criticamente a validade das informações obtidas e a fonte dessas informações, que nem sempre é conhecida pelo utilizador. Além disso, é necessária honestidade intelectual para evitar que um utilizador reivindique um resultado produzido por uma ferramenta baseada em IA como sendo uma criação original sua.

Os investigadores identificaram diferentes funções para as ferramentas baseadas em IA de apoio a educadores e/ou a processos de aprendizagem (Chiu et al., 2023), que também apresentam riscos ou desafios éticos na produção de uma aprendizagem significativa (ver Quadro 1).

Independentemente das preocupações filosóficas, psicológicas ou morais que as organizações e as pessoas possam ter com a utilização de ferramentas baseadas em IA, existem dimensões éticas incontornáveis que os operadores de educação devem considerar ao desenvolver a sua oferta. Igualmente importante é que os educadores e os aprendentes estejam conscientes das dimensões éticas da utilização de ferramentas baseadas em IA quando estão envolvidos em práticas de ensino e de aprendizagem (Mouta et al., 2023).

A Lei da IA: o ser humano no centro 

As preocupações éticas estão no centro da Lei da IA, o quadro jurídico europeu aprovado pelo Parlamento Europeu e pelo Conselho para regular a utilização eficaz e segura da IA. Adotando uma abordagem antropocêntrica, a Lei da IA exige que os resultados da IA estejam sempre sob controlo e supervisão humana e que as tecnologias não afetem os direitos fundamentais (ver Carta dos Direitos Fundamentais da União Europeia). Por conseguinte, a Lei da IA identifica os sistemas de IA que apresentam riscos significativos de danos para a saúde, para a segurança ou para os direitos fundamentais das pessoas. No domínio da educação, os sistemas de IA de alto risco incluem os que são utilizados para controlar o acesso ou a admissão nos estabelecimentos de ensino, avaliar os resultados da aprendizagem e orientar o processo de aprendizagem, bem como avaliar o nível académico alcançado ou que as pessoas podem alcançar (anexo III da Lei da IA). Por esta razão, a Lei da IA prevê que

A literacia em matéria de IA deve dotar os operadores, os responsáveis pela implantação e as pessoas afetadas com as noções necessárias para tomarem decisões informadas sobre os sistemas de IA. (Lei da IA, n.º 20)

Literacia em matéria de IA ou capacidades para a IA?

A literacia em matéria de IA pode ter significados um pouco diferentes. Uma definição possível refere-se a

um conjunto de competências que permite aos indivíduos avaliar criticamente as tecnologias de IA, comunicar e colaborar eficazmente com a IA e utilizar a IA como uma ferramenta online, em casa e no local de trabalho (Long & Magerko, 2020, p.2).

Entendida desta forma, a literacia em matéria de IA engloba conhecimentos específicos e a capacidade de compreender, utilizar, aplicar e avaliar a dimensão ética na aquisição e na criação de novos conhecimentos através de ferramentas baseadas em IA, o que não se limita aos conhecimentos especializados diretamente relacionados com as ferramentas baseadas em IA. Assim, falar de capacidades para a IA em vez de literacia em matéria de IA seria mais adequado para garantir uma utilização ética das ferramentas baseadas em IA em vários contextos, incluindo em contextos educativos e no local de trabalho (Cetindamar et al., 2022) (ver Quadro 2).

Capacidades para a IA e códigos de conduta

Para avançar com a sua abordagem antropocêntrica e garantir que as tecnologias não afetam os direitos fundamentais das pessoas, a Lei da IA prevê também um compromisso ativo da Comissão Europeia e dos Estados-Membros no sentido de se garantir que sejam desenvolvidos códigos de conduta voluntários em cooperação com stakeholders relevantes.

Embora, ao longo dos anos, tenham sido produzidos diferentes manuais ou orientações sobre a utilização de ferramentas baseadas em IA destinadas a educadores e a alunos, como o Generative AI in Student-Directed Projects: Advice and Inspiration (aqui descrito), o desenvolvimento de códigos de conduta é crucial para que os operadores de educação apoiem uma prática eticamente correta na utilização de ferramentas baseadas em IA por parte dos educadores e dos aprendentes, enquanto desenvolvem as suas capacidades para a IA.

Referências

Cera, R. (2024), Intelligenza artificiale ed educazione continua democratica degli adulti: personalizzazione, pluralismo e inclusione [Artificial intelligence and democratic adult continuing education: personalisation, pluralism and inclusion], Lifelong Lifewide Learning, 22(45), 117-129 https://doi.org/10.19241/lll.v22i45.894

Chiu, T., Xia, Q., Zhou, X., Chai, C. S., & Cheng, M. (2023). Systematic literature review on opportunities, challenges, and future research recommendations of artificial intelligence in education. Computers and Education: Artificial Intelligence, 4, 100118. 

Labadze, L., Grigolia, M., & Machaidze, L. (2023). Role of AI chatbots in education: Systematic literature review. International Journal of Educational Technology in Higher Education, 20, 56. 

Laupichler, M. C., Aster, A., Schirch, J., & Raupach, T. (2022). Artificial intelligence literacy in higher and adult education: A scoping literature review. Computers and Education: Artificial Intelligence, 3, 100101. https://doi.org/ 10.1016/j.caeai.2022.100101   

Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems (CHI ‘20), New York, NY, USA (pp. 1–16). Association for Computing Machinery. 

Mouta, A., Pinto-Llorente, A. M., & Torrecilla-Sánchez, E. M. (2023). Uncovering blind spots in education ethics: Insights from a systematic literature review on artificial intelligence in education. International Journal of Artificial Intelligence in Education, 1–40.

Biografia 

Marcella Milana é Professora Associada na Universidade de Verona e Professora Honorária de Educação de Adultos na Universidade de Nottingham. É especialista em educação de adultos e tem investigado e escrito extensivamente sobre governação, políticas e práticas de educação de adultos. É também vice-presidente da Sociedade Europeia para a Educação de Adultos (ESREA), editora-chefe do International Journal of Lifelong Education e especialista em educação de adultos da EPALE.