Nos últimos meses muitos professores entraram em contato comigo para entender como podem abordar problematização das tecnologias em salas de aula. Pensando em contribuir para que cada vez mais este tema chegue nas salas de aula, preparei um artigo explicando um pouco sobre ética em algoritmo.

Durante a pandemia o uso das redes sociais passou a ser cada vez mais pertinente, deixou de ser usado em intervalos de aulas, reuniões e passou a ser usado para aulas, encontros virtuais. Com isso vida pessoal, vida profissional, vida de estudante que antes eram colocadas em etapas diferentes na observação da vida, passaram a se misturar como um só. É natural que nessa mistura temas atuais desperte o interesse de alunos e eles comentem em aula. E o professor tem tempo ou está preparado para isso? 

Em 2021 tive a oportunidade de conversar com alunos em diferentes níveis de estudos, de ensino fundamental a mestrado sobre o tema, aqui farei o recorte para ensino fundamental e ensino médio. Ao longo das conversas percebi fui percebendo a evolução da surpresa dos alunos com o assunto. 

Entendendo os benefícios e sentindo os impactos negativos 

Primeiro, estes estudantes nasceram na era digital, logo nasceram entendendo os benefícios das ferramentas tecnológicas e sofrendo os impactos negativos, sem entender como isso vem acontecendo. A falta de espaço para o diálogo sobre esses questionamentos, faz com que muitos acabem falando sobre isso usando as redes sociais, gerando caminhos ainda novos para a psicologia e a pedagogia. 

Por exemplo, memes, um fenômeno da comunicação digital, dificilmente nós perguntávamos quem estava por detrás dos memes, quem eram os personagens. Após uma série de jovens contarem as suas histórias começando a perceber os memes de outras formas, existem pessoas por trás disso. Existem sentimentos, a tecnologia não é um objeto inanimado, perceber isso enquanto está vivendo essa era é difícil. É importante que um dos primeiros passos seja conduzir da forma mais humana possível as discussões que envolvem tecnologia. Antes de ensinar programação, robótica ou qualquer outra habilidade, é necessário entender quem está por trás das criações. 

Responsabilidade na era digital

Os algoritmos se tornaram (elementos) chaves que sustentam infraestruturas sociais na sociedade da informação. Interagimos o tempo todo com os algoritmos, principalmente em sistemas de recomendação, musicas, filmes, amigos em redes sociais. Quase esquecemos que existem indivíduos nesta criação. Os algoritmos não são eticamente neutros.

Um dos desafios da ética em algoritmos é a responsabilidade, como a tecnologia está em constante evolução a sociedade ainda está decidindo como lidar com a responsabilidade em relação à decisão tomada por sistemas construídos por seres humanos. Este desafio chega a educação, o debate da responsabilidade passa também pelas ações realizadas nestes sistemas, os algoritmos podem potencializar ações construtivas e ações destrutivas, os jovens estão preparados para esta exposição? 

A pergunta do paragrafo anterior é difícil de responder, a aplicação de ética em algoritmos na educação é complexa, não existe nenhuma estrutura ou metodologia elaborada para esta aplicação, não existe uma regulamentação nem orientação acordada. Porém existem diversas pesquisas no campo de ética de dados educacionais, focado em tornar o debate do uso de dados educacionais para construção de sistemas de recomendação, outro campo que tem sido explorado na educação é o e vigilância dos dados. Em geral todos se preocupam com a autonomia dos alunos nos estudos, será que com sistemas de aprendizagem orientada por modelos preditivos realmente tem contribuído para autonomia ou estão treinando os jovens para um caminho enviesado?

Por fim a ideia do artigo não era definir um caminho das pedras para a abordagem e sim, tentar mostrar que o campo está no início dos estudos. Portanto, é necessário um debate franco sobre o papel da ética no ensino fundamental e médio. Ainda mais quando tecnologias são inseridas neste contexto. Durante a pandemia muitos softwares e dados foram compartilhados e utilizados, em meio ao caos, os professores deram o seu melhor para tornar acessível à educação, enquanto pesquisadores e cientistas precisamos assegurar que este mecanismo funcione da forma mais ética possível.

Existe o papel do governo neste debate e sobretudo a infra estrutura necessária para isso, em um texto futuro será abordado esta perspectiva.