O advento das chamadas tecnologias emergentes, sobretudo da Inteligência Artificial (IA), causou uma série de mudanças sociais e comportamentais na vida humana. Em função da pandemia de Covid-19, alguns desses novos aparatos tecnológicos tiveram sua implementação acelerada (DPB, 2023). Dentre esses mecanismos, o uso de plataformas digitais voltadas aos serviços educacionais foi essencial para manter a continuidade do ensino, permitindo que este continuasse de forma remota.  Porém, mesmo com o retorno ao ensino de forma presencial, não houve descontinuidade do processo de aplicação de novas Tecnologias Digitais de Informação e Comunicação (TDIC) na educação, desde o ensino básico até o ensino superior. Pelo contrário, sistemas movidos por Inteligência Artificial são hoje uma realidade cada vez mais comum em secretarias de educação, escolas públicas e privadas.

Novas metodologias de ensino têm empregado a Inteligência Artificial como promessa de eficiência e inovação em várias frentes, servindo de instrumento de apoio à gestão escolar. Essas funcionalidades podem auxiliar os processos de avaliação, desempenho e aprendizagem dos alunos, por meio da análise comportamental e necessidades personalizadas dos alunos. Além disso, sistemas de IA podem aprimorar a eficiência de agentes pedagógicos através de sistemas instrucionais e de diálogo personalizados; da análise da escrita dos alunos e criação de ambientes mais inteligentes em jogos, chatbots de suporte ao aluno (Holmes, Bialik, & Fadel, 2019), entre outros. Por outro lado, ainda não há comprovação científica suficiente em muitas dessas iniciativas, sobre quanto à efetividade dessas tecnologias, como é o caso do monitoramento da atenção dos alunos nas salas de aula por programas de reconhecimento de emoções (Sé, 2020).

Contudo, mesmo diante de um contexto de mudanças, tanto positivas quanto negativas, o cenário atual é de escalada para uma plataformização da educação e dos sistemas de ensino. Para efeito de contextualização, o conceito de plataforma tem mudado ao longo do tempo, mas, sinteticamente, são estruturas ou ambientes virtuais facilitadores de interações e compartilhamento de informações que abrangem desde sites, buscadores e redes sociais a aplicativos e serviços online de transporte, negócios e transações bancárias, entre outros. Já “Plataformização” ou “sociedade de plataforma” (Van Dijck, Poell, & De Waal, 2018) são termos derivados da primeira para descrever o processo de introdução de “plataformas digitais em diferentes setores econômicos e esferas da vida humana” (Poell, Nieborg, & Van Dijck, 2019, p. 2). Isto é, de como os fluxos econômicos e de convivência social são hoje modulados e redefinidos por um ecossistema global de plataformas digitais online (Poell, Nieborg, & Van Dijck, 2019, p. 5).

Então, o que há de errado com a plataformização? Grande parte dessas infraestruturas são ofertadas por Big Techs como Amazon, Google, Meta, Microsoft, e empresas do setor educacional como Knewton e Carnegie Learning, mas nem sempre com o devido dever de cuidado. Assim, a forma como são projetadas é vista de maneira negativa, já que seu “design viciante” tem provocado a dependência do usuário, principalmente o público infanto juvenil, um dos mais vulneráveis ao tempo prolongado de exposição às telas, aos jogos online, às reproduções automáticas de vídeos e rolagem infinita do feed de notícias. Justamente pela falta de autocontrole dos jovens na permanência dentro dessas plataformas (Fernandes, 2024).

Ademais, entre as redes de ensino pesquisadas pelo Comitê Gestor da Internet no Brasil (CGI.br, 2022) não foram encontrados indícios de criação de softwares e códigos de plataformas educacionais próprios das escolas brasileiras, muito menos um controle consistente sobre termos de uso e política de dados. Isso significa que a coleta de dados pessoais dos usuários feita por essas plataformas encontra-se hegemonicamente sob responsabilidade das próprias Big Techs (em sua maioria estrangeiras).

Ao entrar na questão da coleta de dados feita pelas EdTechs – empresas de tecnologia voltadas ao oferecimento de serviços educacionais –, sobretudo por meio da aplicação de seus sistemas de IA na educação básica e superior, constata-se que estão envolvidos dados principalmente de crianças e adolescentes, de acordo com relatório divulgado pelo CETIC. Particularmente no ambiente digital brasileiro, uma vez que “em 2022, 92% da população com idade entre 9 e 17 anos era usuária de Internet no país (aproximadamente 24,4 milhões de crianças e adolescentes)”¹. Essa informação, por si só, é preocupante, já que este público carece de proteção especial, garantida legalmente pelo dever de cuidado e de garantia do melhor interesse com absoluta prioridade.

Ocorre que, diante da vulnerabilidade dessa faixa etária, coloca-se em risco a privacidade e proteção de dados pelo mero oferecimento desses sistemas educacionais plataformizados, tanto gratuitos quanto pagos. Foi essa a conclusão do Human Rights Watch (HRW, 2022), organização internacional não governamental com foco na defesa dos direitos humanos, ao publicar o relatório How Dare They Peep into My Private Life²  (Como Eles Ousam Espiar Minha Vida Privada, em português). Tal estudo investigou violações dos direitos das crianças por parte de governos que apoiaram a aprendizagem online durante a pandemia de Covid-19, constatando-se que a maior parte das EdTechs analisadas forneceu dados pessoais dos alunos a empresas de tecnologia e de publicidade sem o consentimento das crianças ou de seus pais.

Não somente a privacidade e a proteção dos dados pessoais de crianças e adolescentes são postas em risco diante da implementação da plataformização da educação nas escolas, mas também o seu aprendizado. Assim, a aplicação de forma desmedida de sistemas de Inteligência Artificial na educação pode apresentar limitações relevantes que afetam não apenas os direitos desses indivíduos, como seu próprio desenvolvimento cognitivo e social. O uso excessivo dessas tecnologias pode afetar sobretudo jovens que ainda carecem de maior amadurecimento e senso crítico (Da Hora, 2023), “em razão de seu peculiar estágio de desenvolvimento biopsicossocial” (Instituto Alana, 2024).

As plataformas digitais, inclusive mecanismos de IA utilizados na educação, propiciam algumas vantagens por meio da possibilidade de feedback imediato aos alunos e personalização do aprendizado. Além disso, podem oferecer uma vasta gama de recursos educacionais digitais capazes de enriquecer o ensino e facilitar a aprendizagem interativa, preparando os estudantes para um mundo cada vez mais digitalizado. Por outro lado, podem trazer desvantagens diante da ausência do professor, o que poderia impactar negativamente a capacidade de análise crítica, a interação social e o desenvolvimento socioemocional dos alunos (Da Hora, 2023). Logo, poucas pessoas entendem que a Inteligência Artificial será disruptiva, mas que a educação estará na linha de frente dessa revolução³.

Diante deste cenário ambivalente que atinge em cheio a realidade da educação brasileira, tanto no setor público quanto no privado, o presente artigo tem como escopo analisar os impactos da plataformização na educação, sobretudo para os direitos fundamentais de crianças e adolescentes no ambiente escolar. As justificativas do artigo são, as seguintes: a) são grupos vulneráveis, sujeitos à proteção integral e prioridade absoluta; b) a plataformização da educação pode servir de aliada, mas também coloca em risco direitos fundamentais à privacidade e proteção de dados durante a infância e juventude; c) o uso ainda precoce e desmedido das IAs nas escolas pode provocar danos ao aprendizado e ao desenvolvimento cognitivo e social dos alunos.

Para tanto, apoia-se em análise bibliográfica e documental, por meio de casos exemplificativos da tentativa brasileira de lidar com as matérias que se interrelacionam com a temática das IAs nas escolas. Ao final, efetuam-se recomendações, a título de conclusão, de como mitigar danos relacionados à proteção de dados e privacidade de crianças e adolescentes sem, contudo, inibir a inovação tecnológica para a área da educação.

A educação não ficou de fora diante da inserção de uma série de mecanismos digitais na sociedade e vida humana. Primeiramente, durante a pandemia da Covid-19, o fenômeno da plataformização da educação se intensificou pela necessidade de adaptação do ensino presencial para o remoto, o que contribuiu para o aumento da visibilidade desse efeito. Concomitante, houve o surgimento de novas inquietações nas áreas acadêmica, pedagógica, jurídica e das organizações defensoras dos direitos humanos.

Em um segundo momento, mesmo com o retorno às aulas de forma presencial, o uso de mecanismos digitais e o envolvimento de plataformas como as EdTechs, as aplicações de Inteligência Artificial na educação não só continuaram presentes, como também se intensificaram. Entre as razões da permanência desse novo recurso na educação para além da situação emergencial pandêmica estão: a necessidade de trazer inovação para a educação e servir de apoio aos professores para transmitir seus conhecimentos⁴; organizar conteúdos, facilitar o contato entre pais e alunos;  e prestar auxílio aos estudantes⁵.

Já quando se pensa em benefícios, a inserção de aparatos tecnológicos envolvendo Inteligência Artificial nas escolas funciona como: a) recurso de inovação, ou seja, a tecnologia permite realizar tarefas de difícil efetivação, como o uso de aplicativos de realidade aumentada que buscam auxiliar o ensino de alunos com dislexia, e de aplicativos de boards colaborativos em tempo real; b) recurso de modificação, visto que a IA permite o “redesign” das tarefas que já eram realizadas antes do advento do digital, a exemplo das plataformas de gravação de filmes no ambiente online para compartilhamento de tarefas; c) recurso de substituição de tarefas que permitem a troca do físico pelo virtual, tais como as notas digitais que substituem cadernos e calculadoras⁶.

Pelo lado positivo, ressalta-se ainda, para os estudantes, a existência de softwares que possibilitam a melhora da escrita, da análise de dados e tradução de textos. São opções mais baratas na aprendizagem de idiomas e plataformas 3D que tornam o estudo das disciplinas mais interessante. Já para os professores, destacam-se o auxílio de plataformas para detecção de plágio, controle de notas e frequência; aplicativos para elaboração de aulas mais interativas e simuladores de questões.

Por outro lado, é necessário considerar os riscos associados ao uso dessas tecnologias. A aplicação dessas estruturas tecnológicas de forma desmedida, desregulada e não supervisionada pode trazer impactos negativos tanto para professores, quanto para os pais e alunos. Portanto, se o propósito de introduzir tecnologia nas escolas for o de realmente inovar, a sua aplicação não deveria se distanciar do objetivo principal das escolas em promover o ensino, a educação e desenvolvimento da pessoa, o preparo para o exercício da cidadania e qualificação para o trabalho⁷.

O desafio começa com a capacitação e formação dos professores para possibilitar o uso desses novos recursos digitais de forma conjunta e articulada. Porém, na maior parte das vezes, essa situação ideal nem sempre ocorre. Começa a partir daí um problema com o possível aumento na dependência do setor educacional em relação ao rol de serviços ofertados pelas grandes plataformas digitais. Ao menos em tese, essa assimetria técnica e informacional pode colocar em risco a autonomia das escolas públicas e privadas de ensino. Para além do ponto de vista pedagógico, essa provável concentração monopolística de poder pelas EdTechs também acarreta discussões jurídicas acerca da autonomia das redes de ensino, já que parece ir contra ao pluralismo de ideias da Lei de Diretrizes e Bases da Educação Nacional⁸.

A título de exemplo, em agosto de 2023, houve uma tentativa do governo do estado de São Paulo de fornecer apenas material didático digital aos alunos do Ensino Fundamental II e do Ensino Médio⁹. Acadêmicos e especialistas em educação teceram críticas contundentes à decisão do governador, mormente pelo material ter sido desenvolvido não por educadores, e sim pelos próprios técnicos estaduais. Dada a má repercussão, posteriormente o governador recuou e decidiu oferecer livros também impressos aos alunos¹⁰, especialmente pelo fato de que não é possível impor esse sistema tão rapidamente.

Não se trata, portanto, de atribuir somente aspectos negativos às tecnologias digitais na educação, porém é necessário haver um processo de adequação paulatina à nova realidade¹¹, principalmente por se tratar do desigual cenário socioeconômico brasileiro. Assim, a inclusão desses novos mecanismos no ensino, havendo consenso entre educadores e gestores públicos, precisaria ocorrer de forma gradual, por meio de adaptações na infraestrutura das escolas, na capacitação dos docentes e nas próprias propostas pedagógicas, de forma analítica, crítica, democrática e participativa.

No Brasil, a plataformização da educação encontra dois desafios relevantes: desigualdade de acesso à educação e violação dos princípios orientadores de justiça e equidade de acesso à tecnologia, inclusive à Inteligência Artificial¹²¹³. De acordo com a análise quantitativa dos dados publicados na pesquisa TIC – Educação 2022 , realizada pelo Comitê Gestor da Internet no Brasil (CGI.br, 2022)¹⁴, apenas 58% das escolas cadastradas no Censo Escolar da Educação Básica 2021 de Ensino Fundamental e Médio possuem computador e acesso à internet para uso dos alunos em atividades de ensino e de aprendizagem. Isso demonstra que ainda há um longo caminho a ser percorrido para a efetiva inserção de mecanismos tecnológicos para a educação nas escolas brasileiras.

Ademais, constataram-se outras desigualdades marcantes. Enquanto 74% das escolas localizadas na região urbana possuem acesso a essas ferramentas, apenas 30% das escolas localizadas na região rural têm essa disponibilidade. No que diz respeito à dependência administrativa, 73% das escolas particulares têm o acesso a computadores e à internet, ao passo que 82% das escolas estaduais possuem esses instrumentos e apenas 43% das escolas municipais garantem esse acesso. Com relação à localização também há uma desproporção, já que 73% das escolas da capital dispõem de computadores e acesso à internet, enquanto 55% das escolas no interior dispõem de tais recursos¹⁵. A partir dos dados coletados naquela pesquisa, é perceptível que a digitalização de atividades educativas e pedagógicas no atual cenário brasileiro enfrenta dificuldades em garantir igualdade à educação.

O relatório TIC – Educação 2022 (CGI.br, 2022) indicou que apenas 56% dos professores reportaram terem participado de algum tipo de formação continuada sobre o uso de tecnologias digitais em atividades de ensino e de aprendizagem nos doze meses anteriores à pesquisa. Além disso, 75% dos professores entrevistados afirmaram que a falta de um curso específico dificultava a adoção de tecnologias digitais nas atividades educacionais com os alunos. Logo, a carência de formação de educadores para o uso de meios digitais nas escolas brasileiras é uma questão que necessita de maior investimento por parte do Estado e de uma articulação coordenada para incluir prefeitura, secretaria da educação e União, porém sem excluir a iniciativa privada das escolas particulares. Isso antes mesmo de se pensar em implementar mecanismos digitais na educação.

O panorama de uma “educação digital” como direito fundamental, por sua vez, ampara-se na garantia do art. 26 do Marco Civil da Internet¹⁶, ao estabelecer que o cumprimento do dever constitucional da educação inclui a capacitação integrada a outras práticas educacionais para o uso seguro, consciente e responsável da internet. Essa capacitação inclui educação para o uso responsável da web pelos alunos, o que depende da capacitação plena dos docentes nesse aspecto.

Os propósitos dos sistemas de ensino originalmente giravam em torno da criação de trabalhadores, da transmissão de conhecimento religioso e das habilidades básicas de alfabetização e numeracia (isto é, a capacidade de usar números e habilidades matemáticas para contar e resolver problemas da vida cotidiana). Porém, à medida que a estrutura da sociedade mudou, a educação começou a desempenhar outras funções práticas, sociais e emocionais. Agora, a educação é tanto uma forma de moldar os alunos para atender às necessidades da sociedade, quanto um meio pelo qual os alunos podem se capacitar para melhor atender às suas próprias necessidades¹⁷.

No artigo 205 da Constituição Federal de 1988, a educação tem por objetivos o pleno desenvolvimento da pessoa, seu preparo para o exercício da cidadania e sua qualificação para o trabalho. Todavia, na atual perspectiva de plataformização da educação e inserção de mecanismos de Inteligência Artificial nas escolas, há risco de que o excesso de telas e de imersão nos meios digitais esteja causando danos futuros ao desenvolvimento cognitivo e à sociabilidade dos alunos¹⁸. No estado do Paraná, por exemplo, foi empregado um controverso sistema de biometria facial e IA para fiscalizar o comportamento dos alunos. Esses danos são significativos pois, quando pensados no ambiente da educação infantil até o ensino médio, a problemática se agudiza, uma vez que é um público singular, composto em sua maioria por crianças e adolescentes, dada a fase peculiar de desenvolvimento sociocognitivo em que se encontram.

Na primeira infância – período que vai desde a concepção do bebê até os 6 anos de idade¹⁹ – são formadas 90% das conexões cerebrais²⁰. Contudo, apesar dessa fase da vida envolver um enorme potencial para o desenvolvimento, também os caracteriza como seres hiper vulneráveis que necessitam de proteção integral. Em termos jurídicos, a doutrina da proteção integral foi inserida no Brasil na Constituição Federal de 1988²¹, tendo como pressuposto a compreensão de que crianças e adolescentes vivenciam peculiar fase de desenvolvimento que justifica a proteção em caráter especial e diferenciado em relação aos outros entes da sociedade.

Os potenciais danos ao desenvolvimento cognitivo e ao aprendizado dos alunos na fase de inserção dos meios digitais no ambiente escolar se iniciam com os desafios causados à habilidade de leitura, o que é fundamental para uma educação de qualidade e formação digna do cidadão. O fato, por exemplo, de se realizar a leitura cada vez mais por meio de telas, substituindo o papel físico, gerou como consequência prática o ato de apenas “passar os olhos”

de forma superficial em vários dos textos e conteúdos online. Essa mudança comportamental, explica a neurocientista Maryanne Wolf (2019), pode estar arruinando a capacidade humana de entender argumentos complexos, de fazer uma análise crítica do que se lê e até mesmo de dificuldade em gerar empatia por pontos de vista diferentes aos seus.

Como explica Wolf (2019), o circuito da leitura é moldado pela forma como se lê e o tempo gasto pelo leitor. Assim, pelo fato de a exposição exacerbada aos mecanismos digitais influenciar uma leitura menos aprofundada e mais superficial, há o risco de perda da habilidade de se entender argumentos complexos. Neste cenário, o circuito da leitura no cérebro não vai alocar tempo suficiente para o processamento cognitivo que, por sua vez, é necessário para processamento crítico.

Tais evidências foram percebidas de forma mais clara por meio da meta-análise feita por Pablo Delgado, Cristina Vargas e Ladislao Salmerón, da Universidade de Valência, assim como Rakefet Ackermanc, do Instituto de Tecnologia de Tel Aviv. Tais pesquisadores analisaram estudos publicados entre 2000 e 2017, a partir de dados de 171 mil pessoas, para comparar a compreensão de leitura dos participantes no meio digital e papel. Eles concluíram que o melhor entendimento do conteúdo é feito por meio de textos em papel, principalmente quando o leitor possui um tempo pré-estabelecido para concluir a leitura. O estudo identificou, ainda, a “inferioridade da tela”, tendo em vista que a leitura digital aparentemente não é positiva para a habilidade de compreensão dos leitores, uma vez que o processamento de informações é mais superficial nos meios virtuais (Delgado, Vargas, Ackerman, & Salmerón, 2018).

Ao voltar-se para o público mais jovem, a preocupação é intensificada, pois pessoas nessa idade ainda estão desenvolvendo a habilidade da leitura. O uso excessivo de telas acarreta o aumento da impaciência cognitiva, o que não favorece a leitura crítica. Tampouco a compreensão de qualquer fenômeno social complexo que exija uma leitura mais cuidadosa do leitor (Wolf, 2019). Tendo em vista que a inserção de mecanismos digitais e de plataformização da educação não são um cenário futuro, e sim presente, não se pode buscar como solução uma oposição maniqueísta entre os mecanismos digitais e os físicos. A adoção de um em detrimento do outro seria, então, inviável diante da atual transformação digital.

Como sugere Wolf (2019), os alunos e leitores em formação devem entender o que está acontecendo com suas próprias capacidades cognitivas, bem como o propósito do que se está lendo. Ao depararem com um texto complexo, que necessite de um olhar sob diferentes perspectivas e, principalmente, em que necessitem discernir o verdadeiro valor da informação, é relevante refletir se aquele meio vai promover o processamento mais lento e profundo de uma análise crítica. Ademais, crianças e adolescentes em fase de alfabetização precisam de maior concentração naquilo que estão aprendendo a ler, por se tratar de uma fase crucial na formação do pensamento. Logo, é necessário ponderar em quais momentos e atividades pedagógicas o meio digital pode ser inserido, principalmente perante a necessidade da educação digital, garantida pelo art. 26 do Marco Civil da Internet²²²³.

A exposição direta e indiscriminada dos alunos aos mecanismos tecnológicos digitais pode gerar mais danos do que benefícios às suas capacidades de desenvolvimento cognitivas, principalmente diante de uma variedade excessiva e simultânea de informações. A cognição envolve mecanismos individuais e distribuídos, inerentes às atividades em colaboração que envolvem percepção, atenção, memória, linguagem e raciocínio, atividades cujas origens são culturais²⁴.  Logo, é tanto um ato quanto um processo de adquirir conhecimento, através dos quais o ser humano interage com seus semelhantes e com o meio em que vive sem perder sua identidade²⁵.

A possível alteração na cognição das crianças e adolescentes em face da exposição tecnológica exacerbada ocorre, então, porque a potencialidade tecnológica se relaciona com a capacidade de excitar o indivíduo e de estimular seus sistemas auditivo, visual e emocional²⁶. Desse modo, é a preocupação com a cognição que fica mais em evidência diante da proposta de plataformização da educação. A utilização da tecnologia de forma indiscriminada potencializa os transtornos de atenção, os transtornos obsessivos, de ansiedade e de problemas com a linguagem e a comunicação, fenômenos que afetam diretamente a aprendizagem²⁷. Assim,

os usuários regulares de internet têm aumentado a atividade nas regiões pré-frontais do cérebro envolvido na tomada de decisões e resolução de problemas (…) A atividade cerebral é mantida a um nível tão superficial que impede a retenção de informação. Ao manter constantemente ativas as funções executivas do córtex cerebral a sobrecarga cognitiva aparece: a informação passa na frente dos nossos olhos, mas não é mantida (Cánovas, 2015).

A sociabilidade, que é uma das funções da educação e habilidade essencial a ser desenvolvida pelo aluno, pode então ser prejudicada diante de um possível cenário de uso exclusivo de ferramentas digitais e de Inteligência Artificial na educação, uma vez que a redução do tempo de contato físico com os outros estudantes ou mesmo com os professores pode privar os alunos da oportunidade de aprimorar suas habilidades sociais fundamentais, tais como trabalho em equipe, comunicação eficaz e resolução de conflitos²⁸.

No âmbito nacional, a Constituição Federal de 1988 traz, no artigo 227²⁹, a garantia de que crianças e adolescentes possuam a proteção do Estado, da família e sociedade com absoluta prioridade, incluindo direitos como educação. Destaca-se, ainda, que:

o apoio e a proteção à infância e juventude devem figurar, obrigatoriamente, entre as prioridades dos governantes. Essa exigência constitucional demonstra o reconhecimento da necessidade de cuidar de modo especial das pessoas que, por sua fragilidade natural ou por estarem numa fase em que se completa sua formação, correm maiores riscos. A par disso, é importante assinalar que não ficou por conta de cada governante decidir se dará ou não apoio prioritário às crianças e adolescentes. Reconhecendo-se que eles são extremamente importantes para o futuro de qualquer povo, estabeleceu-se como obrigação legal de todos os governantes dispensar-lhes cuidados especiais. Essa exigência também se aplica à família, à comunidade e à sociedade. Cada uma dessas entidades, no âmbito de suas respectivas atribuições (Dallari, 2022, p. 553).

Nesse contexto, tal garantia deve ser assegurada com absoluta prioridade nas escolas públicas e privadas, compostas em sua maioria por crianças e adolescentes. Logo, diante dos riscos advindos da implementação desorientada da plataformização da educação e do uso de mecanismos de ferramentas digitais no ensino, é necessária a responsabilização não só do Estado, mas da sociedade civil como um todo, o que inclui as empresas envolvidas que fornecem seus serviços para o ensino nas escolas.

Além das implicações mencionadas, o emprego da plataformização e de mecanismos de Inteligência Artificial na educação – advindos sobretudo do uso crescente do chat GPT para pesquisa e geração de imagens e textos – de algum modo acarretam a coleta massiva de dados educacionais de crianças e adolescentes. No auxílio ao aprendizado, escolas estaduais, municipais ou particulares utilizam-se, portanto, não só dos serviços ofertados por grandes empresas de tecnologia (Big Techs), como também daquelas voltadas diretamente à educação (EdTechs). Assim, empresas como Google, Meta e Microsoft buscam integrar suas ações, desenvolvendo serviços para a área educacional, seja por meio de extensões e conexões vinculados à suas plataformas, seja pelo serviço de armazenamento em nuvem, bibliotecas e sistemas comunicacionais. É assim que, por meio dessas plataformas, passam a dispor de expressiva quantidade não anonimizada de dados pessoais coletados dos estudantes.

Diante de uma economia movida cada vez mais por dados, muitas dessas empresas ofertam seus serviços de maneira “gratuita às escolas”. Porém, o “pagamento” vem por meio da coleta de dados pessoais e metadados relacionados aos conteúdos gerados, às informações compartilhadas e armazenadas nessas plataformas (Gonsales & Amiel, 2020). Na realidade, o monitoramento e a análise de dados dos usuários ensejam uma capitalização digital, nomeada por Shoshana Zuboff (2021) de “Capitalismo de Vigilância”. Assim, algumas EdTechs compartilham dados pessoais com empresas de tecnologia para publicidade (AdTechs) que, por sua vez, analisam e processam esses dados por meio de algoritmos para melhor compreenderem as preferências dos consumidores e personalizarem suas tarefas.

Não obstante, o tratamento de dados pessoais de crianças e adolescentes deve levar em conta o princípio do melhor interesse desses titulares, reconhecendo a necessidade da tutela especial. Este princípio tem como base expressa o artigo 227 da Constituição Federal de 1988³⁰ , garantindo que esses indivíduos possuam a proteção do Estado, família e sociedade, com absoluta prioridade na garantia de seus direitos, e em observância ao disposto no Estatuto da Criança e do Adolescente³¹.

Ademais, a Lei Geral de Proteção de Dados (LGPD)³² destaca, em seção específica, sobre o tratamento de dados pessoais desse público em particular, no caput do artigo 14³³. Tal ação deve ser realizada em seu melhor interesse e vir acompanhada do consentimento específico e em destaque de pelo menos um dos pais ou do responsável legal, salvo se a coleta for necessária para contatá-los ou mesmo para a proteção do menor de idade.

O tratamento de dados pessoais de crianças e adolescentes, por sua vez, está sujeito à interpretação jurídica e doutrinária em relação à base legal aplicável diante do texto normativo. O Enunciado nº 1 publicado pela Autoridade Nacional de Proteção de Dados (ANPD)³⁴ ressalta que o tratamento de dados de crianças e adolescentes pode ser realizado com amparo nos artigos 7º e 11 da LGPD³⁵, já que incluem um rol mais abrangente para as hipóteses que autorizam o tratamento de dados, desde que observado o seu melhor interesse, a ser avaliado no caso concreto.

A partir desse entendimento, o tratamento de dados de crianças e adolescentes pode se realizar sem maiores restrições da base legal utilizada, desde que prevalecente o princípio do melhor interesse. A eventual responsabilização por um dano ocorrido, portanto, não recairia apenas aos pais e responsáveis ao fornecer o consentimento, mas também às empresas. Na prática, entretanto, as EdTechs e Big Techs contratadas por governos e escolas para o oferecimento de serviços educacionais podem estar sobrepondo seus interesses comerciais ao invés de priorizar o melhor interesse de crianças e adolescentes, sobretudo ao utilizar os dados pessoais coletados para além da finalidade educacional.

O relatório How Dare They Peep into my Private Life? (Como Eles Ousam Espiar Minha Vida Privada), da Human Rights Watch (HRW, 2022) investigou EdTechs apoiadas por governos para a educação infantil durante a pandemia, com base nas análises técnica e política divulgadas de 163 empresas EdTechs, em países incluindo o Brasil. Assim, foi possível concluir que o apoio dos governos à maioria destas plataformas de aprendizagem online coloca em risco ou viola diretamente a privacidade de crianças e adolescentes, entre outros direitos para fins não relacionados com a educação. Além disso, observou-se que 145 empresas EdTech estavam enviando ou concedendo diretamente acesso a dados pessoais de crianças a 196 empresas terceirizadas, esmagadoramente AdTechs. 

Em síntese, algumas empresas de tecnologia voltadas à educação encaminham os dados dos seus usuários para serem utilizados no direcionamento publicitário, a partir da personalização de anúncios baseado nos seus hábitos e comportamentos. Estes dados pessoais são extraídos de ambientes educativos digitais sem consentimento dos pais ou dos alunos e/ou mesmo sem a ciência dos titulares, responsáveis e professores de que estão sendo tratados para além das finalidades educacionais (HRW, 2022).

Como explica Gonsales e Amiel (2020), poucos gestores, mães, pais e responsáveis estão cientes de que estudantes e educadores têm seus dados coletados e utilizados indevidamente. Tais empresas utilizam principalmente tecnologias de Inteligência Artificial para processar, analisar e identificar maneiras de monetizar os dados pessoais de usuários de forma automatizada, já que estes são hoje um dos principais ativos da economia digital³⁶.

Outro impasse observado na análise do Human Rights Watch (2022) foi que alguns dos governos que forneceram educação online a crianças por meio de EdTechs tornaram obrigatória a utilização de seus serviços por estudantes e professores, o que impossibilitou que estes optassem por alternativas ao acesso à educação, O relatório Problems with Data Governance in UK Schools: The Cases of Google Classroom and ClassDojo (Problemas com a Governança de Dados nas Escolas do Reino Unido: os Casos da Google Classroom e ClassDojo), da 5Rights Foundation (5RF, 2022), constatou que diversas escolas britânicas que utilizavam a Google Classroom no ensino enfrentavam problemas significativos com a coleta excessiva de dados. A plataforma coletava mais informações do que o necessário para a funcionalidade educacional, incluindo dados de navegação e comportamento online dos alunos, utilizados para fins de rastreamento e, em alguns casos, para publicidade personalizada. Em resposta, as autoridades regulatórias do Reino Unido realizaram investigações e tomaram ações contra a Google, pressionando a empresa a melhorar suas práticas de privacidade e segurança de dados. A conformidade com o GDPR foi uma preocupação central nessas ações³⁷.

Já na Indonésia, seu Ministério da Educação e Cultura recomendou o aplicativo “Ruangguru”³⁸, que propõe soluções para todas as necessidades de aprendizagem, desenvolvido pela startup de mesmo nome, que possui parceria com 326 governos municipais e distritais daquele país. A empresa possuía, em 2020, 22 milhões de alunos como usuários. Observou-se, no entanto, que o aplicativo coletava dados pessoais dos estudantes e os compartilhava com o Facebook, por meio do domínio graph.facebook.com. Por sua vez, o Facebook (atual Meta) utilizava esses dados de crianças e adolescentes para o direcionamento de publicidade comportamental.

No Brasil, em agosto de 2023, houve restrição da autodeterminação informativa³⁹ no que se refere ao direito individual de controlar e proteger dados pessoais de pais, professores e alunos no âmbito da rede estadual de ensino do estado de São Paulo. Os usuários desse serviço depararam com um aplicativo instalado em seus aparelhos de celular pessoais, sem o devido consentimento. O aplicativo “Minha Escola SP” tinha como finalidade permitir o acompanhamento de informações escolares por pais e estudantes, como as notas do boletim e as faltas às aulas. Posteriormente, a Secretaria da Educação do Estado de São Paulo (Seduc-SP) informou que ocorreu uma falha durante um teste promovido pela área técnica. Todavia, a Secretaria não revelou que o aplicativo foi instalado em aparelhos de sistema operacional Android do qual a Google é proprietária, e com quem a pasta possui convênio para uso de plataformas educacionais⁴⁰.

Pela análise dos casos mencionados, o tratamento inadequado de dados pessoais para fins educacionais viola os princípios da transparência e da adequação, conforme rege o artigo 6º da Lei Geral de Proteção de Dados (LGPD)⁴¹. Isso ocorre porque os titulares, pais, responsáveis e professores não foram devidamente informados sobre o uso real que é feito com os seus dados, uma vez que essas informações são frequentemente utilizadas além das finalidades previamente comunicadas, mas que deveriam ser restritas à prestação de serviços educacionais. Além disso, por envolverem dados pessoais de estudantes menores de idade, essa prática vai de encontro ao princípio do melhor interesse, previsto no artigo 14 da LGPD⁴², pois as empresas de tecnologia estão, em nome do lucro, sobrepondo seus interesses comerciais.

Os casos elencados não apenas evidenciam violação à privacidade e proteção de dados de alunos e professores, como também a excessiva e desnecessária exposição às telas, diante da crescente imersão nos meios digitais para fins educacionais. Diante desse cenário, o uso de Inteligência Artificial nas escolas e a contratação de serviços de EdTechs precisam se adequar ao tratamento ético e responsável de dados pessoais, principalmente quando seus titulares são crianças e adolescentes.

Para atender ao princípio do melhor interesse de crianças e adolescentes, as empresas deveriam atentar para que o tratamento dos dados seja feito apenas ao estritamente necessário. Significa dizer que esses dados poderão ser utilizados para a finalidade específica de promover os serviços e produtos relacionados com aprendizado e educação, mas que não serão utilizados em um contexto de “behavioral surplus”⁴³; ou seja, aquelas informações coletadas dos seus titulares que não possuam uso imediato. Percebe-se, assim, que há uma grande chance de os dados serem comercializados ilegalmente, uma vez que:

grande parte dessas tecnologias funciona a partir da coleta massiva de dados dos estudantes para traçar seus hábitos e interesses e, então, direcionar publicidade personalizada a eles. Em outras palavras, um número significativo de tecnologias voltadas ao ensino-aprendizagem se desvia dessa função e se torna um meio para a exploração comercial de crianças e adolescentes (Data Privacy Brasil, 2023, p.12)

Trata-se de dados coletados além do que o necessário para a sua finalidade original, cuja prática foi expressamente vedada pelo art. 14, § 4º, da LGPD⁴⁴, visto que o tratamento adequado de dados pessoais está condicionado ao princípio da necessidade. É preciso, então, que as empresas busquem um ponto de equilíbrio entre atender seus interesses comerciais, priorizar esse público hiper vulnerável, bem como compreender as necessidades e demandas do contexto local (Instituto Alana, 2024).

Essa adequação está ligada à base principiológica para o tratamento de dados pessoais, prevista no artigo 6º, I e III da LGPD, que apenas admite – inclusive para adultos – a coleta dos dados absolutamente indispensáveis para os propósitos legítimos a que devem ser destinados. No contexto deste estudo, o tratamento dos dados pessoais deve, portanto, observar os limites das finalidades e necessidades educacionais e pedagógicas, visando ao objetivo final do aprendizado e a formação social dos estudantes.

Ademais, o princípio da transparência tem sido alvo de violação por parte das EdTechs, em face do tratamento de dados pessoais para além das finalidades esperadas para uma plataforma que tem por objetivo auxiliar na educação. A transparência é princípio trazido pela LGPD (art. 6º, inciso VI) como forma de garantir que os titulares terão informações claras, precisas e facilmente acessíveis sobre a realização do tratamento de seus dados e os respectivos agentes de tratamento.

Para além do tratamento de dados pessoais, a transparência e a explicabilidade também foram um dos princípios estabelecidos pela OCDE (2019) para a utilização de Inteligência Artificial de forma inovadora e confiável. Assim, determina que os desenvolvedores da IA devem fornecer informações significativas sobre a compreensão geral dos sistemas e, inclusive, permitir que as pessoas afetadas por um sistema de IA compreendam os resultados produzidos.

Apesar desses princípios não serem vinculantes, e sim recomendações, o Projeto de Lei que busca regulamentar o uso da Inteligência Artificial no Brasil também traz a transparência, explicabilidade e auditabilidade como princípios norteadores para os sistemas de IA (ex vi art. 3º, inciso VI, PL 2.338/ 2023). Por isso devem ser instituídos desde a concepção de produtos e serviços aplicados na educação, principalmente por estarem lidando com dados pessoais de crianças e adolescentes.

Quanto à atribuição de responsabilidade, diante do tratamento indevido de dados dos usuários, as Edtechs podem responder solidariamente com os governos. Tal solidariedade ocorre em função da parceria⁴⁵ entre governo e EdTechs, ou da relação entre controlador e operador⁴⁶ com as empresas, a depender de análise do caso em concreto. Em qualquer cenário, nenhuma das disposições de compartilhamento de dados exime a responsabilidade dos agentes perante o uso indevido ou abusivo de dados pessoais dos titulares. Torna-se necessário, antes mesmo de realizar a contratação de EdTechs, que se analise a adequação da Política de Privacidade da empresa, assim como a sua transparência no tratamento dos dados pessoais. Visto que:

o potencial do uso de tecnologias no ensino-aprendizagem, mas sem pregar o discurso tecnosolucionista da inevitabilidade do seu uso como única forma de progresso, é crucial também reconhecer seus riscos. Portanto, acreditamos ser fundamental pensar o processo de introdução de recursos tecnológicos na sala de aula de forma cuidadosa, crítica e, sobretudo, participativa. […] (Data Privacy Brasil, 2023, p.12).

Por fim, a título de precaução, no intuito de mitigar o tratamento inadequado de dados pessoais dos alunos, tanto governantes quanto as escolas responsáveis pela contratação de EdTechs deveriam: a) realizar o chamado Relatório de Impacto à Proteção de Dados Pessoais (RIPD) – documentação que contém a descrição do tratamento de dados pessoais que podem gerar alto risco à garantia dos princípios gerais de proteção de dados, às liberdades civis e aos direitos fundamentais do titular de dados. Sobretudo antes da inserção dos serviços e produtos dessas empresas nas escolas, a fim de analisar e identificar possíveis fatores de risco envolvidos no tratamento; b) bem como a realização de auditorias periódicas para verificar a adequação dessas empresas, tanto perante o tratamento adequado de dados pessoais, quanto direcionadas aos riscos de aplicação de Inteligência Artificial.

Ao longo do trabalho foi demonstrada uma série de riscos em potencial que crianças e adolescentes estão sendo hoje submetidos, em razão da opacidade quanto ao uso e destino de informações pessoais, da coleta indiscriminada e do abuso no tratamento de dados pessoais, assim como da assimetria de poder existente nas relações estabelecidas no ambiente digital. Por outro lado, pouco adianta tentar proibir ou evitar o uso de mecanismos tecnológicos no cenário sociotécnico atual. A digitalização de hábitos e costumes já está inserida em praticamente todos os setores da vida, sobretudo em uma área significativa para a formação do cidadão: a educação.

A plataformização da educação e o uso crescente de ferramentas digitais como métodos de apoio ao ensino, monitoramento e avaliação de desempenho por reconhecimento de emoções não são um cenário futuro, e sim presente. Portanto, o atual impasse entre inovação e regulação não se resolve com a mera proibição desses novos aparatos tecnológicos, ou mesmo retrocedendo para um tempo em que não havia o virtual nas salas de aula.

A proposta do artigo foi a de buscar uma nova composição entre necessidades coletivas dos alunos, gestores da educação, profissionais do ensino e interesses de empresas privadas que oferecem serviços nesse setor. As ferramentas digitais podem ser muito úteis para complementar experiências e imersões, contudo sem prejudicar a sociabilidade, a concentração e a privacidade de pessoas em fase de desenvolvimento.

Logo, são exigidas medidas éticas e mais responsáveis das EdTechs e plataformas que tratam dados pessoais. Deve-se então observar os princípios do melhor interesse de crianças e adolescentes, a finalidade estritamente necessária para a qual os dados educacionais foram coletados, e a transparência perante o que é feito com os dados pessoais. Assim, diante de uma eventual responsabilidade compartilhada entre famílias, Estado, empresas e a sociedade civil como um todo, algumas medidas precaucionais podem ser adotadas, como é o caso do Relatório de Impacto à Proteção de Dados Pessoais – RIPDD, para efeito de redução dos danos no cenário de uma educação digitalizada.

Por fim, no tocante às implicações relacionadas ao ensino e às práticas pedagógicas no cenário da inserção de mecanismos digitais, incluindo a IA na educação, é imprescindível um ambiente mais democrático de diálogo, com participação mais efetiva de alunos e professores. Desse modo, a interação entre inovações tecnológicas e o objetivo precípuo das escolas em promover o ensino e o desenvolvimento pessoal para o exercício da cidadania não podem mais andar em direções opostas, no intuito de assegurar a garantia e o respeito aos direitos de crianças e adolescentes como agentes finais das redes públicas e privadas de educação.

Agência Nacional de Proteção de Dados – ANPD (2023). Enunciado CD/ANPD nº 1, de 22 de maio de 2023. Diário Oficial da União. Recuperado de https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-divulga-enunciado-sobre-o-tratamento-de-dados-pessoais-de-criancas-e-adolescentes/Enunciado1ANPD.pdf/view

Assembleia Legislativa do Estado de São Paulo – ALESP (2023, agosto). Seduc instala aplicativo sem consentimento em celulares pessoais de professores e alunos. Recuperado de  https://www.al.sp.gov.br/noticia/?10/08/2023/seduc-instala-aplicativo-sem-consentimento-em-celulares-pessoais-de-professores-e-alunos

Audi, A. (2023). Reconhecimento facial no Paraná impõe monitoramento de emoções em escolas. Apública. Recuperado de  https://apublica.org/2023/10/reconhecimento-facial-no-parana-impoe-monitoramento-de-emocoes-em-escolas/

Barbosa, R., & Blikstein, P. (2019). Robótica educacional: experiências inovadoras na educação brasileira. Penso Editora.

Cánovas, G. (2015). Cariño, he conectado a los niños. Bilbao: Ediciones Mensajero.

Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação – Cetic.br (2022). Resumo Executivo TIC Kids Online Brasil 2022. Recuperado de https://cetic.br/pesquisa/kids-online/

Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação – Cetic.br (2022). Pesquisa sobre o acesso, o uso e a apropriação de tecnologias digitais em escolas públicas e particulares brasileiras que ofereçam Ensino Fundamental e Médio: TIC Educação 2022 – Coletiva de Imprensa. Recuperado de https://cetic.br/media/analises/tic_educacao_2022_coletiva%20de%20imprensa.pdf

CNN Brasil (2023, agosto). Governo de SP recua e diz que vai oferecer livros também impressos para alunos. Recuperado de https://www.cnnbrasil.com.br/nacional/governo-de-sp-recua-e-diz-que-vai-oferecer-livros-tambem-impressos-para-alunos/

Comitê Gestor da Internet no Brasil – CGI.br (2022). Educação em um cenário de plataformização e de economia dos dados: problemas e conceitos. Evangelista, R. A. (coord). Recuperado de https://cgi.br/media/docs/publicacoes/1/20220929112852/educacao_em_um_cenario_de_plataformizaçao_e_de_economia_de_dados_problemas_e_conceitos.pdf

Comitê Gestor da Internet no Brasil – CGI.br (2022). Pesquisa sobre o acesso, o uso e a apropriação das tecnologias de informação e comunicação (TIC) em escolas públicas e privadas de educação básica brasileira: TIC Educação 2022. São Paulo: CGI.br. Recuperado de https://cetic.br/pt/pesquisa/educacao/indicadores/

Constituição da República Federativa do Brasil (1988). Recuperado de https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm

Data Privacy Brasil – DPB (2023). IA na sala de aula: modelos de participação para a comunidade escolar. Recuperado de https://conteudos.dataprivacy.com.br/cartilha-ia-na-sala-de-aula

Da Hora, N. (2023). Inteligência Artificial e Educação no Brasil: potencialidades e limitações. MIT Technology Review. Recuperado de https://mittechreview.com.br/inteligencia-artificial-e-educacao-no-brasil-potencialidades-e-limitacoes/

Dallari, D. In Cury, M., Garrido, P. A., & Marçura, J. N. (2002). Estatuto da criança e do adolescente anotado. In Estatuto da criança e do adolescente anotado, p. 553.

Decreto n. 99.710/1990. Convenção sobre os Direitos da Criança. Recuperado de https://www.planalto.gov.br/ccivil_03/decreto/1990-1994/d99710.htm

Delgado, P., Vargas, C., Ackerman, R., & Salmerón, L. (2018). Don’t throw away your printed books: A meta-analysis on the effects of reading media on reading comprehension. Educational research review, 25, pp. 23-38. Recuperado de https://www.researchgate.net/publication/330854760_Don’t_throw_away_your_printed_books_A_meta-analysis_on_the_effects_of_reading_media_on_reading_comprehension

De Paiva, N. M. N., & Costa, J. (2015). A influência da tecnologia na infância: desenvolvimento ou ameaça. Psicologia. pt, 1, pp. 1-13.

Fernandes, Sofia. (2024). O que é design viciante e por que a UE quer limitar seu uso? Folha Uol. Recuperado de https://www1.folha.uol.com.br/cotidiano/2024/06/o-que-e-design-viciante-e-por-que-a-ue-quer-limitar-seu-uso.shtml

Folha de São Paulo (2023, julho).  SP abre mão de verba para material didático e usará só livro digital a partir do 6º ano, Recuperado de https://www1.folha.uol.com.br/educacao/2023/07/sp-fica-fora-de-programa-nacional-de-livro-didatico-e-ira-usar-so-conteudo-proprio-em-escolas.shtml

Fundo das Nações Unidas para a Infância – UNICEF (2006). Relatório anual do Fundo das Nações Unidas para a infância: crianças de até 6 anos, o direito à sobrevivência e ao desenvolvimento. Recuperado de https://crianca.mppr.mp.br/arquivos/File/publi/unicef_sowc/sit_inf_brasil_2006_completo.pdf

Gawer, A. R., & Srnicek, N. (2021). Online platforms: Economic and societal effects. Panel for the Future of Science and Technology (STOA) European Parliament.

Gonsales, P., & Amiel, T. (2020). Educação na contemporaneidade: entre dados e direitos. Panorama Setorial da Internet. São Paulo, (3), pp. 1-7. Recuperado de   https://cetic.br/media/docs/publicacoes/6/20201110120042/panorama_setorial_anoxii_n_3_inteligencia_artificial_educacao_infancia.pdf

Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial Intelligence in education: promises and implications for teaching and learning. Center for Curriculum Redesign.  Recuperado de https://www.researchgate.net/publication/332180327_Artificial_Intelligence_in_Education_Promise_and_Implications_for_Teaching_and_Learning

Hoogeveen, M. (1997). Toward a theory of the effectiveness of multimedia systems. International journal of human-computer interaction, 9(2), pp.151-168.

Hooper, L., Livingstone, S., & Pothong, K. (2022). Problems with data governance in UK schools: The cases of Google Classroom and ClassDojo. Digital Futures Comission, 5Rights Foundation, London, UK.

Human Rights Watch – HRW (2022). “How Dare They Peep into My Private Life?” Children’s Rights Violations by Governments that Endorsed Online Learning During the Covid-19 Pandemic. Nova Iorque: HRW.Org. Recuperado de https://www.hrw.org/report/2022/05/25/how-dare-they-peep-my-private-life/childrens-rights-violations-governments

Instituto Alana (2024, maio). Inteligência Artificial para a prioridade absoluta dos direitos e do melhor interesse de crianças e adolescentes no Brasil. Contribuições do Instituto Alana ao substitutivo preliminar do PL 2.338/2023, divulgado em 25.4.2024. Recuperado de https://criancaeconsumo.org.br/biblioteca/nota-tecnica-do-instituto-alana-sobre-o-pl-2338/

Lei n. 8.069/1990. (1990). Estatuto da Criança e do Adolescente (ECA).  Recuperado de https://www.planalto.gov.br/ccivil_03/decreto/1990-1994/d99710.htm

Lei n. 9.394/1996. (1996). Estabelece as diretrizes e bases da educação nacional. Recuperado de https://www.planalto.gov.br/ccivil_03/leis/l9394.htm

Lei n. 12.965/ 2014. (2014). Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Recuperado de https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm

Lei n. 13.709/2018. (2018). Lei Geral de Proteção de Dados (LGPD). Recuperado de https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm

​​ Ministério da Saúde (2022). Primeira infância. Recuperado de https://www.gov.br/saude/pt-br/assuntos/saude-de-a-a-z/s/saude-da-crianca/primeira infancia#:~:text=A%20primeira%20inf%C3%A2ncia%20%C3%A9%20o,os%206%20anos%20de%20idade.

Organização das Nações Unidas para a Educação, a Ciência e a Cultura – UNESCO (2016). UNESCO International Bureau of Education. Recuperado de https://unesdoc.unesco.org/ark:/48223/pf0000243975.locale=en

Organization for Economic Cooperation and Development – OECD (2019). Recommendation of the Council on Artificial Intelligence.  Recuperado de https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449

Poell, T., Nieborg, D., & Van Dijck, J. (2019). Plataformização [Platformisation,

2019 – tradução Rafael Grohmann]. Revista Fronteiras – estudos midiáticos (2020) v. 22(1), pp. 2-10

Projeto de Lei n. 2.338/2023. (2023). Dispõe sobre o uso da Inteligência Artificial. Recuperado de https://legis.senado.leg.br/sdleg-getter/documento?dm=9347622&ts=1694638936361&disposition=inline

Sé, L. (2020). Reconhecimento de emoções? Por que cientistas de IA acham isso errado. Uol Tilt. Recuperado de https://www.uol.com.br/tilt/noticias/redacao/2020/01/04/reconhecimento-de-emocoes-por-que-cientistas-de-ia-acham-isso-errado.htm

Silva, T. D. O., & Silva, L. T. G. (2016). Os impactos sociais, cognitivos e afetivos sobre a geração de adolescentes conectados às tecnologias digitais.

Tomasello, M., & Call, J. (1997). Primate cognition. Oxford University Press, USA.

Van Dijck, J., Poell, T., & De Waal, M. (2018). The platform society: public values in a connective world. New York: Oxford University Press.

Wolf, M. (2019). O cérebro no mundo digital: os desafios da leitura na nossa era. Editora Contexto.

Zuboff, S. (2021). A era do capitalismo de vigilância. Editora Intrínseca.

Zuboff, S. (2019). Shoshana Zuboff on Surveillance Capitalism’s Threat to Democracy. [Entrevista concedida a Noah Kelwin]. New York Magazine. Recuperado de https://nymag.com/intelligencer/2019/02/shoshana-zuboff-q-and-a-the-age-of-surveillance-capital.html#:~:text=There’s%20data%20and%20information%20collected,control%20and%20power%20that%20these