En la encrucijada de la tecnología y la educación se está gestando una revolución que moldeará el futuro de nuestras generaciones más jóvenes. La Inteligencia Artificial, un término que alguna vez pareció pertenecer exclusivamente a ámbito de la ciencia ficción, se ha establecido como una fuerza transformadora de la forma en que aprendemos.

Los niños y jóvenes, quienes se encuentran cursando en nuestras instituciones educativas, conforman la primera generación que está siendo educada por internet. Tienen acceso constante a dispositivos móviles, que desempeñan un papel central en sus relaciones interpersonales. Su comprensión del mundo se forma mayormente a través de la pantalla y la red influye en su percepción de la realidad y la verdad.

Interactúan con la IA en formas diversas, desde juguetes hasta asistentes virtuales y videojuegos, y se ven influenciados por algoritmos de recomendación en la elección de sus contenidos y conexiones sociales. Además, las decisiones automatizadas de la IA afectan indirectamente aspectos importantes de su vida tales como: subsidios, atención médica, educación y vivienda de sus familias.

En este contexto, algunas instituciones educativas se centran en aprovechar la tecnología y explorar el potencial de la Inteligencia Artificial en el aula. Buscan democratizar el conocimiento y cultivar habilidades y conciencias más avanzadas que las previas en la historia de la humanidad.

En una reciente entrevista, el conocido empresario y filántropo, Bill Gates, ha legado a señalar que “la IA será un tutor tan bueno como cualquier ser humano”. Sin embargo, no son pocos los que advierten sobre las consecuencias éticas y los peligros del uso indiscriminado de la IA en la educación.

La reconocida ONG UNICEF, en su informe “Orientación de políticas sobre el uso de la Inteligencia Artificial en favor de la infancia”, publicado en noviembre 2021, argumenta que los fundamentos para el uso de la IA con jóvenes y niños se deben encontrar en sus derechos. Las iniciativas deben ser vistas a través del prisma de la protección, prestación y participación.

Así entendida, la Inteligencia Artificial debería:

• Garantizar la inclusión de y para los niños
• Favorecer su desarrollo y bienestar
• Priorizar la imparcialidad y la no discriminación
• Proteger sus datos y la privacidad
• Garantizar su seguridad
  Proporcionar transparencia, explicabilidad
• Empoderar a los gobiernos y las empresas con conocimientos sobre la IA y los derechos del niño
• Prepararlos para el presente y el futuro de la Inteligencia Artificial

Estos postulados son, sin duda, bien intencionados pero lejanos a la realidad de los jóvenes y niños. Pecan de cierta ingenuidad en la vida real.
Otro reporte internacional, en este caso de la UNESCO, advierte sobre los desafíos de la IA en la educación, aportando una mirada contrapuesta que nos permita desarrollar nuestro propio pensamiento crítico. Menciona los siguientes desafíos:

• Presencia de Sesgos en la IA, incluyendo:
  • Los datos de entrenamiento
  • La programación de los algoritmos
  • Los usuarios finales
• Ética y privacidad, descubriendo riesgos de:
  • Suplantación de identidad
  • Desinformación y propaganda
  • Acoso y ciberbullying
  • Manipulación de evaluaciones
  • Violación de la privacidad de jóvenes y niños.

Esta tensión entre derechos y desafíos se desarrolla en la sociedad, en la vida cotidiana y llega al ámbito de la educación. Moviliza la interioridad de los jóvenes y aumenta los riesgos a gestionar, especialmente cuando son exteriorizados en grupo o inclusive en manada.

Entra al aula, con los teléfonos celulares, las notebooks y los equipos de laboratorio. Afecta a instituciones educativas y docentes. También, las familias que conforman la primera institución socializadora son salpicadas por ella y, en ocasiones, salpican a las propias instituciones educativas.

En un mundo cada vez más influenciado por la Inteligencia Artificial, la responsabilidad conjunta de instituciones educativas y familias es crucial para proteger a los niños y jóvenes.
Las escuelas deben enseñar a los jóvenes a usar la IA de forma ética y segura, como también brindar formación tecnológica a las familias.

Al mismo tiempo, las familias tienen la tarea de cultivar un diálogo abierto y orientación constante con sus hijos, fomentando la conciencia y el discernimiento en el uso ético y responsable de la tecnología.

Juntas, estas dos fuerzas pueden proporcionar un entorno que permita a los jóvenes y niños aprovechar los beneficios de la Inteligencia Artificial sin comprometer su bienestar ni valores fundamentales. Providencialmente, “Attention is all you need” (Atención es todo lo que necesitas) es el nombre del paper científico publicado en 2017 por el equipo del investigador Ashish Vaswani, quien ha desatado el progreso exponencial de la AI Generativa. Atención, es todo lo que las familias y las instituciones educativas requieren para la educación segura de los jóvenes.

(*) Daniel Feijo: Director de la carrera de ingeniería en informática, UADE