La inteligencia artificial (IA) ha sido una de las tecnologías contemporáneas con mayor capacidad de transformación en nuestra época. En las últimas décadas se ha convertido en uno de los campos tecnológicos más prometedores y su impacto en la sociedad es cada vez más evidente. Desde el reconocimiento de voz, hasta la toma de decisiones para la resolución de problemas complejos, así como en la detección de fraudes virtuales y la creación de nuevos campos de investigación, la IA ha demostrado ser una herramienta valiosa en una amplia variedad de esferas sociales, económicas, políticas e industriales. 

A medida que la IA continúa avanzando, sin embargo, también presenta una serie de riesgos y desafíos culturales que deben ser abordados. Uno de ellos tiene que ver con su impacto en el ámbito educativo, sobre todo en los procesos de enseñanza-aprendizaje.

La inteligencia artificial es un tipo de tecnociencia¹ contemporánea que estudia el comportamiento e interviene en la resolución de problemas por parte de una máquina. Esta área se enfoca en crear sistemas computacionales capaces de imitar las capacidades cognitivas humanas, como pensar, representar, aprender e interactuar con los usuarios. Se trata de una tecnología emergente, también denominada “tecnología de frontera o convergente”², que ha tenido un gran impacto en la cultural global, ya que permite desarrollar nuevos productos y servicios para mejorar amplios aspectos de la vida cotidiana; no obstante, este avance ha tenido serias consecuencias sociales y ambientales.

La IA ha avanzado de manera significativa transformando radicalmente la manera en que vivimos, pensamos, nos relacionamos, trabajamos y convivimos de forma cotidiana. Se ha utilizado en una variedad de manufacturas en el ámbito de la atención médica o la industria automotriz contemporánea; empero, presenta una serie de riesgos y desafíos sociales que deben ser abordados para garantizar que sus beneficios superen sus impactos negativos.

Impactos positivos en los procesos de enseñanza-aprendizaje

La IA tiene el potencial de transformar el proceso de enseñanza y aprendizaje mejorando la calidad de la educación en algunos ámbitos; pero al mismo tiempo tiene la capacidad de generar consecuencias negativas imprevistas en la actualidad. Una de las formas en que está impactando la educación es a través de la mejora de la personalización del aprendizaje. Puede analizar los datos de los estudiantes, habilidades y competencias educativas, con el objetivo de proporcionar recomendaciones personalizadas sobre qué materiales de aprendizaje serían óptimos para cada tipo de alumno.

Además, la IA también puede ayudar a adaptar la velocidad y el nivel de dificultad del material de aprendizaje para satisfacer las necesidades individuales de cada educando. Esto puede ayudar a las y los alumnos a aprender de manera más eficiente, lo que puede mejorar su rendimiento académico, dentro y fuera del aula.

Otro impacto importante de la IA en la educación es la automatización de tareas administrativas. Puede ayudar a las instituciones educativas a automatizar tareas como la gestión de registros de estudiantes, la programación de clases virtuales y la evaluación de exámenes. Esto puede ahorrar tiempo y recursos a las entidades de educación, lo que les permite centrarse en actividades más importantes, como la enseñanza y el desarrollo curricular. Además, la automatización de tareas administrativas contribuye a reducir errores y mejorar la precisión de los registros estudiantiles.

Otro de los impactos positivos de la IA en el ámbito del aprendizaje es señalado por la UNESCO en el texto La Inteligencia Artificial en la Educación³. Con base en la aprobación del Consenso de Beijing sobre la Inteligencia Artificial y la Educación, durante la “Conferencia Internacional sobre Inteligencia Artificial en la Educación”, que tuvo lugar en Beijing en 2019, la UNESCO identifica (desde un enfoque humanista) cinco ámbitos: 1) La IA al servicio de la gestión y la implementación de la educación; 2) La IA al servicio del empoderamiento de los docentes y su enseñanza; 3) La IA al servicio del aprendizaje y de la evaluación de los resultados; 4) El desarrollo de los valores y las competencias necesarias para la vida y el trabajo en la era de la IA; y 5) La IA como modo de proporcionar a todos posibilidades de aprendizaje a lo largo de toda la vida.

Riesgos en la educación actual

A pesar de los beneficios potenciales de la IA en la educación, su implementación presenta algunos desafíos. Uno de los mayores retos es la falta de capacitación y conocimiento de los educadores sobre cómo utilizarla de manera efectiva en el aula. Además, la privacidad y la seguridad de los datos de los estudiantes también son preocupaciones importantes cuando ésta se utiliza en este ámbito. La protección de datos personales y el manejo responsable de la información privada de los alumnos, pues, se vuelve un tema central para las instituciones educativas.

Otro de los riesgos importantes es la capacidad que tiene la IA para sustituir el proceso de creación de conocimientos críticos, reflexivos y creativos por parte de las y los estudiantes. Un ejemplo es el desarrollo del modelo tecnológico “Chat GPT-4”, de la empresa OpenAI, que desde su salida en el año 2022, está revolucionando las posibilidades de creación de contenidos con consecuencias inimaginables.

Este tipo de IA puede, seriamente, poner en crisis uno de los elementos constitutivos de nuestra especie humana, como es el proceso de creación e invención, directamente relacionado con el proceso cognitivo de imaginación. El desarrollo artificial de contenidos implica la sustitución de un proceso cognitivo natural de los seres humanos, por un modelo de lenguaje programado para la generación de tareas de aprendizaje. Esta sustitución pone en entredicho la “autoría” personal, la subjetividad, así como la singularidad del pensamiento humano.

Cuando un estudiante utiliza IA para entregar tareas o desarrollar contenidos, una serie de preguntas saltan inmediatamente a la vista: ¿quién es el autor o autora de ese contenido?, ¿el estudiante, la IA, ambos?, ¿a quién se le debe dar crédito por la generación de esa información?, ¿posee identidad de género la información o el contenido creado por la IA?, ¿las y los alumnos realmente aprenden al utilizar la IA?, ¿cuáles son las nuevas mediaciones, formas de socialización y extensiones cognitivas, para decirlo con McLuhan, a la hora de crear contenidos artificiales? Más aún, ¿se trata de una nueva tendencia tecnológica con consecuencias culturales y didácticas irreversibles?

Por otro lado, este tipo de “chats-bots” pueden generar información que no se encuentre basada en evidencias científicas, o bien, no permitir la producción de nuevos conocimientos por parte de estudiantes; así como la inhibición del aprendizaje colaborativo, debido a la particularidad del uso “individualizado” en la creación artificial de contenidos. El desarrollo de esta IA, sin regulaciones jurídicas ni estándares éticos, puede además correr el riesgo de mal uso de información privada, manejo irrestricto de datos personales, así como producción de información “incorrecta”, falsa o no certificada, con alto impacto para las y los alumnos.

Otro de los riesgos está directamente asociado con el desarrollo de tareas complejas que las IA pueden lograr en la actualidad. El crecimiento acelerado de tareas cada vez más difíciles dentro y fuera de las aulas, podría eventualmente generar un proceso de reemplazamiento de las y los maestros, capacitadores, gestores educativos, así como de distintos profesionales del campo educativo.

Los peligros de la digitalización, virtualización y artificialización del aprendizaje podrían tener consecuencias negativas para la calidad de la evaluación educativa, la producción de conocimiento, así como en los aprendizajes colaborativos que requieren de la socialización, la interacción y las relaciones humanas. Además, la pérdida de empleos puede tener un impacto económico significativo en las comunidades locales, especialmente en aquellas que dependen de la educación como fuente principal de trabajo.

Tecnologías de discriminación y exclusión social

Por otro lado, uno de los riesgos importantes del desarrollo de la IA es la discriminación y la exclusión social. A medida que ésta se vuelve más compleja y expansiva puede replicar los prejuicios culturales y la discriminación existentes en la sociedad; por ejemplo, los algoritmos utilizados en la selección de candidatos para empleos pueden estar sesgados hacia ciertos grupos étnicos o de género, lo que incrementaría los tipos de exclusión social en el lugar de trabajo o en el ámbito profesional.

La inteligencia artificial posee un alto potencial para reproducir los prejuicios sociales y la discriminación racial, étnica, política y religiosa en nuestra sociedad, ya que podría ser usada con fines socialmente irresponsables. Es decir, si se cuenta con una aplicación de reconocimiento facial que identifique a las personas basándose en sus rasgos fenotípicos (como el color de piel), se puede contribuir al sesgo racial porque no todos los individuos tienen los mismos patrones fisonómicos (que un reconocimiento tecnológico estandarizado, previamente programado) como el que una IA exige.

Esto se puede convertir en un problema mayor cuando se usan tecnologías como la IA para decidir quién recibe un préstamo bancario o qué tipo de tratamiento médico recibirán las personas con alguna discapacidad mental o física, pues estos procesos son automatizados y no necesariamente justos para todos los individuos. 

Asimismo, otro riesgo asociado con la IA es la desigualdad social, ya que puede permitir que las empresas y los individuos con acceso a ella se beneficien de manera desproporcionada. Por ejemplo, las compañías que pueden pagar por tecnologías avanzadas de IA tendrían una ventaja competitiva sobre las que no. Esto puede llevar a una mayor desigualdad en el mercado profesional y en las formas de exclusión contemporáneas.

Para abordar estos riesgos, es importante que se tomen medidas para asegurar que la IA sea accesible para todas y todos los ciudadanos. Esto incluye la implementación de políticas de inclusión y alfabetización digital, así como la promoción de programas de educación y capacitación en IA para garantizar que todos tengan la oportunidad de aprender y beneficiarse de ella.

Privacidad, seguridad y vigilancia social

La IA también presenta desafíos éticos relevantes, como los de la seguridad personal, la vigilancia y la privacidad. Puede recopilar y analizar grandes cantidades de datos sobre los usuarios, lo que puede violar el uso privado de la información de perfiles de los ciudadanos. En el caso de estudiantes, sobre todo en los niveles básico, medio superior y superior, es bastante claro. Además, existe el riesgo de que la IA sea utilizada para cometer delitos, como fraudes bancarios, el robo de identidad o tipos de acoso virtual, como en el caso de estudiantes menores, infantes y adolescentes.

Otro de los riesgos es el uso, la privatización, la recolección y el análisis de datos. La inteligencia artificial puede ser utilizada para recopilar información de los usuarios y analizarla. Esto incluye datos personales como nombres, direcciones, correos electrónicos y otro tipo de éstos que se generan cuando una persona accede a un servicio digital, virtual o en línea. Los proveedores de servicios los pueden usar para fines comerciales, mercantiles, publicitarios o de criminalidad, y los gobiernos para investigaciones en seguridad; pensemos en las grandes bases de datos, con fotografías faciales, con las que cuentan agencias de seguridad como el FBI en los Estados Unidos.

Para abordar estos riesgos, es importante que se implementen medidas para garantizar la privacidad y seguridad de los datos de los usuarios. Esto incluye la implementación de regulaciones y estándares de seguridad adecuados para que estén protegidos contra el acceso no autorizado, tanto de empresas, como de servicios comerciales, políticos e incluso legales.

También son necesarias medidas para asegurar la transparencia y la responsabilidad en el desarrollo y uso de la IA, a través de la regulación legal y esquemas éticos que permitan un uso justo y equitativo. En esta dirección, una educación digital adecuada coadyuvaría a que el público en general comprenda los riesgos y beneficios de este tipo de sistemas tecnológicos.

En conclusión, la IA presenta una serie de riesgos y desafíos sociales que deben abordarse para garantizar que sus beneficios superen sus impactos negativos, sobre todo en ámbitos tan importantes como la educación. Para lograr esto, es necesario implementar medidas que aseguren la transparencia y la responsabilidad en su desarrollo y uso, así como una educación adecuada que permita al público en general comprender los riesgos y bondades de esta tecnología.

En esta dirección, el Consenso de Beijing sobre la Inteligencia Artificial y la Educación, citado por la UNESCO, establece una serie de recomendaciones transversales que vale la pena mencionar, a manera de consideración final, sobre las tareas que la IA debería suscitar en el ámbito educativo, a saber: a) promover una utilización equitativa e inclusiva en la educación; b) trabajar por una IA que respete la equidad y la igualdad de géneros; c) velar por un eso ético, transparente y comprobable de los datos y algoritmos de la educación; d) hacer seguimiento, evaluación e investigación.