Desde los propios orígenes de la humanidad, el hombre —único y singular— con su subjetividad —conciencia de sí mismo—, está signado por sus vivencias, experiencias, asociaciones, generalizaciones, colaboraciones, empatía, creatividad, pensamiento crítico… En este marco y recuperando la concepción de Alan Turing (1912-1954) sobre el vínculo relacional hombre (Inteligencia humana) - máquina (Inteligencia artificial): “No somos autómatas”.
La máquina es un objeto técnico dotado de gran capacidad de cómputo, algoritmos, que procesa lenguaje natural (PNL), entre otras funciones. El hombre, en cambio, es un sujeto de derecho con garantías fundamentales como el derecho a la vida, a la educación, a la salud. En la actualidad, estas disciplinas tecnológicas están redefiniendo la cultura y las interacciones humanas, al transformar la forma en que aprendemos, trabajamos, nos comunicamos, creamos y consumimos contenido, así como también la forma en que tomamos decisiones, tanto a nivel personal como colectivo.
El desafío contemporáneo es integrar de manera crítica y estratégica estas nuevas herramientas digitales —capaces de simular aspectos del pensamiento humano, automatizar tareas repetitivas, optimizar procesos y aprender de la experiencia para mejorar su desempeño— en el ámbito educativo con el fin de mejorar la calidad y eficiencia de los procesos de enseñanza/aprendizaje en términos de evolución humana.
En un ecosistema pos-pandémico, la inteligencia artificial (IA) —entendida como “máquinas que replican determinadas características de la inteligencia humana” (Unesco, 2023)— no solo atraviesa todos los aspectos de la vida humana, desde los más básicos a los más complejos, en diversos campos de aplicación como el ámbito académico e industrial, sino que además plantea importantes desafíos éticos, jurídicos, sociales, económicos y ambientales. En este contexto, dado el alto grado de avance que tienen estos procesos de transformación digital en la sociedad, se vuelve imprescindible formar una ciudadanía crítica en su uso y comprensión, configurando un futuro donde la colaboración entre seres humanos y máquinas será cada vez más estrecha e inseparable.
La recolección masiva de datos para entrenar estos modelos de IA plantea serias preocupaciones sobre la privacidad y el riesgo de vigilancia masiva, especialmente en contextos donde las regulaciones son débiles. Los sesgos en los algoritmos, derivados de datos de entrenamiento no representativos, pueden reproducir y/o amplificar desigualdades existentes como estereotipos y prejuicios de género, étnico-raciales o socioeconómicos, además de profundizar la brecha digital. Existen también otros riesgos, como la deshumanización, que se refiere a la automatización de saberes técnicos, procedimientos y normas; la delegación excesiva de funciones individuales y sociales, y la indefinición en torno al plagio. Asimismo, genera controversia la propiedad intelectual en la era de la IA, surgen incógnitas respecto a quién es el titular de los derechos de autor de una obra creada por una IA, cómo se protegen los algoritmos y los datos que esta tecnología tiene bajo su mando, entre otras.
Por otro lado, el impacto ambiental de la IA no está exento de críticas, ya que el entrenamiento de modelos de IA requiere un consumo energético masivo, lo que genera una huella de carbono significativa si no se utilizan fuentes de energía renovables.
Para gestionar estos cambios, los gobiernos están desarrollando marcos regulatorios en cada jurisdicción con aspectos claves comunes, como la Declaración de Montevideo sobre IA y su impacto en América Latina (2023) y la Ley de IA de la Unión Europea (2024), que buscan equilibrar la Innovación con la Protección de los Derechos Humanos. La adaptación del sistema jurídico a esta nueva realidad implica la adopción de nuevas herramientas y también una profunda reflexión sobre los principios fundamentales de la justicia para regular el desarrollo, uso y responsabilidad de la IA en entornos inteligentes. No se trata de frenar el desarrollo científico-tecnológico, que en definitiva no deja de ser una construcción humana, sino de acompañarlo con un marco normativo claro, justo y humanista. Por último, en este contexto socio-tecnológico, considero que la pregunta que deberíamos hacernos como educadores al utilizar las IAs para explorar nuevas formas de enseñanza/aprendizaje es: ¿Qué tipo de intervenciones pedagógicas queremos preservar en nuestras prácticas docentes en la era en que los algoritmos almacenan más conocimientos que nosotros?
Carla Moralejo: Docente de Unnoba
Compartir