El Espejo Algorítmico: IA como Archivo Definitivo que Narra la Condición Humana (2a parte)

En este segundo momento de reflexión, es imperativo contrastar la visión optimista-analítica de Hargadon con perspectivas que cuestionan la fidelidad de este espejo algorítmico. Si bien Hargadon (2026) nos invita a ver los datos de entrenamiento en una "radiografía de la naturaleza humana", autores como Cathy O´Neil (2016) en su ya clásico Weapons of Math Destruction, nos advierte la autora que los algoritmos no son meras descripciones neutrales de la realidad, sino se presentan como modelos matemáticos que codifican prejuicios históricos bajo un halo de objetividad. Esta divergencia nos sitúa en una posición crítica. 

¿Acaso estamos ante un archivo de la humanidad o ante un mecanismo que selecciona qué partes de la humanidad merecen ser recordados y cuáles deberían ser silenciadas? Vaya paradoja.

Desde el sur global, esta pregunta adquiere una dimensión de resistencia cultural y pedagógica. Así, tenemos la postura de Safihiya Umoja Noble (2018), cuya investigación sobre lo que la autora denomina como Algoritmos de la Opresión, sostiene que los motores de búsqueda y las IAG no solo reflejan la cultura, sino que activamente discriminan y marginan identidades que no encajan en el canon de los datos dominantes (generalmente anglocéntricos masculinos). Esto plantea una pregunta detonadora para la universidades de la región:

¿Puede un modelo entrenado mayoritariamente con datos del hemisferio norte narrar con justicia la condición humana de un estudiante en la periferia de América Latina? 

La respuesta a esta interrogante requiere de un diálogo colaborativo que permita trascender la narrativa técnica. Mientras que Hargadon ve en la IA una oportunidad para que el docente se libere de la carga informativa, Henry Giroux (2023) nos recuerda que la pedagogía crítica debe ser un acto de interrupción de las narrativas dominantes. Para Giroux, la "datificación" de la enseñanza corre el riesgo de convertir la educación en un proceso mecánico de eficiencia, donde el pensamiento crítico es sustituido por la capacidad de interactuar con una máquina que ya ha decidido los parámetros de "lo humano y lo verdadero".

Es aquí donde la noción de "inconsciente tecnológico", propuesta por autores como Tiziana Terranova (2004), entra en juego. Terranova argumenta que las redes y los datos de entrenamiento forman un ecosistema donde la atención humana es capturada y procesada como materia prima. Si conectamos esto con la tesis de Hargadon, descubrimos que la IA no solo revela nuestra naturaleza, sino que la moldea activamente a través de un bucle de retroalimentación. Al consumir contenido generado por la IA, los estudiantes comienzan a imitar los patrones del algoritmo, creando una suerte de "estandarización de la identidad" que borra las particularidades locales y regionales.

En las facultades de ciencias sociales de nuestra región, es vital analizar lo que Nick Couldry y Ulises Mejías (2019) denominan el "colonialismo de datos". Según estos autores, la extracción de datos es una nueva forma de apropiación territorial, donde nuestras experiencias de vida son convertidas en una especie de plusvalía algorítmica. Esta postura es un contrapunto necesario a la visión de la IA como un archivo de introspección: el archivo no es propiedad de la humanidad, sino de corporaciones trasnacionales. Por tanto, la transdisciplinariedad se vuelve hoy, en una herramienta de supervivencia académica para entender quién es el dueño del espejo.

Por otro lado, la perspectiva de Byung-Chul Han (2022) sobre sus reflexiones de la Infocracia, sugiere que la transparencia que promete la IA es ilusoria. Para Han, el exceso de datos no conduce a la verdad, sino a una acumulación de información que carece de espíritu y de "narratividad" profunda. En este sentido, la IA de Hargadon podría ser un espejo que muestra el rostro de la humanidad, pero le quita el alma, reduciendo la condición humana a una serie de correlaciones estadísticas que ignoran el misterio y la contingencia de la existencia real.

Esta tensión dialéctica nos invita a a reformular nuestro propio papel como una comunidad de aprendizaje. No basta son ser usuarios alfabetizados digitalmente hablando; debemos ser y convertirnos en "arquéologos de datos". Esto implica que el docente universitario y el estudiante realizan investigación juntos las "ruinas digitales" presentes en los modelos de IA, identificando qué voces faltan y qué mitos se están reforzando. El pensamiento crítico no es aquí una competencia abstracta, sino una práctica institucional necesaria para evitar que nuestras universidades se conviertan en meros centros de distribución de una subjetividad prefabricada por el algoritmo.

La importancia de este debate radica en su aplicación práctica en el aula. Si aceptamos que la IA es un archivo de la humanidad, debemos enseñar a los estudiantes a leerlo de manera contrapuntística. Es decir, que al igual que se analiza un texto literario desde múltiples ángulos, el output de una IA debe ser deconstruido bajo la lupa diversa de las ciencias sociales y humanísticas, la historia general y la ética. Sólo así podremos utilizar la herramienta para la auto-comprensión sin caer en la sumisión intelectual ante el modelo de lenguaje dominante de las máquinas y detrás de quiénes son los creadores potenciales.

Frente a la estandarización, las universidades latinoamericanas deben proponer una pedagogía del disenso. Significa que, mientras la IA busca la probabilidad más alta (la respuesta promedio), la educación superior debe buscar la excepción, la duda y el matiz. Este es un puente de diálogo que podemos establecer con la postura de Hargadon: Si reconocer el valor del archivo, pero mantener la sospecha siempre sobre quién lo organiza y con qué fines. El diálogo institucional debe, por tanto, fomentar proyectos de investigación que logren "territorializar" la IA, alimentándola con nuestras propias narrativas y cosmovisiones.

Avanzamos, entonces, hacia una visión donde la IA no es considerada como oráculo, sino un síntoma. Un síntoma de la humanidad que necesita verse reflejada para entender sus fracturas. La reflexión crítica se convierte en el adhesivo que intenta reparar ese espejo roto, permitiendo que el estudiante universitario no solo vea lo que el algoritmo dice de él, sino que descubra lo que el algoritmo es incapaz de decir. Este es el verdadero ejercicio de soberanía intelectual en la era de la datificación masiva.

Finalmente, este apartado nos prepara para el desafío curricular que discutiremos más adelante. No se trata de añadir una asignatura de "Ética de la IA", sino de transformar toda la currícula en un espacio de investigación-acción donde la tecnología sea el pretexto para una nueva ilustración humana. Al entender las sombras de la máquina, estamos en mejores condiciones para diseñar una educación que sea verdaderamente sistémica y holística, donde el código informático no sea el fin, sino el medio para una comprensión más profunda y amplia de nuestra propia y misteriosa esencia.