El riesgo de la delegación total

Construir desde la representación es producir el mundo a partir de su imagen internalizada. Todo ente inteligente –humano, animal o artificial– percibe, selecciona, interpreta y organiza las señales de lo real, pero ninguno de ellos trabaja con lo real "puramente". Entonces, construir es transformar esas representaciones en otros sentidos y acciones.

La socióloga Gaye Tuchman (1983) sostuvo que las noticias no reflejaban la realidad: la construían. Esa idea fue, durante décadas, casi un mandamiento del periodismo sociológico.

Justamente, la corrección final de tu artículo o el mío, significa que construimos realidad desde nuestras representaciones. Porque nadie cuenta lo sucedido, sino contamos una elaboración de lo sucedido, leído, escuchado, recordado o imaginado. Además, luego, el medio donde ello se publique perfilará la escala del mensaje (McLuhan, 1964).

Vale agregar que, cuando la transición cognitivo-algorítmica irrumpió socialmente en 2022, y pasó del laboratorio al uso cotidiano, de inmediato evolucionó hacia sistemas multimodales capaces de producir, interpretar y ejecutar tareas. Hoy ya no es sólo una tecnología, sino un nuevo actor en la producción de sentido. Entonces ¿quién construye la realidad?

Esa pregunta, cuando menos, ya no puede poner la responsabilidad sobre los estudiantes al usar la IA para resolver sus tareas, sino, más aun, obliga a la universidad y a las IA a revisar qué estamos haciendo.

Por qué es un riesgo la delegación total.

Es importante entender que aplicar la IA en una producción de aprendizaje no necesariamente equivale a entregarle la construcción intelectual completa del producto. El problema –pedagógico– comienza cuando el estudiante delega no sólo la escritura, sino también las preguntas, decisiones, dudas y conclusiones; impidiéndole al docente conocer qué piensa. Una hipótesis floja, una contradicción o una frase mal resuelta permiten al profesor encontrar el pensamiento del estudiante; sin ello, se elimina eso que había que enseñar.

Si bien la filósofa Susan Sontag (1977) nos advirtió que las imágenes no reemplazan a las palabras sino que fragmentan la experiencia y pueden anestesiar la mirada en lugar de agudizarla, en este proceso algorítmico, la falacia acerca de la imagen por sobre la palabra desemboca en imágenes que se naturalizan a diario con IA: dientes perfectos, cuerpos proporcionados, piel homogénea, sonrisas publicitarias.

En los textos sucede algo equivalente: introducciones previsibles, desarrollo equilibrado, conectores esperables, conclusiones redondas. La máquina tiende a confundir calidad con regularidad y, aunque esto reduce la carga cognitiva y calma la ansiedad humana, la perfección también puede ser una forma de empobrecimiento.

Una producción puede mejorar técnicamente mientras pierde singularidad, conflicto, clase social, contexto, voz e historia. Por ejemplo, nuestras imágenes se vuelven visualmente "mejores" mientras dejamos de parecer trabajadores o estudiantes y empezamos a parecer modelos contratados para representarnos.

Sin embargo, la IA está decidida a convencernos de las ventajas de su construcción y para ello incorpora instancias de falsa neutralidad en sus patrones. Aunque destruir imperfecciones mecánicamente no resuelve el problema, ya que el procedimiento automático tiende a un ideal normalizado, la ausencia de irregularidad no es más que otra decisión estética. Y, de a poco, vamos confirmando que el promedio estadístico que realiza la IA no es neutral.

Tampoco la solución consiste en fabricar la imperfección ordenándole a la IA: "Poné tres canas, una cicatriz y un diente torcido". Eso produciría otro estereotipo: la imperfección perfecta o controlada. La irregularidad tiene sentido cuando deriva de una historia, una situación o una trayectoria. Un texto también debería conservar huellas de quien lo piensa: elecciones léxicas, obsesiones, dudas, ritmos, asociaciones y hasta ciertas asperezas. No todo lo irregular necesita ser corregido.

Tampoco conviene sostener ingenuamente que las personas pueden contar historias solo porque "las vivimos" y la IA no. Personas e IA construyen representaciones, aunque no mediante los mismos procesos ni desde la misma condición. La diferencia no está simplemente entre realidad y artificio. Toda narración es una construcción. La pregunta más productiva sería: ¿qué artificios permiten comprender mejor la complejidad de una experiencia y cuáles la normalizan hasta volverla irreconocible? Porque los criterios éticos para su uso y los morales incorporados a los modelos de lenguaje que establecen límites también producen representaciones.

Esa operación a veces puede ser necesaria, pero nunca es culturalmente inocua. Si cuerpo equivale automáticamente a sexualidad, conflicto a violencia o corrección a calidad, la tecnología no sólo restringe contenidos: propone determinada lectura del mundo.

Una utilización intelectualmente fértil no necesariamente consiste en pedirle a la IA que lo resuelva todo. Puede servir para objetar, preguntar, comparar, encontrar contradicciones, proponer alternativas y obligar al usuario a defender decisiones. La IA debería provocar pensamiento humano, no volverlo innecesario.

Como ocurre con la actual crisis del sistema democrático: surge cuando deja de ser un espacio de deliberación colectiva y pasa a ser gestión técnica: la política se reemplaza por la administración, y el ciudadano por el usuario o el dato. En democracia no desaparece la delegación; se intenta evitar que la delegación se convierta en cesión total de soberanía.

Trasladado a la IA, el problema no es delegar, sino dejar de elegir, dejar de controlar, dejar de responder por lo hecho. El equivalente intelectual de decir: "yo ya voté, ahora me desentiendo de todo". Cuando delegar pasa a ser renuncia, ya no estamos formando, estamos tercerizando el pensar. Eso no demoniza la IA, apunta directo al acto de abandonar.

Referencias:

Tuchman, G. (1983). La producción de la noticia: estudio sobre la construcción de la realidad.

McLuhan, M. (1964). Comprender los medios (Vol. 2002). Londres: Routledge.

Sontag, S. (1977). In Plato’s cave. On photography, 3, 3-24.