Imagina un examen nacional que decide si un estudiante ingresa a la universidad de sus sueños. Ahora imagina que es evaluado por una inteligencia artificial (IA), y que ni sus propios creadores pueden garantizar que califique de la misma manera el mismo trabajo dos veces.
No se trata de ciencia ficción. Es lo que muestra la evidencia sobre la IA y las pruebas estandarizadas, evaluaciones masivas que aplican ministerios de educación y organismos internacionales para medir a miles de estudiantes con los mismos parámetros .
Las pruebas estandarizadas tienen por objetivo hacer evaluaciones de forma justa y a gran escala. PISA -Programa Internacional para la Evaluación de Estudiantes- evalúa a estudiantes de 15 años en 81 países. ERCE -Estudio Regional Comparativo y Explicativo- en América Latina, mide el rendimiento académico de estudiantes de 3ro y 6xto grado en materias básicas. Sus resultados recientes preocupan: en la última edición de PISA, el promedio mundial en matemática cayó cerca de 15 puntos. Se trata de la caída más fuerte jamás registrada. Las pruebas reflejan un problema ajeno a la IA: un estudiante de mayor nivel socioeconómico obtiene, en promedio, hasta 93 puntos más en matemática que uno de menor nivel. Este es el contexto en el que aparece como elemento disruptivo, la IA. Conviene entender qué tipo de herramienta estamos poniendo a calificar a nuestros hijos.
Lo primero que hay que saber es que un modelo de IA no es determinista. Esto significa que un mismo resultado no está asegurado. Funciona de forma probabilística: ante un ensayo, calcula cuál es la nota más probable según patrones aprendidos de millones de textos, sin aplicar una regla fija. Ante el mismo insumo, puede ofrecer resultados distintos cada vez.
De su naturaleza probabilística nace un segundo riesgo: la alucinación. La IA puede inventar datos o justificar una evaluación con argumentos falsos y convincentes.
Un estudio de este año puso a cinco modelos avanzados a calificar los mismos ensayos universitarios varias veces con la misma rúbrica. La coincidencia entre las notas de los modelos y las de los profesores fue muy baja. El propio modelo, ante el mismo ensayo, no siempre se puso de acuerdo con él mismo.
Existe un tercer riesgo: el sesgo. Un modelo entrenado con textos que reflejan desigualdades existentes puede calificar mejor a quienes escriben como la mayoría de sus datos de entrenamiento, y peor a quienes usan otro vocabulario, sin que ello refleje una diferencia real de aprendizaje.
Existe un cuarto riesgo que casi nadie menciona: el modelo puede degradarse con el uso intensivo. Cuando se entrena una y otra vez con contenido generado por otras inteligencias artificiales, en vez de datos originales de personas, la calidad tiende a disminuir, un fenómeno que los investigadores llaman colapso del modelo. Un sistema de calificación masiva, alimentado con sus propios resultados, no necesariamente mejora con el uso: puede degradarse.
A pesar de esto, muy pocas instituciones cuentan con reglas claras. Una encuesta reciente de la UNESCO identificó que menos del diez por ciento de las escuelas y universidades del mundo tiene lineamientos formales sobre inteligencia artificial: la herramienta ya califica y genera preguntas en estos centros de estudios, pero hay un pendiente en cuanto a las normas que deben regir este proceso.
Para una familia, esto se traduce en una pregunta incómoda: ¿mi hijo fue evaluado por una persona con criterio, o lo hizo un algoritmo probabilístico, capaz de inventar, con sesgos heredados y sin garantía de estabilidad?
No hay una respuesta simple. Es probable que quien ofrezca una solución instantánea esté vendiendo algo más que evidencia. Lo que sí sabemos es que ningún organismo internacional serio recomienda dejar la calificación de un examen de alto impacto en manos de un algoritmo sin supervisión humana.
La inteligencia artificial puede ser una aliada valiosa para evaluar mejor a nuestros estudiantes. Pero conviene recordar antes de entregarle las llaves del aula que una herramienta que adivina, inventa, hereda sesgos y puede degradar sus outputs con el uso no debería decidir sola el futuro de nadie.
La autora es candidata a Maestría de Gestión de Proyectos con IA Generativa Universidad de Salamanca.
