¿Qué errores cometen los modelos de IA? 

En esta clase analizamos dos errores que pueden cometer los modelos de lenguaje: errores de clasificación, y alucinaciones. Y anticipamos otra fuente de error: los sesgos sociales, también conocidos como estereotipos. Un error de clasificación ocurre cuando el modelo asigna una categoría incorrecta a un texto o imagen. Las alucinaciones, en cambio, implican presentar información falsa o inventada como si fuera verdadera, incluso citando fuentes inexistentes pero que a simple vista parecen existir. Estas situaciones pueden reforzar el sesgo de automatización, ya que tendemos a confiar en respuestas que suenan técnicas o bien fundamentadas. Se revisan ejemplos complejos, como interpretaciones médicas erróneas en radiografías o fallos en cálculos de dosis aún cuando el modelo utiliza fuentes oficiales mediante sistemas de recuperación de información (RAG).

Como caso se estudio de los errores de clasificación se analiza la dificultad de distinguir textos generados por IA de los escritos por personas, y cómo incluso herramientas de detección pueden fallar. A través de casos concretos se observa que los modelos pueden mezclar información, cometer imprecisiones o hacer cálculos matemáticos erróneos. La clase invita a fortalecer una mirada crítica reconociendo las formas en las que la IA se equivoca y por qué sus errores son difíciles de detectar.

Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

👩‍🏫 Docente: Luciana Benotti