Section outline

  • CLASE 4 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

    ¿Qué errores cometen los modelos de IA? 


    En esta clase analizamos dos errores que pueden cometer los modelos de lenguaje: errores de clasificación, y alucinaciones. Y anticipamos otra fuente de error: los sesgos sociales, también conocidos como estereotipos. Un error de clasificación ocurre cuando el modelo asigna una categoría incorrecta a un texto o imagen. Las alucinaciones, en cambio, implican presentar información falsa o inventada como si fuera verdadera, incluso citando fuentes inexistentes pero que a simple vista parecen existir. Estas situaciones pueden reforzar el sesgo de automatización, ya que tendemos a confiar en respuestas que suenan técnicas o bien fundamentadas. Se revisan ejemplos complejos, como interpretaciones médicas erróneas en radiografías o fallos en cálculos de dosis aún cuando el modelo utiliza fuentes oficiales mediante sistemas de recuperación de información (RAG).

    Como caso se estudio de los errores de clasificación se analiza la dificultad de distinguir textos generados por IA de los escritos por personas, y cómo incluso herramientas de detección pueden fallar. A través de casos concretos se observa que los modelos pueden mezclar información, cometer imprecisiones o hacer cálculos matemáticos erróneos. La clase invita a fortalecer una mirada crítica reconociendo las formas en las que la IA se equivoca y por qué sus errores son difíciles de detectar.

    Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

    👩‍🏫 Docente: Luciana Benotti

    • ¿Qué errores comenten los modelos de IA? URL
    • Debajo encontrás las diapositivas de la clase, pensadas como apoyo para volver sobre las ideas, preguntas y tensiones que se abren en el video.

      📚 Conceptos claves

      Alucinación (en IA): Fenómeno por el cual un modelo de lenguaje genera información que es factualmente falsa, inexistente o sin base en los datos reales, pero presentada con una apariencia de absoluta certeza y coherencia sintáctica.

      Estereotipo: Imagen o idea aceptada comúnmente por un grupo o sociedad con carácter inmutable.

      Referencia: Real Academia Española. Estereotipo. En el Diccionario de la lengua española. Recuperado de https://dle.rae.es/estereotipo

      En IA, se refiere a la reproducción o amplificación de creencias sobregeneralizadas (también conocidas como sesgos sociales) sobre grupos particulares de personas, que pueden ser incorporadas en los modelos de lenguaje a través de los datos o métodos de entrenamiento.

      Ejemplo:       Un modelo de lenguaje que asocia consistentemente ciertas profesiones con géneros específicos, como "enfermera" con mujeres e "ingeniero" con hombres.

      Estereotipo de grupo ajeno: Son las percepciones, a menudo simplificadas o distorsionadas, que los miembros de un grupo tienen sobre otro grupo al que no pertenecen.

      Estereotipo de grupo propio: Son las creencias, imágenes y descripciones que los miembros de un grupo social tienen sobre sí mismos.

      Sesgo de automatización: Es la propensión humana a confiar de manera excesiva o acrítica en las sugerencias de un sistema automatizado, ignorando incluso la propia lógica o información contradictoria.

      Word embedding: Técnica de representación de palabras en forma de vectores numéricos densos en un espacio multidimensional. Esta representación captura relaciones semánticas y sintácticas entre palabras, permitiendo a las máquinas procesar el lenguaje de manera más efectiva.

      Ejemplo: En un modelo de word embedding, palabras semánticamente similares como "rey" y "reina" estarían cerca en el espacio vectorial, mientras que "rey" y "manzana" estarían más alejadas.

      Una creación de Fundación Vía Libre en articulación con FAMAF – UNC.

    • Tarea: frases típicas en EDIA

      A continuación vas a encontrar dos videos, para que puedas llevar a cabo esta actividad. Primero, te explicamos cómo usar la herramienta EDIA, cómo ingresar, y cómo poner los datos de la escuela que formas parte.

      Ingresá a la herramienta EDIA para empezar la actividad: https://edia.ngrok.app/

      Parte 1: Cómo identificarse para ingresar a EDIA
      En este video te cóntamos cómo identificarte. Guardalo para las próximas actividades que vamos a seguir usando EDIA.



      Parte 2: Actividad frases típicas: ¡Empezamos!
      A continuación te explicamos cómo llevar a cabo la actividad. Pero también te dejamos un material anexo explicándolo también de manera escrita.