Perfilado de sección

  • CLASE 8 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

     ¿Qué son los estereotipos en modelos de IA?


    En esta clase abordamos los estereotipos también cnocidos como sesgos sociales, en los modelos de lenguaje. ¿Qué es un estereotipo? Son generalizaciones sobre grupos de personas construidas muchas veces a partir de información limitada o prejuicios. Si los modelos de IA aprenden de datos producidos por nuestras sociedades, ¿no es esperable que también aprendan nuestros prejuicios? Analizamos cómo los sesgos se originan en los datos de entrenamiento —muchas veces poco transparentes— y cómo la fuerte predominancia del inglés y de lenguas europeas deja fuera a gran parte de la diversidad lingüística y cultural del mundo.

    También distinguimos entre estereotipos de grupo propio (in-group) y grupo ajeno (out-group), y observamos ejemplos concretos de cómo estos pueden aparecer en respuestas automáticas. La invitación es reconocer que la IA no es neutral y que sus respuestas pueden reforzar desigualdades existentes. A través de una actividad práctica, proponemos identificar estereotipos propios y reflexionar sobre estereotipos ajenos, para comprender cómo una tecnología que asume estereotipos puede impactar en las prácticas educativas que construimos.

    Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

    👩‍🏫 Docente: Luciana Benotti

    • ¿Qué son los estereotipos en modelos de IA? URL
    • Debajo encontrás las diapositivas de la clase, pensadas como apoyo para volver sobre las ideas, preguntas y tensiones que se abren en el video.

      📚 Conceptos claves

      Error de Clasificación, Falso Negativo: Cuando el sistema dice que "NO" (ej. "Lo escribió un humano") pero la respuesta real es "SÍ" (lo hizo una IA).

      Error de Clasificación, Falso Positivo:
      Cuando el sistema dice que "SÍ" (ej. "Este texto lo hizo una IA") pero la respuesta real es "NO" (lo escribió un humano, como la Constitución Argentina).

      Generación Aumentada por Recuperación (RAG):
      Técnica que permite a un modelo de lenguaje consultar fuentes externas de confianza (como un PDF específico o una base de datos médica) antes de generar una respuesta, reduciendo (pero no eliminando) las alucinaciones.

      Inestabilidad del Prompt:
      Fenómeno donde cambios minúsculos en la instrucción (una coma, un sinónimo) alteran drásticamente el resultado. El script enfatiza que esto es una limitación del diseño de los modelos de lenguaje y no una falta de habilidad del usuario.

      Ventana de Contexto:
      Es el límite máximo de información que un modelo puede mantener en su memoria en una interacción. Si un texto supera este límite, el modelo "olvida" una parte.

      Una creación de Fundación Vía Libre en articulación con FAMAF – UNC.
    • Tarea: ¿Qué son los estereotipos en modelos de lenguaje?? Cuestionario