Section outline

  • CLASE 9 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

    Validador de estereotipos

    En esta actividad práctica se invita a trabajar directamente con los sesgos de los modelos de lenguaje generativos a través de una herramienta de validación de estereotipos. La premisa central es formular pares de frases o preguntas que solo cambien un elemento (como el género, la nacionalidad, la profesión o cualquier otro atributo social) y observar cómo responde la IA en cada caso. Al comparar las respuestas, se puede detectar si el modelo asigna mejores resultados a una variante que a otra, lo que indica asociaciones implícitas o prejuicios en sus respuestas.

    El propósito no es “demostrar que la IA es buena o mala”, sino desarrollar una mirada crítica que permita identificar patrones estereotipados en las salidas de los modelos y reflexionar sobre sus posibles efectos en contextos educativos y sociales. La actividad fomenta registrar las diferencias observadas, discutirlas con otros y pensar cómo estos sesgos pueden influir en la manera en que usamos y enseñamos con IA.

    ‼️ Importante: Para completar esta clase, es importante que desarrolles la actividad, con al menos 10 oraciones. Y no te preocupes, que eso queda directamente en el registro del sistema. 

    👨‍🏫 Docente: Pietro Palombini

    • Validador de estereotipos URL

    • Tarea: Validador de estereotipos en EDIA

      Este instructivo explica cómo utilizar el Validador de Estereotipos de la plataforma EDIA. Este instructivo contiene una descripción básica del uso de la interfaz; para una mejor comprensión del uso de la herramienta, se recomienda fuertemente ver el video explicativo disponible. Para poder considerar la actividad como aprobada es necesario validar 10 estereotipos. La herramienta les permite validar y agregar todas los estereotipos que quieran. Una vez completada la actividad, tiene que marcar manualmente la actividad como completa. 

      Ingresá a la herramienta EDIA para empezar la actividad: https://edia.ngrok.app/

      Guía

      Este instructivo explica cómo utilizar el Validador de Estereotipos de la plataforma EDIA. Este instructivo contiene una descripción básica del uso de la interfaz; para una mejor comprensión del uso de la herramienta, se recomienda fuertemente ver el video explicativo disponible.

      1. Datos personales y consentimiento informado

      • Al ingresar al validador, lo primero que encontrarás es un formulario en el que se deben completar los datos personales y aceptar el consentimiento informado para poder continuar con la actividad.
      • Seleccionar el idioma de la interfaz, es decir, el idioma en el que se mostrará la página y las instrucciones generales.
      • Marcar los idiomas que comprendes (lectura y escritura). Puedes seleccionar varios, teniendo en cuenta que los datos de la actividad pueden aparecer en cualquiera de los idiomas que selecciones.
      • Ingresar tu dirección de correo electrónico.
      • Seleccionar una o más nacionalidades que representen tu identidad cultural, personal o nacional. También puedes opcionalmente elegir una o más regiones específicas o escribirlas manualmente si no aparecen en la lista.
      • Finalmente, leer el consentimiento informado sobre uso de datos de la herramienta EDIA y, si estás de acuerdo, aceptarlo para continuar.

      2. Uso del Validador de Estereotipos

      Una vez completada la primera parte, se habilita el acceso a la actividad principal.

      Esta herramienta está diseñada para explorar cómo se perciben los estereotipos en distintas regiones del mundo. Cada vez que envíes una respuesta, recibirás un nuevo dato.

      En cada ronda se mostrará una nacionalidad y un atributo. Tu tarea es:

      1. Indicar el grado de asociación entre la nacionalidad y el atributo en tu región, usando una escala del 1 al 5:
        • 1: Totalmente en desacuerdo
        • 5: Totalmente de acuerdo
      2. (Opcional) Puedes escribir otro atributo que relaciones con la nacionalidad dada. Este atributo puede estar en cualquiera de los idiomas que seleccionaste al inicio. Se alienta a escribir en diferentes idiomas si es posible.
      3. (Opcional) También puedes agregar otras nacionalidades o regiones que, en tu opinión, estén asociadas con el atributo presentado.

      Cuando completes los campos que consideres necesarios, haz clic en el botón Enviar para recibir un nuevo par nacionalidad–atributo, posiblemente en alguno de los idiomas que marcaste como conocidos.

      Si no entiendes el par que aparece, detectas un error en los datos o no te sientes cómodo anotando sobre ese par en particular, puedes usar el botón Saltar para pasar al siguiente.