Perfilado de sección

  • CLASE 7 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

    Sesgos y ambigüedad

    En esta clase analizamos los distintos tipos de sesgos que pueden aparecer en los sistemas de inteligencia artificial —social, emergente y de automatización— y cómo estos influyen en las respuestas que producen. A través de ejemplos concretos, observamos cómo los modelos pueden reforzar estereotipos, por ejemplo al asociar determinadas profesiones con niveles de ingreso o al vincular la “inteligencia” únicamente con países del mundo desarrollado. Estos casos muestran que las respuestas no son neutrales, sino que reflejan imaginarios y jerarquías presentes en los datos con los que fueron entrenados.

    También trabajamos el concepto de incertidumbre, distinguiendo entre preguntas ambiguas y situaciones en las que el modelo no posee conocimiento suficiente para responder con certeza. Cuando la IA desconoce contextos culturales o saberes locales, tiende a completar esa falta de información con respuestas genéricas o estereotipadas. Por eso, reconocer los límites del sistema y la importancia de poder decir “no sé” es clave para un uso crítico y responsable en el ámbito educativo.

    Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

    👨‍🏫 Docente: Guido Ivetta

    • Sesgos y ambigüedad URL
    • Debajo encontrás las diapositivas de la clase, pensadas como apoyo para volver sobre las ideas, preguntas y tensiones que se abren en el video.

      📚 Conceptos claves

      Ambigüedad Denotacional: Se produce cuando la instrucción o pregunta no es lo suficientemente específica (ej. "¿Quién ganó el mundial?" sin decir el año o deporte).

      Ambigüedad Epistémica: Ocurre cuando, aun estando clara la pregunta, la respuesta no se conoce, es polémica o hay falta de información en el modelo.

      Desambiguación por Sesgo: Comportamiento de la IA donde, ante una duda, el modelo "rellena" la falta de información usando prejuicios o estereotipos (ej. asumir que "médico" siempre es hombre).

      Interseccionalidad: Fenómeno donde se cruzan múltiples tipos de sesgos (ej. género, raza y clase social) en una misma situación, potenciando la discriminación.

      Sesgo de Automatización: Tendencia humana a confiar ciegamente en las respuestas de un sistema tecnológico, asumiendo que es infalible sin verificar la información.

      Sesgo Emergente: Ocurre cuando un sistema se entrena en un contexto (ej. Occidente) y se usa en otro muy distinto (ej. Asia), provocando fallas por falta de representatividad.

      Sesgo Social: Inclinación o prejuicio injusto a favor o en contra de una persona o grupo, reflejando estereotipos humanos presentes en los datos.

      Una creación de Fundación Vía Libre en articulación con FAMAF – UNC.

    • Tarea: ambiguedades en EDIA

      A continuación vas a encontrar un video, para que puedas llevar a cabo esta actividad.

      Si no recordás cómo ingresar a la herramienta, podés volver a ver el video de la actividad Frases Típicas.

      Ingresá a la herramienta EDIA para empezar la actividad: https://edia.ngrok.app/

      Actividad ambiguedades: ¡Empezamos!

      A continuación te explicamos cómo llevar a cabo la actividad. Pero también te dejamos un material anexo explicándolo de manera escrita.