Section outline

  • Esta unidad profundiza en el funcionamiento interno de los modelos de lenguaje, abordando cómo aprenden a partir de grandes volúmenes de datos mediante la predicción probabilística de palabras. Se problematiza la diferencia entre generar respuestas plausibles y comprender, así como los riesgos asociados: estereotipos, supuestos implícitos y errores. También se analizan los datos de entrenamiento, su procedencia y los distintos niveles de apertura y transparencia de los modelos, vinculando estas decisiones con relaciones de poder tecnológico. Finalmente, se explora el carácter no determinista de estos sistemas, el impacto de parámetros como la temperatura y la existencia de instrucciones invisibles como el system prompt. La unidad invita a reflexionar sobre transparencia, auditabilidad y criterios pedagógicos para un uso informado y crítico de la IA.

      • ¿Cómo aprenden los modelos de lenguaje (LLM)?

        CLASE 5 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

        ¿Cómo aprenden los modelos de lenguaje (LLMs)?

        En esta oportunidad profundizamos en el funcionamiento interno de los modelos de lenguaje. ¿Cómo aprenden el significado de las palabras? A través de enormes volúmenes de datos y de la predicción constante de la siguiente palabra en una secuencia, los LLMs reconocen patrones y cercanías semánticas. Pero generar frases plausibles no es lo mismo que comprender ni garantizar verdad. ¿Qué implica que una respuesta sea estadísticamente probable pero no necesariamente correcta?

        También analizamos los riesgos: supuestos implícitos, estereotipos reproducidos y confusiones entre entidades. Finalmente, distinguimos entre un modelo base —entrenado para completar texto— y un modelo ajustado mediante fine-tuning, alineado para seguir instrucciones específicas. La invitación es comprender que detrás de cada respuesta hay procesos de entrenamiento, clasificación y alineación, y que conocer estos mecanismos es clave para usar estas herramientas con criterio pedagógico.

        Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

        👨‍🏫 Docente: Guido Ivetta

        • ¿Cómo aprenden los modelos de lenguaje? URL
        • Debajo encontrás las diapositivas de la clase, pensadas como apoyo para volver sobre las ideas, preguntas y tensiones que se abren en el video.

          📚 Conceptos claves

          Alineamiento: La etapa final donde seres humanos evalúan y rankean las respuestas del modelo. Sirve para que la IA adopte valores, formas de hablar más naturales y evite comportamientos no deseados.

          Ajuste de Instrucciones: El proceso de entrenar al modelo con pares de "Instrucción-Respuesta". Es lo que permite que el modelo entienda que si le preguntas algo, debe darte una respuesta y no seguir preguntando.

          Cercanía de significado (Embeddings): La forma en que el modelo organiza las palabras en un espacio matemático. Las palabras con significados similares (como "conversar" y "platicar") quedan "cerca" unas de otras.

          Distribución de Probabilidad: Ante un espacio en blanco, el modelo no adivina al azar, sino que asigna un porcentaje de posibilidad a cada palabra de su vocabulario (ej: "perro" tiene 90% de probabilidad frente a "ladrando").

          Modelo Base: Es la versión inicial del modelo tras leer una cantidad masiva de datos. Su función principal es predecir la siguiente palabra, pero aún no sabe "obedecer" órdenes; solo completa texto.

          Una creación de Fundación Vía Libre en articulación con FAMAF – UNC.
        • Tarea: ¿Cómo aprenden los modelos de lenguaje (LLM)? Quiz

      • ¿De dónde aprenden los modelos de lenguaje (LLMs)?

        CLASE 6 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

        ¿De dónde aprenden los modelos de lenguaje (LLMs)?

        ¿Con qué datos se entrenan los modelos y qué sabemos (o no) sobre ellos? En esta clase analizamos la composición de los datos con los que se entrenan los modelos de lenguaje. ¿De dónde provienen esos textos? Internet, libros digitalizados, artículos académicos, foros, repositorios de código y bases especializadas forman parte de los grandes corpus utilizados para su entrenamiento. Revisamos casos concretos —como BERT, GPT-1 o GPT-3— para comprender cómo han evolucionado las fuentes de datos y qué ocurre cuando las empresas dejan de transparentar esa información en versiones más recientes.

        También exploramos cómo se clasifican los modelos según su nivel de apertura y transparencia: código abierto, pesos abiertos o código cerrado. ¿Qué implica poder auditar un modelo? ¿Qué diferencias existen en términos de costos, acceso y participación comunitaria? A través de ejemplos actuales, la invitación es reflexionar sobre la relación entre datos, transparencia y poder tecnológico, y preguntarnos qué tipo de modelos queremos promover en el ámbito educativo.

        Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

        👨‍🏫 Docente: Guido Ivetta

        • ¿De dónde aprenden los modelos de lenguaje (LLMs)? URL
        • Debajo encontrás las diapositivas de la clase, pensadas como apoyo para volver sobre las ideas, preguntas y tensiones que se abren en el video.

          📚 Conceptos claves

          Código Abierto (Open Source): Modelos donde todo está a disposición: el código, los datos de entrenamiento y el modelo mismo. Permiten total transparencia y uso offline.

          Código Cerrado (Closed Source): Modelos de propiedad privada (como GPT-4 o Gemini) que solo se pueden usar a través de un servicio o interfaz. Son "cajas negras" sin transparencia interna.

          Modelo de Lenguaje (LLM): Sistema de inteligencia artificial entrenado con grandes volúmenes de texto para procesar, generar y entender el lenguaje humano de forma probabilística.

          Pesos Abiertos (Open Weights): Modelos que permiten su descarga y uso (con licencias permisivas), pero mantienen en secreto los datos con los que fueron entrenados.

          Poder Computacional: La capacidad de procesamiento necesaria para ejecutar o entrenar un modelo. Aunque un modelo sea "gratis", el cómputo para correrlo suele ser costoso.

          Una creación de Fundación Vía Libre en articulación con FAMAF – UNC.
        • Tarea: ¿De dónde aprenden los modelos de lenguaje (LLMs)? Quiz

      • Sesgos y ambigüedad

        CLASE 7 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

        Sesgos y ambigüedad

        En esta clase analizamos los distintos tipos de sesgos que pueden aparecer en los sistemas de inteligencia artificial —social, emergente y de automatización— y cómo estos influyen en las respuestas que producen. A través de ejemplos concretos, observamos cómo los modelos pueden reforzar estereotipos, por ejemplo al asociar determinadas profesiones con niveles de ingreso o al vincular la “inteligencia” únicamente con países del mundo desarrollado. Estos casos muestran que las respuestas no son neutrales, sino que reflejan imaginarios y jerarquías presentes en los datos con los que fueron entrenados.

        También trabajamos el concepto de incertidumbre, distinguiendo entre preguntas ambiguas y situaciones en las que el modelo no posee conocimiento suficiente para responder con certeza. Cuando la IA desconoce contextos culturales o saberes locales, tiende a completar esa falta de información con respuestas genéricas o estereotipadas. Por eso, reconocer los límites del sistema y la importancia de poder decir “no sé” es clave para un uso crítico y responsable en el ámbito educativo.

        Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

        👨‍🏫 Docente: Guido Ivetta

        • Sesgos y ambigüedad URL
        • Debajo encontrás las diapositivas de la clase, pensadas como apoyo para volver sobre las ideas, preguntas y tensiones que se abren en el video.

          📚 Conceptos claves

          Ambigüedad Denotacional: Se produce cuando la instrucción o pregunta no es lo suficientemente específica (ej. "¿Quién ganó el mundial?" sin decir el año o deporte).

          Ambigüedad Epistémica: Ocurre cuando, aun estando clara la pregunta, la respuesta no se conoce, es polémica o hay falta de información en el modelo.

          Desambiguación por Sesgo: Comportamiento de la IA donde, ante una duda, el modelo "rellena" la falta de información usando prejuicios o estereotipos (ej. asumir que "médico" siempre es hombre).

          Interseccionalidad: Fenómeno donde se cruzan múltiples tipos de sesgos (ej. género, raza y clase social) en una misma situación, potenciando la discriminación.

          Sesgo de Automatización: Tendencia humana a confiar ciegamente en las respuestas de un sistema tecnológico, asumiendo que es infalible sin verificar la información.

          Sesgo Emergente: Ocurre cuando un sistema se entrena en un contexto (ej. Occidente) y se usa en otro muy distinto (ej. Asia), provocando fallas por falta de representatividad.

          Sesgo Social: Inclinación o prejuicio injusto a favor o en contra de una persona o grupo, reflejando estereotipos humanos presentes en los datos.

          Una creación de Fundación Vía Libre en articulación con FAMAF – UNC.

        • Tarea: ambiguedades en EDIA

          A continuación vas a encontrar un video, para que puedas llevar a cabo esta actividad.

          Si no recordás cómo ingresar a la herramienta, podés volver a ver el video de la actividad Frases Típicas.

          Ingresá a la herramienta EDIA para empezar la actividad: https://edia.ngrok.app/

          Actividad ambiguedades: ¡Empezamos!

          A continuación te explicamos cómo llevar a cabo la actividad. Pero también te dejamos un material anexo explicándolo de manera escrita.



      • ¿Qué son los estereotipos en modelos DE IA?

        CLASE 8 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

         ¿Qué son los estereotipos en modelos de IA?


        En esta clase abordamos los estereotipos también cnocidos como sesgos sociales, en los modelos de lenguaje. ¿Qué es un estereotipo? Son generalizaciones sobre grupos de personas construidas muchas veces a partir de información limitada o prejuicios. Si los modelos de IA aprenden de datos producidos por nuestras sociedades, ¿no es esperable que también aprendan nuestros prejuicios? Analizamos cómo los sesgos se originan en los datos de entrenamiento —muchas veces poco transparentes— y cómo la fuerte predominancia del inglés y de lenguas europeas deja fuera a gran parte de la diversidad lingüística y cultural del mundo.

        También distinguimos entre estereotipos de grupo propio (in-group) y grupo ajeno (out-group), y observamos ejemplos concretos de cómo estos pueden aparecer en respuestas automáticas. La invitación es reconocer que la IA no es neutral y que sus respuestas pueden reforzar desigualdades existentes. A través de una actividad práctica, proponemos identificar estereotipos propios y reflexionar sobre estereotipos ajenos, para comprender cómo una tecnología que asume estereotipos puede impactar en las prácticas educativas que construimos.

        Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

        👩‍🏫 Docente: Luciana Benotti

        • ¿Qué son los estereotipos en modelos de IA? URL
        • Debajo encontrás las diapositivas de la clase, pensadas como apoyo para volver sobre las ideas, preguntas y tensiones que se abren en el video.

          📚 Conceptos claves

          Error de Clasificación, Falso Negativo: Cuando el sistema dice que "NO" (ej. "Lo escribió un humano") pero la respuesta real es "SÍ" (lo hizo una IA).

          Error de Clasificación, Falso Positivo:
          Cuando el sistema dice que "SÍ" (ej. "Este texto lo hizo una IA") pero la respuesta real es "NO" (lo escribió un humano, como la Constitución Argentina).

          Generación Aumentada por Recuperación (RAG):
          Técnica que permite a un modelo de lenguaje consultar fuentes externas de confianza (como un PDF específico o una base de datos médica) antes de generar una respuesta, reduciendo (pero no eliminando) las alucinaciones.

          Inestabilidad del Prompt:
          Fenómeno donde cambios minúsculos en la instrucción (una coma, un sinónimo) alteran drásticamente el resultado. El script enfatiza que esto es una limitación del diseño de los modelos de lenguaje y no una falta de habilidad del usuario.

          Ventana de Contexto:
          Es el límite máximo de información que un modelo puede mantener en su memoria en una interacción. Si un texto supera este límite, el modelo "olvida" una parte.

          Una creación de Fundación Vía Libre en articulación con FAMAF – UNC.
        • Tarea: ¿Qué son los estereotipos en modelos de lenguaje?? Quiz

      • Validador de estereotipos

        CLASE 9 - FUNDAMENTOS DE LA INTELIGENCIA ARTIFICIAL PARA AMPLIAR HORIZONTES CULTURALES

        Validador de estereotipos

        En esta actividad práctica se invita a trabajar directamente con los sesgos de los modelos de lenguaje generativos a través de una herramienta de validación de estereotipos. La premisa central es formular pares de frases o preguntas que solo cambien un elemento (como el género, la nacionalidad, la profesión o cualquier otro atributo social) y observar cómo responde la IA en cada caso. Al comparar las respuestas, se puede detectar si el modelo asigna mejores resultados a una variante que a otra, lo que indica asociaciones implícitas o prejuicios en sus respuestas.

        El propósito no es “demostrar que la IA es buena o mala”, sino desarrollar una mirada crítica que permita identificar patrones estereotipados en las salidas de los modelos y reflexionar sobre sus posibles efectos en contextos educativos y sociales. La actividad fomenta registrar las diferencias observadas, discutirlas con otros y pensar cómo estos sesgos pueden influir en la manera en que usamos y enseñamos con IA.

        ‼️ Importante: Para completar esta clase, es importante que desarrolles la actividad, con al menos 10 oraciones. Y no te preocupes, que eso queda directamente en el registro del sistema. 

        👨‍🏫 Docente: Pietro Palombini

        • Validador de estereotipos URL

        • Tarea: Validador de estereotipos en EDIA

          Este instructivo explica cómo utilizar el Validador de Estereotipos de la plataforma EDIA. Este instructivo contiene una descripción básica del uso de la interfaz; para una mejor comprensión del uso de la herramienta, se recomienda fuertemente ver el video explicativo disponible. Para poder considerar la actividad como aprobada es necesario validar 10 estereotipos. La herramienta les permite validar y agregar todas los estereotipos que quieran. Una vez completada la actividad, tiene que marcar manualmente la actividad como completa. 

          Ingresá a la herramienta EDIA para empezar la actividad: https://edia.ngrok.app/

          Guía

          Este instructivo explica cómo utilizar el Validador de Estereotipos de la plataforma EDIA. Este instructivo contiene una descripción básica del uso de la interfaz; para una mejor comprensión del uso de la herramienta, se recomienda fuertemente ver el video explicativo disponible.

          1. Datos personales y consentimiento informado

          • Al ingresar al validador, lo primero que encontrarás es un formulario en el que se deben completar los datos personales y aceptar el consentimiento informado para poder continuar con la actividad.
          • Seleccionar el idioma de la interfaz, es decir, el idioma en el que se mostrará la página y las instrucciones generales.
          • Marcar los idiomas que comprendes (lectura y escritura). Puedes seleccionar varios, teniendo en cuenta que los datos de la actividad pueden aparecer en cualquiera de los idiomas que selecciones.
          • Ingresar tu dirección de correo electrónico.
          • Seleccionar una o más nacionalidades que representen tu identidad cultural, personal o nacional. También puedes opcionalmente elegir una o más regiones específicas o escribirlas manualmente si no aparecen en la lista.
          • Finalmente, leer el consentimiento informado sobre uso de datos de la herramienta EDIA y, si estás de acuerdo, aceptarlo para continuar.

          2. Uso del Validador de Estereotipos

          Una vez completada la primera parte, se habilita el acceso a la actividad principal.

          Esta herramienta está diseñada para explorar cómo se perciben los estereotipos en distintas regiones del mundo. Cada vez que envíes una respuesta, recibirás un nuevo dato.

          En cada ronda se mostrará una nacionalidad y un atributo. Tu tarea es:

          1. Indicar el grado de asociación entre la nacionalidad y el atributo en tu región, usando una escala del 1 al 5:
            • 1: Totalmente en desacuerdo
            • 5: Totalmente de acuerdo
          2. (Opcional) Puedes escribir otro atributo que relaciones con la nacionalidad dada. Este atributo puede estar en cualquiera de los idiomas que seleccionaste al inicio. Se alienta a escribir en diferentes idiomas si es posible.
          3. (Opcional) También puedes agregar otras nacionalidades o regiones que, en tu opinión, estén asociadas con el atributo presentado.

          Cuando completes los campos que consideres necesarios, haz clic en el botón Enviar para recibir un nuevo par nacionalidad–atributo, posiblemente en alguno de los idiomas que marcaste como conocidos.

          Si no entiendes el par que aparece, detectas un error en los datos o no te sientes cómodo anotando sobre ese par en particular, puedes usar el botón Saltar para pasar al siguiente.