¿Cómo aprenden los modelos de lenguaje (LLMs)?

En esta oportunidad profundizamos en el funcionamiento interno de los modelos de lenguaje. ¿Cómo aprenden el significado de las palabras? A través de enormes volúmenes de datos y de la predicción constante de la siguiente palabra en una secuencia, los LLMs reconocen patrones y cercanías semánticas. Pero generar frases plausibles no es lo mismo que comprender ni garantizar verdad. ¿Qué implica que una respuesta sea estadísticamente probable pero no necesariamente correcta?

También analizamos los riesgos: supuestos implícitos, estereotipos reproducidos y confusiones entre entidades. Finalmente, distinguimos entre un modelo base —entrenado para completar texto— y un modelo ajustado mediante fine-tuning, alineado para seguir instrucciones específicas. La invitación es comprender que detrás de cada respuesta hay procesos de entrenamiento, clasificación y alineación, y que conocer estos mecanismos es clave para usar estas herramientas con criterio pedagógico.

Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

👨‍🏫 Docente: Guido Ivetta

¿De dónde aprenden los modelos de lenguaje (LLMs)?

¿Con qué datos se entrenan los modelos y qué sabemos (o no) sobre ellos? En esta clase analizamos la composición de los datos con los que se entrenan los modelos de lenguaje. ¿De dónde provienen esos textos? Internet, libros digitalizados, artículos académicos, foros, repositorios de código y bases especializadas forman parte de los grandes corpus utilizados para su entrenamiento. Revisamos casos concretos —como BERT, GPT-1 o GPT-3— para comprender cómo han evolucionado las fuentes de datos y qué ocurre cuando las empresas dejan de transparentar esa información en versiones más recientes.

También exploramos cómo se clasifican los modelos según su nivel de apertura y transparencia: código abierto, pesos abiertos o código cerrado. ¿Qué implica poder auditar un modelo? ¿Qué diferencias existen en términos de costos, acceso y participación comunitaria? A través de ejemplos actuales, la invitación es reflexionar sobre la relación entre datos, transparencia y poder tecnológico, y preguntarnos qué tipo de modelos queremos promover en el ámbito educativo.

Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

👨‍🏫 Docente: Guido Ivetta

Sesgos y ambigüedad

En esta clase analizamos los distintos tipos de sesgos que pueden aparecer en los sistemas de inteligencia artificial —social, emergente y de automatización— y cómo estos influyen en las respuestas que producen. A través de ejemplos concretos, observamos cómo los modelos pueden reforzar estereotipos, por ejemplo al asociar determinadas profesiones con niveles de ingreso o al vincular la “inteligencia” únicamente con países del mundo desarrollado. Estos casos muestran que las respuestas no son neutrales, sino que reflejan imaginarios y jerarquías presentes en los datos con los que fueron entrenados.

También trabajamos el concepto de incertidumbre, distinguiendo entre preguntas ambiguas y situaciones en las que el modelo no posee conocimiento suficiente para responder con certeza. Cuando la IA desconoce contextos culturales o saberes locales, tiende a completar esa falta de información con respuestas genéricas o estereotipadas. Por eso, reconocer los límites del sistema y la importancia de poder decir “no sé” es clave para un uso crítico y responsable en el ámbito educativo.

Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

👨‍🏫 Docente: Guido Ivetta

 ¿Qué son los estereotipos en modelos de IA?

En esta clase abordamos los estereotipos también cnocidos como sesgos sociales, en los modelos de lenguaje. ¿Qué es un estereotipo? Son generalizaciones sobre grupos de personas construidas muchas veces a partir de información limitada o prejuicios. Si los modelos de IA aprenden de datos producidos por nuestras sociedades, ¿no es esperable que también aprendan nuestros prejuicios? Analizamos cómo los sesgos se originan en los datos de entrenamiento —muchas veces poco transparentes— y cómo la fuerte predominancia del inglés y de lenguas europeas deja fuera a gran parte de la diversidad lingüística y cultural del mundo.

También distinguimos entre estereotipos de grupo propio (in-group) y grupo ajeno (out-group), y observamos ejemplos concretos de cómo estos pueden aparecer en respuestas automáticas. La invitación es reconocer que la IA no es neutral y que sus respuestas pueden reforzar desigualdades existentes. A través de una actividad práctica, proponemos identificar estereotipos propios y reflexionar sobre estereotipos ajenos, para comprender cómo una tecnología que asume estereotipos puede impactar en las prácticas educativas que construimos.

Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

👩‍🏫 Docente: Luciana Benotti

Validador de estereotipos

En esta actividad práctica se invita a trabajar directamente con los sesgos de los modelos de lenguaje generativos a través de una herramienta de validación de estereotipos. La premisa central es formular pares de frases o preguntas que solo cambien un elemento (como el género, la nacionalidad, la profesión o cualquier otro atributo social) y observar cómo responde la IA en cada caso. Al comparar las respuestas, se puede detectar si el modelo asigna mejores resultados a una variante que a otra, lo que indica asociaciones implícitas o prejuicios en sus respuestas.

El propósito no es “demostrar que la IA es buena o mala”, sino desarrollar una mirada crítica que permita identificar patrones estereotipados en las salidas de los modelos y reflexionar sobre sus posibles efectos en contextos educativos y sociales. La actividad fomenta registrar las diferencias observadas, discutirlas con otros y pensar cómo estos sesgos pueden influir en la manera en que usamos y enseñamos con IA.

‼️ Importante: Para completar esta clase, es importante que desarrolles la actividad, con al menos 10 oraciones. Y no te preocupes, que eso queda directamente en el registro del sistema. 

👨‍🏫 Docente: Pietro Palombini