Alineación, equilibrio entre precisión y responsabilidad

En esta clase trabajamos el concepto de alineación, entendido como el proceso de ajustar las respuestas de un modelo de inteligencia artificial para que respeten valores humanos, normas éticas y objetivos específicos. En el ámbito educativo, la alineación busca garantizar respuestas seguras y adecuadas al contexto escolar. Un modelo no alineado podría ofrecer indicaciones riesgosas ante una consigna aparentemente inocente, mientras que un modelo alineado prioriza la seguridad y adapta su respuesta al entorno del estudiante. Una de las técnicas más utilizadas para alinear modelos es el aprendizaje por refuerzo con retroalimentación humana (RLHF), donde personas evalúan distintas respuestas del modelo y las cuales se usan para enseñarle qué tipo de respuestas priorizar.

También analizamos los desafíos de la alineación. La respuesta “correcta” depende del contexto del usuario, su edad y su cultura. Un modelo puede fallar si no considera diferencias culturales, rechaza automáticamente temas sensibles sin contextualizarlos o responde desde una perspectiva centrada en otro país. El alineamiento cultural implica que los sistemas comprendan conocimientos y referencias locales —como tradiciones, feriados o vocabulario específico— y no solo un subconjunto global limitado. Sin investigación y datos culturalmente diversos, los modelos tienden a cometer errores o simplificaciones. Por eso, avanzar en alineación no es solo una cuestión técnica, sino también cultural y pedagógica.

Al finalizar la clase, te invitamos a completar unas preguntas. Las respuestas son calificadas y completar la actividad es requisito para finalizar y acreditar el curso.

👩‍🏫 Docente: Sofia Martinelli