Grandes y pequeños modelos de lenguaje: aplicaciones y técnicas de interacción mediante Ingeniería de Instrucciones

Los modelos de lenguaje, grandes y pequeños, han transformado no solo la manera diaria de relacionarnos con la tecnología, sino también la forma en que se automatizan las tareas de Procesamiento del Lenguaje Natural. El conocimiento de su funcionamiento y de sus aplicaciones a tareas específicas se vuelve entonces clave (o imprescindible) para quienes ejercen disciplinas que trabajan con datos lingüísticos.

El presente curso está diseñado para proporcionar una comprensión teórica y práctica sobre el funcionamiento de los pequeños y grandes modelos de lenguaje y su utilización para resolver tareas clásicas de Procesamiento del Lenguaje Natural.

Para ello, en primera instancia se hará una introducción al uso de redes neuronales para la resolución de tareas de procesamiento de lenguaje. Esto implica comprender por un lado cómo convertir los datos lingüísticos en vectores y cómo operar con esos vectores para resolver tareas, ya sea de clasificación o de generación.

En segundo lugar, se presentarán la arquitectura y diversidad de los modelos del lenguaje natural basados en redes neuronales.

Finalmente, se estudiarán diversas técnicas de ingeniería de instrucciones para su uso en tareas como extracción de información o generación de textos, entre otras.