Procesamiento del lenguaje natural

Dirigido a:
. Ingenieros/as o licenciado/as en áreas afines a la electrónica, informática y/o computación

Objetivos:
. Introducir a los alumnos en el procesamiento del lenguaje natural
. Comprender el significado de terminología fundamental del procesamiento del lenguaje natural tal que posibilite la interacción fluida con expertos en esa área
. Adquirir conocimientos apropiados para determinar si un problema es plausible de ser abordado mediante tecnologías de procesamiento del lenguaje natural
. Conocer ejemplos de aplicación del procesamiento del lenguaje natural

Temario:
:: Asignatura: Introducción a la inteligencia artificial
. Introducción, Python y librerías de IA.
. Inteligencia artificial. Fundamentos y objetivos. Resolución de problemas con IA.
. Métodos de optimización. Gradiente Descendente, Recocido simulado y algoritmo genético.
. Fundamentos de aprendizaje automático. Sesgo y varianza. Sensibilidad y especificidad. Precisión y exhaustividad.
. Aprendizaje estadístico. Riesgo empírico. Datos. Entrenamiento, validación y testeo.
. Regresión Lineal. Regularización, Regresión Lasso y Ridge.
. Problema de clasificación. Regresión logística. Clasificador Bayesiano. Naive Bayes. Curva ROC.
. Aprendizaje por refuerzo. Algoritmos para el control de aprendizaje
:: Asignatura: Aprendizaje profundo
. Redes neuronales feedforward
. Funciones de activación. Funciones de pérdida. Algoritmos de optimización.
. Regularización y ajustes de hiperparámetros en redes neuronales
. Pytorch
. Capa embeddings
. Redes neuronales convolucionales
. Redes neuronales recurrentes. Capa attention.
. Redes neuronales autoencoder
. Aprendizaje por transferencia
. Redes neuronales adversarias generativas
:: Asignatura: Procesamiento del Lenguaje Natural I
. Vectorización y modelos tipo "bolsa de palabras"
. Embeddings de palabras
. Arquitecturas recurrentes en procesamiento de texto
. Modelos de lenguaje y generación de secuencias
. Arquitecturas convolucionales y mecanismo de atención en procesamiento de texto
. Modelos de secuencia a secuencia
. Arquitectura transformer. Embeddings contextuales. BERT.
Introducción a grandes modelos de lenguaje
:: Asignatura: Procesamiento de lenguaje natural II
. Arquitectura Transformers y tokenizadores
. Arquitecturas de LLMs, Transformer Decoder
. Ecosistema actual (APIs y costos), efectos adversos y evaluación de LLMs
. MoEs y técnicas de prompts
. Modelos locales y uso de APIs
. RAG, vector DBs, chatbots y práctica
. Agentes, fine-tuning y práctica
. Generación multimodal y práctica
:: Asignatura: Procesamiento de lenguaje natural III
. Fundamentos de alineación con objetivos humanos
. Optimización avanzada en LLMs
. Exploración y generación de conocimiento con LLMs
. Integración con sistemas complejos
. Detección y mitigación de sesgos en modelos grandes

Docentes:
Facundo Adrián Lucciana
Marcos Uriel Maillot
Maximiliano Torti

Duración:
120 horas

Fecha de inicio:
Lunes 3 de marzo de 2025

Horario:
De 19.00 a 22.00

Informes e inscripción:
Laboratorio de Sistemas Embebidos: inscripcion.lse@fi.uba.ar