Skip to content

Teaching

Deep Learning

From the single perceptron and the Universal Approximation Theorem to the state of the art.

Universidad Panamericana · Master’s in Data Science
Instructor: Dr. León Palafox

Course Description

A comprehensive journey through the foundations and state-of-the-art of Deep Neural Networks, from the mathematical basics of the Perceptron through Transformers and generative models.

Course at a glance

#SessionSlides
1Introducción: representaciones, herramientas, perceptrón y backpropagationDeck · PDF
2Backpropagation and gradient descentPróximamente
3Optimizers: SGD, Momentum, AdamPróximamente
4Convolutional Neural NetworksPróximamente
5Recurrent networks: RNN, LSTM, GRUPróximamente
6Attention and the Transformer architecturePróximamente
7Pretrained language models: BERT, GPTPróximamente
8Generative models: VAEs and GANsPróximamente

Provisional syllabus. The session schedule will be posted once finalized.


Detailed syllabus

Clase 1 — Introducción al aprendizaje profundo

Por qué la representación de los datos lo cambia todo. · Slides & outline → · PDF ↓

  1. El curso — objetivos, metodología, mapa del curso y evaluación (60% proyecto final en equipos de hasta 3; 40% tareas y participación).
  2. Representaciones y aplicaciones — el problema de clasificación, cómo un cambio de coordenadas vuelve separable un problema, capas de representación, IA vs. ML vs. DL, y el papel de las GPUs, CUDA y la escala de datos. Casos: AlphaFold y modelos de lenguaje.
  3. Herramientas — PyTorch, Keras y la historia de los frameworks de deep learning.
  4. Redes y entrenamiento — el perceptrón, funciones de activación, redes de neuronas, el ciclo de entrenamiento, backpropagation y gradientes que se desvanecen; un primer vistazo a redes convolucionales y recurrentes.

Assessment

Assessment details and grading weights have not yet been posted.

Schedule & Office Hours

Lecture times and office hours have not yet been posted.

Contact: León Palafox