Práctica Día 07 — Atención a mano

Curso: Deep Learning para Business Analytics — Comillas (ICADE).

Implementa atención escalada producto-punto con numpy, compárala con PyTorch, añade máscara causal, y razona sobre su coste.

Rúbrica (10 pts)

• Atención propia (3). Implementación con numpy y comparación con PyTorch.
• Ejercicio 7.1 (2). Cálculo a mano sobre el ejemplo del Q=(1,0).
• Ejercicio 7.2 (3). Máscara causal correcta.
• Análisis sin IA 7.3 (2). Coste $\\mathcal{O}(T^2)$ y su problema en contextos largos.