El caso. Amazon lee la reseña «no es muy bueno». La self-attention deja que cada palabra mire a las demás: la query de «bueno» reparte su atención entre las cuatro palabras. Si mira a «no», entiende que el sentido se ha invertido.

Lee así. Cada slider de abajo es cuánto se alinea la query con esa palabra. d divide todos los scores por √d: con d pequeña el softmax es duro (casi todo a un token), con d grande se suaviza. Sube el score de «no» y la reseña se lee como negativa.

La idea. La self-attention es una matriz: cada fila es una palabra que reparte atención (suma 1) sobre todas las palabras de la frase. El bloque Transformer añade conexión residual y normalización alrededor de esa atención.

Negocio. Amazon procesa millones de reseñas. Captar que un simple «no» invierte «bueno» es la diferencia entre clasificar la opinión como positiva o negativa, y de ahí salen los rankings de producto.

Y ahora. Apilando varias capas de atención se construye el Transformer, el motor de los grandes modelos de lenguaje del resto del curso. El principio no cambia: mirar, ponderar, combinar.