El caso. Una empresa de turismo resume las reseñas de sus hoteles. Al generar cada palabra del resumen, la atención decide a qué palabras del original mirar más. Aquí, cinco palabras con su relevancia ei.
Lee así. τ→0 afila la atención (todo el peso a la palabra de mayor score); τ alta la reparte. Los cinco ei son la reseña: sube uno y verás que solo importa la diferencia entre scores.
La idea. La atención es una media ponderada de las palabras del texto. Los pesos αi salen de un softmax sobre scores de relevancia: la query pregunta y cada palabra responde con más o menos peso. El grosor de cada flecha es su αi.
Negocio. Al resumir una reseña, el modelo se fija en «limpio» o «ruidoso» y no en las palabras de relleno. Eso da traducciones y resúmenes fieles: el cliente lee en segundos lo que de verdad opinan del hotel.
Y ahora. Esta misma operación, repetida en paralelo y apilada en capas, es el corazón del Transformer y de todos los grandes modelos de lenguaje. El principio no cambia: puntúa, normaliza con softmax, promedia.