El caso. El servicio de atención al cliente recibe miles de consultas. Una cascada manda todo primero a un modelo barato y rápido; solo las consultas difíciles escalan al modelo caro y lento. Hay que equilibrar coste, latencia y calidad.
Lee así. Sube p y el coste baja porque menos consultas escalan al caro; pero si el barato falla, la calidad cae. Abajo mueves el negocio: cbar es el suelo que pagas siempre (todas las consultas pasan por el barato) y N el volumen diario, que multiplica cualquier céntimo de diferencia.
La idea. Una cascada enruta: el modelo barato responde si confía; si no, escala al caro. Ajustando el umbral de confianza mueves p y con ella el coste y la latencia esperados.
Negocio. Poner p alto abarata la factura y acelera la respuesta media, pero cada consulta mal resuelta por el barato es un cliente insatisfecho. El punto óptimo equilibra coste, latencia y calidad, no minimiza uno solo.
Y ahora. En producción se vigila la cola (una M/M/1 se satura si llegan más consultas de las que el sistema procesa) y la latencia por percentiles: no basta la media, el p95 es lo que sufre el peor cliente.