El caso. BBVA le deniega un préstamo a un cliente y por regulación debe explicarle por qué. El modelo de riesgo es lineal, f(x)=w₀+∑_jw_jx_j, con cuatro variables estandarizadas: ingresos (x₁), ratio de deuda (x₂), antigüedad (x₃) y morosidad previa (x₄). SHAP reparte la puntuación en cuatro trozos, uno por variable.

1. Sube x₄ morosidad previa. Aparece una barra DORADA hacia arriba que empuja a denegar: f(x) crece exactamente en w_mor·(x₄−E[x₄]).
2. Sube x₁ ingresos. Sale una barra GRIS hacia abajo: más ingresos reducen el riesgo (w_ing<0).
3. Pulsa poner todo en la media E[x]. Todas las φ_j=0 y f(x)=φ₀: el cliente medio se queda en la base.
¿Por qué las contribuciones suman EXACTO?
Por la propiedad de eficiencia (aditividad) de Shapley: φ₀+∑_jφ_j = f(x). En un modelo lineal se ve al desarrollar: φ₀+∑_jw_j(x_j−E[x_j]) = w₀+∑_jw_jE[x_j] + ∑_jw_jx_j − ∑_jw_jE[x_j] = w₀+∑_jw_jx_j = f(x). Los términos medios se cancelan y no queda residuo: la cascada llega justo a f(x).

Lee así. La cascada empieza en la base φ₀ y da un salto por variable: dorado hacia arriba (sube riesgo), gris hacia abajo (baja riesgo). Al mover un slider se enciende su término φ_j en la ecuación y su eco numérico.

La idea. SHAP reparte la predicción entre las variables de forma justa y aditiva: cada φ_j es lo que aporta esa variable, y todas juntas suman exactamente f(x)−φ₀.

En un modelo lineal. No hace falta aproximar nada: la contribución de Shapley es exactamente w_j(x_j−E[x_j]). En modelos complejos (árboles, redes) se estima, pero la lógica del reparto es la misma.

Importancia global. Promediando |φ_j| sobre muchos clientes obtienes qué variable pesa más en la cartera. La barra dominante aquí es la que más mueve las decisiones.

Negocio y regulación. Sirve para auditar el modelo (¿discrimina por una variable prohibida?) y para explicar cada decisión al cliente y al supervisor, como exige el derecho a explicación.