Este tema, representa la frontera final entre el derecho del consumidor y la tecnología avanzada. La Obligación de Explicabilidad Algorítmica, consolidada en la Circular Única de Seguros y Fianzas (CUSF) hacia 2025, es el antídoto legal contra el fenómeno de la «caja negra» (black box) en la Inteligencia Artificial.
En términos sencillos: es el derecho del asegurado a saber exactamente por qué una máquina tomó una decisión que afecta su bolsillo o su protección.
- ¿En qué consiste la Obligación de Explicabilidad?
A diferencia de los modelos estadísticos tradicionales, donde las reglas son fijas y visibles, los algoritmos de aprendizaje profundo (Deep Learning) pueden tomar decisiones basadas en patrones que ni siquiera sus programadores comprenden a simple vista.
La obligación de explicabilidad exige que las aseguradoras pasen de un modelo de «porque el sistema lo dice» a uno de «transparencia lógica». Consiste en la capacidad de la institución para desglosar, en lenguaje humano y comprensible, los factores individuales que determinaron un resultado específico.
- Los tres niveles de la obligación
Para cumplir con la normativa de la CNSF, la explicabilidad debe operar en tres niveles:
- Explicabilidad Global: La aseguradora debe tener documentación técnica que explique el funcionamiento general del algoritmo (qué datos usa, cómo se ponderan y cuál es el objetivo del modelo).
- Explicabilidad Local (Individual): Ante un rechazo o un aumento de prima, la aseguradora debe poder decir: «Su póliza aumentó un 20% porque el algoritmo detectó un cambio en su patrón de conducción y una zona de riesgo mayor, ponderados de esta manera».
- Contrafactuales: El sistema debe ser capaz de responder: «¿Qué tendría que haber cambiado en mis datos para que el resultado fuera positivo?». Por ejemplo: «Si su historial de crédito fuera X puntos mayor, el descuento se habría aplicado».
- Áreas críticas de aplicación en México
| Área | Aplicación de la Explicabilidad |
| Suscripción (Underwriting) | Justificar por qué se negó un seguro de vida o gastos médicos basándose en datos predictivos. |
| Tarificación (Pricing) | Explicar por qué dos clientes aparentemente iguales pagan primas distintas (evitando discriminación algorítmica). |
| Ajuste de Siniestros | Desglosar cómo una IA determinó que un vehículo es «pérdida total» basándose en el análisis de imágenes y costos de refacciones. |
| Detección de Fraude | Si una reclamación es bloqueada por «sospecha de fraude» detectada por IA, se debe explicar el patrón anómalo sin comprometer la seguridad. |
- El «Derecho a la Intervención Humana»
Un componente inseparable de la explicabilidad en la regulación mexicana es que el resultado de un algoritmo no puede ser la última palabra.
- Revisión: El asegurado tiene derecho a solicitar que una persona física (un ajustador, suscriptor o médico) revise la decisión tomada por la IA.
- Impugnación: La explicación proporcionada sirve como base para que el usuario pueda defenderse ante la CONDUSEF o tribunales si considera que la lógica del algoritmo es arbitraria o discriminatoria.
- El impacto en la «Carta de Improcedencia»
Este es quizás el punto más relevante para la práctica legal actual. Antes de 2025, muchas cartas de rechazo eran genéricas. Con la nueva obligación:
- Una carta que diga «el siniestro no procede de acuerdo a nuestras políticas internas de valuación automatizada» es nula por falta de fundamentación.
- La carta debe incluir un anexo técnico o una explicación clara de las variables que el algoritmo consideró para declarar la improcedencia.
Resumen para el profesional de seguros
El estándar de cumplimiento: No basta con que el algoritmo sea preciso; ahora debe ser auditable. La gobernanza algorítmica obliga a las aseguradoras a diseñar sus sistemas pensando en la transparencia desde el día uno (Privacy and Transparency by Design).
Esta obligación garantiza que, aunque la tecnología avance, el factor humano y la justicia contractual sigan siendo el eje del contrato de seguro en México.
FUENTE: https://gemini.google.com/app/