Un agente de IA planifica y ejecuta tareas de varios pasos: lee datos, usa herramientas y produce resultados con pocas indicaciones. En finanzas, la cuestión no es si los agentes son capaces, sino qué pasos pueden dar por su cuenta y cuáles deben esperar a una persona.
Tres reglas de diseño
- Poner los permisos por escrito. Un agente debe tener una lista explícita de las acciones que puede realizar y, igual de importante, de las que no.
- Fijar un umbral de confianza. Por debajo de un nivel acordado, el resultado correcto es escalar el caso, no dar una respuesta más débil.
- Hacer de la aprobación una barrera, no una sugerencia. El agente debe ser técnicamente incapaz de publicar o actuar hasta que una persona designada lo apruebe.
Cómo lo plantean los marcos de referencia
El Marco de Gestión de Riesgos de IA del NIST organiza el trabajo en cuatro funciones: Govern, Map, Measure y Manage. Los permisos acotados son una decisión de Govern; las puntuaciones de confianza y los controles de calidad de datos, de Measure; la escalada y la marcha atrás, de Manage.
El Reglamento europeo de Inteligencia Artificial clasifica ciertos usos financieros como de alto riesgo, entre ellos la IA utilizada para evaluar la solvencia de personas físicas, y exige supervisión humana para los sistemas de alto riesgo. Mucho antes de la IA generativa, la carta SR 11-7 de la Reserva Federal ya esperaba que los modelos se sometieran a un cuestionamiento efectivo y a un seguimiento continuo.
Un documento de diciembre de 2024 del Instituto de Estabilidad Financiera del BPI repasa cómo abordan la IA las autoridades financieras y analiza retos como la explicabilidad, la gobernanza y la dependencia de proveedores externos.
Qué demuestra este concepto
La página de IA aplicada pasa tres casos ilustrativos por un proceso así. Uno supera todas las etapas, otro las supera con un aviso de calidad de datos y el tercero se detiene porque sus fuentes se contradicen. Lo importante no son los veredictos, sino que cada parada está diseñada de antemano.