Um agente de IA planeia e executa tarefas de vários passos: lê dados, usa ferramentas e produz resultados com poucas instruções. Nas finanças, a questão não é se os agentes são capazes, mas que passos podem dar sozinhos e quais devem esperar por uma pessoa.
Três regras de conceção
- Pôr as permissões por escrito. Um agente deve ter uma lista explícita das ações que pode realizar e, igualmente importante, das que não pode.
- Definir um limiar de confiança. Abaixo de um nível acordado, o resultado correto é escalar o caso, não dar uma resposta mais fraca.
- Fazer da aprovação uma barreira, não uma sugestão. O agente deve ser tecnicamente incapaz de publicar ou agir até que uma pessoa designada aprove.
Como os quadros de referência o enquadram
O Quadro de Gestão de Riscos de IA do NIST organiza o trabalho em quatro funções: Govern, Map, Measure e Manage. As permissões limitadas são uma decisão de Govern; as pontuações de confiança e os controlos de qualidade dos dados pertencem a Measure; a escalada e a reversão, a Manage.
O Regulamento Europeu da Inteligência Artificial classifica certos usos financeiros como de risco elevado, incluindo a IA utilizada para avaliar a solvabilidade de pessoas singulares, e exige supervisão humana para os sistemas de risco elevado. Muito antes da IA generativa, a carta SR 11-7 da Reserva Federal já esperava que os modelos fossem sujeitos a um questionamento efetivo e a uma monitorização contínua.
Um documento de dezembro de 2024 do Instituto de Estabilidade Financeira do BIS analisa a forma como as autoridades financeiras abordam a IA e discute desafios como a explicabilidade, a governação e a dependência de fornecedores externos.
O que este conceito demonstra
A página de IA aplicada faz passar três casos ilustrativos por um processo deste tipo. Um passa sem problemas, outro passa com um aviso de qualidade dos dados e o terceiro é travado porque as fontes se contradizem. O que importa não são os veredictos, mas o facto de cada paragem estar prevista de antemão.