TRM Labs quer colocar um responsável humano por trás de cada agente de IA no mercado financeiro
O avanço dos agentes de IA no mercado financeiro traz uma questão que bancos e reguladores ainda precisam resolver: quem responde pelas transações realizadas por um software autônomo? Para a TRM Labs, empresa de inteligência em blockchain, a identificação deve começar pela pessoa ou organização que controla o agente.
A discussão ganhou relevância em meio ao aumento dos ataques contra o setor. Na semana passada, hackers norte-coreanos roubaram cerca de US$ 6,3 bilhões da Binance depois de enganar funcionários por meio de uma falsa entrevista de emprego. Os criminosos também exploraram uma ferramenta interna de inteligência artificial, e a maior parte dos recursos desapareceu em apenas 20 minutos.
Durante o evento Merge Madrid, Guillaume Rodenas, executivo da TRM Labs, defendeu que instituições financeiras verifiquem primeiro a identidade de quem delega autoridade aos agentes de IA.
“I think as long as you can actually verify the principal, so essentially the one who controls the agent who has the mandate, I think you’re probably in a good position.”
Na prática, a proposta é vincular cada agente a uma pessoa ou empresa responsável por suas atividades. O histórico de transações também pode ajudar a identificar quais operações foram realizadas pelo software em nome desse responsável.
A questão, porém, não termina na identificação de quem controla a tecnologia. Também é necessário definir quem assume os prejuízos quando um agente executa uma operação indevida ou comete um erro.
Agentes de IA pressionam bancos a rever responsabilidades e segurança
Questionado sobre quem deveria responder quando a inteligência artificial comete um erro financeiro, Rodenas reconheceu que ainda não existe uma resposta simples.
“That’s obviously kind of the million-dollar question, right?”
Segundo o executivo, os desenvolvedores poderiam ser responsabilizados por falhas no software, enquanto os usuários também precisam compreender os protocolos financeiros utilizados pelos agentes.
A situação fica mais complexa nas organizações autônomas descentralizadas (DAOs), nas quais a definição de responsabilidade pode ser menos clara. Rodenas relacionou essa dificuldade ao fato de que a regulamentação europeia MiCA deixou de fora, em grande parte, as estruturas de finanças descentralizadas totalmente autônomas.
Enquanto a discussão regulatória avança, os ataques já incorporam recursos automatizados. A TRM Labs estima que a Coreia do Norte respondeu por 85% do valor roubado em ataques contra o setor cripto neste ano. As perdas totais chegaram ao recorde de US$ 8,7 bilhões, impulsionadas principalmente pelo caso da Binance.
Rodenas também afirmou que criminosos estão usando agentes autônomos para interagir com protocolos e iniciar transações continuamente, sem depender de comandos humanos a cada operação. A inteligência artificial também já apareceu em ataques contra bancos tradicionais.
“So if the crime happens twenty-four-seven, the defenders have to work twenty-four-seven too.”
A própria TRM Labs utiliza inteligência artificial para monitorar carteiras continuamente e identificar atividades suspeitas. Para Rodenas, entretanto, a capacidade tecnológica não é o único obstáculo para o setor bancário europeu.
Ele aponta diferenças principalmente na disposição das instituições para incorporar ativos digitais. Enquanto alguns bancos já mantêm equipes especializadas em blockchain, outros ainda enfrentam resistência interna de funcionários que tentam convencer suas lideranças de que o mercado merece atenção.
O executivo acredita que essa separação entre ativos tradicionais e criptomoedas tende a perder relevância nos próximos anos.
“I think in a few years from now we’ll probably just stop calling it crypto, digital assets or whatever the case may be. It will be just a new form of asset, and we’ll just call it money, right?”
Para os bancos, a mudança exige mais do que acompanhar a evolução dos agentes de IA. Será necessário desenvolver mecanismos de identificação, monitoramento e responsabilização compatíveis com um sistema financeiro no qual softwares podem movimentar dinheiro e interagir com protocolos sem aguardar instruções humanas a cada etapa.
