O futuro da IA pode ser aceitar o que não sabemos ainda.
Teríamos que entender como a IA funciona por dentro para poder usar?
Como você se sentiria ao entregar as rédeas para a inteligência artificial sem entender completamente como ela funciona?
Tal sugestão é blasfêmia - e potencialmente ilegal - em Wall Street. As empresas financeiras precisam ser capazes de explicar como qualquer modelo que usam funciona. Dessa forma, se as coisas correrem mal, as empresas não podem simplesmente apontar para o computador e dar de ombros.
Em essência, "explicabilidade" é a versão da IA de um professor de matemática pedindo para você "mostrar seu trabalho".
Mas, à medida que a tecnologia de IA continua a avançar, um executivo de Wall Street está se perguntando se não há alguma margem de manobra nesses tipos de políticas.
Na quarta-feira, a CEO e presidente da Nasdaq, Adena Friedman, delineou maneiras pelas quais os reguladores podem ajudar os bancos a mitigar o crime financeiro enquanto falava no Bloomberg Invest. Parte desses planos incluía a adoção de algoritmos para detectar atividades criminosas.
Mas o que realmente chamou minha atenção foram os comentários de Friedman sobre ter que entender completamente como a IA funciona.
"Queremos nos envolver com os reguladores para dizer: 'Qual é a próxima geração de IA que vai torná-la ainda mais eficaz? E, portanto, talvez não seja totalmente explicável, mas você entende que estamos usando-a para o propósito certo'", disse ela.
Esse é um exercício de pensamento fascinante, e vale a pena ter com a rapidez com que a tecnologia de IA parece estar evoluindo nos dias de hoje.
Por um lado, faz total sentido. Por que limitar como você pode usar a IA? Contanto que você tenha algumas boas salvaguardas no lugar e possa verificar que as respostas são precisas, realmente importa se você não entende completamente como chegou lá?
Eu percebo que isso não seria aceitável para tudo - como tomar uma decisão sobre um empréstimo - mas parece haver muitos cenários onde ter que "mostrar seu trabalho" não deveria atrapalhar a solução do problema maior.
O contra-argumento é que não devemos usar ferramentas nos mercados financeiros que não entendemos completamente. (Ponto justo!) Mesmo se você mantiver a IA isolada em um ambiente específico, focada em uma única tarefa, você ainda está brincando com fogo.
Porque no final do dia, você simplesmente não sabe do que ela é capaz.