A Inteligência Artificial pode ser explorada por terroristas, alertam chefes do MI5 e FBI
A Inteligência Artificial pode ser explorada por terroristas, alertam chefes do MI5 e FBI
Wray observou que grupos terroristas tentaram usar a IA para contornar as salvaguardas incorporadas em parte da infraestrutura de IA para realizar pesquisas sobre a construção de bombas
Em um mundo cada vez mais interconectado, a Inteligência Artificial poderia ser uma ferramenta nas mãos de terroristas ou estados hostis que buscam construir bombas, disseminar propaganda ou perturbar eleições, conforme apontam os líderes do MI5 e do FBI.
Ken McCallum, diretor geral do MI5, e Christopher Wray, diretor do FBI, expressaram que suas organizações estão monitorando tais desenvolvimentos e enfatizaram a necessidade de cooperar com especialistas do setor privado para enfrentar as ameaças emergentes. Em um mundo onde a tecnologia avança a passos largos, é preciso refletir sobre os caminhos que estamos trilhando.
McCallum destacou que, embora os desenvolvedores de IA implementem salvaguardas para evitar que as pessoas usem softwares para aprender a construir uma bomba, existe o risco de "burlar" esses controles. "Se você tem experiência em segurança, seria imprudente confiar que esses controles permanecerão invioláveis", disse McCallum. Ele alertou sobre o risco claro de que alguns desses sistemas possam ser usados de maneiras que seus criadores não pretendiam.
Wray observou que grupos terroristas tentaram usar a IA para contornar as salvaguardas incorporadas em parte da infraestrutura de IA para realizar pesquisas sobre a construção de bombas. Ele também mencionou que a IA foi usada para amplificar a distribuição de propaganda terrorista, tornando-a mais coerente e crível para possíveis apoiadores.
Os dois líderes estavam falando em uma cúpula de inteligência do Five Eyes com os chefes das agências de inteligência doméstica da Austrália, Canadá e Nova Zelândia na Universidade de Stanford, Califórnia.
McCallum acredita que alguns dos riscos de segurança relacionados à IA serão discutidos no cume global de IA de Rishi Sunak no início de novembro. Ele enfatizou que a indústria está sensível ao tópico. "É uma daquelas questões onde ninguém tem o monopólio da sabedoria", acrescentou o chefe do MI5.
Ambos os líderes das agências expressaram preocupação com esforços sofisticados, gerados por IA, de interferência política por estados hostis, como a Rússia, nas próximas eleições nos EUA e no Reino Unido.
Wray ressaltou a ameaça das deepfakes, afirmando que a utilização de IA, se sofisticada o suficiente para criar deepfakes, adiciona um nível de ameaça que não havíamos encontrado anteriormente.
O evento na Califórnia também trouxe alertas de que as ameaças terroristas poderiam aumentar como resultado da guerra em Israel e Gaza, e advertências sobre a escala do espionagem industrial chinesa.
Em tempos de avanço tecnológico, é imperativo que reflitamos sobre as implicações éticas e morais de nossas inovações. A tecnologia, quando usada de maneira irresponsável, pode ter consequências devastadoras.