No início de 2024, um funcionário em Hong Kong de uma empresa multinacional recebeu o que parecia ser um pedido de transferência de US$ 25,6 milhões de seu diretor financeiro (CFO). Inicialmente desconfiado, ele entrou em uma chamada de vídeo com o CFO e outros colegas para verificar a validade da solicitação. O que ele viu o convenceu de que a solicitação era legítima, então ele transferiu o dinheiro. Mal sabia ele que não apenas a mensagem inicial que ele recebeu foi gerada por IA, mas as pessoas que ele pensou ter visto na chamada de vídeo eram deepfakes. Ele acabara de transferir milhões de dólares para as mãos de golpistas de IA extremamente sofisticados.
Embora este seja um exemplo extremo, mostra o quão complexos os golpes de IA estão se tornando, bem como as limitações dos protocolos de segurança tradicionais na proteção contra eles. Afinal, o funcionário seguiu as melhores práticas tradicionais após receber a mensagem suspeita ao entrar em contato com seu CFO. Com a ajuda de IA, os fraudadores estavam apenas um passo à frente.
Os fraudadores agora são capazes de aproveitar golpes multifacetados orientados por IA em cada estágio da jornada do cliente. Por exemplo, eles podem usar deepfakes para se passar por um cliente legítimo na abertura da conta ou usar e-mails de phishing gerados por IA para roubar a senha de um usuário e iniciar transações fraudulentas de sua conta existente. Todas essas táticas apresentam riscos significativos para instituições financeiras, fornecedores de e-commerce e qualquer outra organização que pretenda proteger dados financeiros e de clientes confidenciais.
No entanto, muitos especialistas em operações de fraude não têm a infraestrutura de segurança para encontrar os fraudadores onde eles estão — especialmente em escala. Por exemplo, longas filas de revisão manual podem significar que golpes não sejam sinalizados até que seja tarde demais. Abordar a ameaça de golpes por IA provavelmente significa elevar suas proteções de segurança com ferramentas novas e sofisticadas.