Quais as vantagens e riscos do uso de IA na cibersegurança?

No mundo hiperconectado de hoje, a segurança digital tornou-se uma prioridade crítica para empresas de todos os portes. Nesse contexto, a Inteligência Artificial (IA) surge como uma ferramenta poderosa para a cibersegurança, prometendo avanços em detecção de ameaças, automação de processos e resposta a ataques.

Mas, apesar de suas promessas, o uso de IA também traz desafios e preocupações, desde a possibilidade de exploração por criminosos até o risco de dependência excessiva da tecnologia.

Para entender melhor essas questões, ouvimos especialistas de empresas de segurança de renome, como Acronis, Control Risks, Akamai e Palo Alto Networks. Eles compartilham suas perspectivas sobre as vantagens e os riscos da IA aplicada à segurança cibernética e analisam como essa tecnologia pode transformar o cenário da cibersegurança — para o bem e para o mal.

Acronis – Chan Wah Ng, Gerente de IA da Acronis

Para Chan Wah Ng, a aplicação da IA na cibersegurança abre portas para novas capacidades de proteção. Combinando análise de grandes volumes de dados e automação, a IA promete elevar a defesa digital a um patamar antes impossível, respondendo a ameaças em questão de segundos.

No entanto, ele alerta para o quanto a eficácia da IA depende de dados bem estruturados e da necessidade de um cuidado especial para evitar que ela se torne uma vulnerabilidade nas mãos erradas.

Leia também:

Vantagens:

• Detecta ameaças em grandes volumes: a IA pode processar volumes massivos de dados em tempo real e identificar padrões de comportamento suspeitos. Uma parte importante disso é que a inteligência artificial não apenas processa grandes quantidades de dados históricos (grande volume temporal), mas também correlaciona dados de um amplo espectro de domínios (grande volume espacial) para tomar decisões. Por exemplo, pode aumentar o nível de alerta se detectar, ao mesmo tempo, aumentos incomuns em certos tipos de tráfego de rede (por exemplo, DNS).

• Automação para reduzir erros humanos: a IA automatiza processos críticos, como o monitoramento de ameaças, reduzindo significativamente as chances de erro humano, que continua sendo uma vulnerabilidade importante. Por exemplo, alertas automatizados podem notificar as equipes sobre potenciais ameaças, garantindo respostas oportunas que poderiam ser perdidas em sistemas manuais.

• Respostas rápidas a ameaças: em caso de ameaça, a IA permite respostas quase imediatas, bloqueando acessos maliciosos ou isolando arquivos comprometidos. Por exemplo, se uma IA detectar um ataque de ransomware, ela pode colocar os sistemas infectados em quarentena automaticamente, prevenindo danos em larga escala.

Desvantagens:

• Depende de dados para treinamento: a eficácia da IA depende da qualidade dos dados com os quais é treinada. Caso seja treinada com dados insuficientes ou enviesados, pode deixar de detectar ameaças ou gerar alertas falsos, levando a problemas de produtividade. Por exemplo, se um sistema de IA não for exposto a certos tipos de tentativas de phishing durante o treinamento, pode falhar em reconhecer novas variações.
• Possibilidade de exploração maliciosa: criminosos cibernéticos também podem usar a IA para lançar ataques mais sofisticados, como automatizar esquemas de phishing ou detectar vulnerabilidades mais rapidamente que analistas humanos.
• É caro para implementar: a implementação de soluções de IA em cibersegurança exige investimentos significativos em infraestrutura e expertise. Embora os custos operacionais totais possam diminuir com o uso de IA, isso inicialmente requer um investimento substancial. Isso pode ser particularmente desafiador para empresas menores, que podem ter dificuldade em arcar com as ferramentas e o treinamento necessários. Além disso, integrar essas soluções com sistemas existentes requer planejamento cuidadoso e recursos.

Control Risks – José Bevilacqua, CEO de Compliance, Forense e Inteligência

José Bevilacqua, da Control Risks, vê a IA como um divisor de águas no combate a ameaças cibernéticas, especialmente quando se trata de prever e antecipar ataques. Para ele, a IA é uma ferramenta que permite a segurança ser mais proativa, identificando possíveis riscos antes mesmo que se materializem.

Mas Bevilacqua também aponta para um terreno pouco explorado: os desafios éticos e legislativos, uma área onde o avanço da IA ainda esbarra em barreiras e cria novos dilemas para o setor.

Vantagens:

• Validação de dados: a IA pode fornecer métricas de alta precisão e validar dados de treinamento, realizando desde a detecção de anomalias até a automação da limpeza, classificação e categorização de dados. Além disso, permite a avaliação de vieses, a análise da qualidade dos dados e a validação cruzada automatizada.

• Previsão e antecipação de ameaças: a IA permite prever padrões de comportamento malicioso antes que os ataques ocorram, analisando tendências históricas e padrões emergentes. Isso possibilita a criação de estratégias de defesa proativas, ao invés de apenas reativas. Modelos de aprendizado contínuo permitem que sistemas se adaptem rapidamente a novas ameaças, sem necessidade de constante intervenção humana. Com essa abordagem, é possível detectar ataques de “zero day” de forma mais ágil, identificando tanto novas ameaças quanto variantes de malwares conhecidos.

Desvantagens:

• Possibilidade de exploração maliciosa: a Control Risks, consultoria global em gestão de riscos, alerta que plataformas de IA podem reduzir a barreira de entrada para o crime cibernético, aumentando a capacidade e a eficiência de ataques como phishing.
  No entanto, a consultoria considera improvável que essas ferramentas facilitem a criação de malwares sofisticados, pois possuem limitações na produção de códigos maliciosos complexos. Assim, o interesse por essas ferramentas em fóruns de criminosos cibernéticos está mais associado a agentes com menor capacitação, o que reduz a possibilidade de impacto significativo entre hackers mais avançados.
  Possibilidade de exploração maliciosa: a Control Risks, consultoria global em gestão de riscos, alerta que plataformas de IA podem reduzir a barreira de entrada para o crime cibernético, aumentando a capacidade e a eficiência de ataques como phishing. No entanto, a consultoria considera improvável que essas ferramentas facilitem a criação de malwares sofisticados, pois possuem limitações na produção de códigos maliciosos complexos. Assim, o interesse por essas ferramentas em fóruns de criminosos cibernéticos está mais associado a agentes com menor capacitação, o que reduz a possibilidade de impacto significativo entre hackers mais avançados.

• Falta de legislação: o setor privado e os governos enfrentam dificuldades para acompanhar o desenvolvimento das ferramentas de IA e implementar legislações atualizadas. Atualmente, a abordagem se concentra em tópicos previsíveis, como potenciais ameaças à sociedade, incluindo IA aplicada a dispositivos médicos, infraestrutura crítica e sistemas de educação e treinamento profissional.

• Riscos operacionais e éticos:
  • Sobrecarga de dados e alertas: ferramentas de IA podem gerar falsos positivos, sobrecarregando as equipes de resposta a incidentes.
  • Preocupações éticas: o uso inadequado da IA pode invadir a privacidade ou resultar em discriminação involuntária por meio de algoritmos enviesados.
  • Dependência excessiva da automação: a confiança exagerada em sistemas automatizados pode levar à falta de auditorias humanas regulares, deixando vulnerabilidades não detectadas.

Akamai – Claudio Baumann, Diretor Geral LATAM

Na visão de Claudio Baumann, da Akamai, a IA se destaca ao integrar análise de dados com a capacidade de detectar comportamentos suspeitos, possibilitando respostas rápidas e assertivas contra potenciais ameaças.

Ele enfatiza, porém, que o uso da IA deve vir acompanhado de boas práticas e treinamentos, pois, sem um entendimento profundo dos riscos envolvidos, a tecnologia pode facilmente gerar novas vulnerabilidades e expor dados confidenciais.

Vantagens:

• A inteligência artificial pode ser aliada importante na identificação de potenciais riscos de segurança e possíveis medidas de mitigação. Ao analisarem códigos e grandes fluxos de dados, sistemas de prevenção e tratamento de riscos que utilizam IA podem realizar análises muito mais exaustivas e com mais velocidade.
  Padrões anormais de utilização de dados e aplicações, variações de volumes de acessos, tipos de equipamentos utilizados e outras informações podem dar indicações preciosas para identificar riscos e diferenciar rotinas normais e maliciosas. É importante ressaltar que IA é um importante aliado da segurança cibernética quando associada à existência de um conjunto de ferramentas, processos e políticas de segurança, que levem em conta a situação específica de cada organização – sua utilização de forma isolada não produzirá impactos relevantes.

Desvantagens:

• Por outro lado, a utilização indiscriminada de IA, muitas vezes justificada com base no aumento da produtividade, pode levar a uma maior exposição de dados ou permitir a exploração dos sistemas da organização por ações maliciosas.
  Desenvolvimento apoiado por IA, algoritmos de machine learning e até a utilização de recursos como o ChatGPT pelos colaboradores, por exemplo, podem gerar vulnerabilidades e expor informações sensíveis, documentos e códigos, inadvertidamente. Por isso, é importante ter regras claras de utilização e treinamentos constantes, para que os profissionais entendam os riscos envolvidos e as melhores práticas de uso.

Palo Alto – Marcos Oliveira, Country Manager da Palo Alto Networks no Brasil

Marcos Oliveira, da Palo Alto Networks, acredita que a IA fortalece a cibersegurança com sistemas de defesa avançados, aprimorando a detecção de padrões maliciosos em diferentes regiões, especialmente no Brasil.

Contudo, Oliveira reforça que, à medida que a IA evolui, ela também possibilita ataques cibernéticos cada vez mais sofisticados, colocando em evidência a necessidade de atualização constante das defesas e de uma abordagem de segurança robusta, como o modelo Zero Trust.

Vantagens:

• Capacidades avançadas de detecção e resposta: com ferramentas impulsionadas por IA, profissionais de segurança conseguem identificar padrões de ataque mais sutis e prever atividades maliciosas com maior precisão, aprimorando a defesa de sistemas críticos contra ameaças em constante evolução.
  Segundo o State of Cloud-Native Security Report 2024, desenvolvido pela Unit 42, a unidade de pesquisa de ameaças da Palo Alto Networks, essa evolução tecnológica é especialmente relevante para regiões como a América Latina – 55% dos incidentes ocorrem apenas no Brasil. Ao integrar a IA com uma arquitetura de Zero Trust, as organizações garantem que cada solicitação de acesso seja continuamente verificada, tornando seus sistemas ainda mais resilientes.
  Além disso, com a IA automatizando tarefas demoradas, como o monitoramento de grandes volumes de dados em busca de atividades suspeitas, as equipes de segurança podem se concentrar em decisões estratégicas.

Desvantagens:

• Aumento da sofisticação dos ataques e dos riscos: embora a IA fortaleça as defesas, ela também permite que os agentes apliquem ataques mais sofisticados e escaláveis. Os cibercriminosos estão usando IA para criar campanhas de phishing mais eficazes, explorar vulnerabilidades de API e até desenvolver malwares personalizados.
  O cenário é preocupante, considerando que 43% das organizações brasileiras enxergam as APIs como uma grande vulnerabilidade e 38% temem o uso da IA para fins maliciosos. As descobertas da Unit 42 indicam uma rápida evolução no uso da IA generativa por atacantes.
  Para enfrentar essa ameaça, as organizações devem atualizar suas defesas constantemente e adotar o modelo de Zero Trust, que ajuda a mitigar riscos de exposição ao garantir que cada usuário e dispositivo seja continuamente autenticado e autorizado.