Cybersecurity needs AI as much as AI needs cybersecurity

O ritmo acelerado em torno da Inteligência Artificial (IA) no mundo da cibersegurança tem sido constante nos últimos anos. Com a ascensão e popularidade da IA, especialmente após a introdução generalizada do GenAI, o mercado está ansioso para aproveitar essa tecnologia. Mas o que as organizações podem esperar? E o que é importante saber? Conversamos com Robert Tom, engenheiro de sistemas da Fortinet Netherlands, para entender melhor essa dinâmica. Durante a conferência anual RSA em São Francisco, ficou claro que a IA era o tema predominante. Embora a IA já seja um tema recorrente há anos, nunca foi tão evidente como agora. Todos os participantes tinham algo a dizer sobre como a IA faz parte das ferramentas de segurança que as organizações podem implantar, mas também sobre como ela é usada por atacantes. Se olharmos para esse desenvolvimento de uma perspectiva cínica, poderíamos dizer que toda essa atenção tem um ângulo comercial. A IA está em alta, então todos querem aproveitar essa onda. No entanto, não se pode negar que os desenvolvimentos, especialmente desde a implantação generalizada do GenAI, trouxeram muitas mudanças para a cibersegurança em geral.

Como a IA está mudando a cibersegurança?

As mudanças trazidas pela IA na cibersegurança não são totalmente claras. Isso não é surpreendente, pois o desenvolvimento da IA é difícil de avaliar. Como Tom coloca, “A IA não se desenvolve de forma linear.” É confuso quando um fornecedor fala sobre uma onda de ataques baseados em IA que causam muitas baixas, enquanto outro não vê praticamente nada disso em seu próprio SOC e aponta principalmente para a higiene básica, que ainda é frequentemente o principal ponto de preocupação. Um não exclui necessariamente o outro, mas é confuso para as organizações que querem se atualizar sobre o estado do mercado. Tom adota uma visão bastante realista sobre o impacto da IA nos ataques cibernéticos: “Como você sabe quando um atacante está usando IA? Talvez deepfakes sejam uma exceção aqui, mas, caso contrário, a atribuição é quase impossível. Se eu usar IA para escrever malware, como você sabe que foi feito com IA?” Pode-se questionar ainda mais a relevância de saber se a IA teve algo a ver com a criação de um ataque cibernético. Se a IA facilita e acelera a escrita de malware, isso não diz necessariamente nada sobre sua qualidade e, portanto, risco. Você pode enfrentar mais ataques, mas eles não precisam ser mais perigosos do que ataques com malware escrito por um humano. Para deepfakes, detectar o uso de IA é realmente importante. À medida que eles se tornam melhores e mais perigosos, é crucial que a atribuição possa ser determinada.

A IA não é nova, nem mesmo na cibersegurança

O GenAI garantiu que praticamente todos, em todos os lugares, falem sobre IA, inclusive na cibersegurança. Muitas vezes, é convenientemente esquecido que a IA em si não é nova. Tom também quer destacar esse ponto em relação à cibersegurança: “IA e cibersegurança estão inextricavelmente ligadas há mais de 10 anos. IA é um termo guarda-chuva usado casualmente desde a explosão do GenAI e causa muita confusão. Sem fazer uma aula de história, Machine Learning/Neural Networking tem sido amplamente possível desde o início dos anos 2010. Este também foi o momento de adoção dentro de muitas soluções de cibersegurança, incluindo a Fortinet.” No entanto, Tom também vê que a introdução relativamente recente do GenAI causou uma mudança marcante no mercado. Muitos provedores de segurança equipam suas soluções com capacidades de GenAI. Isso significa que eles estão se tornando assistentes para analistas de SOC. Não para por aí, ele espera: “Olhando um pouco mais adiante, espero que, onde estamos agora implantando massivamente a IA como um agente/assistente, isso vá mudar lentamente para uma IA que possa operar completamente de forma autônoma com base em objetivos.” Isso também será necessário, esperamos, porque será cada vez mais difícil no futuro repelir com precisão todos os ataques apenas com a implantação de humanos. Simplesmente há muitos deles para isso.

O que as organizações devem observar ao implantar IA?

Pode ser tentador para as organizações agora sempre optar pelo máximo de IA possível em soluções de segurança. No entanto, Tom tem suas reservas sobre isso. “IA não é um selo de qualidade,” ele afirma claramente. A IA ainda precisa ser treinada e você precisa de dados para isso. Segundo Tom, é importante, antes de tudo, esclarecer o que você quer alcançar ao implantar IA e testar e avaliar sistematicamente os resultados. Para deixar isso claro, ele usa a seguinte analogia: “Quando você vai a um restaurante, você não corre para a cozinha para ver qual forno está sendo usado antes de comer. Você julga o resultado, que é o que está no seu prato. Isso é o que conta.” Além disso, é bom perceber que a IA não é e nunca foi uma solução mágica para tudo, aponta Tom. Embora seja muito poderosa, ela não necessariamente ajuda as organizações a resolver todos os problemas. “Não somos vulneráveis porque estamos usando IA” não é a atitude correta, segundo ele. Finalmente, Tom elabora sobre o uso de modelos de IA externos, por exemplo, os LLMs públicos que muitos de nossos leitores sem dúvida conhecem. “Para aplicações empresariais, é importante ter uma boa compreensão do que acontece com seus dados,” ele indica. Isso soa como bater em uma porta aberta, mas é bastante fundamental. Uma rede neural por trás de um LLM aprende com os dados, mas nunca “esquece” esses dados. “É importante entender que Redes Neurais não são bancos de dados dos quais você pode apagar alguns campos,” ele afirma.

Resumo

A integração da IA na cibersegurança é uma realidade que não pode ser ignorada. Desde a detecção de ameaças até a resposta a ataques, a IA desempenha um papel crucial. No entanto, é essencial que as organizações compreendam que a IA não é uma solução mágica e que sua implementação requer uma abordagem cuidadosa e bem planejada. A Fortinet, por exemplo, tem sido pioneira no uso de IA em suas soluções de segurança, demonstrando que a combinação de IA e cibersegurança pode ser altamente eficaz. À medida que avançamos para um futuro onde a autonomia em cibersegurança se torna cada vez mais necessária, a integração e a colaboração entre diferentes componentes de segurança serão fundamentais.

FAQ

1. Como a IA pode ajudar na cibersegurança?

A IA pode ajudar na cibersegurança detectando ameaças de forma mais rápida e precisa, automatizando respostas a ataques e melhorando a análise de dados de segurança.

2. Quais são os desafios de usar IA na cibersegurança?

Os desafios incluem a necessidade de grandes volumes de dados para treinar modelos de IA, a dificuldade em atribuir ataques a IA e a complexidade de integrar IA com sistemas de segurança existentes.

3. A IA pode substituir completamente os analistas de SOC?

Embora a IA possa automatizar muitas tarefas, a supervisão humana ainda é necessária para tomar decisões críticas e lidar com situações complexas.

4. O que são deepfakes e por que são uma preocupação na cibersegurança?

Deepfakes são vídeos ou áudios falsificados criados usando IA. Eles são uma preocupação porque podem ser usados para enganar pessoas e sistemas, causando danos significativos.

5. Como a Fortinet está usando IA em suas soluções de segurança?

A Fortinet usa IA em praticamente todos os seus produtos, desde firewalls até soluções de endpoint e cloud, para detectar ameaças em tempo real e melhorar a resposta a ataques.

Fique por dentro das últimas novidades em cibersegurança e IA seguindo o blog “Moises Kalebbe”.