Empresas e o Google enfrentam em tempo real os desafios da segurança em IA, exigindo estratégias integradas e respostas rápidas às novas ameaças.
A inteligência artificial revoluciona o mercado, mas traz desafios complexos para a segurança. Empresas precisam agir rápido para proteger seus dados e sistemas.
Francis de Souza, COO do Google Cloud, ressaltou que segurança não pode ser um complemento. Deve ser parte da estratégia desde o início.
O caminho até soluções maduras é uma transição difícil, em que até gigantes da tecnologia ainda estão aprendendo a se adaptar. Confira a seguir como a segurança em IA deve evoluir.
A segurança deve ser prioridade desde o início, alerta Google Cloud
Durante um evento em Los Angeles, Francis de Souza destacou que as organizações não podem tratar a segurança como uma etapa posterior à implementação da IA. “Não existe estratégia de IA sem estratégia de dados e segurança que andem juntas”, afirmou ele.
Um dos perigos mencionados foi o chamado “shadow AI”, ou seja, colaboradores usando ferramentas de inteligência artificial sem supervisão da empresa, abrindo brechas perigosas para vazamento e uso indevido de informações.
De Souza reforçou que as empresas devem exigir das plataformas de IA transparência, governança e audibilidade desde o início, adotando uma abordagem multiplataforma e multicloud para manter uma postura de segurança uniforme, já que raramente uma organização depende de apenas um provedor.
O cenário das ameaças mudou drasticamente com a inteligência artificial
O tempo médio entre a invasão inicial e o avanço do ataque caiu de oito horas para apenas 22 segundos, segundo informações do executivo do Google Cloud. Além disso, o perímetro tradicional de segurança se expandiu.
Agora, modelos, pipelines de dados, agentes e prompts são parte do ambiente que precisa ser protegido. Outro risco menos falado é a descoberta de repositórios de dados esquecidos, como servidores antigos de SharePoint sem controle atualizado, que podem ser usados contra a empresa por agentes maliciosos.
Para responder aos ataques que avançam em velocidade de máquina, a defesa deve ser igualmente rápida e baseada em agentes automatizados, com humanos supervisionando sistemas totalmente autônomos de segurança. Essa é uma questão que envolve equipes executivas e o conselho das companhias, não apenas os times técnicos.
Escassez de profissionais e falhas em plataformas exigem atenção redobrada
Mesmo com a inteligência artificial assumindo grande parte da defesa, o número de especialistas qualificados para supervisionar esses sistemas é insuficiente diante do aumento das vulnerabilidades.
Lea Kissner, CISO do LinkedIn, destacou que não haverá compreensão sustentável da segurança em IA por pelo menos alguns anos, apontando para um verdadeiro “bug-pocalipse” a ser enfrentado pela indústria.
Além disso, houve relatos recentes de desenvolvedores na Google Cloud que sofreram cobranças elevadas após invasões de suas chaves de API, usadas para acessar modelos Gemini do Google, sem autorização ou conhecimento claro das mudanças feitas pela própria Google.
Apesar dos reembolsos concedidos, a empresa mantém sua política de aumento automático nos limites de gasto para evitar interrupções do serviço, mesmo contra a vontade do usuário. Também foram identificadas falhas na revogação imediata dessas chaves, o que prolonga a janela para ataques e vazamentos.
Entre riscos e soluções, a evolução da segurança em IA está em curso
De Souza orienta que as organizações adotem uma postura ativa e integrada com segurança nativa em IA, preparada para enfrentar o ritmo acelerado dos ataques e a complexidade dos ambientes multicloud.
Ainda que as recomendações sejam sólidas, a realidade mostra que as plataformas ainda apresentam lacunas e que a adaptação exige tempo e investimentos constantes.
Empresas precisam estar atentas e preparar suas equipes e sistemas para um futuro onde a inteligência artificial estará no centro da segurança corporativa.
Com informações de techcrunch
Aviso legal
Este conteúdo foi produzido com o apoio de ferramentas de Inteligência Artificial, sendo posteriormente revisado, validado e aprimorado por Lc Palauro . Em conformidade com os critérios definidos em nossa Política Editorial , garantindo precisão, clareza e confiabilidade nas informações apresentadas.
