Qualys expande a sua plataforma a pensar nos riscos da IA

A Qualys anunciou uma importante atualização da sua solução TotalAI, concebida para proteger as operações de Machine Learning (MLOps), desde o seu desenvolvimento até à sua implementação.

Com a nova versão da TotalAI, as organizações poderão testar rapidamente os grandes modelos de linguagem (LLM), mesmo durante o ciclo de desenvolvimento, com uma proteção mais robusta e a integração de um scanner LLM interno.

Segundo os dados de um estudo recente, 72% dos CISOs estão preocupados com o facto de as soluções de IA generativa poderem conduzir a violações de segurança na sua organização.

“A rápida adoção da IA está a permitir que as organizações avancem a um ritmo sem precedentes, mas muitas vezes sem implementar os controlos de segurança fundamentais para gerir o risco”, refere a empresa, com base no estudo.

A solução Qualys TotalAI foi desenhada especificamente para as realidades únicas do risco de IA, indo além das avaliações básicas de infraestrutura para testar diretamente os modelos de vulnerabilidades de jailbreak, exposição de dados confidenciais e riscos críticos com base no OWASP Top 10.

Com uma abordagem centrada no risco, o TotalAI não só deteta vulnerabilidades de IA, como também ajuda as equipas a resolvê-las mais rapidamente, preservando a resiliência operacional e mantendo a confiança da marca.

“À medida que a IA se torna um componente essencial da inovação empresarial, a segurança já não pode ser uma reflexão tardia. O Qualys TotalAI garante que apenas os modelos fiáveis e verificados sejam carregados na produção, permitindo uma total agilidade e uma maior segurança no uso da IA no nível corporativo. Esta solução ajuda as organizações a atingir os seus objetivos de inovação enquanto gerem os seus riscos”, disse Tyler Shields, analista sénior do Enterprise Strategy Group (ESG).

“A IA está a transformar a forma como as empresas operam, mas com essa inovação vêm riscos novos e complexos. O TotalAI fornece a visibilidade, a inteligência e a automação necessárias para proteger as workloads de IA em todas as etapas, desde o desenvolvimento até à implementação. Uma solução pioneira que ajuda as empresas a inovar com confiança, mantendo-se à frente das ameaças emergentes de IA”, sublinha Sumedh Thakar, presidente e CEO da Qualys.