A Inteligência Artificial exige uma nova abordagem à cibersegurança
A adoção da Inteligência Artificial (IA) está a acelerar em praticamente todos os setores de atividade.
A ISO 27090 surge como uma referência internacional para reforçar a segurança dos sistemas de IA, num contexto em que assistentes generativos e sistemas autónomos estão a ser integrados em processos organizacionais cada vez mais críticos.
Contudo, esta evolução introduz desafios de segurança que não podem ser integralmente resolvidos através dos mecanismos tradicionais de cibersegurança. Um sistema de IA pode continuar aparentemente operacional mesmo quando os seus dados de treino foram manipulados, o modelo foi comprometido ou as suas respostas estão a ser influenciadas por instruções maliciosas.
Ao contrário de muitos ataques informáticos convencionais, um ataque a um sistema de IA nem sempre provoca uma interrupção do serviço ou um comportamento imediatamente identificável como anómalo. O sistema pode continuar a funcionar, mas deixar de produzir resultados fiáveis, íntegros ou seguros.
É neste contexto que surge a ISO/IEC 27090:2026, que apresenta orientações específicas para compreender, detetar e mitigar ameaças de segurança que afetam os sistemas de Inteligência Artificial.
ISO 27090:2026 – O que é e qual a sua importância para a segurança da IA?
A ISO/IEC 27090:2026, intitulada Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems, é uma norma internacional desenvolvida no âmbito da normalização ISO/IEC.
O seu objetivo é apoiar as organizações na identificação e compreensão das ameaças de segurança específicas dos sistemas de IA, incluindo as consequências da sua exploração e possíveis medidas de deteção e mitigação.
A análise deve considerar o ciclo de vida dos sistemas de IA, desde a preparação dos dados e desenvolvimento dos modelos até à implementação, operação, atualização e manutenção. A norma é relevante para organizações públicas e privadas que desenvolvam, disponibilizem ou utilizem sistemas de IA.
Importa salientar que a ISO/IEC 27090 é uma norma de orientação técnica, não devendo ser confundida com um referencial autónomo de certificação de sistemas de gestão. O seu valor reside em complementar práticas de segurança estabelecidas com uma análise mais específica dos ativos, vulnerabilidades e ameaças associados à IA.
Quais são os principais riscos de segurança dos sistemas de IA?
A segurança da Inteligência Artificial exige proteger não apenas a infraestrutura tecnológica, mas também os dados, modelos, instruções, interfaces, integrações e resultados produzidos.
1. Data Poisoning e Model Poisoning
Os ataques de envenenamento de dados ou modelos procuram comprometer a integridade de um sistema de IA através da introdução de informação maliciosa ou manipulada. Um atacante pode introduzir dados falsificados num conjunto de treino, influenciando o comportamento futuro do modelo.
As consequências podem incluir decisões incorretas, enviesamento intencional, degradação de desempenho ou comportamentos controlados pelo atacante. A proteção deve considerar a proveniência dos dados, a integridade dos conjuntos de treino, a validação dos modelos e o controlo dos processos de atualização.
2. Model Theft e Model Extraction
Os modelos de IA podem representar ativos estratégicos de elevado valor económico e tecnológico. Através de acessos não autorizados, exploração de interfaces ou consultas sistemáticas a uma API, um atacante pode procurar extrair informação sobre o modelo ou reproduzir parcialmente o seu comportamento.
Estes ataques podem comprometer propriedade intelectual, informação confidencial e vantagens competitivas. Medidas como controlo de acessos, monitorização de utilização, limitação de consultas e proteção dos artefactos dos modelos contribuem para reduzir a exposição.
3. Prompt Injection e Adversarial Attacks
A injeção de prompts é particularmente relevante nos sistemas baseados em Large Language Models (LLM). Nestes ataques, um agente malicioso introduz instruções destinadas a alterar o comportamento esperado do sistema, eventualmente através de documentos, páginas web, mensagens ou outras fontes externas processadas pela IA.
Imagine-se um assistente empresarial que consulta documentos internos para responder a pedidos de colaboradores. Um documento manipulado pode conter instruções destinadas a levar o assistente a divulgar informação ou executar ações não autorizadas.
Os ataques adversariais, por sua vez, podem explorar alterações cuidadosamente construídas nos dados de entrada para induzir classificações ou decisões incorretas. A segurança exige validação de entradas, segregação de privilégios, controlo das ferramentas disponíveis e testes de resistência a comportamentos maliciosos.
4. Divulgação de informação sensível
Os sistemas de IA podem processar informação pessoal, financeira, comercial, técnica ou operacionalmente sensível. A divulgação indevida pode ocorrer através das respostas geradas, de mecanismos de recuperação de informação, de integrações com sistemas empresariais ou de configurações inadequadas de acesso.
A existência de um modelo aparentemente seguro não garante, por si só, que a informação utilizada pelo sistema esteja devidamente protegida. As organizações devem assegurar a classificação da informação, a minimização dos dados tratados, a segregação de acessos e a monitorização de possíveis fugas de informação.
5. Model Drift e degradação do comportamento
O comportamento dos modelos pode deteriorar-se ao longo do tempo devido a alterações nos dados, no contexto operacional ou nos processos de atualização. Embora o model drift não constitua necessariamente um ataque de cibersegurança, pode afetar a fiabilidade e a segurança do sistema, sobretudo quando combinado com manipulação de dados ou alterações não autorizadas.
Por esse motivo, a monitorização contínua, os testes periódicos e a validação das atualizações devem integrar o processo de gestão do ciclo de vida dos sistemas de IA.
6. Compromisso da cadeia de fornecimento de IA
Os sistemas de IA dependem frequentemente de modelos de terceiros, bibliotecas, plataformas cloud, APIs, conjuntos de dados e componentes de código aberto. Uma vulnerabilidade ou compromisso num destes elementos pode afetar todo o sistema.
A avaliação de fornecedores, a rastreabilidade dos componentes, a verificação de integridade e a gestão de dependências são essenciais para reduzir os riscos associados à cadeia de fornecimento.
ISO/IEC 27090, ISO/IEC 27001 e ISO/IEC 42001: como se complementam?
Uma das principais vantagens da ISO/IEC 27090 é a possibilidade de integração com referenciais internacionais já utilizados pelas organizações.
ISO/IEC 27001 e ISO/IEC 27002 – Segurança da Informação
Estabelecem os requisitos de um Sistema de Gestão de Segurança da Informação (SGSI) e um conjunto de controlos de referência para a proteção da informação. Constituem uma base fundamental para a gestão do risco, controlo de acessos, segurança operacional, gestão de incidentes e proteção dos ativos.
ISO/IEC 42001 – Sistema de Gestão de Inteligência Artificial
Estabelece requisitos para implementar, manter e melhorar continuamente um Sistema de Gestão de Inteligência Artificial. Abrange aspetos como governação, responsabilidades, avaliação de riscos, objetivos e gestão dos impactos associados aos sistemas de IA.
ISO/IEC 22989 e ISO/IEC 23053 – Conceitos e arquitetura
Contribuem para estabelecer uma linguagem comum e uma compreensão estruturada dos conceitos, componentes e arquiteturas dos sistemas de IA.
ISO/IEC 27090 – Segurança específica dos sistemas de IA
Acrescenta orientações sobre ameaças e compromissos de segurança que podem afetar dados, modelos e outros componentes dos sistemas de IA, incluindo a sua deteção e mitigação.
- A ISO/IEC 27001 estabelece a base de gestão da segurança da informação.
- A ISO/IEC 42001 estrutura a governação e a gestão responsável da IA.
- A ISO/IEC 27090 aprofunda a compreensão e o tratamento das ameaças específicas de segurança da IA.
A governação da IA e a segurança da IA são dimensões complementares, mas não equivalentes. Uma organização pode dispor de políticas adequadas de utilização responsável da IA e, ainda assim, manter sistemas vulneráveis a ataques de manipulação, extração ou divulgação de informação.
O desafio crescente da IA generativa e da IA agêntica
A expansão da IA generativa e dos sistemas de IA agêntica torna esta discussão particularmente relevante. Enquanto um chatbot tradicional pode limitar-se a produzir respostas, um agente de IA pode estar autorizado a consultar bases de dados, interagir com aplicações, executar operações ou desencadear processos empresariais.
Esta capacidade aumenta significativamente as consequências potenciais de uma exploração bem-sucedida.
Considere-se um agente de IA integrado numa plataforma de gestão empresarial, com permissões para consultar documentos, criar pedidos ou atualizar registos. Uma instrução maliciosa introduzida através de uma fonte externa pode tentar levar o agente a executar operações fora do âmbito pretendido.
Nestes ambientes, a segurança não pode depender exclusivamente da capacidade do modelo para reconhecer instruções perigosas. É necessário implementar mecanismos técnicos independentes, incluindo:
- Princípio do menor privilégio nas identidades e ferramentas utilizadas pelos agentes.
- Separação entre instruções de confiança e conteúdos externos não fiáveis.
- Validação e autorização das operações críticas.
- Supervisão humana para ações de maior impacto.
- Registo, rastreabilidade e monitorização das ações executadas.
- Testes de segurança específicos para fluxos de trabalho autónomos.
A ISO/IEC 27090 contribui para enquadrar a análise destas ameaças, embora a seleção dos controlos deva considerar a arquitetura, o contexto e os riscos concretos de cada implementação.
Como podem as organizações preparar-se?
A implementação das orientações da ISO 27090 deve começar pela identificação dos sistemas de Inteligência Artificial utilizados pela organização e pela avaliação dos riscos de segurança associados. A ISO 27090 permite complementar os processos existentes de gestão do risco, reforçando a proteção dos dados, modelos e componentes tecnológicos ao longo do ciclo de vida da IA.
1. Inventariar os sistemas de IA
Identificar modelos, aplicações, fornecedores, conjuntos de dados, APIs, integrações e agentes utilizados pela organização, incluindo soluções de IA incorporadas em produtos de terceiros.
2. Identificar ativos e dependências críticas
Determinar quais os dados, modelos, serviços, processos e componentes tecnológicos cuja alteração, indisponibilidade ou divulgação pode provocar impactos relevantes.
3. Avaliar ameaças e vulnerabilidades específicas
Complementar a metodologia de gestão de risco existente com cenários relacionados com envenenamento de dados, extração de modelos, injeção de prompts, ataques adversariais e compromisso da cadeia de fornecimento.
4. Implementar medidas de proteção proporcionais
Selecionar controlos técnicos e organizacionais adequados aos riscos identificados, considerando o contexto de utilização e a criticidade dos sistemas.
5. Realizar testes de segurança especializados
Integrar avaliações de segurança de IA, testes adversariais, exercícios de red teaming e validações de robustez nos processos de desenvolvimento e operação.
6. Monitorizar e melhorar continuamente
Acompanhar o comportamento dos sistemas, analisar incidentes, verificar a eficácia das medidas e reavaliar os riscos perante alterações de modelos, dados, integrações ou funcionalidades.
Esta abordagem pode ser integrada num SGSI baseado na ISO/IEC 27001 ou num sistema de gestão de IA alinhado com a ISO/IEC 42001, evitando a criação de processos paralelos desnecessários.
A segurança da IA deve ser demonstrável
À medida que a Inteligência Artificial assume funções mais relevantes nas organizações, deixa de ser suficiente afirmar que os sistemas são seguros. É necessário demonstrar que os riscos foram identificados, que as medidas de proteção são adequadas e que existem evidências da sua implementação e eficácia.
Esta exigência torna especialmente relevantes as avaliações de risco, as auditorias técnicas, os testes de intrusão adaptados a sistemas de IA e os exercícios de red teaming. Também reforça a importância de integrar a segurança desde a conceção dos sistemas, seguindo os princípios de Security by Design e Security by Default.
A proteção dos sistemas de IA deve ser entendida como um processo contínuo, e não como uma verificação pontual realizada antes da entrada em produção.
Conclusão: da governação da IA à segurança efetiva
A publicação da ISO/IEC 27090:2026 representa um desenvolvimento importante na evolução dos referenciais internacionais de cibersegurança aplicáveis à Inteligência Artificial.
A ISO 27090 reforça a necessidade de identificar e tratar ameaças específicas que podem comprometer os dados, modelos, comportamentos e resultados dos sistemas de IA.
A adoção das orientações da ISO 27090 permite às organizações complementar os seus mecanismos de segurança existentes e desenvolver uma abordagem mais consistente à proteção da Inteligência Artificial.
A norma reforça uma ideia fundamental: proteger um sistema de IA exige compreender as ameaças específicas que podem comprometer os seus dados, modelos, comportamentos e resultados.
A ISO/IEC 27001 continua a proporcionar a base de segurança da informação. A ISO/IEC 42001 estrutura a governação e a gestão dos sistemas de IA. A ISO/IEC 27090 acrescenta orientações específicas para enfrentar os riscos de segurança associados a estas tecnologias.
Num contexto de rápida expansão da IA generativa e da IA agêntica, as organizações que integrarem estas dimensões estarão mais bem preparadas para desenvolver e utilizar sistemas de IA seguros, resilientes e confiáveis.
A governação estabelece responsabilidades. A cibersegurança protege os sistemas. A confiança exige ambas.
Como pode a CYBERNOW apoiar a sua organização?
Na CYBERNOW, ajudamos as organizações a integrar a segurança da Inteligência Artificial nas suas estratégias de cibersegurança, governação e gestão do risco.
Através de serviços de consultoria, avaliação de risco, auditoria e testes de segurança, apoiamos a identificação de vulnerabilidades, a avaliação de ameaças e a definição de medidas de proteção adequadas ao contexto de cada organização.
A integração das normas ISO/IEC 27001, ISO/IEC 42001 e ISO/IEC 27090 permite construir uma abordagem coerente, orientada para a proteção dos ativos, a resiliência operacional e a melhoria contínua.
A sua organização está preparada para avaliar e gerir os riscos de segurança dos seus sistemas de Inteligência Artificial? Conheça os serviços da CYBERNOW ou entre em contacto com a nossa equipa.
