Shadow AI: o vazamento de dados escondido nas ferramentas diárias da sua organização

Como é realmente a IA sombria na prática

Shadow AI não é uma ferramenta única ou uma violação deliberada da política.É o resultado acumulado de milhares de pequenas decisões individualmente razoáveis.Um gerente de vendas elabora uma proposta de cliente no ChatGPT porque é mais rápido.Um desenvolvedor pede a um assistente de IA para revisar um bloco de código.Um profissional de RH cola a descrição do cargo e o currículo do candidato em uma ferramenta gratuita de IA para ajudar a pontuar as respostas.Um analista resume um relatório do conselho usando um serviço de IA ao consumidor porque sua empresa não forneceu uma alternativa.

Nenhuma dessas pessoas está agindo maliciosamente.Eles encontraram ferramentas que facilitam seu trabalho e as utilizam.A lacuna entre a intenção deles e o risco que sua organização representa agora é o problema.

Shadow AI é o equivalente da era da IA ​​à shadow IT: tecnologia usada sem supervisão de TI.Com a shadow IT, a preocupação são sistemas sem suporte, software sem correção e dados armazenados no lugar errado.Com a Shadow AI, sua equipe está inserindo ativamente dados confidenciais em sistemas externos.A exposição é imediata e muitas vezes irreversível.

Os três riscos mais importantes

A maioria das discussões sobre Shadow AI concentra-se na segurança de dados.Três categorias distintas de risco convergem sempre que sua equipe usa uma ferramenta de IA não autorizada no trabalho, e a exposição à conformidade vai muito além de uma senha roubada.

1. GDPR e proteção de dados

O Artigo 5 do GDPR exige que os dados pessoais sejam processados ​​legalmente, para uma finalidade específica e de maneira proporcional.O Artigo 28 exige que qualquer terceiro que processe dados pessoais em nome da sua organização o faça sob um Contrato de Processamento de Dados que estabeleça a finalidade, as salvaguardas e as responsabilidades.O uso da conta pessoal de IA não envolve nada disso.

Quando um membro da equipe cola um registro de cliente, informações de um paciente ou dados de RH em um serviço de IA do consumidor usando sua conta pessoal, esses dados vão para um processador terceirizado sem DPA, sem limitação de finalidade e, muitas vezes, sem clareza sobre onde estão armazenados ou qual lei da jurisdição se aplica.O GDPR não se importa se o funcionário teve boas intenções.A sua organização, como controladora, assume a responsabilidade.

As regras de transferência transfronteiriça acrescentam outra camada.Muitos serviços de IA processam dados em infraestruturas fora do EEE.Sem mecanismos de transferência adequados, o envio de dados pessoais para estes serviços pode constituir, por si só, uma violação, separada da questão do artigo 28.º.

2. Confidencialidade e propriedade intelectual

Além dos dados pessoais, sua equipe cola regularmente material comercialmente sensível em ferramentas de IA.Código-fonte, planos de aquisição, contratos de clientes, estratégias de preços e pesquisas competitivas, todos encontram seu caminho nas sessões de IA do consumidor.Os provedores de IA que operam produtos gratuitos ou de consumo usam informações de conversação para treinar ou melhorar seus modelos.Os dados inseridos pela sua equipe não podem permanecer privados.

Mesmo quando um fornecedor não treina com base nos insumos, a informação saiu do seu controle.Se o fornecedor sofrer uma violação, se um regulador solicitar dados sob as leis de uma jurisdição diferente, ou se o funcionário usar a mesma conta pessoal para outros fins, as informações serão expostas de maneiras que você não previu ou aprovou.

3. Resultados imprecisos usados ​​sem verificação

As ferramentas de IA produzem resultados que parecem confiantes e que às vezes estão errados.Quando sua equipe usa esses resultados em documentos voltados para o cliente, registros de conformidade ou decisões internas sem verificá-los, sua organização corre o risco de precisão.Essa falha geralmente ocorre junto com a exposição dos dados: a mesma pessoa que cola dados confidenciais também é aquela que confia na saída sem fazer referência cruzada.

Nos setores regulamentados os riscos são maiores.O conteúdo incorreto gerado pela IA em aconselhamento médico ou financeiro pode criar responsabilidades que excedem em muito a eficiência obtida.

Por que a exposição ao RGPD é maior do que a maioria imagina

O Artigo 28 é a disposição do GDPR mais frequentemente negligenciada nas discussões sobre IA paralela.Requer um Acordo de Processamento de Dados por escrito com cada fornecedor que processa dados pessoais em nome da sua organização, estabelecendo o assunto, a duração, a natureza e a finalidade do processamento, o tipo de dados pessoais e as categorias de titulares dos dados, e as obrigações e direitos do responsável pelo tratamento.

Um membro da equipe que faz login no ChatGPT com uma conta pessoal não possui DPA.Você não sabe que esse processamento está acontecendo.Não existe limitação de propósito.Nenhuma salvaguarda foi acordada.Nenhum cronograma de exclusão está em vigor.Sua organização é a controladora de todos os dados pessoais que o funcionário trata como parte de seu trabalho.Enviar esses dados para um sistema de IA externo é processá-los, independentemente da intenção do funcionário.

Cada nome de cliente, registro de funcionário, detalhes de paciente e contato de cliente colados em uma ferramenta de IA não sancionada é um evento regulatório potencial.Com 40-75% da sua equipe utilizando essas ferramentas, o volume de incidentes não é marginal.É estrutural.

As autoridades de supervisão na Alemanha, Itália e Espanha já emitiram ações de fiscalização relacionadas com ferramentas de IA e dados pessoais.A Comissão Irlandesa de Proteção de Dados, que regula muitas grandes empresas tecnológicas dos EUA que operam na UE, tem a utilização da IA ​​firmemente na sua agenda.A tolerância informal está acabando.

Onde a IA sombria se esconde além do óbvio

Quando você pensa em Shadow AI, provavelmente pensa em ChatGPT.A superfície real é mais larga e mais difícil de mapear.

• Extensões do navegador: Grammarly, Otter.ai e ferramentas semelhantes ficam no navegador e leem tudo o que o usuário está digitando ou visualizando.Muitos agora incorporam recursos generativos de IA.A extensão tem acesso a tudo o que o funcionário digita, inclusive em sistemas internos.
• Recursos de IA dentro de ferramentas SaaS já em uso: Notion AI, Slack AI, assistente de IA da HubSpot, Magic Write do Canva e dezenas de outros fornecem recursos de IA em plataformas em que sua equipe já confia.Como a ferramenta foi aprovada, presume-se que o recurso de IA dentro dela também seja aprovado.Essa suposição raramente é verificada.
• Acesso do nível do consumidor a ferramentas de marca empresarial: O Microsoft Copilot tem uma camada empresarial com residência de dados e compromissos de DPA, e uma camada de consumidor sem eles.Um membro da equipe que acessa o Copilot por meio de uma conta pessoal da Microsoft, em vez de seu locatário profissional, está usando a versão para consumidor, independentemente de sua empresa pagar pelo produto empresarial.
• Dispositivos pessoais: As ferramentas de IA acessadas em telefones pessoais e laptops durante o horário de trabalho são invisíveis aos controles corporativos de DLP.O trabalho remoto tornou isso mais comum.
• Ferramentas de voz e reunião: Serviços de transcrição de reuniões de IA, como Fireflies, Otter.ai e ferramentas semelhantes, gravam e processam áudio de reuniões, às vezes incluindo discussões comercialmente sensíveis.

O que NIS2 e ISO 27001 desativar

A NIS2 exige que as organizações abrangidas pelo âmbito implementem medidas técnicas e organizacionais adequadas para gerir os riscos de segurança cibernética, incluindo riscos de serviços de terceiros.Ferramentas de IA não aprovadas que processam dados confidenciais se enquadram neste requisito.As autoridades de supervisão ao abrigo da NIS2 podem solicitar provas de como identifica e gere riscos de processamento de informações de terceiros.“Não sabíamos que os funcionários usavam essas ferramentas” não é uma resposta satisfatória.

A ISO 27001:2022, especificamente o controle 5.23 do Anexo A (Segurança da informação para uso de serviços em nuvem) e 5.10 (Uso aceitável de informações e outros ativos associados), exige que você mantenha um registro de ativos de informação e defina políticas de uso aceitável.Ferramentas de IA não aprovadas são ativos de informação por uso;eles processam informações pertencentes ou confiadas à sua organização.Uma política de uso aceitável de IA não é opcional sob a ISO 27001. É um requisito de controle.

Se você estiver buscando ou mantendo a certificação ISO 27001, os auditores perguntarão sobre a governança de ferramentas de IA.Uma política documentada ausente, uma lista de ferramentas aprovadas ausente ou nenhuma evidência de conhecimento da equipe serão sinalizadas como uma não conformidade.

Construindo uma resposta de IA sombra que seus funcionários realmente seguirão

A resposta instintiva à IA sombria é bloqueá-la.Bloquear sem fornecer alternativas direciona o comportamento para dispositivos pessoais, fora do alcance de qualquer controle que você tenha.A motivação subjacente é simples: o seu pessoal utiliza estas ferramentas porque funcionam e você não lhes deu uma alternativa sancionada.

Um programa prático de IA sombra tem sete componentes, aproximadamente em ordem de prioridade.

1. Política de uso aceitável de IA: Um documento curto e claro informando à sua equipe quais ferramentas são aprovadas, quais dados eles podem usar com cada uma e o que fazer quando um recurso de IA aparece dentro de uma ferramenta que eles já usam.Mantenha-o em uma página com uma lista clara de ferramentas aprovadas.Um documento de dez páginas não mudará o comportamento.
2. Lista de ferramentas de IA aprovadas com orientação sobre camada de dados: Nem todos os dados são igualmente sensíveis.Dê à sua equipe uma estrutura simples: as informações públicas podem entrar na ferramenta X;as informações comerciais internas podem entrar na ferramenta Y com uma conta corporativa;dados pessoais, informações confidenciais do cliente e código-fonte não podem entrar em nenhuma ferramenta de IA sem aprovação específica.A clareza elimina as suposições que atualmente levam a decisões erradas.
3. Classificação de dados: Sua equipe não poderá tomar boas decisões sobre o que inserir nas ferramentas de IA se não souber o que é considerado sensível.Um esquema de classificação leve com exemplos claros é um pré-requisito para que a política de utilização aceitável funcione.
4. Alternativas de nível empresarial: Dê à sua equipe acesso a ferramentas que atendam aos requisitos de governança: Microsoft 365 Copilot sob um contrato empresarial, uma implantação empresarial do Claude ou produtos que processam dados sob um DPA e os mantêm dentro dos limites de residência definidos.Remova o motivo para usar a camada de consumidor.
5. Monitoramento DLP para endpoints de IA: As ferramentas de prevenção contra perda de dados podem detectar e registrar o tráfego para endpoints de serviço de IA conhecidos.Isso não bloqueia o uso, mas dá visibilidade e permite conversas direcionadas com equipes onde os padrões de uso indicam risco.
6. Audite as ferramentas SaaS existentes para recursos de IA incorporados: Revise todas as ferramentas em seu conjunto de software aprovado para recursos de IA que foram adicionados ou estão em desenvolvimento.Identifique quais trazem implicações para a privacidade dos dados e atualize os DPAs ou os termos de uso aceitáveis.Os fornecedores adicionam recursos de IA continuamente, portanto, esta é uma tarefa contínua.
7. Conscientização regular da equipe, e não treinamento anual na caixa de seleção: Comunicações curtas e relevantes vinculadas a casos de uso específicos alcançam sua equipe com mais eficiência do que um módulo anual.Vincule as atualizações às alterações da ferramenta de IA conforme elas acontecem.

Por onde começar

Shadow AI já está acontecendo em sua organização.Esperar que um incidente de dados ou uma investigação regulatória desencadeie uma ação custará mais do que resolvê-lo agora.

Um primeiro passo útil é uma breve pesquisa com a equipe perguntando quais ferramentas de IA seu pessoal usa atualmente e para quê.Os resultados são consistentemente surpreendentes e fornecem uma imagem concreta de onde focar.As decisões políticas e de ferramentas aprovadas tomadas a partir de uma base de evidências reais serão mais duradouras do que aquelas tomadas a partir de suposições.

Vale a pena priorizar três ações acima das outras:

• Publique uma política de uso aceitável de IA, mesmo que seja uma breve versão provisória, antes do próximo ciclo de revisão da equipe.Uma política em vigor limita a responsabilidade e dá à sua equipe algo para consultar.
• Revise seu registro DPA e identifique todas as ferramentas de IA que processam dados pessoais em seu nome.Confirme que cada um está coberto por um DPA por escrito.Esta é a etapa mais direta de redução de risco do GDPR que você pode tomar.
• Audite seu patrimônio SaaS existente para recursos de IA.Muitas ferramentas adicionaram recursos nos últimos doze meses que não estavam presentes quando você executou a avaliação original do fornecedor.Atualize seus registros e, quando necessário, seus DPAs.

Shadow AI é uma lacuna entre a forma como sua equipe trabalha e as estruturas de governança projetadas antes da existência dessas ferramentas.Encerre-o com políticas que sua equipe possa seguir e ferramentas que lhes proporcionem um caminho legítimo para a produtividade que já encontraram por conta própria.

Como o Cyvra pode ajudar

Cyvra combina experiência em segurança e IA para ajudar as organizações a entender onde a IA paralela está acontecendo, avaliar o GDPR e a exposição à confidencialidade e construir uma resposta que sua equipe seguirá, fornecendo-lhes melhores ferramentas em vez de uma proibição geral.

• Auditoria Shadow AI: identifique quais ferramentas de IA sua equipe está usando, incluindo recursos de IA incorporados em plataformas SaaS que sua equipe de TI aprovou para outras finalidades
• Revisão do Artigo 28 do GDPR: identificar quais serviços de IA estão processando dados pessoais em seu nome sem um Contrato de Processamento de Dados e avaliar a exposição
• Política de uso aceitável de IA: elabore uma política que dê à sua equipe orientações claras sobre ferramentas aprovadas e tipos de dados permitidos, distinguindo entre casos de uso em vez de emitir uma proibição geral
• Ferramentas de IA aprovadas: recomende alternativas de nível empresarial que atendam aos seus requisitos de governança de dados, para que a equipe tenha um caminho aprovado para a produtividade que procura
• Treinamento de conscientização da equipe: realizar sessões específicas que expliquem a classificação de dados no contexto de ferramentas de IA, e não exercícios genéricos de conformidade anuais
• Configuração DLP: configure controles de prevenção contra perda de dados para detectar e bloquear transferências de dados confidenciais para endpoints de IA não sancionados

Entre em contato com nosso segurança cibernética or Prática de IA para começar com uma auditoria sombra de IA.