O alerta chega da Gartner, que, num novo relatório, avisa que a próxima grande ameaça à privacidade poderá não estar nas fugas de dados, mas na capacidade da inteligência artificial para inferir informações sensíveis a partir de dados aparentemente inofensivos.
A Gartner alerta para uma transformação profunda na forma como surgem incidentes de privacidade, prevendo que, até 2029, a maioria deixará de resultar da exposição direta de dados pessoais e passará a ser desencadeada por inferências geradas por sistemas de inteligência artificial. Segundo Bart Willemsen, VP Analyst da Gartner, está em curso uma mudança estrutural onde a privacidade já não é ameaçada apenas pela fuga de dados, mas sobretudo pela capacidade da IA de reconstruir informações sensíveis sem violar mecanismos tradicionais de proteção.
Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt
A exposição de “insights” substitui a exposição de dados, porque os algoritmos avançados conseguem deduzir atributos pessoais, tais como os comportamentos, os padrões de saúde ou preferências, a partir de dados agregados ou anonimizados.
Este fenómeno intensifica-se à medida que as organizações reduzem o armazenamento de dados pessoais, motivadas por exigências regulatórias e custos operacionais. Com menos dados diretos disponíveis, os hackers recorrem a ataques baseados em inferência, explorando as capacidades de IA generativa e machine learning para extrair informação sensível de fontes aparentemente inofensivas.
Os ataques são particularmente perigosos porque escapam aos mecanismos tradicionais de deteção, expondo indivíduos através de conclusões geradas por IA e não por fugas de informação explícita. A Gartner sublinha que este tipo de risco compromete a integridade dos dados e é difícil de explicar, detetar e mitigar, obrigando as organizações a repensar profundamente as suas estratégias de privacidade.
Perante este cenário, a proteção da privacidade deixa de ser apenas uma questão de confidencialidade e passa a incluir a governação das inferências produzidas por sistemas de IA. A Gartner prevê que, até 2028, o investimento em proteção de integridade dos dados atinja níveis semelhantes ao investimento em confidencialidade. Isso reflete a necessidade de controlar perfis gerados por IA que podem ser enviesados, imprecisos ou não autorizados. O próximo grande desafio da privacidade, afirma Willemsen, reside na forma como a IA interpreta os dados e não apenas na forma como estes são armazenados.
Para preparar os programas de privacidade para estes riscos emergentes, a Gartner recomenda integrar princípios de governação de IA em todas as fases de desenvolvimento e implementação. Deve-se avaliar regularmente os algoritmos para identificar enviesamentos, sobreajustamentos e inferências indesejadas. Defende também a adoção de tecnologias de privacidade, como a privacidade diferencial, dados sintéticos e machine learning consciente da privacidade, que permitem processar dados de forma protegida e reduzir o risco de reidentificação.
A minimização de dados e o reforço dos controlos de acesso são igualmente essenciais para limitar o material disponível para ataques baseados em inferência. Estes são complementados por práticas rigorosas de eliminação de dados ao longo do ciclo de vida da informação, aponta a empresa.
A Gartner destaca ainda a importância de capacidades avançadas de monitorização e deteção de anomalias, concebidas especificamente para identificar padrões de exploração indireta e ameaças geradas por IA. A transparência e a supervisão humana são apontadas como elementos críticos: as organizações devem documentar claramente onde a IA pode ou não inferir os dados. Devem ainda garantir auditorias regulares, mantendo sempre um humano na decisão final quando estão em causa ações sensíveis baseadas em inferências.
Leave a Reply