A corrida por inovação tecnológica nas últimas décadas trouxe avanços extraordinários, mas também gerou um novo conjunto de riscos globais que desafiarão governos, empresas e cidadãos no futuro.
Entre os principais catalisadores dessas transformações estão a Inteligência Artificial Generativa, os Agentes Autônomos e a crescente interconectividade das infraestruturas digitais. Também está em jogo a própria estabilidade social, política e econômica, em um cenário que exige não apenas inovação, mas também governança, ética e resiliência digital.
Conforme o Ministério da Gestão e Inovação em Serviços Públicos (MGI), o Brasil deve investir R$ 1,76 bilhão em IA até 2028, com foco em melhorar os serviços públicos e capacitar mais de 115 mil servidores.
A medida faz parte de uma estratégia ampla de transformação digital brasileira, que visa aumentar a eficiência, reduzir a burocracia e oferecer soluções mais ágeis e personalizadas ao cidadão.
No entanto, à medida que a IA avança no setor público, crescem também os desafios relacionados à proteção de dados, à transparência algorítmica e ao risco de discriminação automatizada.
“É fundamental que essas tecnologias sejam implementadas com responsabilidade, seguindo princípios de equidade, inclusão e prestação de contas. O uso ético da IA precisa estar no centro da transformação digital tanto para garantir os direitos individuais quanto para construir a confiança da sociedade nas novas ferramentas”, destaca o especialista em tecnologia, professor da Fundação Getúlio Vargas (FGV), e autor do livro Organizações Cognitivas: Alavancando o Poder da IA Generativa e dos Agentes Inteligentes, Kenneth Corrêa.
Desinformação e cibersegurança: os primeiros sinais de alerta
O Brasil alcançou a 2ª posição entre os países das Américas no Índice Global de Segurança Cibernética 2024 da União Internacional de Telecomunicações (UIT). Esse índice avalia aspectos como medidas legais, técnicas, organizacionais, capacitação e cooperação internacional. Em 2018, o país ocupava a 6ª posição, demonstrando avanços significativos.
No entanto, os riscos trazidos pelas tecnologias emergentes são palpáveis. A IA generativa, por exemplo, já mostrou seu potencial destrutivo ao facilitar a criação de deepfakes, notícias falsas e golpes digitais.
“Casos como a imagem falsa do Papa Francisco com um casaco da Balenciaga ou vídeos fabricados de explosões no Pentágono ilustram como conteúdos sintéticos podem afetar mercados financeiros e a opinião pública em questão de minutos”, explica Kenneth.
Além disso, ferramentas de IA estão sendo utilizadas por criminosos para criar ataques de phishing hiperpersonalizados e clonar vozes de executivos, intensificando a sofisticação das fraudes. Uma pesquisa de 2025 da Sophos revelou que 65% das empresas adotaram ferramentas de IA generativa para cibersegurança, mas 89% temem que essas soluções possam falhar, comprometendo a segurança organizacional.
A era da confiança digital e a urgência por regulação
À medida que essas ameaças se tornam mais frequentes e sofisticadas, cresce a necessidade de mecanismos de proteção mais robustos e de uma regulação internacional capaz de acompanhar a velocidade da inovação.
A ausência de normas claras pode colocar em risco tanto a integridade dos sistemas quanto os direitos dos cidadãos. Nesse contexto, a confiança digital passa a ser um ativo estratégico para empresas e governos.
Relatórios recentes do World Economic Forum (WEF) apontam que o risco cibernético já é considerado uma das principais ameaças à estabilidade global, ao lado das mudanças climáticas e da instabilidade geopolítica.
O documento Global Cybersecurity Outlook 2024 destaca que 91% das empresas afirmam que um ataque cibernético significativo poderia comprometer suas operações em até 72 horas e apenas 27% se dizem realmente preparadas para esse cenário.
Para Kenneth Corrêa, o desafio, portanto, não está apenas na adoção de tecnologias de ponta, mas na construção de estruturas de governança que garantam segurança, equidade e responsabilização. “A digitalização sem governança é como dirigir um carro autônomo sem freios: o impacto pode ser catastrófico”, completa.
Educação digital e resiliência: pilares para o futuro
Para lidar com os riscos emergentes, é urgente investir não apenas em tecnologia, mas em alfabetização digital e em uma cultura organizacional voltada para a segurança cibernética. No Brasil, iniciativas como a Estratégia Nacional de Segurança Cibernética (E-Ciber) vêm promovendo políticas públicas focadas na prevenção e na capacitação técnica, mas o desafio da formação de talentos ainda persiste.
Segundo o mesmo plano, o país precisará formar cerca de 70 mil profissionais por ano até 2025 para suprir a demanda por especialistas em segurança da informação.“Outro ponto central é a resiliência digital das instituições. Isso implica em antecipar cenários de risco, realizar simulações constantes de incidentes e estabelecer planos de resposta eficazes. A lógica passa da simples defesa reativa para a preparação contínua e colaborativa, integrando setores público, privado e sociedade civil”, ressalta Corrêa.
Os próximos anos exigirão decisões corajosas. Se, por um lado, a tecnologia oferece possibilidades inéditas de progresso e inclusão, por outro, carrega um potencial disruptivo capaz de agravar desigualdades, manipular democracias e ameaçar a ordem econômica.
“A escolha entre o caos e a coesão digital passa pela forma como lidaremos com os riscos agora. O futuro, embora incerto, pode — e deve — ser moldado. E a responsabilidade é coletiva”, finaliza Kenneth Corrêa.
