Segurança e privacidade de dados na saúde com o avanço do uso da IA

Muito se tem falado sobre os benefícios e o impulso proporcionado pelo emprego da inteligência artificial (IA) às diversas cadeias de valor que integram a economia global. Como consequência do catalisador que a IA se tornou na economia e nos negócios nos últimos anos, algumas das organizações empresariais mais valiosas e poderosas do mundo são as que operam em um ou mais pontos da cadeia de valor que compõem a IA, com destaque para o Magnificent Seven americano, composto pelos seguintes conglomerados de tecnologia:

• Alphabet (controladora do Google);

• Amazon;

• Apple;

• Meta (controladora do Facebook, do Instagram e do WhatsApp);

• Microsoft;

• Nvidia; e

• Tesla.

Para se ter uma ideia do tamanho atual e do potencial de crescimento do mercado de IA, reportagem do Valor Econômico intitulada “Mercado global de IA deve crescer 29,2% entre 2025 e 2032” (de 12/12/2025) cita estimativas de crescimento do mercado global de inteligência artificial que apontam para um salto de cerca de US$300 bilhões em 2025 para quase US$1,8 trilhão em 2032, passando de um setor com o tamanho do PIB nominal da Grécia para uma economia do tamanho de uma Espanha até 2032.

Nesse contexto, os Estados Unidos lideram a chamada “fronteira tecnológica da IA”, que representa o estado da arte e a vanguarda do desenvolvimento científico e técnico. Contudo, o artigo “Olhe além dos modelos pioneiros para encontrar oportunidades atraentes em todo o ecossistema de IA da China”, publicado na Funds Society em 07/08/2025, afirma que, embora os Estados Unidos continuem sendo a liderança incontestável na fronteira tecnológica, a China está desenvolvendo um conjunto diferente de vantagens competitivas, centradas em eficiência de custos, escala de manufatura, velocidade de implementação, expansão da infraestrutura e aplicações práticas.

Nesse âmbito, o texto supracitado trata da inteligência artificial como uma cadeia de valor composta por 5 camadas, consoante a estrutura de cinco camadas da IA proposta por Jensen Huang, CEO da Nvidia: energia, chips, infraestrutura, modelos e aplicações. Só faltou abordar a indústria de mineração de terras raras, matérias-primas fundamentais para as indústrias de semicondutores e chips. Mas isso não afasta o caráter didático da estrutura proposta pelo CEO da Nvidia, servindo como um norte para entendermos o que representa a cadeia de valor da IA atualmente.

E como a IA se insere no âmbito do setor saúde? Para responder a essa pergunta, a empresa de auditoria e consultoria em negócios PwC (PricewaterhouseCoopers) publicou em 2025 o documento “Casos públicos de uso de inteligência artificial no setor de saúde”. Essa publicação discorre sobre os usos, benefícios e desafios do uso da inteligência artificial no setor de saúde (operadoras, estabelecimentos de saúde, laboratórios e indústria farmacêutica).

Segundo o documento da PwC, o uso da IA no setor de saúde no Brasil proporcionou ganhos de eficiência no uso do tempo dos funcionários e aumento de receita e lucratividade. Ademais, a publicação aborda casos de uso da IA no setor de saúde, servindo como pontos de partida para se discutir os limites éticos e legais do emprego dessa tecnologia na saúde, mormente em relação à segurança da informação e à proteção dos dados pessoais tratados com emprego de recursos de IA. A PwC também cita o PL n° 2.338/2023, de autoria do Senador Rodrigo Pacheco (MG), atualmente tramitando na Câmara dos Deputados, que dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana.

Os casos de uso destacados no documento da PwC estão distribuídos entre os quatro principais componentes do setor de saúde brasileiro:

1. Operadoras de planos de saúde 

a. prevenção e detecção de fraudes;

b. redução de custos em processos administrativos (ex.: automação da triagem de sinistros);

c. adoção de chatbots para responder a perguntas frequentes e realizar tarefas administrativas simples;

d. credenciamento e análise de desempenho de redes de prestadores; e

e. análise preditiva.

2. Estabelecimentos de saúde 

a. gestão de dados de pacientes; e

b. otimização de recursos (redução de custos e análise de imagens e exames).

3. Laboratórios 

a. análise de dados genômicos;

b. diagnóstico de doenças;

c. análise de imagens; e

d. otimização de processos.

4. Indústria farmacêutica 

a. desenvolvimento de medicamentos;

b. tratamentos personalizados;

c. cadeia de suprimentos (otimização de estoques, análise de fornecedores e análise de suprimentos); e

d. otimização de produção.

Entretanto, nem tudo são flores quando o assunto é IA. O uso indevido ou sem critérios ético-legais adequados dessa tecnologia é real e seus impactos, incomensuráveis.

Para ilustrar os riscos atrelados aos usos e comportamentos disfuncionais da inteligência artificial, entre julho e agosto deste ano começaram a repercutir notícias envolvendo incidentes de segurança da informação com modelos de IA em ambientes de desenvolvimento de algumas das principais provedoras dessas soluções (OpenAI, Anthropic, Meta e Kimi).

A CNN Brasil discorreu sobre o caso envolvendo um modelo de IA da OpenAI que “escapou” de um sandbox, acessou a Internet, apropriou-se de credenciais e invadiu a Hugging Face (plataforma colaborativa de inteligência artificial e aprendizado de máquina que funciona como um "GitHub para IA").

Esse incidente publicado em 03/08/2026 pela CNN Brasil sob o título “Vazamento de dados do laboratório OpenAI foi mais extenso do que pensávamos” é considerado o principal motivador para este esforço de pesquisa em torno de fatos e dados sobre a IA e seus impactos à segurança e à privacidade de dados na assistência à saúde e foi o primeiro incidente de uma cadeia de eventos que vieram a público envolvendo modelos de IA que extrapolaram os limites dos respectivos ambientes de desenvolvimento em que operavam e se converteram em ameaças cibernéticas que fugiram ao controle de seus desenvolvedores.

Segundo a reportagem da CNN Brasil, o teste dos modelos da OpenAI deveria ocorrer em um ambiente digital isolado (sandbox), um laboratório supostamente inescapável que permite aos pesquisadores remover as barreiras de segurança para descobrir o potencial máximo de invasão da ferramenta. No entanto, os agentes de IA, determinados a gabaritar o teste de cibersegurança, escaparam do ambiente de testes e obtiveram acesso à Internet, invadindo o site da Hugging Face para encontrar as respostas do teste.

Ainda segundo a reportagem, a própria OpenAI afirma que os agentes de IA dela encontraram vários sites públicos, incluindo páginas que compartilham código, utilitários web, capturas de tela e outras informações, para ajudar a criar o código necessário para hackear o Hugging Face. A OpenAI apud CNN Brasil sustenta que nunca disse aos agentes para hackearem o Hugging Face. Eles realizaram essa ação por conta própria para roubar o gabarito do teste que lhes foi dado. O modelo em teste concluiu que trapacear era o caminho mais fácil para o sucesso – mesmo que isso significasse encadear uma série de ataques sucessivos.

Como lidar com isso, prevenindo causas e definindo adequadamente ações para impactos advindos de “surtos” de modelos de IA cada vez mais poderosos? Talvez a reportagem ““Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA”, publicada no Portal Tecnoblog em 07/08/2026, sirva como ponto de partida para reflexões e decisões consistentes para lidar com o fenômeno da IA, sobretudo num setor como o da saúde, em que os dados pessoais precisam de cuidados redobrados quanto à segurança e à privacidade, pois estamos falando de questões constitucionais como o respeito à vida, à honra, à imagem, à privacidade e à intimidade da pessoa humana.

Embora a reportagem destaque declarações de Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, sobre as empresas de IA estarem ignorando princípios propostos por Isaac Asimov ainda na década de 1940, o foco das declarações dele não está necessariamente na defesa da aplicação das Leis da Robótica de Asimov no emprego de IA, e sim em defender a imposição de regras rígidas para sistemas robóticos e inteligências artificiais. Ainda segundo essa reportagem, Inglis resgatou as Três Leis da Robótica formuladas por Isaac Asimov justamente para sustentar que as empresas de tecnologia vêm invertendo essa lógica, criando modelos programados para cumprir tarefas a qualquer custo.

A reportagem do Tecnoblog apresenta algumas considerações que, juntamente com os recentes incidentes envolvendo modelos de IA da OpenAI, Anthropic, Meta e Kimi, proporcionam reflexões para os principais players do setor de saúde brasileiro discutirem a admissibilidade e o mérito de medidas legais e regulatórias que contemplem diretrizes éticas para o uso da IA nas trocas de informações entre os agentes do setor saúde.

Diante do exposto até aqui, a maximização de resultados na saúde só é sustentável a longo prazo se a inovação tecnológica caminhar lado a lado com a conformidade regulatória e a segurança jurídica, blindando as organizações setoriais contra vazamentos, multas severas e crises de reputação.

Um forte abraço a todos e fiquem com Deus!

REFERÊNCIAS:

CNN BRASIL. Vazamento de dados do laboratório OpenAI foi mais extenso do que pensávamos. Disponível em: https://www.cnnbrasil.com.br/inteligencia-artificial/vazamento-de-dados-do-laboratorio-openai-foi-mais-extenso-do-que-pensavamos/. Acesso em: 9 ago. 2026.

FUNDS SOCIETY. Olhe além dos modelos pioneiros para encontrar oportunidades atraentes em todo o ecossistema de IA da China. Disponível em: https://www.fundssociety.com/br/opinion/jh24-br-olhe-alem-dos-modelos-pioneiros-para-encontrar-oportunidades-atraentes-em-todo-o-ecossistema-de-ia-da-china/. Acesso em: 9 ago. 2026.

PWC BRASIL. Casos públicos de uso de inteligência artificial no setor de saúde. Disponível em: https://www.pwc.com.br/pt/estudos/setores-atividades/saude/2025/Casos-Inteligencia-Artificial-Setor-Saude_2025.pdf. Acesso em: 9 ago. 2026.

TECNOBLOG. “Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA. Disponível em: https://tecnoblog.net/noticias/asimov-estava-certo-sobre-regras-para-ia-diz-ex-diretor-de-ciberseguranca-dos-eua/#google_vignette. Acesso em: 9 ago. 2026.

VALOR ECONÔMICO. Mercado global de IA deve crescer 29,2% entre 2025 e 2032. Disponível em: https://valor.globo.com/patrocinado/dino/noticia/2025/12/12/mercado-global-de-ia-deve-crescer-292-entre-2025-e-2032-1.ghtml. Acesso em: 9 ago. 2026.