O que a IA agêntica já é capaz de fazer na área da saúde?
Tecnologia é promissora, mas não substitui o que há de melhor na medicina. Crédito: Edição: Jefferson Perleberg
Confira o resumo que a LE.IA, a IA do Estadão, fez pra você
Gerando resumo
A Organização Mundial da Saúde (OMS) publicou um novo relatório nesta semana em que estabelece diretrizes para o uso de inteligência artificial na produção de pesquisas na área da saúde.
PUBLICIDADE
O documento foi desenvolvido por especialistas da OMS que atuam nas áreas de ética em pesquisa, ciência, saúde digital e IA, e visa garantir que a pesquisa em saúde com o auxílio de IA “seja conduzida de forma responsável e para o benefício de todos”.
O relatório lembra que, ao longo das últimas décadas, foram desenvolvidas normas nacionais e internacionais para o respeito aos princípios éticos na pesquisa com seres humanos e avalia que a área está passando por transformações com o uso da IA.
Essas mudanças são impulsionada pela expectativa de que a tecnologia possa gerar conhecimentos e ferramentas capazes de melhorar a saúde humana. “Por outro lado”, pondera o relatório, “pesquisas em saúde envolvendo IA também podem comprometer princípios éticos estabelecidos e violar proteções aos direitos humanos, caso riscos inéditos e danos potenciais não sejam antecipados e devidamente abordados”.
Publicidade
Garantir a segurança dos dados dos pacientes é fundamental, afirma OMS Foto: Supapich/Adobe Stock Images
Papel da IA nos estudos
Segundo a OMS, a IA costuma aparecer na pesquisa de saúde de três formas. A primeira é no apoio à coleta e análise de grandes volumes de dados. A segunda envolve o uso de ferramentas de IA para apoiar etapas do processo de pesquisa, como a formulação de hipóteses, a seleção de participantes, a geração de dados sintéticos e o apoio à redação científica. A terceira é a pesquisa sobre as próprias ferramentas e tecnologias de IA.
“A inteligência artificial está criando oportunidades sem precedentes para acelerar a pesquisa em saúde e melhorar a vida das pessoas”, destaca Meg Doherty, diretora do Departamento de Ciência para a Saúde da OMS, em comunicado à imprensa. “Ao mesmo tempo, a inovação deve ser guiada por fortes salvaguardas éticas que protejam a dignidade humana, os direitos e a equidade”, acrescenta.
De acordo com a diretora, o relatório é uma maneira de fornecer considerações práticas para ajudar cientistas, comitês de ética e formuladores de políticas públicas a navegar pelas oportunidades e riscos associados à pesquisa em saúde relacionada à IA.
Recomendações para pesquisadores
As recomendações variam a depender do ator. Para pesquisadores e instituições, uma das orientações é manter a transparência sobre as limitações e os possíveis vieses da linguagem utilizada. Além disso, é recomendado informar com clareza quais modelos de IA e quais prompts foram usados.
Publicidade
Realizar avaliações de erros e simulações de cenários adversos antes de testar a ferramenta com seres humanos ou avançar para uso comercial é outra recomendação. Os pesquisadores também precisam ter atenção, destaca a organização, quanto à segurança dos dados dos participantes.
Para pesquisadores que não possuem histórico de pesquisa biomédica, como cientistas de dados, é importante que eles realizem cursos e tenham certificações sobre conduta responsável na pesquisa em saúde. Para as instituições, recomenda-se que elas cedam verbas para a realização dessas formações.
A OMS estimula ainda a multidisciplinaridade. Envolver médicos e gestores de sistemas de saúde desde a fase de concepção da pesquisa para garantir a utilidade prática e a validade científica das ferramentas é considerada uma boa prática.
Leia Mais
- Médico brasileiro cria primeira ferramenta de IA especializada em transtorno bipolar; conheça
- Sua saúde na mão da IA: o que acontece com os dados que você compartilha?
- O que é inteligência artificial agêntica e o que ela já é capaz de fazer na área da saúde
Recomendações para financiadores
No caso de revistas científicas e editores, é fundamental exigir transparência nos dados e proibir que modelos de IA assinem como autores de artigos científicos.
Publicidade
A OMS ainda incentiva a colaboração de pesquisadores do Norte e do Sul global como forma de amenizar a concentração de novas pesquisas apenas em países desenvolvidos. Também coíbe a exploração de populações de países em desenvolvimento para coleta de dados sem benefícios em troca.
Recomendações para comitês de ética
A OMS recomenda um acompanhamento contínuo das pesquisas. A revisão ética deve ocorrer durante todo o ciclo do estudo, e não apenas na fase prévia, pois novos riscos e usos secundários surgem durante a execução.
Os comitês de ética também precisam exigir dos pesquisadores avaliações detalhadas do risco do uso dos modelos, como os vieses e possíveis impactos ambientais.
A OMS também orienta que os participantes desses comitês recebam treinamentos em ciência de dados e IA.
Publicidade
