Você poderia ser perdoado por pensar que a IA em breve substituirá os médicos humanos com base em manchetes como "O Médico do AI Ver Você Agora", "Seu Futuro Doutor Pode Não Ser Humano" e "Esta IA Apenas Segure Médicos Humanos em um Exame Clínico . ”Mas especialistas dizem que a realidade é mais uma colaboração do que uma desobediência: os pacientes podem em breve encontrar suas vidas parcialmente nas mãos de serviços de IA, trabalhando ao lado de clínicos humanos.
Não há escassez de otimismo em relação à IA na comunidade médica. Mas muitos também advertem que o hype que envolve a IA ainda precisa ser realizado em ambientes clínicos reais. Há também diferentes visões de como os serviços de IA podem causar o maior impacto. E ainda não está claro se a IA melhorará a vida dos pacientes ou apenas o resultado final para as empresas do Vale do Silício, organizações de saúde e seguradoras.
"Acredito que todos os nossos pacientes deveriam realmente querer que as tecnologias da IA sejam aplicadas às fraquezas do sistema de saúde, mas precisamos fazê-lo de uma forma que não seja do Vale do Silício", diz Isaac Kohane, pesquisador de informática biomédica da Harvard Medical School.
Se a IA funcionar como prometido, poderia democratizar os cuidados de saúde aumentando o acesso a comunidades carentes e diminuindo custos - uma dádiva nos Estados Unidos, que está mal posicionada em muitas medidas de saúde, apesar de um custo médio anual de saúde de US $ 10.739 por pessoa. Os sistemas de IA podem libertar médicos sobrecarregados e reduzir o risco de erros médicos que podem matar dezenas de milhares, se não centenas de milhares, de pacientes americanos a cada ano. E em muitos países com escassez de médicos nacionais, como a China, onde os departamentos ambulatoriais de hospitais urbanos superlotados podem ver até 10 mil pessoas por dia, essas tecnologias não precisam de precisão perfeita para provar sua utilidade.
Mas os críticos apontam que toda essa promessa pode desaparecer se a pressa em implementar a IA atrapalhar os direitos de privacidade do paciente, ignorar vieses e limitações, ou falhar em implementar serviços de uma maneira que melhore os resultados de saúde para a maioria das pessoas.
"Da mesma forma que as tecnologias podem fechar as disparidades, elas podem exacerbar as disparidades", diz Jayanth Komarneni, fundador e presidente do Human Diagnosis Project (Human Dx), uma corporação de utilidade pública focada em expertise médica em crowdsourcing. “E nada tem essa capacidade de exacerbar disparidades como a IA”
***
Hoje, as técnicas de IA mais populares são aprendizado de máquina e seu primo mais novo, aprendizado profundo. Ao contrário dos programas de computador que seguem rigidamente as regras escritas por seres humanos, os algoritmos de aprendizado de máquina e de aprendizagem profunda podem examinar um conjunto de dados, aprender com ele e fazer novas previsões. O aprendizado profundo, em particular, pode fazer previsões impressionantes descobrindo padrões de dados que as pessoas podem perder.
Mas para aproveitar ao máximo essas previsões em cuidados de saúde, a IA não pode ir sozinha. Pelo contrário, os seres humanos ainda devem ajudar a tomar decisões que podem ter grandes consequências financeiras e para a saúde. Como os sistemas de inteligência artificial não possuem a inteligência geral dos seres humanos, eles podem fazer previsões desconcertantes que podem ser prejudiciais se médicos e hospitais os seguirem inquestionavelmente.
O exemplo clássico vem de Rich Caruana, pesquisador sênior da Microsoft Research, como explicou na revista Engineering and Technology no ano passado. Na década de 1990, Caruana trabalhou em um projeto que tentava usar uma forma anterior de aprendizado de máquina para prever se um paciente com pneumonia era um caso de baixo risco ou de alto risco. Mas o problema surgiu quando o modelo de aprendizado de máquina tentou prever o caso de asmáticos, que são de alto risco porque suas dificuldades respiratórias preexistentes os tornam vulneráveis à pneumonia. O modelo classificou esses pacientes como de baixo risco, exigindo intervenção menor em vez de hospitalização - algo que um especialista humano jamais teria feito.
Se você seguir o modelo cegamente, diz Kenneth Jung, pesquisador do Centro de Stanford para Pesquisa em Informática Biomédica, “então você é lavado. Porque o modelo está dizendo: 'Ah, esse garoto com asma chegou e eles tiveram pneumonia, mas não precisamos nos preocupar com eles e estamos mandando para casa com alguns antibióticos' ”.
As previsões de aprendizado profundo também podem falhar se encontrarem dados incomuns, como casos médicos exclusivos, pela primeira vez, ou quando aprenderem padrões peculiares em conjuntos de dados específicos que não se generalizam bem em novos casos médicos.
As previsões de IA são melhores quando aplicadas a conjuntos de dados em massa, como na China, que tem uma vantagem no treinamento de sistemas de IA graças ao acesso a grandes populações e dados de pacientes. Em fevereiro, a revista Nature Medicine publicou um estudo de pesquisadores de San Diego e Guangzhou, China, que mostrou ser promissor no diagnóstico de muitas doenças comuns na infância, com base nos registros eletrônicos de saúde de mais de 567.000 crianças.
Mas mesmo grandes conjuntos de dados podem representar problemas, particularmente quando os pesquisadores tentam aplicar seu algoritmo a uma nova população. No estudo da Nature Medicine, todos os meio milhão de pacientes vieram de um centro médico em Guangzhou, o que significa que não há garantia de que as lições de diagnóstico aprendidas com o treinamento naquele conjunto de dados se aplicariam a casos pediátricos em outros lugares. Cada centro médico pode atrair seu próprio conjunto de pacientes - um hospital conhecido por seu centro cardiovascular, por exemplo, pode atrair condições cardíacas mais críticas. E os resultados de um hospital de Guangzhou que atrai principalmente pacientes chineses étnicos podem não se traduzir em um em Xangai, com um número maior de pacientes nascidos no exterior e não chineses.
Neste TEDx Talk de 2017, Shinjini Kundu, do Hospital Johns Hopkins, explica como as ferramentas de IA têm o potencial de extrair mais imagens médicas do que os médicos sozinhos - incluindo a previsão de doenças antes que os pacientes apresentem sintomas.
Essa extrapolação será difícil em outras situações também. Por exemplo, Marzyeh Ghassemi, cientista da computação e engenheira biomédica da Universidade de Toronto, diz que você tem 40.000 pacientes na UTI no Centro Médico Beth Israel Deaconess - isso é apenas um hospital em uma cidade. “E assim eu tenho todos esses documentos que fizeram previsões com esses dados. Isso funciona com outro hospital em Boston? Talvez. Funciona para um hospital em outro estado? Funcionaria em outro país? Nós não sabemos.
***
Embora os modelos AI não funcionem em todos os casos, Ghassemi acredita que a tecnologia ainda vale a pena ser explorada. “Sou muito a favor de levar esses modelos do banco para o lado da cama”, diz ela, “mas com medidas de precaução realmente agressivas”.
Essas etapas precisam existir durante o desenvolvimento e a implantação da IA, diz I. Glenn Cohen, professor de Direito da Universidade de Harvard e líder do Projeto de Medicina de Precisão, Inteligência Artificial e Direito. Isso pode envolver a verificação da exatidão e transparência das previsões da IA. E durante a coleta de dados, os pesquisadores também precisarão proteger a privacidade do paciente e pedir o consentimento para usar os dados do paciente para treinamento de IA.
A questão do consentimento aparece novamente quando o modelo de IA está pronto para testes clínicos experimentais com pacientes reais. "Os pacientes precisam ser informados de que você está usando o algoritmo neles, e importa se a IA está orientando completamente os cuidados ou parcialmente orientando os cuidados?", Pergunta Cohen. "Há realmente muito pouco pensamento sobre estas questões."
Ghassemi também defende a auditoria freqüente de algoritmos de inteligência artificial para garantir justiça e precisão em diferentes grupos de pessoas com base em etnia, sexo, idade e seguro de saúde. Isso é importante, uma vez que os aplicativos de IA em outros campos já mostraram que eles podem facilmente perceber vieses.
Depois de todos esses passos, as pessoas e empresas que prestam serviços de IA precisarão resolver a responsabilidade legal no caso de erros inevitáveis. E, ao contrário da maioria dos dispositivos médicos, que geralmente precisam apenas de uma aprovação regulamentar, os serviços de IA podem exigir uma revisão adicional sempre que aprenderem com novos dados.
Algumas agências reguladoras estão repensando a maneira de avaliar a assistência à saúde. Em abril, a Administração de Alimentos e Medicamentos dos EUA (FDA) divulgou um documento de discussão para obter comentários públicos sobre como atualizar a revisão regulatória relevante. "O que estamos continuamente tentando fazer aqui é voltar ao nosso objetivo de dar às pessoas acesso às tecnologias, mas também estamos percebendo que nossos métodos atuais não funcionam bem", diz Bakul Patel, diretor de saúde digital da empresa. FDA "É por isso que precisamos olhar para uma abordagem holística de todo o ciclo de vida do produto".
Além das questões que envolvem acesso, privacidade e regulamentações, também não está claro quem se beneficia mais dos serviços de saúde de IA. Já existem disparidades nos serviços de saúde: De acordo com o Banco Mundial e a Organização Mundial de Saúde, metade da população mundial não tem acesso a serviços essenciais de saúde e quase 100 milhões de pessoas são empurradas para a pobreza extrema por despesas de saúde. Dependendo de como é implantado, a IA poderia melhorar essas desigualdades ou piorá-las.
“Muito da discussão sobre IA tem sido sobre como democratizar os serviços de saúde, e quero ver isso acontecer”, diz Effy Vayena, bioeticista do Instituto Federal de Tecnologia da Suíça.
"Se você acaba de obter uma prestação de serviços mais sofisticada para aqueles que podem pagar bons cuidados de saúde de qualquer maneira", acrescenta ela, "não tenho certeza se essa é a transformação que estamos procurando."
Como tudo isso se desenvolve depende das diferentes visões para a implementação da IA O desenvolvimento inicial tem se concentrado em aplicações diagnósticas muito restritas, como examinar imagens para sinais de câncer de pele ou fungos nas unhas, ou ler radiografias de tórax. Mas esforços mais recentes tentaram diagnosticar várias condições de saúde de uma só vez.
Em agosto de 2018, o Moorfields Eye Hospital, no Reino Unido, e a DeepMind. O laboratório de IA, sediado em Londres e de propriedade da Alphabet, empresa do Google, mostrou que eles tinham treinado com sucesso um sistema de inteligência artificial para identificar mais de 50 doenças oftalmológicas em exames, que correspondiam ao desempenho dos principais especialistas. Da mesma forma, grandes ambições impulsionaram o estudo de San Diego e Guangzhou que treinou a AI para diagnosticar doenças comuns entre as crianças. Este último não foi tão bom em diagnosticar doenças pediátricas em comparação com os médicos seniores, mas teve um desempenho melhor do que alguns médicos juniores.
Tais sistemas de IA podem não precisar superar os melhores especialistas humanos para ajudar a democratizar os serviços de saúde, mas simplesmente expandir o acesso aos padrões médicos atuais. Ainda assim, até agora, muitos aplicativos de IA propostos estão focados em melhorar o padrão atual de atendimento, em vez de espalhar os cuidados de saúde acessíveis, diz Cohen: “Democratizar o que já temos seria um golpe muito maior para você do que melhorar o que temos em muitas áreas. ”
A Accenture, uma empresa de consultoria, prevê que as principais aplicações de inteligência artificial poderiam economizar US $ 150 bilhões por ano até 2026. Mas não está claro se os pacientes e os sistemas de saúde suplementados pelos contribuintes se beneficiariam, ou se mais dinheiro fluiria para as empresas de tecnologia., prestadores de cuidados de saúde e seguradoras.
"A questão de quem vai dirigir isso e quem vai pagar por isso é uma questão importante", diz Kohane. "Algo um pouco alucinatório sobre todos esses planos de negócios é que eles acham que sabem como vai funcionar."
Mesmo que os serviços de IA façam recomendações de economia de custos, os médicos humanos e as organizações de assistência à saúde podem hesitar em aceitar o conselho da AI se ganharem menos dinheiro como resultado, alerta Kohane. Isso explica a questão sistêmica das seguradoras de saúde dos Estados Unidos, que usa um modelo de taxa por serviço, que geralmente recompensa médicos e hospitais pela adição de exames e procedimentos médicos, mesmo quando não são necessários.
***
Há outra oportunidade de IA que poderia melhorar a qualidade do atendimento e, ao mesmo tempo, deixar a maioria dos diagnósticos médicos nas mãos dos médicos. Em seu livro de 2019, Deep Medicine, Eric Topol, diretor e fundador do Scripps Research Translational Institute, fala sobre a criação de um médico superalimentado Siri - um assistente de IA para fazer anotações sobre as interações entre médicos e seus pacientes, inserir essas anotações em saúde eletrônica. registros e lembre os médicos de perguntar sobre partes relevantes da história do paciente.
"Minha aspiração é que descomprimamos o trabalho dos médicos e nos livramos do seu papel de auxiliar de dados, ajudamos os pacientes a assumirem mais responsabilidades e acrescentamos os dados para que não demore para rever as coisas", diz Topol.
Aquele "assistente médico ou escriba nunca esquecido", diz Kohane, precisaria de AI que pudesse rastrear e transcrever automaticamente múltiplas vozes entre médicos e pacientes. Ele apóia a ideia de Topol, mas acrescenta que a maioria dos aplicativos de IA em desenvolvimento não parece estar focada em tais assistentes. Ainda assim, algumas empresas como a Saykara e a DeepScribe desenvolveram serviços nesse sentido, e até o Google se associou à Universidade de Stanford para testar uma tecnologia similar de “escriba digital”.
Um assistente de IA pode parecer menos excitante do que um médico de IA, mas pode liberar os médicos para passar mais tempo com seus pacientes e melhorar a qualidade geral dos cuidados. Os médicos de família, em particular, gastam com frequência mais da metade de seus dias de trabalho inserindo dados nos registros eletrônicos de saúde - um fator principal por trás do esgotamento físico e emocional, que tem conseqüências terríveis, incluindo mortes de pacientes.
Ironicamente, os registros eletrônicos de saúde deveriam melhorar os cuidados médicos e reduzir os custos, tornando as informações dos pacientes mais acessíveis. Agora, Topol e muitos outros especialistas apontaram para registros eletrônicos de saúde como um conto de advertência para o atual hype em torno da AI em medicina e saúde.
A implementação de registros eletrônicos de saúde já criou um sistema de retalhos distribuído entre centenas de fornecedores privados que consegue isolar os dados dos pacientes e torná-los inacessíveis aos médicos e pacientes. Se a história é um guia, muitas empresas de tecnologia e organizações de saúde sentirão a força de seguir caminhos semelhantes, acumulando dados médicos para seus próprios sistemas de inteligência artificial.
Uma maneira de contornar isso pode ser usar um sistema de inteligência coletiva que agrega e classifica a perícia médica de diferentes fontes, diz Komarneni, que está tentando essa abordagem com o Human Dx. Apoiado por grandes organizações médicas, como a American Medical Association, a Human Dx construiu uma plataforma online para aconselhamento de crowdsourcing de milhares de médicos em casos médicos específicos. Komarneni espera que tal plataforma possa, em teoria, também algum dia incluir conselhos diagnósticos de muitos serviços diferentes de IA.
"Da mesma forma que vários profissionais humanos podem olhar para o seu caso no futuro, não há razão para que múltiplos IAs não possam fazê-lo", diz Komarneni.
À medida que os médicos esperam por seus assistentes de IA, projetos de crowdsourcing como o Human Dx “poderiam definitivamente levar a diagnósticos melhorados ou até melhores recomendações de terapia”, diz Topol, co-autor de um estudo de 2018 sobre uma plataforma semelhante chamada Medscape Consult. O documento concluiu que a inteligência humana coletiva poderia ser uma "estratégia competitiva ou complementar" para a medicina artificial.
Mas, se os serviços de IA passarem por todos os testes e verificações do mundo real, eles poderão se tornar parceiros significativos para os seres humanos na reformulação dos cuidados de saúde modernos.
"Há coisas que as máquinas nunca farão bem e outras onde elas estarão excedendo o que qualquer ser humano pode fazer", diz Topol. "Então, quando você coloca os dois juntos, é um pacote muito poderoso."
***
Jeremy Hsu é um jornalista freelancer baseado em Nova York. Ele freqüentemente escreve sobre ciência e tecnologia para Backchannel, IEEE Spectrum, Popular Science e Scientific American, entre outras publicações.
Este artigo foi originalmente publicado no Undark. Leia o artigo original.
