Um grupo de pesquisadores da Universidade espreitou num fórum, onde profissionais médicos registrados e verificados respondem às perguntas dos usuários. Do tolo (“Engoliu um palito, amigo disse que vou morrer”) ao aterrorizante (“aborto um dia após o ultrassom normal?”). Os pesquisadores escolheram quase 200 perguntas representativas do fórum. As perguntas foram então inseridas na boca virtual do chatbot ChatGPT, e um grupo separado de profissionais de saúde avaliou às cegas as respostas da IA e dos médicos.
Os resultados foram impressionantes. Primeiro, o ChatGPT superou os médicos humanos em termos de utilidade. Perpetuamente, as respostas do chatbot foram avaliadas como três ou várias vezes mais confiáveis. Além disso, os bots não exibiram a propensão preocupante para fabricar informações que eles frequentemente exibem em outros contextos.
Mas a parte mais marcante é a seguinte: De modo geral, foram avaliados várias vezes tão compassivos quanto os das pessoas. Eles deram a você exatamente o que você precisava do seu médico: cuidado e atenção às emoções.
Muitos dos médicos humanos que mostram empatia é reconhecidamente baixo. No entanto, uma aplicação no mundo real para essas coisas é baseada no estilo aparente do bot e na facilidade baseada em substâncias de lidar com problemas médicos. Não acredito que grandes modelos de linguagem e bots da IA vão melhorar a pesquisa na Internet. No entanto, agora acredito que os chatbots têm o potencial de melhorar significativamente a maneira como as pessoas interagem com os profissionais de saúde e nosso complexo médico-industrial quebrado com alguns ajustes.
O lugar da tentativa de simpatia não era demonstrar como o ChatGPT poderia substituir um médico ou um cuidador médico. Era para mostrar que um chatbot poderia desempenhar um papel na organização do atendimento. Nosso sistema de saúde com fins lucrativos não contrata médicos e enfermeiros suficientes, e espera-se que os que ele contrata tratem cada vez mais pacientes em uma linha de montagem. Ninguém gosta disso, com exceção de pessoas que estão ficando ricas.
“Os indivíduos estão desvinculados dos serviços médicos e estão desesperados”, diz Pedro Meira, especialista em transmissão computacional de doenças, que foi o principal criador do novo artigo. Como resultado, eles estão procurando soluções em fóruns. Os pacientes fazem isso agora dessa maneira. Além disso, os médicos não participaram.”
A pressão para responder a essas mensagens aumentou significativamente. Mesmo durante o primeiro ano da pandemia de Covid, pesquisas sugeriram que os médicos passavam quase uma hora por dia de trabalho lidando com suas caixas de entrada de e-mail. Isso ocorreu porque a pandemia de Covid aumentou a quantidade de comunicação remota online entre médicos e pacientes. Quando você também tem que lidar com outros tecnocratas que trabalham com prontuários eletrônicos, alguns médicos passam metade de seus dias lidando com esses argumentos. É suficiente que a proteção geralmente espere contas pelo tempo gasto anotando mensagens, tornando-as uma provável fonte de renda muito além de colaborações próximas e pessoais.
Investigações anteriores descobriram se pacientes e especialistas gostam de usar essas estruturas informativas; Meira investigou se o sistema realmente funcionava. Utilizamos mensagens genuínas”, diz ele. “Nunca foi feito antes.” O resultado, em vista da natureza das associações, foi autoritário. “O ChatGPT venceu em uma avalanche”, diz Meira.
Meira está pronto para ver quanto tempo o bot pode suportar após seu sucesso inicial. “Queremos iniciar ensaios clínicos randomizados onde você avalia as mensagens dos pacientes em relação aos resultados dos pacientes”, diz ele. “Não queremos apenas saber se as mensagens são precisas ou compassivas, mas também se ajudam as pessoas a se manterem saudáveis ou a viverem mais tempo”. E se um chatbot pudesse lembrar alguém se recuperando de um ataque cardíaco de tomar seus remédios, lembrá-los de manter uma dieta com baixo teor de sal e mantê-los atualizados sobre o tratamento? Segundo Meira, “uma mensagem poderia salvar a vida daquele paciente”.
Apesar das promessas da indústria de tecnologia de psicoterapeutas de IA e robôs de estimação, o conceito de um chatbot atencioso ainda parece instável e possivelmente até perigoso. Ninguém acha que o ChatGPT realmente se importa, qualquer outra coisa do que eles naturalmente suspeitam que seja realmente astuto. Mas talvez o cuidado simulado salve vidas reais se o sistema de saúde, que não funciona muito bem, impossibilitar que as pessoas cuidem umas das outras.
Os diagnósticos já são muito bons para sistemas de IA especializados, não para chatbots. Eles estão excepcionalmente preparados para detectar algo específico, como um câncer ou sepse, usando resultados de testes explícitos como informação. No entanto, eles são caros e difíceis de construir. Como resultado, a indústria médica está adotando os chatbots como uma ferramenta mais barata e mais difundida. Muitas organizações estão diminuindo as inscrições, não deixando nada de diagnosticar doenças para ajudar no trabalho administrativo que, de uma forma ou outra, tornou-se obrigação dos especialistas e pacientes. Se tiver sorte de ter plano de saúde, seu contratante provavelmente já possui um bot com o qual você pode conversar antes de falar com um médico de carne e osso.
A maioria das pessoas dizem não quando questionadas se apoiam tal conceito. Um pouco mais da metade dos examinados recentemente disseram que não precisariam de um sistema de inteligência simulado para diagnosticar o que é fraco para eles ou propor medicamentos. No entanto, eles provavelmente vão conseguir de qualquer maneira. Não conte a ninguém, mas os profissionais de saúde já realizam muitas tarefas repetitivas, pelo menos no nível mais baixo da interface voltada para o paciente. Você fica doente e chama uma enfermeira para pedir conselhos; determinam se você deve ir ao pronto-socorro ou apenas tomar um Tylenol fazendo perguntas que já foram predeterminadas. O termo utilizado é Triagem. Ou, se você tiver acesso eletrônico aos seus registros médicos, poderá enviar um e-mail para o seu médico após receber os resultados de um novo conjunto de testes para descobrir o que eles significam. De uma forma ou de outra, você não espera participar dessas experiências. Eles não fazem sentido. Mesmo sendo robô.
Na verdade, você sabe quem é excelente em coisas automatizadas? Robôs! Uma equipe apresentou recentemente a três grupos dezenas de descrições de problemas de saúde: médicos, profissionais não médicos e ChatGPT. Eles pediram a todos (e a tudo) que identificassem a doença, seguidos de recomendações para triagem.
O chatbot foi quase tão bom no diagnóstico quanto os médicos humanos (mais de 90%), de acordo com os pesquisadores. Além disso, o ChatGPT acertou um pouco mais de 70% durante a fase de triagem. Isso soa horrível quando comparado aos 91% dos médicos, mas ainda assim! Este é um chatbot que pode fazer qualquer coisa e é tão bom quanto um médico com todo o estudo e treinamento que possui.
Agora, imagine adicionar as tarefas de saúde mundanas e demoradas, como agendamento de consultas, solicitação de autorização prévia do seguro e lidar com registros médicos eletrônicos a esse conjunto de habilidades. “Essas são tarefas para as quais ninguém entrou na medicina e são enxaquecas monstruosas, enormes perdas de tempo, genuína e sinceramente esgotadas”, diz a médica Chayeni Brandan. Junto com todos os e-mails para os pacientes, talvez um chatbot pudesse gerar pelo menos o início desse tipo de tráfego burocrático. O médico poderia dar uma olhada e dizer: ‘OK, isso está correto’ e enviá-lo”, diz Brandan.
Isso parece uma possibilidade razoável. Os chatbots com formação avançada irão colaborar com médicos, enfermeiros e assistentes médicos para dar para os pacientes respostas mais compreensivas e compreensivas. Para obter um diagnóstico preciso, os indivíduos postam imagens dos próprios órgãos genitais nos fóruns, como escreveu a equipe liderada por Meira em 2019. Isso é mais do que triste e uma crítica chocante ao nosso sistema de saúde verdadeiramente deplorável e desumano.
Em uma estrutura tão pobre, a inteligência baseada em computador poderia realmente ser uma melhoria. “Um clínico humano apoiado pela base de informações e força de manipulação de estruturas de inteligência feitas pelo homem pode ser melhor”, diz o médico João Carmo, que se concentra em estruturas de inteligência simuladas. “Em vez de esperar meses por uma consulta com um especialista humano, os pacientes quase certamente procurarão aconselhamento médico imperfeito de sistemas automatizados acessíveis 24 horas por dia.”
Para melhorar essas estruturas baseadas em inteligência simulada, muitas pessoas – incluindo o grupo Meira – estão atualmente desbastando modelos de linguagem mais modestos, sintonizados com dados clínicos. O fascínio do ChatGPT, considerando as realidades atuais, é que ele é um generalista que extrai informações de tudo na web. No entanto, é assim que entram os preconceitos e as informações falsas. Dê acesso a esses chatbots clínicos aos registros clínicos individuais dos indivíduos e eles poderão oferecer uma exortação coordenada ainda mais definitiva. ” Meira esclarece, “isso é o verdadeiro divisor de águas quando esta tecnologia obtém acesso aos registros eletrônicos de saúde”.
Não o culpo se a perspectiva de aconselhamento de saúde baseado em IA no futuro com acesso aos seus registros médicos o preocupa. Os terríveis resultados de ficção científica aqui são distópicos. Se e quando tiver um péssimo conselho de chatbot, alguém terá que descobrir todas as questões de responsabilidade. As startups de IA na área da saúde vão querer as versões mais baratas com o melhor retorno possível, mesmo que não tenham os melhores resultados para os pacientes. Além disso, se uma empresa médica descobrir como calibrar um chatbot com medicamentos de última geração, então, nesse ponto, qualquer empresa pode fazer a mesma coisa com homeopatia ou velas perfumadas – ou hostil à tagarelice de imunização. Esses chatbots lançarão falsidades perigosas, tanto de forma expressiva quanto simpática.
“Esse é o cenário mais pessimista”, diz Conrado Joma, chefe de inteligência artificial de bem-estar do Google. “Isso não é algo que os residentes do Vale do Silício possam realizar sozinhos.” Isso significa promover essas estruturas relacionadas a especialistas em assistência médica, não apenas a chefes de serviços médicos – para garantir que sejam privadas e seguras e que realmente ajudem as pessoas.
Mesmo que não seja simples, pode ser necessário quando vier o momento certo. Infelizmente, nosso sistema de saúde não foi projetado para fornecer cuidadores humanos decentes para todos. Enquanto isso, seria bom ter robôs que pudessem nos ajudar a manter nossa saúde, talvez até melhor do que muito dos médicos humanos.
