IA e Saúde: Uma Noite com as PyLadies em São Francisco

Um dos meus eventos de tecnologia favoritos na Região da Baía é PyLadies, um encontro mensal sobre Python voltado para apoiar e valorizar pessoas de gêneros marginalizados, especialmente aquelas que se identificam como mulheres. Nos últimos anos, tive a honra de ministrar algumas palestras para elas.

Em março deste ano, pude oferecer ainda mais apoio como defensor de desenvolvedores da Vonage e patrocinar o jantar. Para uma plateia lotada no escritório do LinkedIn em São Francisco, fiz uma palestra sobre WebSockets, um protocolo que permite a comunicação persistente e em tempo real entre cliente e servidor.

As duas palestras seguintes abordaram a IA e a área da saúde sob perspectivas muito diferentes, mas complementares. A primeira palestrante, Senay Yakut, uma enfermeira de pronto-socorro que se tornou engenheira, discutiu a importância da supervisão humana na integração da IA. A segunda, Mansi More, engenheira de IA e defensora do desenvolvimento, apresentou Applications práticas da IA na área da saúde. Juntas, essas palestras destacaram uma questão central: como os seres humanos e a IA devem colaborar em ambientes de alto risco, como o da saúde?

A interseção entre seres humanos e máquinas

Na primeira palestra, Senay Yakut, ex-enfermeira de pronto-socorro que se tornou engenheira, discutiu a importância dos especialistas da área na integração da IA à área da saúde. Embora reconheça como a inteligência artificial pode melhorar o atendimento aos pacientes, Senay também enfatizou que médicos, enfermeiros e outros profissionais da saúde devem sempre ter a palavra final em qualquer decisão médica. Ela destacou que, quando se trata de vidas humanas, não podemos nos dar ao luxo de cometer os erros que a IA tem o potencial de cometer.

Por exemplo, Senay destacou que os profissionais de saúde dedicam cerca de 50% do tempo à documentação e a tarefas administrativas, em vez de trabalhar com os pacientes. Essa é uma tarefa que poderia ser melhor realizada com o auxílio da IA. Por outro lado, ela destacou como uma dosagem de medicamento calculada erroneamente pela IA pode matar um paciente – especialmente em uma emergência médica, quando as decisões precisam ser tomadas rapidamente, algo que ela testemunhou em primeira mão como enfermeira do pronto-socorro.

““O envolvimento humano é o princípio em que baseio meu trabalho”, é assim que ela explica a abordagem que adota em seus projetos de programação, que você pode encontrar em seu repositório no GitHub. Para Senay, a IA na área da saúde vai além de apenas desenvolver e lançar produtos; trata-se de um ciclo de vida que exige intencionalidade e iteração contínua. Ela disse: “Não me tornei engenheira de IA apesar de ser enfermeira de pronto-socorro, mas justamente por causa disso.”

A slide illustrating AI in healthcare as a lifecycle of continuous improvement from knowledge base to prompt optimization to evaluation to deployment to monitoring and improvement.Na próxima palestra, a engenheira de IA e defensora dos desenvolvedores Mansi More nos lembrou de voltarmos aos conceitos fundamentais. Quando se trata de entender como a IA generativa realmente funciona, Mansi disse: “Todos nós esquecemos de aprender o básico”. Nesse caso, o básico a que ela se referia é como os conjuntos de dados treinam os modelos fundamentais, como dados complementares e o ajuste fino aprimoram esses modelos e como elaborar prompts específicos para obter resultados úteis. Ela resumiu dizendo: “O modelo tem a capacidade. É sua responsabilidade fazer as perguntas de maneira inteligente.”

A slide illustrating the different types of AI prompts as zero-shot inference, one-shot inference, and few-shot inference.No que diz respeito à área da saúde, ela destacou que os dados dos pacientes — anotações manuscritas, resultados de exames laboratoriais, registros de cirurgias — são, em grande parte, não estruturados e inacessíveis aos softwares convencionais. A IA oferece um caminho para tornar esses dados úteis e, potencialmente, salvar vidas.

Ela nos apresentou aplicações na área da saúde com exemplos práticos em um ambiente do Google Cloud Console (GCP), demonstrando como analisar imagens e Videos e otimizar consultas para obter resultados úteis. Você pode encontrar o resumo de sua palestra no Medium, que também traz código em Python que você mesmo pode executar.

Ambas as palestras suscitaram perguntas reflexivas da plateia, com algumas pessoas expressando ceticismo e cautela, enquanto outras se maravilhavam com as possibilidades da IA. Todos concordamos que as palestras foram aprofundadas e informativas. Durante o momento de networking e confraternização que se seguiu, relembrei com alguém sobre ouvir música no meu iPod Shuffle. Ainda o tenho e ele continua funcionando; de vez em quando, penso em usá-lo quando vou correr, em vez do meu smartphone, porque meu Shuffle continua fazendo, de forma consistente e confiável, exatamente o que eu quero que ele faça. Por outro lado, meu celular está fadado à obsolescência com atualizações forçadas que ele não consegue mais suportar, a menos que eu compre um novo. Esse contraste destaca como os dispositivos modernos, cada vez mais moldados por recursos de IA que ninguém pediu, podem começar a parecer mais um fardo do que uma ferramenta. 

"A internet costumava a ser divertida”, lamentou alguém.

Como desenvolvedores, podemos ser os guardiões da IA

Uma oferta indesejada de IA para resumir um e-mail de apenas uma linha é um incômodo, mas a IA diagnosticar erroneamente um paciente sem intervenção humana é outra questão, ainda mais grave. É impossível ignorar a IA – assim como a apreensão que a cerca.

Assim como Senay, cheguei à área de tecnologia vindo de uma formação não tradicional. Minha formação é em artes e humanidades, e me mudei para São Francisco na esperança de fazer sucesso como artista, mas acabei me tornando engenheiro. Entendo o valor e a urgência de acompanhar as últimas tendências tecnológicas para me manter competitivo. Na faculdade, filmei meu projeto final em 16 mm, e uma das tomadas finais voltou do laboratório fora de foco. Quando foi revelada, já era tarde demais para refazer a filmagem. O Video evita erros como esse, mas à custa do calor texturizado do filme.

Um dos primeiros filmes – um trem entrando em uma estação – causou pânico porque o público não possuía o vocabulário visual necessário para questionar o que estava vendo. Da mesma forma, a IA generativa fornece respostas que soam confiantes, mas que podem estar completamente erradas. Como Senay destacou, uma dosagem de medicamento inventada soa convincente para alguém que não tem conhecimento de medicina, mas pode matar um paciente. O que está em jogo é muito mais grave do que um público confuso.

Senay e eu seguimos caminhos não tradicionais até chegarmos à área de tecnologia — ela vinda da enfermagem, eu das artes. Mas chegamos à mesma conclusão: a tecnologia sem intencionalidade é perigosa. Para Senay, isso significa uma tomada de decisão com “participação humana” na área da saúde. Para Mansi, significa que os desenvolvedores precisam “fazer perguntas com sabedoria”, entendendo que a capacidade do modelo só importa se a pessoa que o utiliza souber o que está fazendo.

Talvez seja por causa da minha graduação em artes ou talvez seja pelo meu amor pela ficção científica, mas as questões em torno da IA sempre me fazem pensar no livro de Mary Shelley, Frankenstein, de Mary Shelley. Em Frankenstein, a Criatura se torna o maior fardo de Victor justamente porque ele a criou sem previsão. Como desenvolvedores, cabe a nós criar sistemas de IA que não sejam apenas poderosos, mas também seguros, transparentes e baseados na supervisão humana – seja um médico revisando um diagnóstico ou um desenvolvedor fazendo as perguntas certas ao seu modelo.

Leituras complementares e recursos

• Dia das Mulheres+ no Código Aberto: Comunidade e Código na Snowflake: Um resumo do Dia das Mulheres+ no Código Aberto no SVAI Hub da Snowflake e como comunidades inclusivas de código aberto impulsionam a inovação.

• Aumente a produtividade dos desenvolvedores com nosso assistente de IA multilíngue: Apresentamos o Assistente de IA da Vonage, que facilita o acesso ao suporte, à documentação e aos recursos em nosso Portal do Desenvolvedor e no Slack.

• Se você não consegue ler seu código PHP, seu LLM também não consegue: Saiba como um código PHP legível melhora o desempenho do LLM usando o Readalizer, com exemplos reais do SDK PHP da Vonage.