L'IA et la santé : Une soirée avec PyLadies à San Francisco

L'un de mes événements technologiques préférés dans la région de la baie est PyLadiesune rencontre mensuelle de Python axée sur le soutien et l'élévation des personnes marginalisées, en particulier celles qui s'identifient comme des femmes. Les années passées, j'ai eu l'honneur de donner quelques conférences à cette occasion.

En mars de cette année, j'ai pu apporter un soutien encore plus important en tant que défenseur des développeurs pour Vonage et en sponsorisant la nourriture pour la soirée. Devant une salle comble dans les bureaux de LinkedIn à San Francisco, j'ai donné une conférence sur les WebSocketsun protocole qui permet une communication persistante et en temps réel entre un client et un serveur.

Les deux exposés suivants ont abordé l'IA et les soins de santé sous des angles très différents mais complémentaires. Le premier orateur, Senay Yakutune infirmière des urgences devenue ingénieur, a parlé de l'importance de la surveillance humaine dans l'intégration de l'IA. Le second, Mansi Moreingénieur en IA et défenseur des développeurs, a présenté des applications pratiques de l'IA dans les soins de santé. Ensemble, ces exposés ont mis en évidence une question centrale : comment les humains et l'IA doivent-ils collaborer dans des environnements à fort enjeu tels que les soins de santé ?

L'intersection de l'homme et de la machine

Lors de la première intervention, Senay Yakut, infirmier urgentiste devenu ingénieur, a parlé de l'importance des experts sur le terrain lors de l'intégration de l'IA dans les soins de santé. Tout en reconnaissant que l'intelligence artificielle peut améliorer les soins aux patients, Senay a également souligné que les médecins, les infirmières et les autres professionnels de la santé devraient toujours avoir le dernier mot dans toute décision médicale. Elle a fait remarquer que lorsqu'il s'agit de vies humaines, nous ne pouvons pas nous permettre les erreurs que l'IA est susceptible de commettre.

Par exemple, M. Senay a souligné que les cliniciens consacrent environ 50 % de leur temps à la documentation et aux tâches administratives au lieu de travailler avec les patients. Il s'agit d'une tâche qui pourrait être mieux prise en charge par l'IA. D'autre part, elle a souligné qu'un dosage de médicament halluciné par l'IA peut tuer un patient, en particulier en cas de crise médicale lorsque des décisions doivent être prises rapidement, ce dont elle a été directement témoin en tant qu'infirmière aux urgences.

"L'humain dans la boucle est le principe autour duquel je construis " est la façon dont elle explique l'approche qu'elle adopte pour ses projets de codage, que vous pouvez trouver sur son dépôt GitHub. Pour Senay, l'IA dans le domaine de la santé ne se limite pas à la construction et à l'expédition ; il s'agit d'un cycle de vie qui nécessite une intention et une itération continue. Elle a déclaré : "Je ne suis pas devenue ingénieure en IA malgré le fait que j'étais infirmière aux urgences, mais à cause de cela."

A slide illustrating AI in healthcare as a lifecycle of continuous improvement from knowledge base to prompt optimization to evaluation to deployment to monitoring and improvement.Dans l'exposé suivant, l'ingénieur en IA et défenseur des développeurs Mansi More nous a rappelé de revenir aux concepts fondamentaux. Lorsqu'il s'agit de comprendre le fonctionnement de l'IA générative, Mansi a déclaré : "Nous avons tous oublié d'apprendre les bases". Dans ce cas, les bases auxquelles elle faisait référence sont la façon dont les ensembles de données forment les modèles fondamentaux, la façon dont les données supplémentaires et le réglage fin affinent ces modèles, et la façon d'élaborer des invites spécifiques pour obtenir des résultats utiles. Elle a résumé son propos en disant : "Le modèle a la capacité. Il est de votre responsabilité de poser des questions judicieuses".

A slide illustrating the different types of AI prompts as zero-shot inference, one-shot inference, and few-shot inference.En ce qui concerne les soins de santé, elle a souligné que les données des patients - notes manuscrites, résultats de laboratoire, enregistrements d'opérations chirurgicales - sont en grande partie non structurées et inaccessibles aux logiciels conventionnels. L'IA permet de rendre ces données exploitables et de sauver des vies.

Elle nous a guidés à travers des applications de santé avec des exemples concrets dans un environnement Google Cloud Console (GCP), en montrant comment analyser des images et des vidéos, et optimiser les requêtes pour obtenir des résultats utiles. Vous pouvez trouver le compte rendu de sa présentation sur Medium, qui contient également du code Python que vous pouvez exécuter vous-même.

Les deux exposés ont suscité des questions réfléchies de la part du public, certains exprimant leur scepticisme et leur méfiance, tandis que d'autres s'émerveillaient des possibilités offertes par l'IA. Nous étions tous d'accord pour dire que les exposés étaient approfondis et instructifs. Au cours des activités de réseautage et de socialisation qui ont suivi, j'ai évoqué avec quelqu'un le fait d'écouter de la musique sur mon iPod Shuffle. Je l'ai toujours et il fonctionne toujours, et j'envisage parfois de l'utiliser lorsque je vais courir au lieu de mon smartphone, parce que mon Shuffle continue à faire de manière constante et fiable la seule chose que je veux qu'il fasse. En revanche, mon téléphone est voué à l'obsolescence avec des mises à jour forcées qu'il ne peut plus supporter à moins que je n'en achète un nouveau. Ce contraste montre comment les appareils modernes, de plus en plus façonnés par des fonctions d'IA que personne n'a demandées, peuvent commencer à ressembler davantage à un fardeau qu'à un outil.

"L'internet était était amusant", s'est lamenté quelqu'un.

En tant que développeurs, nous pouvons être les gardiens de l'IA

L'IA indésirable qui propose de résumer un courriel d'une seule ligne est un désagrément, mais l'IA qui diagnostique mal un patient sans intervention humaine est un autre problème, plus grave. Il est impossible d'ignorer l'IA, tout comme l'appréhension qui l'entoure.

Comme Senay, je viens à la technologie à partir d'un parcours non traditionnel. J'ai fait des études dans le domaine des arts et des sciences humaines et j'ai déménagé à San Francisco dans l'espoir de réussir en tant qu'artiste, mais j'ai fini par devenir ingénieur. Je comprends la valeur et l'urgence de se tenir au courant des dernières tendances technologiques pour rester compétitif. À l'université, j'ai tourné mon projet de film final en 16 mm, et l'un des plans de clôture est revenu du laboratoire sans être mis au point. Le temps qu'il soit développé, il était trop tard pour le refaire. La Video numérique permet d'éviter ce genre d'erreurs, mais au détriment de la chaleur de la texture du film.

L'un des premiers films - un train entrant en gare - a semé la panique parce que le public ne disposait pas du vocabulaire visuel nécessaire pour s'interroger sur ce qu'il voyait. De même, l'IA générative fournit des réponses qui semblent sûres d'elles mais qui peuvent être complètement fausses. Comme l'a souligné M. Senay, une dose de médicament hallucinée peut sembler autoritaire à une personne qui n'est pas familière avec la médecine, mais elle peut tuer un patient. Les enjeux sont bien plus importants qu'un public confus.

Senay et moi partageons un parcours non traditionnel vers la technologie - elle vient des soins infirmiers, moi des arts. Mais nous sommes arrivées à la même conclusion : la technologie sans intentionnalité est dangereuse. Pour Senay, cela signifie que la prise de décision dans le domaine des soins de santé doit s'appuyer sur l'être humain. Pour Mansi, cela signifie que les développeurs doivent "demander avec sagesse", en comprenant que la capacité du modèle n'a d'importance que si la personne qui le manie sait ce qu'elle fait.

Peut-être est-ce dû à mon diplôme de lettres ou à mon amour de la science-fiction, mais les questions relatives à l'IA me ramènent toujours au livre de Mary Shelley, "Frankenstein". Frankenstein. Dans Frankensteinla créature devient le plus grand fardeau de Victor, précisément parce qu'il a construit sans prévoyance. En tant que développeurs, il nous incombe de construire des systèmes d'IA qui ne sont pas seulement puissants, mais aussi sûrs, transparents et fondés sur une supervision humaine - qu'il s'agisse d'un clinicien examinant un diagnostic ou d'un développeur posant les bonnes questions à son modèle.

Autres lectures et ressources

• Journée des femmes+ dans l'Open Source : Communauté et code à Snowflake: Récapitulation de la journée "Women+ in Open Source" au SVAI Hub de Snowflake et de la manière dont les communautés open source inclusives stimulent l'innovation.

• Améliorer la productivité des développeurs grâce à notre assistant IA multilingue: L'assistant IA de Vonage permet d'accéder facilement à l'assistance, à la documentation et aux ressources sur notre portail des développeurs et sur Slack.

• Si vous ne pouvez pas lire votre code PHP, votre LLM ne le pourra pas non plus: Apprenez comment un code PHP lisible améliore la performance LLM en utilisant Readalizer, avec des exemples réels du SDK PHP de Vonage.