IA y sanidad: Una velada con PyLadies en San Francisco

Uno de mis eventos tecnológicos favoritos en el Área de la Bahía es PyLadiesun encuentro mensual de Python centrado en apoyar y elevar a las personas de géneros marginados, en particular las que se identifican como mujeres. En los últimos años he tenido el honor de dar un par de charlas para ellos.

En marzo de este año, pude ofrecer aún más apoyo como defensor de los desarrolladores para Vonage y patrocinar la comida para la velada. En la oficina de LinkedIn de San Francisco, di una charla sobre WebSocketsun protocolo que permite la comunicación persistente y en tiempo real entre cliente y servidor.

Las dos siguientes ponencias abordaron la IA y la asistencia sanitaria desde perspectivas muy distintas, aunque complementarias. El primer ponente, Senay Yakutenfermera de urgencias reconvertida en ingeniera, habló de la importancia de la supervisión humana en la integración de la IA. La segunda, Mansi Moreingeniero de IA y defensor de los desarrolladores, recorrió las aplicaciones prácticas de la IA en la atención sanitaria. Juntas, estas charlas pusieron de relieve una cuestión central: ¿cómo deben colaborar los humanos y la IA en entornos de alto riesgo como la sanidad?

La intersección de humanos y máquinas

En la primera charla, Senay Yakut, enfermera de urgencias reconvertida en ingeniera, habló de la importancia de contar con expertos en la materia a la hora de integrar la IA en la asistencia sanitaria. Aunque reconoció que la inteligencia artificial puede mejorar la atención a los pacientes, Senay también hizo hincapié en que los médicos, las enfermeras y otros profesionales sanitarios deben tener siempre la última palabra en cualquier decisión médica. Señaló que, cuando se trata de vidas humanas, no podemos permitirnos los errores que la IA puede llegar a cometer.

Por ejemplo, Senay destacó que los médicos dedican aproximadamente el 50% de su tiempo a tareas administrativas y de documentación en lugar de trabajar con los pacientes. Se trata de una tarea que podría realizarse mejor con IA. Por otro lado, señaló que una dosis de fármaco alucinada por la IA puede matar a un paciente, sobre todo en una crisis médica en la que hay que tomar decisiones rápidamente, algo de lo que ha sido testigo directo como enfermera de urgencias.

"Human-in-the-loop es el principio sobre el que construyo" es como explica el enfoque que adopta en sus proyectos de codificación, que puedes encontrar en su repositorio de GitHub. Para Senay, la IA en la sanidad es algo más que construir y enviar, es un ciclo de vida que requiere intención e iteración continua. Según ella, "no me convertí en ingeniera de IA a pesar de ser enfermera de urgencias, sino gracias a ello".

A slide illustrating AI in healthcare as a lifecycle of continuous improvement from knowledge base to prompt optimization to evaluation to deployment to monitoring and improvement.En la siguiente charla, la ingeniera en IA y defensora de los desarrolladores Mansi More nos recordó que debemos volver a los conceptos fundamentales. Cuando se trata de entender cómo funciona realmente la IA generativa, Mansi dijo: "Todos olvidamos aprender lo básico". En este caso, los conceptos básicos a los que se refería son cómo los conjuntos de datos entrenan los modelos fundamentales, cómo los datos complementarios y el ajuste fino perfeccionan esos modelos, y cómo elaborar instrucciones específicas para obtener resultados útiles. Lo resumió así: "El modelo tiene la capacidad. Es tu responsabilidad preguntar con prudencia".

A slide illustrating the different types of AI prompts as zero-shot inference, one-shot inference, and few-shot inference.En lo que respecta a la atención sanitaria, señaló que los datos de los pacientes -notas manuscritas, resultados de laboratorio, grabaciones de intervenciones quirúrgicas- están en gran medida desestructurados y son inaccesibles para el software convencional. La IA ofrece una vía para hacer que estos datos sean procesables y puedan salvar vidas.

Nos guió a través de aplicaciones sanitarias con ejemplos reales en un entorno de Google Cloud Console (GCP), demostrando cómo analizar imágenes y vídeos, y optimizar las consultas para obtener resultados útiles. Puede encontrar el resumen de su charla en Medium, que también incluye código Python que puede ejecutar usted mismo.

Ambas charlas suscitaron preguntas del público, que se mostró escéptico y cauteloso, mientras que otros se maravillaron ante las posibilidades de la IA. Todos coincidimos en que las charlas fueron profundas e informativas. Durante la tertulia posterior, recordé con alguien que escuchaba música en mi iPod Shuffle. Todavía lo tengo y sigue funcionando, y de vez en cuando me planteo usarlo cuando salgo a correr en lugar de mi smartphone porque mi Shuffle sigue haciendo de forma constante y fiable la única cosa que quiero que haga. Por otro lado, mi teléfono está destinado a la obsolescencia con actualizaciones forzosas que ya no puede soportar a menos que me compre uno nuevo. Este contraste pone de relieve cómo los dispositivos modernos, cada vez más moldeados por funciones de inteligencia artificial que nadie pidió, pueden empezar a sentirse más como una carga que como una herramienta.

"Internet usaba ser divertido", se lamentó alguien.

Como desarrolladores, podemos ser los guardianes de la IA

La IA no deseada que se ofrece a resumir un correo electrónico de una sola línea es una molestia, pero que la IA diagnostique erróneamente a un paciente sin intervención humana es otro problema más grave. La IA es imposible de ignorar, y también lo es la aprensión que la rodea.

Al igual que Senay, vengo de un entorno no tradicional. Estudié arte y humanidades y me mudé a San Francisco con la esperanza de triunfar como artista, pero acabé como ingeniero. Comprendo el valor y la urgencia de mantenerse al día de las últimas tendencias tecnológicas para seguir siendo competitivo. En la universidad, rodé mi proyecto final en 16 mm y una de las tomas finales volvió del laboratorio desenfocada. Cuando la revelaron, ya era demasiado tarde para volver a rodar. El Video digital evita errores como éste, pero a costa de la calidez de la textura de la película.

Una de las primeras películas - un tren entrando en una estación - causó pánico porque el público carecía del vocabulario visual para cuestionar lo que estaba viendo. Del mismo modo, la IA generativa ofrece respuestas que suenan seguras pero que pueden ser completamente erróneas. Como señaló Senay, una dosis alucinada de un medicamento suena autoritaria para alguien no familiarizado con la medicina, pero puede matar a un paciente. Lo que está en juego es mucho más importante que un público confundido.

Senay y yo compartimos un camino no tradicional hacia la tecnología: ella desde la enfermería, yo desde las artes. Pero llegamos a la misma conclusión: la tecnología sin intencionalidad es peligrosa. Para Senay, eso significa una toma de decisiones "humana" en la atención sanitaria. Para Mansi, significa que los desarrolladores tienen que "preguntar sabiamente", entendiendo que la capacidad del modelo sólo importa si la persona que lo maneja sabe lo que está haciendo.

Tal vez sea por mi carrera de letras o por mi afición a la ciencia ficción, pero las cuestiones que rodean a la IA siempre me traen de vuelta a la obra de Mary Shelley Frankenstein de Mary Shelley. En Frankensteinla criatura se convierte en la mayor carga de Víctor precisamente porque construyó sin previsión. Como desarrolladores, nos corresponde a nosotros crear sistemas de IA que no solo sean potentes, sino también seguros, transparentes y basados en la supervisión humana, ya sea un médico que revisa un diagnóstico o un desarrollador que formula las preguntas adecuadas a su modelo.

Otras lecturas y recursos

• Día de las Mujeres+ en el Código Abierto: Comunidad y código en Snowflake: Una recapitulación del Día de las Mujeres+ en el Código Abierto en el SVAI Hub de Snowflake y cómo las comunidades inclusivas de código abierto impulsan la innovación.

• Aumente la productividad de los desarrolladores con nuestro asistente de IA multilingüe: Presentamos el asistente de IA de Vonage para facilitar el acceso a soporte, documentación y recursos en nuestro portal para desarrolladores y Slack.

• Si no puedes leer tu código PHP, tampoco tu LLM: Aprende cómo el código PHP legible mejora el rendimiento de LLM usando Readalizer, con ejemplos reales del SDK PHP de Vonage.