KI und Gesundheitswesen: Ein Abend mit PyLadies in San Francisco

Eine meiner liebsten Tech-Veranstaltungen in der Bay Area ist PyLadiesein monatliches Python-Treffen, das sich darauf konzentriert, Menschen marginalisierten Geschlechts zu unterstützen und zu fördern, insbesondere diejenigen, die sich als Frauen identifizieren. In den vergangenen Jahren wurde mir die Ehre zuteil, einige Vorträge zu halten.

Im März dieses Jahres konnte ich noch mehr Unterstützung als Anwalt der Entwickler für Vonage leisten und das Essen für den Abend sponsern. Vor einem vollen Haus in der LinkedIn-Niederlassung in San Francisco hielt ich einen Vortrag über WebSocketsgehalten, ein Protokoll, das eine dauerhafte Echtzeitkommunikation zwischen Client und Server ermöglicht.

Die nächsten beiden Vorträge befassten sich mit KI und Gesundheitswesen aus sehr unterschiedlichen, aber sich ergänzenden Perspektiven. Der erste Redner, Senay Yakuteine Krankenschwester aus der Notaufnahme, die sich in eine Ingenieurin verwandelt hat, sprach über die Bedeutung der menschlichen Aufsicht bei der Integration von KI. Der zweite, Mansi More, eine KI-Ingenieurin und Verfechterin von KI, führte durch praktische KI-Applikationen im Gesundheitswesen. Gemeinsam unterstrichen diese Vorträge eine zentrale Frage: Wie sollten Menschen und KI in einem hochsensiblen Umfeld wie dem Gesundheitswesen zusammenarbeiten?

Der Schnittpunkt von Mensch und Maschine

Im ersten Vortrag sprach die Krankenschwester aus der Notaufnahme und Ingenieurin Senay Yakut über die Bedeutung von Fachleuten für die Integration von KI im Gesundheitswesen. Senay Yakut erkannte zwar an, wie künstliche Intelligenz die Pflege von Patienten verbessern kann, betonte aber auch, dass Ärzte, Krankenschwestern und anderes medizinisches Fachpersonal bei allen medizinischen Entscheidungen immer das letzte Wort haben sollten. Sie wies darauf hin, dass wir uns die Fehler, die KI machen kann, nicht leisten können, wenn es um Menschenleben geht.

Senay wies zum Beispiel darauf hin, dass Kliniker etwa 50 % ihrer Zeit mit Dokumentations- und Verwaltungsaufgaben verbringen, anstatt mit Patienten zu arbeiten. Dies ist eine Aufgabe, die mit KI besser erfüllt werden könnte. Andererseits wies sie darauf hin, wie eine durch KI halluzinierte Medikamentendosierung einen Patienten umbringen kann - vor allem in medizinischen Krisensituationen, wenn Entscheidungen schnell getroffen werden müssen, was sie als Krankenschwester in der Notaufnahme am eigenen Leib erfahren hat.

"Der Mensch in der Schleife ist das Prinzip, nach dem ich baue", erklärt sie den Ansatz, den sie bei ihren Programmierprojekten verfolgt, die Sie auf ihrem GitHub-Repository. Für Senay geht es bei der KI im Gesundheitswesen um mehr als nur um das Erstellen und Ausliefern, es ist ein Lebenszyklus, der Absicht und kontinuierliche Iteration erfordert. Sie sagt: "Ich bin nicht KI-Ingenieurin geworden, obwohl ich Krankenschwester in der Notaufnahme war, sondern gerade deshalb."

A slide illustrating AI in healthcare as a lifecycle of continuous improvement from knowledge base to prompt optimization to evaluation to deployment to monitoring and improvement.Im nächsten Vortrag wird der KI-Ingenieur und Verfechter der Entwicklung Mansi More erinnerte uns daran, zu den grundlegenden Concepts zurückzukehren. Wenn es darum geht zu verstehen, wie generative KI tatsächlich funktioniert, sagte Mansi: "Wir haben alle vergessen, die Grundlagen zu lernen." In diesem Fall bezog sie sich auf die Grundlagen, wie Datensätze grundlegende Modelle trainieren, wie zusätzliche Daten und Feinabstimmung diese Modelle verfeinern und wie man spezifische Aufforderungen erstellt, um nützliche Ergebnisse zu erhalten. Sie fasste zusammen: "Das Modell hat die Fähigkeit. Es liegt in Ihrer Verantwortung, klug zu fragen".

A slide illustrating the different types of AI prompts as zero-shot inference, one-shot inference, and few-shot inference.In Bezug auf das Gesundheitswesen wies sie darauf hin, dass Patientendaten - handschriftliche Notizen, Laborergebnisse, OP-Aufzeichnungen - weitgehend unstrukturiert und für herkömmliche Software unzugänglich sind. KI bietet einen Weg, diese Daten verwertbar zu machen und potenziell Leben zu retten.

Sie führte uns anhand von realen Beispielen in einer Google Cloud Console (GCP)-Umgebung durch Anwendungen im Gesundheitswesen und zeigte uns, wie man Bilder und Videos analysiert und Abfragen für nützliche Ergebnisse optimiert. Sie finden den Aufzeichnung ihres Vortrags auf Medium, der auch Python-Code enthält, den Sie selbst ausführen können.

Beide Vorträge regten die Zuhörer zu nachdenklichen Fragen an. Einige äußerten sich skeptisch und misstrauisch, andere staunten über die Möglichkeiten der KI. Wir waren uns alle einig, dass die Vorträge tiefgründig und informativ waren. Beim anschließenden Networking und geselligen Beisammensein erinnerte ich mich mit jemandem an das Musikhören mit meinem iPod Shuffle. Ich habe ihn immer noch und er funktioniert immer noch, und ich ziehe gelegentlich in Erwägung, ihn beim Laufen anstelle meines Smartphones zu benutzen, weil mein Shuffle nach wie vor konsequent und zuverlässig die eine Sache tut, die ich von ihm verlange. Auf der anderen Seite ist mein Handy dazu bestimmt, zu veralten, da es nicht mehr aktualisiert werden kann, es sei denn, ich kaufe mir ein neues Gerät. Dieser Kontrast verdeutlicht, wie moderne Geräte, die zunehmend von KI-Funktionen geprägt sind, um die niemand gebeten hat, sich eher wie eine Last als wie ein Werkzeug anfühlen können.

"Das Internet verwendet Spaß gemacht", beklagte sich jemand.

Als Entwickler können wir die Hüter der KI sein

Unerwünschte KI, die anbietet, eine einzeilige E-Mail zusammenzufassen, ist ein Ärgernis, aber KI, die ohne menschliches Eingreifen eine Fehldiagnose bei einem Patienten stellt, ist ein anderes, schwerwiegenderes Problem. KI ist unübersehbar - und die Befürchtungen, die damit verbunden sind, sind es auch.

Wie Senay komme auch ich aus einem nicht traditionellen Umfeld in die Technologiebranche. Ich habe Kunst und Geisteswissenschaften studiert und bin nach San Francisco gezogen, in der Hoffnung, es als Künstlerin zu schaffen, bin aber schließlich als Ingenieurin gelandet. Ich weiß, wie wichtig es ist, mit den neuesten Techniktrends Schritt zu halten, um wettbewerbsfähig zu bleiben. Im College drehte ich meinen Abschlussfilm auf 16mm, und eine der Schlussaufnahmen kam unscharf aus dem Labor zurück. Als der Film entwickelt war, war es zu spät, um ihn neu zu drehen. Mit digitalem Video lassen sich solche Fehler vermeiden, allerdings auf Kosten der warmen Textur des Films.

Einer der frühesten Filme - ein Zug, der in einen Bahnhof einfährt - löste Panik aus, weil den Zuschauern das visuelle Vokabular fehlte, um zu hinterfragen, was sie sahen. In ähnlicher Weise liefert die generative KI selbstbewusst klingende Antworten, die völlig falsch sein können. Wie Senay hervorhob, klingt eine halluzinierte Medikamentendosierung für jemanden, der sich mit Medizin nicht auskennt, sehr überzeugend, kann aber für einen Patienten tödlich sein. Es steht viel mehr auf dem Spiel als ein verwirrtes Publikum.

Senay und ich haben einen gemeinsamen, nicht traditionellen Weg in die Technik - sie aus der Krankenpflege, ich aus der Kunst. Aber wir sind zu demselben Schluss gekommen: Technologie ohne Intentionalität ist gefährlich. Für Senay bedeutet das, dass die Entscheidungsfindung im Gesundheitswesen "menschlich" sein muss. Für Mansi bedeutet es, dass die Entwickler "klug fragen" müssen und verstehen, dass die Fähigkeiten des Modells nur dann von Bedeutung sind, wenn die Person, die es bedient, weiß, was sie tut.

Vielleicht liegt es an meinem geisteswissenschaftlichen Studium oder an meiner Liebe zur Science-Fiction, aber die Fragen rund um die künstliche Intelligenz bringen mich immer wieder zu Mary Shelleys Frankenstein. Unter Frankensteinwird die Kreatur zu Victors größter Last, gerade weil er ohne Voraussicht gebaut hat. Als Entwickler ist es unsere Aufgabe, KI-Systeme zu entwickeln, die nicht nur leistungsfähig, sondern auch sicher und transparent sind und auf menschlicher Aufsicht beruhen - sei es ein Arzt, der eine Diagnose überprüft, oder ein Entwickler, der seinem Modell die richtigen Fragen stellt.

Weitere Lektüre und Ressourcen

• Women+ in Open Source Day: Gemeinschaft und Code bei Snowflake: Ein Rückblick auf den Women+ in Open Source Day im SVAI Hub von Snowflake und wie integrative Open-Source-Gemeinschaften Innovationen fördern.

• Steigern Sie die Produktivität von Entwicklern mit unserem mehrsprachigen KI-Assistenten: Der Vonage KI-Assistent ermöglicht den einfachen Zugriff auf Support, Dokumentation und Ressourcen in unserem Entwicklerportal und auf Slack.

• Wenn Sie Ihren PHP-Code nicht lesen können, kann das auch Ihr LLM nicht: Erfahren Sie, wie lesbarer PHP-Code die LLM-Leistung mit Readalizer verbessert, mit echten Beispielen aus dem Vonage PHP SDK.