AIとヘルスケア：サンフランシスコでのPyLadiesとの夕べ

ベイエリアでの私のお気に入りの技術イベントのひとつが PyLadies毎月開催されるPythonのミートアップで、疎外された性別の人たち、特に女性であることを自認する人たちをサポートし、向上させることにフォーカスしています。過去何年か、私は光栄にもこのイベントで講演をさせていただきました。

今年3月、私はVonageの開発者支援者として、さらに多くの支援を提供することができた。サンフランシスコのLinkedInオフィスで満員の聴衆を前に、私は次のような話をした。 ウェブソケットクライアントとサーバー間の持続的なリアルタイム通信を可能にするプロトコルです。

次の2つの講演は、AIとヘルスケアについて、全く異なる、しかし補完的な観点から取り上げた。最初の講演者 セネイ・ヤクトERの看護師からエンジニアに転身した同氏は、AIの統合における人間の監視の重要性を論じた。2人目は、マンシ・モア氏、 マンシ・モアAIエンジニアであり開発者の支持者であるマンシ・モアは、ヘルスケアにおける実践的なAIアプリケーションを紹介した。これらの講演は、医療のような大きなリスクを伴う環境において、人間とAIはどのように協力すべきなのか、という中心的な問いを浮き彫りにした。

人間と機械の交差点

最初の講演では、ERの看護師からエンジニアに転身したセネイ・ヤクトが、AIを医療に取り入れる際の専門家の重要性について語った。セネイは、人工知能がいかに患者のケアを向上させるかを認める一方で、医師や看護師をはじめとする医療専門家は、いかなる医療上の決定においても常に最終的な決定権を持ち続けるべきだと強調した。彼女は、人の命に関わることであれば、AIが犯す可能性のあるミスを犯すわけにはいかないと指摘した。

例えば、セネイは、臨床医が患者を診ることよりも、書類作成や管理業務に約50％の時間を費やしていることを強調した。これは、AIを使えばもっとうまくいく仕事である。その一方で彼女は、AIによって幻覚化された薬物投与がいかに患者を死に至らしめるかを指摘した。特に医療危機においては、迅速な決断が必要とされるが、これは彼女がERの看護師として実際に目撃したことである。

"ヒューマン・イン・ザ・ループを基本に組み立てています" と、彼女はコーディング・プロジェクトに取るアプローチを説明している。 GitHubリポジトリ.セネーにとって、ヘルスケアにおけるAIは、単に構築して出荷するだけではなく、意図と継続的な反復を必要とするライフサイクルなのだ。ERの看護師であったにもかかわらず、AIエンジニアになったのではありません。

A slide illustrating AI in healthcare as a lifecycle of continuous improvement from knowledge base to prompt optimization to evaluation to deployment to monitoring and improvement.次のトークでは、AIエンジニアであり、開発者の支持者でもある マンシ・モアは、基礎的な概念に立ち返るよう私たちに呼びかけた。ジェネレーティブAIが実際にどのように機能するのかを理解することに関して、マンシは「私たちは皆、基本を学ぶことを忘れている」と語った。この場合、彼女が言う基本とは、データセットがどのように基礎モデルを訓練するか、補足データと微調整がどのようにそれらのモデルを洗練させるか、そして有用な結果を得るために特定のプロンプトをどのように作成するかということである。彼女はこう要約した。賢く質問するのはあなたの責任です」。

A slide illustrating the different types of AI prompts as zero-shot inference, one-shot inference, and few-shot inference.医療に関して言えば、手書きのメモ、検査結果、手術の記録など、患者のデータは構造化されておらず、従来のソフトウェアではアクセスできないことがほとんどだと彼女は指摘した。AIは、このデータを実用化し、命を救う可能性のある道筋を提供する。

Google Cloud Console (GCP)環境での実例を交えながら、画像やビデオの分析方法、有用な結果を得るためのクエリの最適化方法など、ヘルスケア・アプリケーションについて解説してくれました。彼女の 講演内容Mediumに掲載されており、自分で実行できるPythonコードも掲載されています。

両講演とも、聴衆から示唆に富んだ質問が寄せられ、懐疑的な見方や警戒心を示す人もいれば、AIの可能性に驚嘆する人もいた。私たちは皆、講演が深く、有益であったことに同意した。その後のネットワーキングと交流の中で、私はある人とiPod Shuffleで音楽を聴いていたことを思い出した。私のiPod Shuffleは、私がしてほしいことを一貫して確実にやり続けてくれるからだ。一方、私の携帯電話は、新しいものを手に入れない限り、もはやサポートできない強制アップデートで陳腐化する運命にある。この対比は、誰も求めなかったAI機能によってますます形づくられるようになった現代のデバイスが、道具というよりむしろ重荷のように感じられるようになることを浮き彫りにしている。

「インターネット 昔は昔は楽しかったのに......」と誰かが嘆いた。

開発者として、私たちはAIの管理者になれる

AIが1行のEメールを要約してくれるのは迷惑なことだが、AIが人間の介入なしに患者を誤診するのは、別のもっと重大な問題だ。AIを無視することは不可能であり、AIを取り巻く不安もまた同様である。

セネイのように、私も非伝統的な経歴を持つ。学歴は芸術と人文科学で、アーティストとして成功することを望んでサンフランシスコに移り住んだが、結局はエンジニアになった。私は、競争力を維持するために最新の技術トレンドを追い続けることの価値と緊急性を理解しています。大学時代、卒業制作の映画を16ミリで撮ったのですが、クロージングショットの1枚がラボから戻ってきてピントが合っていませんでした。現像が終わったときには、撮り直すには遅すぎた。デジタル・ビデオはこのようなミスを防いでくれるが、その代償としてフィルムの質感ある暖かさが失われてしまう。

最古の映画のひとつ 駅に突っ込んでくる列車- がパニックを引き起こしたのは、観客が自分たちが見ているものを疑う視覚的語彙を欠いていたからだ。同様に、生成AIは自信ありげに聞こえる答えを提供するが、それは完全に間違っていることもある。セネイが指摘したように、幻覚を見た薬の投与量は、医療に詳しくない人には権威的に聞こえるが、患者を死に至らしめる可能性がある。利害関係は、混乱した視聴者よりもはるかに高い。

セネイと私は、彼女は看護師、私は芸術家という、従来とは異なる道を歩んできた。しかし、私たちは同じ結論に達した：意図性のないテクノロジーは危険である。セネーにとって、それは医療における「人間的な」意思決定を意味する。マンシーにとって、それは開発者が「賢明に問いかけ」なければならないということであり、モデルの能力が重要なのは、それを使う人間が自分のしていることを理解している場合だけだということを理解している。

文系の学位を持っているせいか、それともSFが好きなせいか、AIをめぐる疑問はいつもメアリー・シェリーの『フランケンシュタイン』を思い起こさせる。 フランケンシュタイン.フランケンシュタイン フランケンシュタインフランケンシュタイン』では、彼が先見の明を持たずに作ったからこそ、クリーチャーがヴィクターの最大の重荷となった。開発者として、強力であるだけでなく、安全で、透明性があり、人間の監視に基づいたAIシステムを構築することは、私たちに課せられた責務である。それは、臨床医が診断を確認することであれ、開発者がモデルに適切な質問をすることであれ。

その他の資料

• Women+ in Open Source Day：スノーフレークでのコミュニティとコード:SnowflakeのSVAI Hubで開催されたWomen+ in Open Source Dayの総括と、インクルーシブなオープンソースコミュニティがどのようにイノベーションを促進するかについて。

• 多言語AIアシスタントで開発者の生産性を高める:Vonage AIアシスタントの導入により、開発者ポータルとSlack上のサポート、ドキュメント、リソースに簡単にアクセスできます。

• PHPコードが読めなければ、LLMも読めない:Readalizer を使用して、PHP コードを読みやすくすることで LLM のパフォーマンスを向上させる方法について、Vonage PHP SDK の実例を交えて説明します。