AIの回答はいつでも正しいと考えることは危険です。
実際、AIには「ハルシネーション（幻覚 Hallucination）」と呼ばれる現象があり、回答に不正確な情報が含まれることがあります。
特に医療分野では、誤ったアドバイスが患者さんに伝わることで、深刻なリスクが生じる可能性があります。
この記事では、AIや大規模言語モデル（LLM）の誤情報について、その定義やリスク、医療従事者が知っておくべき内容を初心者向けに具体的に解説します。
ハルシネーションとは？AIが不正確な情報を生成する理由
ハルシネーションとは？
ハルシネーションとは、AIが誤った情報をあたかも事実であるかのように答えてしまう現象です。
AIは事実や意図を理解せず、パターンを学習した結果で答えているため、誤った情報を出すことがあります。
医療の現場で診断や治療に関わる情報が誤って伝わると、重大な問題が発生するリスクがあるため、特に注意が必要です。
AIによる誤答には、大きく「事実性のハルシネーション」と「忠実性のハルシネーション」という2つの種類があります。
なぜハルシネーションが発生するのか？
LLMは膨大なテキストからパターンを学んでいますが、内容の正確さや意味を理解しているわけではありません。
そのため、似たような状況の説明や言葉の組み合わせから、実際には正しくない情報をあたかも事実であるかのように生成することがあります。
事実性のハルシネーション：現実の事実と異なる情報が生成されること
事実性のハルシネーションの具体例
事実性のハルシネーションは、AIが実際の事実と矛盾する情報を出してしまう現象です。
たとえば、ある予防接種について「一度で済む」と誤って案内してしまう場合が該当します。
実際には定期的な接種が推奨されているにもかかわらず、このような誤答が患者さんに伝わると、適切な予防が行われなくなるリスクが生じます。
事実性のハルシネーションの主な分類
- 事実の矛盾
実際の事実と異なる情報を返すケースです。
たとえば、特定の薬が一般的な治療法として確立されているにもかかわらず、「その薬は効果がない」と矛盾した回答をすることがあります。 - 事実の捏造
存在しない薬名や治療法など、完全に作り出された情報を提示するケースです。
たとえば、架空の薬の名前を出してしまう場合が該当します。
このような誤情報は、医療現場で非常にリスクが高くなります。
忠実性のハルシネーション：指示や質問から逸脱した回答が出ること
忠実性のハルシネーションの具体例
忠実性のハルシネーションは、AIがユーザーの質問や指示から外れてしまう現象です。
たとえば、医療従事者が「インフルエンザの治療法」を尋ねたのに、予防方法についての回答が返される場合がこれに該当します。
求めている情報と異なる内容が返ると、誤解が生じる恐れがあります。
忠実性のハルシネーションの主な分類
- 指示の不整合
質問内容に沿わない回答が返されること。 - 文脈の不整合
会話の流れや質問と無関係な内容が返されること。 - 論理の不整合
矛盾する情報が同時に提示されること。
医療現場での忠実性のハルシネーションの影響
忠実性のハルシネーションによって医療従事者が混乱する可能性があり、慎重な確認が重要です。
特に医療分野では、誤解や見落としが患者さんの治療方針や安全に影響するため、AIの回答が本当に指示通りであるかを確認することが求められます。
まとめ
AIや大規模言語モデル（LLM）が生成する情報には、「事実性のハルシネーション」「忠実性のハルシネーション」という誤情報のリスクがあります。
医療従事者としては、AIの出力が必ずしも正確とは限らないことを理解し、AIが生成した情報については医学的に信頼できるデータや文献で照らし合わせるなど、慎重な確認を行うことが重要です。
AIによる支援は医療現場にとって利便性をもたらす一方で、リスクも理解し、安全に活用することが求められます。
コメント