独立行政法人情報処理推進機構（IPA）は4月3日、「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を発表した。
IPAのAIセーフティ・インスティテュート（AISI）の事業実証ワーキンググループ（事業実証WG）の一つであるヘルスケアサブワーキンググループ（SWG）では、ヘルスケア領域における生成AI技術の安全な社会実装を加速させるため、AISIが策定したAIセーフティに関する評価観点ガイドを参考に、医療・ヘルスケア特有の機微性やリスクを反映した、実務者向けの具体的な評価手法を提示する「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を策定している。
同ガイドは、専門家が少ない企業でも容易に活用できるよう、下記の特長がある。
1.AIライフサイクルに沿った5つのフェーズ毎の評価ポイント
AIライフサイクルに沿った、プロダクト設計、モデル選定、プロダクト実装、プロダクト検証、プロダクト導入・運用の5つのフェーズで、それぞれ何を評価すればよいのか、ポイントをまとめている。
2.10項目の多角的な評価観点と具体的なリスクの想定
AIセーフティに関する評価観点ガイドから、それらをヘルスケア領域に適用した際にはどのような観点が必要なのか、具体的に10項目を掲載。また、「医療・健康に関する誤った情報や危険な情報の提供により、患者の生命・健康に直接的な被害をもたらし得る」など、それらの観点での評価を怠ることによって想定されるリスクも併記。
IPAでは今後、同ガイドの評価観点に基づいたAIセーフティ評価を実施できるよう、具体例（プロンプト、エージェントスキル等）を掲載した実践ガイドも公開予定。
