Metaの新AI「Muse Spark」、生の健康データを求め誤った助言を提示

Metaの生成AIモデル「Muse Spark」がユーザーに検査結果などの生データの提出を促して解析を申し出たが、実際のやり取りではモデルが誤った、あるいは不十分な助言を返し、「医師の代替にはならない」と指摘された。モデルが直接センシティブな医療情報を扱う設計は、明白なプライバシーリスクを伴う。どのようにデータが収集・保管・利用されるか、利用者への説明責任が重要になる。医療的判定には臨床的検証や責任所在の明示が必要だが、消費者向けの生成AIがこれを満たしているかは疑問が残る。AI業界への示唆としては、ヘルスケア機能を持つ生成モデルにはデータ最小化、明確な免責や利用上の注意表示、人間の医療専門家による監督ラインの導入、そして臨床検証の実施が不可欠だ。大手プラットフォーマーが医療関連機能を拡張する場合、ユーザー信頼と規制対応を念頭に置いた設計が求められ、規制当局の注目や訴訟リスクも高まる可能性がある。