シンガポールの南洋理工大学(NTU)は7月15日、医療用人工知能(AI)の開発者122人を調査し、4割強が規制枠組みを一つも認識しておらず、所属組織の67％も枠組みを採用していないことを明らかにしたと発表した。研究成果は学術誌npj Digital Medicineに掲載された。

(出典：NTU)

研究チームは、医療AI開発者の規制に対する認識に特化した初の多地域調査の一つとして、シンガポール、中国、香港、英国などの開発者を調査した。欧州連合(EU)のAI法やシンガポールの｢医療における人工知能ガイドライン｣など、少なくとも一つの規制枠組みを認識していたのは57％だった。上級開発者と学術機関以外の組織に所属する開発者は、若手や学術機関所属者より多くの枠組みを認識する傾向があり、上級開発者は枠組みにも詳しかった。

一方、所属組織の67％はいずれの規制枠組みも採用していなかった。採用組織の開発者は、非採用組織の開発者より枠組みに精通していた。大半の開発者は、政府や組織の倫理機関の指針を受け、利用者やAI開発用データの提供組織と連携しながら、自ら開発したAIに責任を負うべきだと考えていた。

研究チームは、教育機関の開発者研修に規制枠組みを組み込み、企業や開発チームでは上級・若手開発者間に体系的な指導制度を設けるよう提案した。各国の規制当局には、規制順守の確保に積極的な役割を果たすとともに、開発者の肯定的・否定的双方の経験を取り入れ、異なる法域間で規制を長期的に調和させるよう求めた。

研究を共同で主導したNTUリーコンチアン医学部(LKCMedicine)のウィルソン・ゴー(Wilson Goh)助教授兼医療AIセンター(C-AIM)主席データサイエンティストは、開発者はデータ品質、モデルの限界、バイアスやハルシネーションを評価できる独自の立場にあると説明し、｢責任感があることは心強い一方、規制に対する認識の隔たりは懸念されます｣と述べた。研究を主導したNTU上級副学長(保健・生命科学担当)兼C-AIM所長で同医学部長のジョセフ・ソン(Joseph Sung)教授は、患者の安全、データプライバシー、医療AIの長期的な信頼性の確保には、複数の関係者が共同で責任を負う必要があると強調した。

サイエンスポータルアジアパシフィック編集部