當訓練數(shù)據(jù)按性別傾斜時 AI系統(tǒng)在診斷疾病方面更差

2022-07-17 18:54:01 編輯：元光雨來源：

導讀人工智能模型在預測哪些退伍事務醫(yī)院治療的患者會出現(xiàn)腎功能突然下降方面顯示出巨大的希望。但這也帶來了一個關鍵的警告：女性僅占用于...

人工智能模型在預測哪些退伍事務醫(yī)院治療的患者會出現(xiàn)腎功能突然下降方面顯示出巨大的希望。但這也帶來了一個關鍵的警告：女性僅占用于訓練算法的數(shù)據(jù)的患者的6%，而且在女性身上進行測試時效果更差。

由谷歌姊妹公司DeepMind構建的這種引人注目的算法的缺點突出了一個問題，即從事醫(yī)學的機器學習研究人員越來越擔心。新的研究表明，這個問題可能比專家們以前意識到的更為普遍和陰險。

這項研究由阿根廷的研究人員領導，并于周一在PNAS雜志上發(fā)表。研究發(fā)現(xiàn)，當女性患者被排除在開發(fā)機器學習模型的訓練數(shù)據(jù)中或在表示數(shù)據(jù)中的代表性明顯不足時，該算法在對所有影響胸部區(qū)域的各種醫(yī)療條件。當男人被排除在外或人數(shù)不足時，也看到了相同的模式。

加利福尼亞大學伯克利分校的齊亞德·奧伯邁耶(Ziad Obermeyer)說：“這是一個關于偏差如何進入算法的有價值的警告性故事，”他研究機器學習及其臨床和健康政策應用。“這些結(jié)果的結(jié)合，以及對這些算法進行訓練的數(shù)據(jù)集通常并不關注這些多樣性的度量，這確實很重要，”未參與研究的Obermeyer補充道。

阿根廷的研究人員專注于AI在醫(yī)學中最流行的應用之一：分析圖像以嘗試進行診斷。他們檢查的系統(tǒng)負責分析胸部區(qū)域的X射線圖像，以檢測是否存在14種醫(yī)療狀況，包括疝氣，和心臟擴大。

標簽：

免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！