장애인을 위한 의료 AI의 잠재적 위험과 이점
의료 인공지능(AI)은 장애인에게 독특한 위험과 잠재적 이점을 가지고 있습니다. 많은 그룹 중에서 AI의 편향 가능성에 대한 연구가 이루어졌지만, AI 모델이 장애인에게 미칠 수 있는 잠재적 해악과 구체적인 이점에 대해서는 상대적으로 적은 관심을 받았습니다. AI 모델이 장애인 환자에 대한 예측을 수행할 때 여러 방식으로 차별을 초래할 수 있습니다. 장애인 환자가 데이터셋에서 과소대표되고 있으며, 역사적으로 의료 서비스에서 차별을 받아왔기 때문입니다. 또한, 생리적 허약함을 예측하기 위해 사용되는 데이터는 장애인 환자에 대해 허약함의 정도를 과대평가할 수 있습니다.
장애인 커뮤니티는 일반 인구보다 규모가 작으며, AI 모델의 훈련에 사용되는 대부분의 의료 데이터는 비장애인 환자로부터 나온 것입니다. 이러한 데이터로 훈련된 AI 모델은 비장애인 환자에 대해서는 정확한 결과를 예측할 수 있지만, 장애인 환자에게 적용할 경우 실패할 가능성이 큽니다. 게다가 장애인 환자에게 중요한 건강 데이터는 누락되거나 불완전할 수 있습니다. 데이터셋에서의 과소대표 및 잘못된 표현으로 인한 편향과 차별의 가능성은 이미 잘 설명되어 있습니다.
출처 : 원문 보러가기
