장애인들을 위한 AI 헬스케어, 차별 우려와 가능성
헬스케어 분야에서의 인공지능(AI)은 장애인에게 독특한 해악과 잠재적인 이익을 가져올 수 있다. 그러나 현재 AI 모델이 장애인 환자에 대한 예측을 통해 차별을 초래할 가능성이 있는 세 가지 이유가 있다. 첫째, 장애인 환자들은 데이터셋에서 충분히 대표되지 않는다. 둘째, 역사적으로 그들은 의료 진료에서 차별을 받아왔다. 셋째, 생리적 허약성을 예측하기 위한 데이터는 장애인 환자의 허약 정도를 과대평가할 수 있다.
장애인 커뮤니티는 일반 인구에 비해 상대적으로 작으며, 현재 AI 모델 훈련에 사용되는 대부분의 헬스케어 데이터는 비장애인 환자에게서 온 것이다. 따라서 주로 비장애인 데이터를 바탕으로 훈련된 AI 모델은 비장애인 환자에게는 정확한 결과를 예측할 수 있을지 모르지만, 장애인 환자에게는 오작동할 가능성이 있다. 또한, 장애인 환자와 관련된 건강 데이터는 누락되거나 불완전할 수 있다.
이와 같은 데이터셋에서의 대표성 부족과 잘못된 표현으로 인한 편향과 차별의 잠재성은 충분히 설명되고 있다.
출처 : 원문 보러가기
