유엔 인권최고대표 “AI 인권침해 대책마련 때까지 판매 중지해야”

미첼 바첼레트 유엔 인권 최고대표가 13일(현지시각) 유엔 인권이사회의 개막 연설을 하고 있다. 제네바/AFP 연합뉴스

미첼 바첼라트 유엔 인권 최고대표가 15일(현지시각) 합당한 안전대책이 마련될 때까지 인권침해의 우려가 있는 인공지능(AI)의 판매와 사용을 중지할 것을 촉구했다.

유엔에서 인권 관련 최고 책임자인 바첼라트 최고대표는 이날 “인공지능은 좋은 일에 쓰일 수 있고 우리 사회의 거대한 도전을 극복하는 데 도움이 될 수 있다”면서도 “그렇지만 인공지능 기술은 인권에 미치는 효과에 대한 충분한 고려 없이 사용할 경우 부정적인, 심지어 파괴적인 결과를 낳을 수도 있다”고 말했다고 유엔 인권최고대표사무실이 밝혔다.

바첼라트 최고대표는 “우리는 인공지능이 제한이나 경계, 감시 없이 사용되도록 허용하면서 인공지능을 따라잡을 수 없고, 거의 불가피하게 발생하는 인권 관련 중요한 문제를 추적해 다룰 수도 없다”고 덧붙였다.

바첼라트 최고대표의 발언은 인공지능이 사람들의 사생활 보호나 평화로운 집회, 표현의 자유 등 다양한 인권에 어떤 영향을 미치는지를 분석한 보고서가 앞서 개막한 유엔 인권이사회에 제출된 것에 맞춰 이뤄졌다.

많은 인공지능은 결과를 예측하고 위험을 조사하고 개인이나 사회적 수준에서 행동 패턴에 대한 통찰력을 제공하는 구실을 한다. 이에 대해 보고서는 사람들의 복지혜택 수혜 자격이나 대출 접근 여부 등 인권적 함의를 가진 사안에 대해 인공지능이 데이터에 기초해 자동 결정하는 ‘디지털 디스토피아’를 경고했다.

국가안보나 사법기관이 활용하는 인공지능 기술은 특히 인권침해를 유발하는 경우가 잦다. 얼굴과 지문, 홍채, 목소리 등으로 사람을 인식하는 안면인식기술은 시민의 자유로운 활동을 감시·추적하고 인권을 억압하는 기능을 수행할 수 있다. 또 인공지능이 사용하는 데이터는 사람들의 인종적, 성적 편견을 포함하고 있어서, 편견과 차별을 더 조장할 우려도 있다고 보고서는 지적했다.

바첼라트 최고대표는 “인공지능의 급속한 성장에 비춰, 데이터의 수집과 저장, 공유, 사용에서 생겨나는 책임 문제의 광범한 공백을 메우는 것은 우리가 직면한 인권에 대한 가장 시급한 도전”이라고 말했다. 그는 “인공지능의 결정이 차별을 낳을 위험은 너무 현실적인 상황”이라며 “이것이 인공지능을 체계적으로 평가하고 모니터링해서 인권침해 위험을 확인하고 줄여야 하는 이유”라고 말했다.

인공지능의 오남용에 대한 경각심은 이미 여러 나라에서 공감을 얻고 있다. 유럽연합은 4월 인공지능을 이용해 사람을 추적하고 사람의 행동을 분류·평가하는 것을 금지하는 법안을 제안했고, 미국의 오리건주 포틀랜드는 지난해 9월 안면인식 기술을 광범하게 금지하는 법을 통과시켰다.

인공지능의 폐해를 막기 위해선 이를 개발하고 사용하는 국가와 기업체에 더 많은 투명성이 필요하다는 지적도 제기됐다. 보고서는 “인공지능 개발과 사용에 필요한 데이타 환경과 알고리즘, 모델이 복잡한 데다 정부와 기업체가 의도적으로 비밀을 유지하려는 관행 때문에 인공지능이 인권과 사회에 미치는 영향을 정확히 이해하려는 시도가 방해받는다”고 밝혔다.

바첼라트 최고대표는 “사람에 도움이 되는 인공지능의 힘은 부정할 수 없지만, 눈에 보이지 않을 정도로 엄청난 범위에서 인권침해를 조장하는 인공지능의 능력도 마찬가지”라며 “우리 모두를 위해 인공지능에 인권의 가드레일을 놓는 행동이 지금 당장 필요하다”고 말했다.

박병수 선임기자 [e-mail]