인권위 “인격체 아닌 인공지능 ‘이루다’, 조사 대상 아니다”

시민단체 “인공지능과 책임에 대한 이해 없는 부당 판단”

인공지능 챗봇 이루다. 스캐터랩 누리집 갈무리.

국가인권위원회(인권위)가 여성·성소수자 등에 대한 혐오 발언 문제가 제기된 인공지능(AI) 챗봇 ‘이루다’ 사건 진정에 대해 각하 결정을 내렸다. 시민단체는 인권위의 결정이 차별과 혐오를 회피하는 부당한 결정이라고 비판했다.

민주사회를 위한 변호사모임 디지털정보위원회·진보네트워크센터·참여연대 등은 12일 논평을 내어 “인권위는 (이루다 개발사인) 주식회사 스캐터랩이 특정 집단에 대한 차별 및 혐오 발언을 한 이루다를 서비스하는 것이 위원회 조사대상이 될 수 없다고 판단했다”며 “(인권위) 각하 결정은 사생활권 침해, 혐오표현 및 차별의 문제를 회피하는 부당한 결정”이라 밝혔다.

앞서 참여연대 등 시민단체는 지난 2월 이루다 챗봇 사건 관련 인권침해 및 차별 진정과 정책 권고를 요청하는 취지의 진정서를 인권위에 제출했다. 당시 이들은 “이루다 챗봇 사안은 개별 인권침해 사안일 뿐만 아니라 인공지능 기술의 남용이 인권에 미칠 수 있는 부정적인 영향을 보여준 대표적인 사안”이라고 진정 이유를 밝혔다.

진정을 받은 인권위는 지난달 30일 해당 사건에 대해 각하 결정을 내렸다. 인권위는 스캐터랩이 민간 사기업이라 진정 사건 조사대상에 포함되지 않는다고 밝혔다. 아울러 챗봇 이루다는 인격체가 아니라 조사대상이 될 수 없어 이루다와 스캐터랩에게 책임을 묻기 어렵다고 판단했다.

인권위의 판단에 대해 시민단체는 “국가인권위원회법은 법인, 단체 또는 사인에 의해 발생하는 차별행위를 조사대상으로 규정하고 있어 인권위의 판단은 부당하다”고 주장했다. 이루다가 인격체가 아니라 조사대상이 될 수 없단 판단에 대해선 “스캐터랩이 개발한 알고리즘에 따라 대화를 하는 인공지능 서비스라는 점에서 이루다의 차별 및 혐오표현은 서비스 제공자인 스캐터랩에 있다”며 “인공지능과 책임에 대한 기본적 이해가 없는 부당한 판단이자 면피성 판단이 의심된다”고 비판했다.

이들은 “인공지능에 의한 인권침해와 차별이 문제 될 것으로 예상되는 상황에서 인권위가 선제적인 대응은커녕 실제 발생한 사건에 대해서조차 조사를 하지 않은 건 유감이다”며 “인공지능기술로 발생하는 인권 현안에 대해 적절한 의사표명을 해 불가침의 인권을 보호하기 위한 역할을 다 해야 한다”고 밝혔다.

강재구 기자 [e-mail]