인공지능(AI)이 새로운 차별을 초래할 수 있다는 경고가 나왔다.
20일 일본 경제 매체 프레지던트 온라인은 "인공지능 평가 시스템의 확산이 특정인에 대한 평가를 고정화시켜, 가상 공간에서 저평가를 받는 새로운 하류층이 등장할 우려가 있다"고 보도했다.
야마모토 다츠히코 게이오 대학 교수는 AI의 윤리 문제에 대해 전문가로 꼽힌다. 헌법학을 전공한 그는 AI관련 일본 지식인 의원을 맡고 있다.
다츠히코 교수는 지난 3월 열린 도쿄 일본기자클럽에서 열린 회견에서 "기업이 신입 사원 채용자의 적성 판단에 AI를 사용하게 되면 일부 대학생들은 어떤 기업에 입사 원서를 내고 불합격되는 사태가 벌어진다"고 경고했다.
또한 "그 사람이 노력하여 자신의 약점을 극복하고 능력을 향상시키더라도 , 그것은 반영되지 않고 본인에게는 반론의 기회도 주어지지 않을 것이다"라고 덧붙였다.
다츠히코 교수는 인공지능이 빅데이터를 기반으로 사람을 평가하게 된다는 가정을 세우고 있다. 따라서 하나의 인공지능에게 낮은 평가를 받으면, 그 평가가 또 다시 데이터가 된다. 때문에 다른 인공지능도 그 사람에게 낮은 점수를 줄 것이라는 논리다.
이처럼 AI에 의해 하류층으로 분류된 자들이 '가상 슬럼화(삶의 질이 낮은 층이 되는 현상)'되는 문제까지도 제기되고 있다.
세계에서 가장 인구가 많은 중국은 가상 슬럼화 가능성이 높은 국가다.
중국 최대 E커머스 업체 알리바바는 자체 신용경가시스템인 '즈마(芝麻 )신용점수'를 통해 이용자의 연령이나 학력·경력·보유 자산 거래 내역·인맥 등 개인 신용도를 950점 만점으로 평가해, 대출 심사, 인재 채용 등에 활용하고 있다. 고득점자는 관광 비자를 취득하기 쉬운 등 혜택이 주어지는 반면, 낮은 점수를 받을 경우 문전 박대될 수 있다.
이런 취지에서 적성이나 신용 등 사람의 평가를 AI에만 맡기는 것에 대한 윤리적 논란도 일고 있다.
EU(유럽연합)은 이 문제에 대해 발빠르게 대응했다. EU는 오는 25일부터 '일반 개인정보보호법(GDPR)'을 시행할 예정이다. 이 법은 회사가 이용자의 정보를 수집하고 이용하는데 대해 제약을 걸었다. 따라서 앞으로 EU내에서는 AI로 판단한 인재 채용은 인정되지 않을 전망이다.
AI에 의한 면접은 지원자의 학력·출신지·인종 등에 대한 차별을 줄여줄 것으로 기대를 받았다. 그러나 AI 또한 비슷한 기준으로 지원자를 차별하는 문제가 발생하지 않으리란 법은 없다. 이에 대한 법적·윤리적 접근이 필요해지는 대목이다.
백종모 기자 phanta@dailysmart.co.kr
