[취재수첩]구글 듀플렉스가 보이스피싱에 악용된다면
[취재수첩]구글 듀플렉스가 보이스피싱에 악용된다면
  • 백종모
  • 승인 2018.05.16 10:46
  • 댓글 0
이 기사를 공유합니다

사진=구글유튜브채널
사진=구글유튜브채널

 

구글의 인공지능 전화 통화 프로그램에 대해 윤리 문제가 제기됐다.

구글은 지난 8일 미국 캘리포니아주 마운틴뷰 쇼어라인 엠피시어터에서 열린 구글 개발자회의(I/O)에서 AI(인공지능) 전화 통화 비서 서비스 '듀플렉스(Duplex)'의 데모를 시연했다.

시연에서 듀플렉스는 가게 종업원이나 회사 사무원에게 직접 전화를 걸어, 예약을 대신하거나, 업무 시간을 물어보기도 했다. 

듀플렉스가 보여준 기술의 진보는 놀라운 것이다. 이 AI 프로그램은 대화의 맥락을 정확히 이해하면서 스스로 대화를 이끌어나갔다. 가령 식당에 4명 일행으로 예약을 잡으려다 "5명 이상만 예약을 받는다"고 점원이 답하자, "(예약 없이)방문하면 보통 몇 분 정도 기다려야 하느냐"고 바로 응답했다.

그러나 발표 이후 몇몇 부작용에 대한 우려도 나오고 있다. 전화 상대방이 AI임을 인식하지 못하기 때문에 많은 문제가 발생할 것이라는 것이다. 실제 듀플렉스 시연 당시 AI가 너무 자연스럽게 말하는 바람에, 사람들은 전화 통화 상대가 AI라는 것을 사람들이 인식하지 못했다. 

듀플렉스는 '웨이브넷'이라는 음성 합성 기술을 사용한다. 기존 방식보다 음성 합성 단위를 좀더 잘게 쪼갠 뒤, AI를 이용해 음성을 자연스럽게 이어붙인다. 음성 톤을 바꿀 수 있기 때문에 목소리로 듀플렉스를 인식하는 것은 거의 불가능하다. 실제 구글 개발자회의 시연 때도 듀플렉스는 남성과 여성 두 가지 목소리를 선보였는데, 구글 공식 블로그에 따르면 원본 목소리 데이터는 같은 것이다.

 

사진=구글 유튜브 채널
사진=구글 유튜브 채널

 

이에 대해 인공지능 프로그램의 전화 통화에 있어 제한이 있어야 한다는 지적이 나온다. 음성의 자연스러운 정도를 제한하거나, 최소한 통화 시작 전 자신이 인공지능 프로그램임을 고지하도록 해야 한다는 것이다.

AI 전화 통화 기술이 악용된다면, 스팸 전화가 급증할 것으로 예상된다. 특히 보이스피싱(전화 통화로 허위 사실을 이야기 한 뒤, 송금 등을 요구하는 사기 수법)이 자동화되면 그 피해도 커질 것이다.

인공지능 프로그램 이용자의 윤리 문제도 대두된다. 예약할 때 직접 사람을 상대하지 않기 때문에, 상대방에게 폐를 끼친다는 인식이 적을 것이다. 만약 이용자가 실제 방문 의사가 없음에도 예약을 했다가 취소하거나, 내용을 여러 차례 변경한다는 행위를 할 수도 있다.

구글 엔지니어링 담당 부사장 요시 마티어스는 미국 IT매체 Cnet에 "AI와 대화하고 있다는 사실을 사전에 알릴 책임이 있다고 생각한다"는 입장을 보였다. 

또 다른 구글 관계자는 미국 IT매체 더 버지에 "스팸 문제를 막기 위해 구글 듀플렉스가 하루에 할 수 있는 통화 수를 제한한다"고 밝히기도 했다. 이 관계자는 "관련된 사회 규범이 유기적으로 진화해 가기를 희망한다"는 견해도 덧붙였다.

또한 구글은 듀플렉스의 기능이 제한적임을 분명히 했다. 구글은 개발자회의 발표 뒤 공식 블로그를 통해 "듀플렉스는 아직까지 제한된 상황에서만 구현된다"고 못 박았다.

백종모 기자 phanta@dailysmart.co.kr



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.