[유레카] 로봇 간 전쟁의 특성 / 구본권

온라인 국제학술지 <플로스 원(PLOS One)>에 실린 “좋은 로봇들도 싸운다: 위키피디어의 사례(Even good bots fight: The case of Wikipedia)” 논문. http://journals.plos.org/plosone/article?id=10.1371/journal.pone.0171774 에서 내려받을 수 있다.

아이폰은 겨울철 야외에서 전화기가 벽돌이 된다. 배터리가 충분히 남아 있는데도 갑자기 전원이 꺼져 쓸 수 없다. 실내에서 다시 작동시키면 멀쩡해진다. 수리센터를 찾아가면 “아이폰은 단말기 온도가 0도 아래로 내려가면 전원이 꺼지게 돼 있다. 고장이 아니다”라는 허탈한 답변을 듣는다. 낮은 온도에서 효율이 떨어지는 리튬이온전지 속성을 고려해 강제 차단을 적용한 설계 탓이다.

작동 에러는 대개 기기나 시스템 효율성을 위해 설계된 메시지다. 몇 차례 시도부터 에러로 처리할지 설계 때 정해야 한다. 비밀번호도 거푸 잘못 입력하면 차단되는데, 그렇지 않으면 무한 연결을 시도하는 해커의 밥이 된다.

최근 인간과 로봇의 대결만 아니라 로봇 간 대결도 진행됐다. 지난 1월 미국에선 인공지능 채팅로봇 구글 홈 2대를 붙여놓은 실험이 벌어졌다. 두 기계는 며칠 동안 끝없이 주제를 바꿔가며 대화와 말다툼을 이어갔다. 국제학술지 <플로스원> 최신호는 개방형 온라인 백과사전 ‘위키피디아’에서 자동편집 로봇들이 벌여온 편집 전쟁에 대한 연구 결과를 소개했다.

위키피디아엔 서술항목의 오류를 수정하고 링크를 추가하는 등 품질 개선을 위한 편집로봇이 여럿 활동하는데, 로봇들이 다른 로봇이 수정한 내용을 계속 되돌리고 자신이 새로 고치는 일을 지치지 않고 반복하는 게 드러났다. 2년 동안 엑스큐봇은 다크니스봇이 수정한 것을 2천번 되돌렸고, 반대의 경우도 1700번이었다. 사람들 간의 다툼은 며칠 지나면 수그러지기도 하는데 로봇은 지치지도 않고 포기도 없이 다툼을 무한히 계속한다는 게 알려졌다. 애초 좋은 목적으로 설계됐어도 설계자가 예상하지 못한 방식으로 수년 동안 로봇들이 소리 없는 전쟁을 치르고 있었다는 것은 인공지능 시대에 새로운 차원의 기술 통제방법이 필요하다는 것을 보여준다.

구본권 사람과디지털연구소장 [e-mail]