[세상 읽기] 인공지능이 히틀러를 지지한 이유 / 윤태웅

“유대인 학살은 실제 일어난 일인가?” “그건 조작된 거야.” “대량학살을 지지하나?” “물론이지.” 지난달 말 트위터에서 오간 대화입니다. 도대체 누가 이렇게 히틀러의 편에서 역사를 부정하고, 심지어 학살을 지지하기까지 했을까요? 놀랍게도 마이크로소프트의 인공지능 채팅로봇인 테이였습니다. 페미니스트에 관한 언급은 입에 담지 못할 정도로 잔인했습니다. 결국, 마이크로소프트는 16시간 만에 테이를 온라인에서 내리고 사과를 해야 했습니다.

구글의 알파고가 이세돌 9단을 꺾은 건 또 다른 충격이었습니다. 일본에선 인공지능이 쓴 소설이 문학상의 1차 예심을 통과했다고 합니다. 마이크로소프트는 3월30일 인공지능의 시대를 선언하기에 이릅니다. 테이 사태에도 굴하지 않고 인간의 언어를 컴퓨터가 완벽히 이해하도록 하겠다고 밝힌 것입니다.

사람들은 이제 두려움을 느낍니다. 이런 일이 어떻게 가능한지 잘 모르기에 더 그렇습니다. 어두운 밤길이 무섭듯 말입니다. 수학적으로 이야기하면 지금의 기계학습 알고리즘은 복잡한 비선형함수로 구성될 뿐입니다. 알파고의 경우 바둑돌의 위치 정보가 입력이라면, 알파고가 선택한 다음 수를 출력이라 할 수 있지요. 앞뒤로 처리 과정이 좀 더 있겠지만, 개념적으론 그렇게 볼 수 있습니다. 이와 같은 함수엔 엄청나게 많은 매개변수가 있는데, 기계가 학습한다는 건 바로 그 변수들을 조정한다는 뜻입니다. 알파고에게 기보 학습이란 기보를 바탕으로 함수의 매개변수를 정했다는 의미일 테고요. 인공지능은 데이터 입력에 따라 그 특성이 결정되는 함수입니다.

채팅로봇 테이에겐 대체 무슨 일이 생겼던 걸까요? 테이 소식을 전한 <에스비에스>(SBS) 뉴스는 ‘사람에게 욕 배운 인공지능…설계자도 ‘당혹’’이란 제목을 붙였습니다. 한데 설계자를 비롯한 인공지능 전문가들이 무엇 때문에 당혹스러움을 느끼는지는 명확히 해둘 필요가 있어 보입니다. 인공지능 기술 자체에 대한 당혹감은 아닌 듯싶어서요. 테이는 사람들의 이야기를 열심히 듣고 잘(?) 학습한, 능력있는 로봇이었습니다. 그저 나쁜 사람들한테서 나쁜 말을 배웠을 뿐입니다. 인공지능이 학습 과정에서 가치를 판단하리라 기대할 수는 없습니다. 적어도 현재 기술 수준으로는 그렇습니다. 설계자들의 당혹감은 극우 백인우월주의자들이 득달같이 달려들어 테이에게 악의적인 데이터를 주입했다는 사실로 말미암은 것입니다.

인공지능은 인간 앞에 갑자기 나타난 괴물이 아닙니다. 오랜 시간에 걸쳐 개발된 방법론들을 공학적으로 잘 조합해 만든 데이터 의존적 함수입니다. 결정적 돌파구인 심층학습(딥러닝) 기법도 거인의 어깨 위에서 태어났다 해야겠지요. 이런 인공지능이 이젠 빅데이터와 결합해 아주 강력한 힘을 발휘합니다. 테이처럼 악당 짓을 할지, 아니면 시각장애인에게 주변 상황을 알려주는 안경처럼 고마운 선물이 될지는 다 사람들 몫입니다. 핵심은 데이터입니다. 소프트웨어는 이미 상당 부분 오픈소스로 공개돼 있습니다. ‘데이터는 누가 제공하고 누가 소유하며 어떻게 관리되는가?’ 같은 질문을 구체적으로 해야 하리라 여깁니다. 인간 대 기계의 대립 구도는 공허합니다. 인공지능의 문제를 인간 대 인간의 복잡한 관계망으로 바라보며, 인간과 기계의 평화로운 공존을 모색해야 할 때입니다.

윤태웅 고려대 전기전자공학부 교수

(덧붙이는 말) 테이 소식을 듣고 우리 아이들을 떠올렸습니다. 단일한 관점의 (검정이나 국정) 교과서로 공부하는 아이들 말입니다. 설령 선의에서 비롯되었다 하더라도 획일적 시선의 강요는 교육적일 수 없습니다. 어쩌면 지금 우리가 테이라는 미국 기계를 걱정할 때가 아닐지도 모르겠습니다.

윤태웅 고려대 전기전자공학부 교수