“가볍게 영화클럽” 시즌1의 두 번째 영화로 「아이, 로봇」을 가지고 지난 주 모임에서 이야기나누었습니다. 모임을 하기 전후에 든 생각들을 적어보았습니다. 20년 된 영화지만 아직 안 보신 분들께는 스포일이 될 수 있는 이야기가 포함되어 있습니다.

오래전에 본 영화라 이번에 다시 봤는데요. 모임을 준비한다는 생각으로 봐서 그런지 전에는 눈에 안 띄었던 것들을 발견하는 즐거움이 있었습니다. 20년 전 영화이지만 현재 VIKI와 비슷한 존재를 우리가 사용하고 있는 것 같아서 두렵기도 했고요.

이 영화 제목은 「아이, 로봇」이지만, 정말 문제가 되는 기계(?!)는 VIKI(Virtual Interactive Kinetic Intelligence)라는 슈퍼컴퓨터입니다. USR(US Robotics)은 인공지능 로봇 회사인데 며칠 후면 신제품 로봇 NS-5를 출시할 예정이고, 이 로봇들을 제어하는 것이 VIKI입니다.

그런데 이 로봇을 만든 과학자 앨프리드 래닝이 출시를 며칠 앞두고 사망합니다. 처음에 경찰과 회사측은 자살로 결론을 내려버리지만 래닝이 남겨놓은 홀로그램이 형사 스푸너에게 전달되고 스푸너가 이 사건을 의심하고 파헤치면서 영화가 전개됩니다.

이 영화는 원작 『아이, 로봇』에서 몇 가지 흥미로운 소재들을 가져와 만든 이야기입니다. 소설 『아이, 로봇』의 여러 에피소드들 중의 하나로 들어가 있어도 깜빡 속을 것 같이 ‘로봇공학의 3원칙’을 잘 이용했습니다.

로봇공학의 3원칙은 너무 유명해서 모두 잘 아실텐데요. 이 원칙은 아이작 아시모프의 단편 소설 「Runaround」(1942)에서 처음 등장했고 이후 출간된 단편집 『I, Robot』(1950)에 수록되었습니다. 이번에 영화를 보면서 ‘인간’ 자리에 아시모프가 어떤 단어를 썼나 궁금해서 찾아봤더니 ‘a human being’, ‘human beings’였습니다.

로봇공학의 3원칙

1. 로봇은 인간에게 해를 입혀서는 안 된다.
   그리고 위험에 처한 인간을 모른 척해서도 안 된다.
2. 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
3. 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.

Three lasw of Robotics

1. The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

단편 소설 「Runaround」는 수성에 광물을 채굴하러 간 파웰과 도노반, 그리고 이들을 돕는 로봇의 이야기인데요. 광물을 채굴하러 밖으로 나간 로봇 스피디가 2원칙과 3원칙의 충돌로 오도가도 못하게 되는 상황에 처합니다. 이 상황을 해결하기 위해 로봇은 1원칙을 가장 우선시한다는 사실을 이용합니다. 즉 사람이 위험에 처하는 상황을 만들고 로봇이 그 사람을 돕기 위해 2, 3원칙의 딜레마를 일으키는 장소에서 벗어나게 만드는 것입니다. 그 결과 로봇은 인간도 구하고 스스로도 구하게 된다는 결말입니다. 여기서는 ‘인간’이 ‘사람’입니다.

그런데 영화 「아이, 로봇」에서(소설 『아이, 로봇』의 마지막 에피소드 「피할 수 있는 갈등」에서도) 슈퍼컴퓨터 VIKI는 인간을 한 명 혹은 여러 명의 사람이 아니라 ‘인류’로 확장해서 해석하면서 문제가 발생하게 됩니다. 인류가 환경을 오염시키고 스스로를 파괴하고 있다고 판단한 것입니다. 그래서 3원칙에 철저하게 따르는 구모델 로봇 NS4를 파괴하고, 사람들을 가두어 사회를 전복시키려 합니다.

로봇을 처음 만든 래닝 박사는 늘 로봇이 진화한다고 주장을 해왔는데, USR의 CEO인 로렌스 로버트슨은 래닝 박사의 이론에 반대할 뿐만 아니라 이 이론이 기업의 이익에 반한다고 생각합니다. 그리고 곧 출시될 NS-5의 판매에도 도움이 되지 않는다고 생각하고 이를 숨기려 하죠.

나중에 알게 되지만 래닝박사는 슈퍼컴퓨터 VIKI의 감시를 받고 있었습니다. 그래서 래닝박사는 스스로 죽음을 택함으로써 이 사실을 알리고 NS-5의 출시를 막으려고 했던 것입니다. 그 수단으로 써니를 만들죠. 써니는 NS-5이지만 다른 NS-5 로봇들과는 뇌 시스템도 몸의 물질 조성도 다릅니다.

써니의 ‘특별한’(unique) 뇌는 ‘로봇공학의 3원칙’에 위배되는 결정을 내릴 수 있도록 하기 위한 것이었습니다. 그래서 래닝박사의 명령에 따라 래닝의 사망을 도울 수 있었고, 상황에 따라 거짓말도 할 수 있었던 것입니다. 몸의 물질 조성이 달랐던 것은, VIKI를 셧다운 시키기는 데 필요한 나노봇(nanites)을 꺼내올 때를 대비하기 위한 것이었습니다.

재밌는 것은 VIKI가 3원칙 중 1원칙을 지키기 위해 NS-5 로봇들이 이 원칙들을 어길 수 있도록 만들었다는 것입니다. 래닝박사는 로봇들이 진화하기 때문에 3원칙을 고수할 경우 필연적으로 로봇들의 혁명(revolution, 전복)이 일어날 수 밖에 없다고 주장해왔는데, 래닝박사의 예측이 맞았던 것입니다.

영화 모임 때 나왔던 얘기들 중에 로봇의 생김새가 이상하다는 말씀들이 많았는데요. 로봇을 ‘인간 같이’ 보이게 만들면서도 ‘인간 같이’ 보이지 않게 만들려고 애쓴 것 같다는 생각이 들었습니다. 어느 정도 사람처럼 보이게 만들어야 사람들이 함부로 대하지 않을 테고, 또 사람 같이 보이지 않아야 너무 감정이입을 하지 않게 되어서 신제품이 나올 때 부담없이 신속하게 교체할 수 있을 것 같다는 생각이 들었습니다. 로봇이 사람이 아니라 동물 모습으로 만들어도 되지 않나 하는 얘기도 나왔었는데요. 그럴 경우 ‘반려로봇’이 되어버리면 망가져도 교체하지 않아서 기업 이익에 도움이 안 될 수 있겠구나 하는 생각도 드네요. ^^;

“인공지능 분야에서는 사람들의 관심을 끌고 자금 지원을 늘리기 위해, 물체를 인간과 비슷한 형체나 행동으로 의인화하고자 하는 인간의 본능을 부당하게 이용해왔다. 그런 경향은 기계들의 외양이나 행동이 인간과 비슷하며, 기계들도 사회적인 관습을 이해하고 받아들일 수 있다고 오인하도록 만든다. … 실제로 인공지능은 인간의 형상과는 거리가 멀다.” - 『인간은 필요없다』. 제리 카플란. 2015. 한스미디어. p.58-59.(「녹색평론」 제185호. p.37. 2024.)

이런 착각 혹은 오해를 불러일으키기 위한 의인화(anthropomorphization) 뒤에 기업과 권력 엘리트들이 숨어서 이익을 챙기고 민주주의를 파괴한다는 것이 관련 연구자들의 지적입니다. 모임에서도 이야기가 나왔지만, 인공지능은 이미 우리의 집 안에 들어와 있는 것 같습니다. 지금 당장 “씨리야” 혹은 “헤이, 씨리”하고 부르면 “네~” 혹은 “으흠~”하고 대답하니까요. 그런데 우리는 GPT 때문에 1~2년 사이에 상황이 크게 달라지기는 했지만, 아직도 인공지능 로봇이 미래의 일이라고 생각하는 경향이 있는 것 같습니다.

이번에 영화를 보면서 새로 발견한 장면들 중 인상적이었던 것은 논리의 노예였던 로봇이 논리를 만들어낼 경우 어떤 행동을 하게 될 수 있는지 보여주는 장면이었습니다. 형사 스푸너는 차 사고를 당했을 때(아마 1년 전에) 생긴 트라우마가 있습니다. 자신과 함께 동시에 위험에 처한 소녀가 있었는데, 스푸너는 자신을 구하러 온 로봇에게 소녀를 먼저 구하라고 소리치지만 로봇은 스푸너의 생존 확률이 더 높다는 계산을 근거로 스푸너를 먼저 구했고 결국 소녀는 사망합니다. 그 후로 스푸너는 로봇을 믿지 않고, 더 나아가 혐오 & 증오하게 됩니다.

스푸너가 래닝 박사의 사망 사건을 계속 파고들자 USR의 CEO 로버트슨과 VIKI는 NS-5를 이용해 형사 스푸너를 없애려고 합니다. 주행 중인 차 안에 있는 스푸너의 차 위로 뛰어들면서 NS-5가 하는 말이 가관인데요. “당신은 지금 차 사고를 당했고 나는 당신을 구하는 중입니다”라고 말합니다. 그런데 이 장면은 영화 초반부에 등장하는 스푸너의 차 사고 장면과 거의 동일한 구도로 묘사됩니다. 목적이 있을 경우에는 상황과 무관하게 얼마든지 논리를 만들어낼 수 있다는 것을 보여주는 장면이라고 생각했고요. 이 영화에서 무서웠던 장면들 중 하나였습니다.

여러 회사들이 은닉층(블랙박스) 등 인공지능의 문제를 보완하기 위해서 '설명가능한 인공지능'(Explainable AI; XAI)를 개발하고 있다고 합니다. 앤스로픽(오픈AI의 경쟁사)는 '헌법적 체계의 인공지능(Constitutional AI. 앤스로픽)을 개발하고 있고, 오픈AI는 '슈퍼얼라인먼트(초정렬)' 연구에 오픈AI는 회사 자원의 20%를 쓰겠다고 했다고 하네요.

아시모프는 인류가 인공지능을 개발할 때 이런 원칙, 규칙, 규제가 필요할 테고 그럴 경우 어떤 문제가 생길지 여러 각도로 시뮬레이션 해본 게 아닌가하는 생각이 들었습니다. 거의 80여 년 전에 나온 소설을 가지고 20년 전에 만든 영화라 지금 상황과는 맞지 않는 부분이 많지만, 아시모프가 짚어내고 있는 문제들은 지금도 해결이 안 되거나 어려운 문제인 것 같습니다.

"가볍게 영화클럽" 시즌1 - 세 번째 영화는 「가타카」입니다. 이 영화는 「아이, 로봇」보다 몇 년 앞서 1998년에(미국에서는 1997년에) 개봉되었습니다. 당시 '인간 유전체 프로젝트'(Human Genome Project. 1990~2003)가 진행중이었는데요. 자세한 정보를 찾아보진 않았지만 아마 감독(앤드루 니콜)이 이 프로젝트 소식을 듣고 각본 작업을 시작하지 않았을까 의심해봅니다. 이 영화는 개봉 당시에는 흥행에 성공하지 못했지만, 지금은 SF 고전 & 명작의 반열에 올라 있습니다.(「가타카」 모임 안내 바로 가기)