콘텐츠로 바로가기
메뉴
  • 환경
    • 환경 뉴스
    • 환경 칼럼
  • 에너지전환
    • 에너지전환 뉴스
    • 에너지전환 칼럼
  • 과학·학술
    • 과학·학술 뉴스
    • 과학·학술 칼럼
    • 지속가능성 개념어 사전
  • 장회익의 자연철학
    • 자연철학 이야기 대담
    • 책
    • 논문
    • 칼럼, 강의, 강연
  • 공부모임
    • 녹색문명공부모임
    • 새 자연철학 세미나
  • 게시판
    • 새 자연철학세미나 게시판
    • 녹색문명공부모임 게시판
    • 녹색 책/영화클럽 게시판
    • 뉴스레터
  • 일정
  • Log In
    • Register
  • 검색
  • 환경
    • 환경 뉴스
    • 환경 칼럼
  • 에너지전환
    • 에너지전환 뉴스
    • 에너지전환 칼럼
  • 과학·학술
    • 과학·학술 뉴스
    • 과학·학술 칼럼
    • 지속가능성 개념어 사전
  • 장회익의 자연철학
    • 자연철학 이야기 대담
    • 책
    • 논문
    • 칼럼, 강의, 강연
  • 공부모임
    • 녹색문명공부모임
    • 새 자연철학 세미나
  • 게시판
    • 새 자연철학세미나 게시판
    • 녹색문명공부모임 게시판
    • 녹색 책/영화클럽 게시판
    • 뉴스레터
  • 일정
  • Log In
    • Register

녹색아카데미

더 나은 앎으로 푸른 미래를 가꾸는 사람들의 공부모임

녹색 책/영화클럽

[모임 후기] 영화 「아이, 로봇」과 인공지능 ("가볍게 영화클럽" 시즌1 - 2회)

질문 및 토론
픽션
작성자
neomay33
작성일
2024-04-20 17:33
조회
766


220px-%EC%95%84%EC%9D%B4%EB%A1%9C%EB%B4%87_%ED%8F%AC%EC%8A%A4%ED%84%B0.jpg




“가볍게 영화클럽” 시즌1의 두 번째 영화로 「아이, 로봇」을 가지고 지난 주 모임에서 이야기나누었습니다. 모임을 하기 전후에 든 생각들을 적어보았습니다. 20년 된 영화지만 아직 안 보신 분들께는 스포일이 될 수 있는 이야기가 포함되어 있습니다.


오래전에 본 영화라 이번에 다시 봤는데요. 모임을 준비한다는 생각으로 봐서 그런지 전에는 눈에 안 띄었던 것들을 발견하는 즐거움이 있었습니다. 20년 전 영화이지만 현재 VIKI와 비슷한 존재를 우리가 사용하고 있는 것 같아서 두렵기도 했고요.


이 영화 제목은 「아이, 로봇」이지만, 정말 문제가 되는 기계(?!)는 VIKI(Virtual Interactive Kinetic Intelligence)라는 슈퍼컴퓨터입니다. USR(US Robotics)은 인공지능 로봇 회사인데 며칠 후면 신제품 로봇 NS-5를 출시할 예정이고, 이 로봇들을 제어하는 것이 VIKI입니다.


그런데 이 로봇을 만든 과학자 앨프리드 래닝이 출시를 며칠 앞두고 사망합니다. 처음에 경찰과 회사측은 자살로 결론을 내려버리지만 래닝이 남겨놓은 홀로그램이 형사 스푸너에게 전달되고 스푸너가 이 사건을 의심하고 파헤치면서 영화가 전개됩니다.


이 영화는 원작 『아이, 로봇』에서 몇 가지 흥미로운 소재들을 가져와 만든 이야기입니다. 소설 『아이, 로봇』의 여러 에피소드들 중의 하나로 들어가 있어도 깜빡 속을 것 같이 ‘로봇공학의 3원칙’을 잘 이용했습니다.


로봇공학의 3원칙은 너무 유명해서 모두 잘 아실텐데요. 이 원칙은 아이작 아시모프의 단편 소설 「Runaround」(1942)에서 처음 등장했고 이후 출간된 단편집 『I, Robot』(1950)에 수록되었습니다. 이번에 영화를 보면서 ‘인간’ 자리에 아시모프가 어떤 단어를 썼나 궁금해서 찾아봤더니 ‘a human being’, ‘human beings’였습니다.


로봇공학의 3원칙

  1. 로봇은 인간에게 해를 입혀서는 안 된다.
    그리고 위험에 처한 인간을 모른 척해서도 안 된다.
  2. 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
  3. 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.


Three lasw of Robotics

  1. The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm.
  2. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
  3. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.


단편 소설 「Runaround」는 수성에 광물을 채굴하러 간 파웰과 도노반, 그리고 이들을 돕는 로봇의 이야기인데요. 광물을 채굴하러 밖으로 나간 로봇 스피디가 2원칙과 3원칙의 충돌로 오도가도 못하게 되는 상황에 처합니다. 이 상황을 해결하기 위해 로봇은 1원칙을 가장 우선시한다는 사실을 이용합니다. 즉 사람이 위험에 처하는 상황을 만들고 로봇이 그 사람을 돕기 위해 2, 3원칙의 딜레마를 일으키는 장소에서 벗어나게 만드는 것입니다. 그 결과 로봇은 인간도 구하고 스스로도 구하게 된다는 결말입니다. 여기서는 ‘인간’이 ‘사람’입니다.


그런데 영화 「아이, 로봇」에서(소설 『아이, 로봇』의 마지막 에피소드 「피할 수 있는 갈등」에서도) 슈퍼컴퓨터 VIKI는 인간을 한 명 혹은 여러 명의 사람이 아니라 ‘인류’로 확장해서 해석하면서 문제가 발생하게 됩니다. 인류가 환경을 오염시키고 스스로를 파괴하고 있다고 판단한 것입니다. 그래서 3원칙에 철저하게 따르는 구모델 로봇 NS4를 파괴하고, 사람들을 가두어 사회를 전복시키려 합니다.


로봇을 처음 만든 래닝 박사는 늘 로봇이 진화한다고 주장을 해왔는데, USR의 CEO인 로렌스 로버트슨은 래닝 박사의 이론에 반대할 뿐만 아니라 이 이론이 기업의 이익에 반한다고 생각합니다. 그리고 곧 출시될 NS-5의 판매에도 도움이 되지 않는다고 생각하고 이를 숨기려 하죠.


나중에 알게 되지만 래닝박사는 슈퍼컴퓨터 VIKI의 감시를 받고 있었습니다. 그래서 래닝박사는 스스로 죽음을 택함으로써 이 사실을 알리고 NS-5의 출시를 막으려고 했던 것입니다. 그 수단으로 써니를 만들죠. 써니는 NS-5이지만 다른 NS-5 로봇들과는 뇌 시스템도 몸의 물질 조성도 다릅니다.


써니의 ‘특별한’(unique) 뇌는 ‘로봇공학의 3원칙’에 위배되는 결정을 내릴 수 있도록 하기 위한 것이었습니다. 그래서 래닝박사의 명령에 따라 래닝의 사망을 도울 수 있었고, 상황에 따라 거짓말도 할 수 있었던 것입니다. 몸의 물질 조성이 달랐던 것은, VIKI를 셧다운 시키기는 데 필요한 나노봇(nanites)을 꺼내올 때를 대비하기 위한 것이었습니다.


재밌는 것은 VIKI가 3원칙 중 1원칙을 지키기 위해 NS-5 로봇들이 이 원칙들을 어길 수 있도록 만들었다는 것입니다. 래닝박사는 로봇들이 진화하기 때문에 3원칙을 고수할 경우 필연적으로 로봇들의 혁명(revolution, 전복)이 일어날 수 밖에 없다고 주장해왔는데, 래닝박사의 예측이 맞았던 것입니다.


영화 모임 때 나왔던 얘기들 중에 로봇의 생김새가 이상하다는 말씀들이 많았는데요. 로봇을 ‘인간 같이’ 보이게 만들면서도 ‘인간 같이’ 보이지 않게 만들려고 애쓴 것 같다는 생각이 들었습니다. 어느 정도 사람처럼 보이게 만들어야 사람들이 함부로 대하지 않을 테고, 또 사람 같이 보이지 않아야 너무 감정이입을 하지 않게 되어서 신제품이 나올 때 부담없이 신속하게 교체할 수 있을 것 같다는 생각이 들었습니다. 로봇이 사람이 아니라 동물 모습으로 만들어도 되지 않나 하는 얘기도 나왔었는데요. 그럴 경우 ‘반려로봇’이 되어버리면 망가져도 교체하지 않아서 기업 이익에 도움이 안 될 수 있겠구나 하는 생각도 드네요. ^^;


“인공지능 분야에서는 사람들의 관심을 끌고 자금 지원을 늘리기 위해, 물체를 인간과 비슷한 형체나 행동으로 의인화하고자 하는 인간의 본능을 부당하게 이용해왔다. 그런 경향은 기계들의 외양이나 행동이 인간과 비슷하며, 기계들도 사회적인 관습을 이해하고 받아들일 수 있다고 오인하도록 만든다. … 실제로 인공지능은 인간의 형상과는 거리가 멀다.” - 『인간은 필요없다』. 제리 카플란. 2015. 한스미디어. p.58-59.(「녹색평론」 제185호. p.37. 2024.)


이런 착각 혹은 오해를 불러일으키기 위한 의인화(anthropomorphization) 뒤에 기업과 권력 엘리트들이 숨어서 이익을 챙기고 민주주의를 파괴한다는 것이 관련 연구자들의 지적입니다. 모임에서도 이야기가 나왔지만, 인공지능은 이미 우리의 집 안에 들어와 있는 것 같습니다. 지금 당장 “씨리야” 혹은 “헤이, 씨리”하고 부르면 “네~” 혹은 “으흠~”하고 대답하니까요. 그런데 우리는 GPT 때문에 1~2년 사이에 상황이 크게 달라지기는 했지만, 아직도 인공지능 로봇이 미래의 일이라고 생각하는 경향이 있는 것 같습니다.


이번에 영화를 보면서 새로 발견한 장면들 중 인상적이었던 것은 논리의 노예였던 로봇이 논리를 만들어낼 경우 어떤 행동을 하게 될 수 있는지 보여주는 장면이었습니다. 형사 스푸너는 차 사고를 당했을 때(아마 1년 전에) 생긴 트라우마가 있습니다. 자신과 함께 동시에 위험에 처한 소녀가 있었는데, 스푸너는 자신을 구하러 온 로봇에게 소녀를 먼저 구하라고 소리치지만 로봇은 스푸너의 생존 확률이 더 높다는 계산을 근거로 스푸너를 먼저 구했고 결국 소녀는 사망합니다. 그 후로 스푸너는 로봇을 믿지 않고, 더 나아가 혐오 & 증오하게 됩니다.


스푸너가 래닝 박사의 사망 사건을 계속 파고들자 USR의 CEO 로버트슨과 VIKI는 NS-5를 이용해 형사 스푸너를 없애려고 합니다. 주행 중인 차 안에 있는 스푸너의 차 위로 뛰어들면서 NS-5가 하는 말이 가관인데요. “당신은 지금 차 사고를 당했고 나는 당신을 구하는 중입니다”라고 말합니다. 그런데 이 장면은 영화 초반부에 등장하는 스푸너의 차 사고 장면과 거의 동일한 구도로 묘사됩니다. 목적이 있을 경우에는 상황과 무관하게 얼마든지 논리를 만들어낼 수 있다는 것을 보여주는 장면이라고 생각했고요. 이 영화에서 무서웠던 장면들 중 하나였습니다.

여러 회사들이 은닉층(블랙박스) 등 인공지능의 문제를 보완하기 위해서 '설명가능한 인공지능'(Explainable AI; XAI)를 개발하고 있다고 합니다. 앤스로픽(오픈AI의 경쟁사)는 '헌법적 체계의 인공지능(Constitutional AI. 앤스로픽)을 개발하고 있고, 오픈AI는 '슈퍼얼라인먼트(초정렬)' 연구에 오픈AI는 회사 자원의 20%를 쓰겠다고 했다고 하네요.

아시모프는 인류가 인공지능을 개발할 때 이런 원칙, 규칙, 규제가 필요할 테고 그럴 경우 어떤 문제가 생길지 여러 각도로 시뮬레이션 해본 게 아닌가하는 생각이 들었습니다. 거의 80여 년 전에 나온 소설을 가지고 20년 전에 만든 영화라 지금 상황과는 맞지 않는 부분이 많지만, 아시모프가 짚어내고 있는 문제들은 지금도 해결이 안 되거나 어려운 문제인 것 같습니다.


"가볍게 영화클럽" 시즌1 - 세 번째 영화는 「가타카」입니다. 이 영화는 「아이, 로봇」보다 몇 년 앞서 1998년에(미국에서는 1997년에) 개봉되었습니다. 당시 '인간 유전체 프로젝트'(Human Genome Project. 1990~2003)가 진행중이었는데요. 자세한 정보를 찾아보진 않았지만 아마 감독(앤드루 니콜)이 이 프로젝트 소식을 듣고 각본 작업을 시작하지 않았을까 의심해봅니다. 이 영화는 개봉 당시에는 흥행에 성공하지 못했지만, 지금은 SF 고전 & 명작의 반열에 올라 있습니다.(「가타카」 모임 안내 바로 가기)

전체 0

댓글을 남기려면 로그인하세요.
« [자료] 인공지능 관련 녹색평론 칼럼(185호) 발췌 요약
『가타카』 도입부의 인용구 »
목록보기
전체 22
  • 전체
  • 자료
  • 질문 및 토론
  • 모임 정리
  • 공지사항
  • 전체
  • 책
  • 영화
  • 모임
번호 제목 작성자 작성일 추천 조회
공지사항
"가볍게 영화클럽" 게시판 열었습니다 & 1회 공지
neomay33 | 2024.03.15 | 추천 0 | 조회 530
neomay33 2024.03.15 0 530
18
[모임 후기] 『웨이스트 타이드』(천추판, 2024) (1)
neomay33 | 2024.12.20 | 추천 0 | 조회 190
neomay33 2024.12.20 0 190
17
[공지] “가볍게 책/영화클럽” 2024년 시즌2 – 4회 『웨이스트 타이드』
neomay33 | 2024.12.13 | 추천 0 | 조회 173
neomay33 2024.12.13 0 173
[자료] 그림 <켄트호 화재> 장 앙투안 테오도르 드 귀댕. 1827./사올라(우제목 소과) (1)
neomay33 | 2024.12.17 | 추천 0 | 조회 224
neomay33 2024.12.17 0 224
16
[공지] “가볍게 책/영화클럽” 2024년 시즌2 – 3회 : 영화 「토탈 리콜」, 「아바타」
neomay33 | 2024.10.25 | 추천 0 | 조회 207
neomay33 2024.10.25 0 207
Re: 「토탈 리콜」 감독 파울 페르후번 특별전
neomay33 | 2024.10.25 | 추천 0 | 조회 188
neomay33 2024.10.25 0 188
15
[가벼운 후기] 『철도원 삼대』 - '가볍게 책/영화클럽 시즌2' 2회 (4)
neomay33 | 2024.10.25 | 추천 1 | 조회 196
neomay33 2024.10.25 1 196
14
[공지] 『철도원 삼대』 - '가볍게 책/영화클럽 2024년 시즌2' - 2회 (1)
neomay33 | 2024.10.15 | 추천 0 | 조회 233
neomay33 2024.10.15 0 233
Re: 『철도원 삼대』 - 등장인물, 줄거리 정리 링크 모음
neomay33 | 2024.10.22 | 추천 0 | 조회 273
neomay33 2024.10.22 0 273
13
영화 「예스터데이』 - 가벼운 줄거리 소개 (스포일 있음) (가볍게 책/영화클럽 2024-시즌2-1회) (1)
neomay33 | 2024.09.26 | 추천 0 | 조회 285
neomay33 2024.09.26 0 285
12
책, 영화 소개 - '가볍게 책/영화클럽 2024년 시즌2'
neomay33 | 2024.09.11 | 추천 1 | 조회 397
neomay33 2024.09.11 1 397
11
'가볍게 책/영화클럽' 2024년 시즌2, 시작합니다.(9월~12월)
neomay33 | 2024.09.11 | 추천 0 | 조회 197
neomay33 2024.09.11 0 197
10
1시즌 가벼운 참여 감상평 (1)
jjjjj | 2024.07.10 | 추천 2 | 조회 322
jjjjj 2024.07.10 2 322
9
'가볍게 영화클럽' 2004 시즌1 마쳤습니다. 시즌2는 9월부터!
neomay33 | 2024.06.24 | 추천 0 | 조회 219
neomay33 2024.06.24 0 219
  • 1
  • 2
  • »
  • 마지막
Powered by KBoard

게시판 글

최신글 내가 쓴 글
N [자료] 빛 입자 또는 빛에 대한 물리학적 논의
12:34
빛 입자에 대한 의문.. (4)
2025.05.12
겹실틈 실험, 양자역학 해석의 검증과 실험의 확인 (3)
2025.05.12
[자료]『양자역학을 어떻게 이해할까?』책과 세미나(2023년) 정리 노트 (1)
2025.05.10
브루노 라투르 "Facing Gaia" - 기포드 강연 보기 (1)
2025.05.10
로그인 해주세요.

게시판 댓글

최신댓글 내가 쓴 댓글
N <양자역학을 어떻게 이해할까?> 19쪽에 언급된 "추가적 관측을 겹실틈 바로 뒤에서가 아니라 식별 스크린 바로 앞에서 수행하는 실험"을 더 정교하게 할 수도 있겠지만, 제 의견에는 이미 기존의 겹실틈 실험 특히 위에 인용한 Bach et al. (2013)에서 어느 정도는 이미 한 셈이라고 생각합니다. 왜냐하면 실험의 에너지 규모를 조절하여 방출되는 전자가 하나씩 나올 수 있도록 한 것이라서, 스크린 바로 앞에서 전자의 위치를 관측한 것과 비슷한 효과가 있기 때문입니다. 아마 이 아이디어를 적용한다면, 실제로 스크린 바로 앞에서 아주 약하게 전자의 위치를 관측하는 실험을 해 볼 수 있을 것입니다. 첨부한 그림은 Bach et al. (2013) 실험의 보충자료에 있는 실험세팅입니다.
15:55
N "겹실틈 실험의 실제 실험과 올바른 해석"(https://bit.ly/3ZeRBNv)에 인용한 Bach et al. (2013)의 실험은 겹실틈을 만든 뒤 가림막을 만들어 이동시킵니다. 그렇게 함으로써 두 실틈에 대해 (1) 둘 다 닫힌 경우 (2) 첫 번째 실틈만 열린 경우 (3) 두 실틈 모두 열린 경우 (4) 두 번째 실틈만 열린 경우 (5) 다시 두 실틈 모두 닫힌 경우에 차례로 스크린에 찍히는 점들의 분포를 보여줍니다. Bach, R. et al. (2013) Controlled double-slit electron diffraction. https://iopscience.iop.org/article/10.1088/1367-2630/15/3/033018 "In 1965, Richard Feynman presented a thought experiment to show these features. Here we demonstrate the full realization of his famous thought experiment. By placing a movable mask in front of a double-slit to control the transmission through the individual slits, probability distributions for single- and double-slit arrangements were observed. Also, by recording single electron detection events diffracting through a double-slit, a diffraction pattern was built up from individual events." 리처드 파인만이 1965년에 이 이야기를 할 때만 해도 그냥 사고실험이었지만, 이제는 직접 실험해서 확인할 수 있는 시대가 되었습니다. 위에 인용한 실험도 발표된 지 벌써 12년이 지났습니다.
15:27
불편을 드려서 죄송해요. 최근 정비에 들어가서 짬짬이 홈페이지에 불필요한 파일들을 덜어내고 있어요. 여유를 좀 확보해서 편하게 이용하시도록 해볼께요. 참, 당분간 게시판 글에 첨부되었던 파일과 사진이 잘 보이지 않을 수 있습니다. 용량 확보 작업을 하면서 일부 파일들을 옮겨두어서 그런 건데요, 소실된 것 아니고 잠시 옮겨두어서 그런 거니 당분간의 의도된 에러라는 점 양해해주세요~.
2025.05.13
^^;; 꼭 필요한 문서는 첨부하셔야지요. 책 원문 파일은 용량이 커서 그렇게 말씀드렸어요. 링크를 달면 좋은데 그게 안 되는 경우도 있고 그러네요. 양해 부탁드려요. ㅎㅎ;;;
2025.05.12
전화, 라디오, TV 등에 사용되는 전자기파는 매질이 없어도 존재하는 파동입니다. 파동이 항상 '무엇인가'의 파동이어야 하는 것은 아닙니다. 여기에서 말하는 '무엇인가'를 파동의 매질이라 부릅니다. 매질이 없어도 파동이 존재할 수 있다는 것은 신기한 일입니다. 2015년에 처음 검출된 중력파도 매질 없이 존재하는 파동입니다. 빛의 파동도 매질 없이 존재합니다. 19세기에는 빛의 매질을 '에테르'라고 부르면서 당연한 것으로 여겼지만, 대략 1905년 아인슈타인의 논문 이후로는 빛의 매질로 여겨졌던 '에테르'는 존재하지 않는다는 것이 주류의 이론입니다.
2025.05.12
로그인 해주세요.

Upcoming Events

5월 16
6:00 오전 - 7:00 오전 KST

책새벽 – 화/금 : 『세계철학사 4 – 탈근대 사유의 지평들』 11회

5월 19
6:00 오전 - 7:00 오전 KST

책새벽 – 월. 시즌6 : 『침묵의 봄』 4회

5월 20
9:00 오후 - 10:00 오후 KST

책밤-화-과학 : 칼 포퍼 『추측과 논박 1』 – 15회

5월 20
10:30 오후 - 11:30 오후 KST

책밤-화-문학-시즌6 : 『잃어버린 시간을 찾아서 5 – 게르망트 쪽 1』 (22회)

5월 21
6:00 오전 - 7:00 오전 KST

책새벽 – 수 : 칼 세이건 『Cosmos』 – 19회

달력보기

카테고리

녹색아카데미 페이스북 공개그룹

녹색아카데미 페이스북 공개그룹

Copyright © 2025 녹색아카데미. All Rights Reserved.

Codilight 테마 제작자 FameThemes