"가볍게 영화클럽" 두 번째 영화 모임 합니다. 일시는 4/18 저녁 8:30부터이고, 영화는 『아이, 로봇』입니다.(참가는 링크를 참고해주세요.) 시즌1의 주제가 "인공지능+생명+인간"인데요. 마침 이번 봄에 나온 녹색평론 제185호(2024)에 인공지능 특집 글 5개가 실려 있습니다. 최신 상황을 알아보는 차원에서 초간단 발췌, 요약을 해보았습니다.

다섯 개 칼럼의 제목과 글쓴이는 다음과 같습니다. 여기서는 1~3번째 글만 정리했습니다.

1. 생성 인공지능 시대와 시민사회의 과제 (구본권)
2. 인공지능에 대한 물음에 대한 물음 (손화철)
3. 인공지능과 민주주의 (장정일)
4. 인공지능, 거대기술과 자립의 삶 (정형철)
5. 포스트휴먼 세계의 영성 (카비르 헬민스키)

1. “생성 인공지능 시대와 시민사회의 과제”

구본권

이 글은 인공지능 기술의 현재 상황과 규제 현황, 규제당국이 앞으로 유념해야 할 문제들, 위험한 기술을 사회가 어떻게 통제할 것인가 등을 다루고 있습니다.

우리가 많이 들어본 ‘오픈AI’는 미국의 비영리 인공지능 연구조직입니다. 2022년 11월 30일에 거대언어모델(LLM)을 기반으로 하는 생성형 인공지능 ‘챗GPT’를 공개했고, 2023년 3월 GPT4를 공개했습니다. GPT4에 대해 가장 우려하고 있는 부분은 ‘멀티모달’(다양한 모드) 기능과 ‘범용 인공지능(AGI)’ 기능입니다.

범용 인공지능은 사람과 유사한 지능으로, “다양한 형태의 정보를 통합적으로 인지하고 활용할 수 있는” 것이 특징입니다. 이세돌기사와의 경기로 우리가 잘 알고 있는 '알파고'는 단일한 형태(mode)의 정보를 인식, 처리하는 인공지능인데 반해, ‘범용 지능’은 사람처럼 시각, 청각, 촉각, 후각 등 다양한 감각을 동원해서 종합적인 이해, 추론하는 ‘멀티 모드’입니다.

현시점에서 시급한 과제는 “어떻게 생성 인공지능을 활용해 생산성과 효율성을 높일 것인가”라는  기술 활용 차원을 뛰어넘는데, “인간은 과연 강력한 인공지능을 통제할 수 있는가”라는 실존적 질문을 마주쳤기 때문입니다.

인간 뇌 신경의 구조를 모방한 인공지능 딥러닝은 연산과 처리 과정이 은닉층에서 이뤄지기 때문에 사람은 입력값에 대한 결과값은 얻지만 그 구조와 판단의 이유를 알 수 없어 ‘블랙박스’ 기술로 불립니다.

인공지능 규제 현황

각국 정부와 기업은 블랙박스적 기술에 대해 추론과 판단의 근거를 요구하는 ‘설명 가능한 인공지능(Explainable AI, XAI)’ 개발에 나서고 있습니다.

앤스로픽(오픈 AI의 경쟁사)은 헌법 아래 하위 법률이 존재하는 것처럼 모든 챗봇들이 헌법처럼 따라야 하는 ‘헌법적 체계의 인공지능(Constitutional AI)’ 개발을 진행 중입니다.

오픈AI는 강한 인공지능이 인간의 의도에서 벗어나지 않고 목표를 인간의 가치와 일치하도록 정렬시킨다는 의미의 ‘슈퍼얼라인먼트(초정렬)’ 연구에 회사 자원의 20%를 쓰겠다고 밝힌 바 있습니다.

유럽연합은 2023년 12월 세계 최초로 인공지능기술을 규제하기 위한 포괄적 법안(EU AI법) 도입에 합의했습니다. 법안은 인공지능기술을 위험성에 따라 4등급(허용 불가, 고위험, 투명성 필요, 최소 위험)으로 분류하고 규제를 차등 적용합니다. 유럽연합 집행위원회는 위반 기업에 최대 3,500만 유로(약 500억 원) 또는 연간 글로벌 매출액의 7%의 벌금을 물릴 계획이며, 이 법안은 유럽의회와 회원국의 최종 승인을 거쳐 2026년 발효될 예정입니다.

미국도 인공지능 규제에 착수했습니다. 2023년 10월 조 바이든 대통령이 행정명령 발표하고 포괄적인 인공지능 규칙과 가이드라인을 제시했습니다. 콘텐츠 라벨링, 워터마킹, 투명성 강조가 그 핵심입니다.

한국에서는 2024년 현재 입법 절차 진행 중입니다. ‘우선 허용, 사후 규제 원칙’을 방향으로 잡고 산업부처의 주도 아래 산업 진흥 수단 위주로 추진되고 있습니다. 위험기술로부터 이용자를 보호하는 것이 세계적인 추세인데, 우리나라의 경우는 세계적 입법 흐름과는 거리가 멀다고 할 수 있겠습니다.

미국 컨설팅기업 가트너에서는 인공지능 플랫폼에 대해 규제당국이 유념해야 할 문제로 다음 여섯 가지를 들었습니다.

(1) GPT 모델의 설명불가능성

(2) 부정확한 허구 답변(환각 현상)

(3) 기밀 데이터 침해

(4) 편향성

(5) 지적재산권, 저작권 위험

(6) 사이버, 사기 위험

위험한 기술을 사회가 통제하는 방법으로는 기술, 법과 제도, 이용자 주권 강화 같은 방법이 있습니다.

(1) 기술 : 예. 오픈AI의 ‘슈퍼얼라인먼트’, 앤스로픽의 ‘헌법적 체계의 인공지능’ 개발.

=> 이 방법은 창과 방패의 끝없는 경쟁으로 이어질 수 있다는 문제가 있습니다.

(2) 법과 제도 : 유럽연합의 개인정보보호규정(GDPR), 디지털시장법(DMA), 디지털서비스법(DSA), 인공지능법(AI법) 등 가이드라인과 처벌규정 … 

=> 이 방법은 우회로와 교묘한 방법 개발, 음성화 등을 부추길 수 있습니다..

(3) 이용자 주권 강화 : ‘인공지능 리터러시 교육’ 등 새로운 시민성(digital citizenship).

“대상이 물건일 때 사람들은 열정을 다해 업데이트하지만 대상이 지식이나 견해일 때는 기존 것을 고집하는 경향이 있다.” - 애덤 그랜트. 심리학자. 『싱크 어게인』.

“진짜 위험은 우리보다 똑똑한 기계가 운명의 선장 역할을 우리에게서 앗아갈지 모른다는 게 아니라, 생각하는 도구들의 이해력을 우리가 과대평가해 기계의 능력에서 한참 벗어난 문제까지 조급하게 기계에 권위를 넘겨줄 가능성이다.” - 대티얼 데닛. 철학자. 

2. 인공지능에 대한 물음에 대한 물음

손화철

이 글은 인공지능이라는 신기술에 대해 우리가 무엇을 논하고, 그 결과로 어떤 대안과 인식에 이르는지 점검해야 한다고 말합니다. 기술사회의 바닥에 깔린 전제들, 인공지능기술과 직간접적으로 연결된 요소들을 비판적으로 반추하는 작업이 필요하다는 것입니다. 그것이 낙관이든 비관이든.

이 글에서 지적하고 있는 문제들은 인공지능의 할루시네이션과 편향성, 기술 오용 문제의 기술의 정치, 경제의 양극화가 만들어내는 존재의 양극화, 일자리 소멸 문제, 인공지능이 사용하는(하게 될) 엄청난 전기 사용량 등입니다.

할루시네이션(hallucination) 현상은 챗GPT와 같은 대형언어모델(LLM)에서 실제로 존재하지 않는 정보를 제공하거나 엉뚱한 대답을 하는 경우를 말합니다.

편향성 문제는 인공지능이 학습 데이터의 편향을 반영한 결과를 산출하는 현상을 말합니다.

기술 오용과 정치의 문제는 가짜 뉴스나 딥페이크 기술 등을 통해 정치적으로 이용하는 경우를 말합니다. 그리고 개인의 자유를 침해하는 문제, 엄청난 확산 속도도 문제입니다. 중국의 경우에는 이미 CCTV와 안면 인식 기술로 인권침해가 일어나고 있어 지탄을 받고 있습니다.

이 기술로 혜택을 받는 것은 일반 대중 모두가 아니라 거대 대기업이나 강대국과 같이 일부일 뿐이라는 것도 우리가 간과하는 문제 중 하나입니다.

인공지능으로 인해 사라지는 일자리의 사례로 장거리 트럭운전사를 많이 드는데요. 이 경우는 운전사만의 문제가 아닙니다. 운전사 뿐만 아니라 운전사를 대상으로 장사를 하는 작은 마을들도 함께 사라질 수 밖에 없기 때문입니다.

양극화 문제는 경제적인 차원에만이 아니라 ‘존재의 양극화’라 불릴 수 있는 상황도 생길 수 있다고 저자는 말합니다. 인공지능을 만들고 운용, 관리할 수 있는 소수 vs 그런 능력이 없는 다수의 사람들로 인류가 구분되는 상황이 벌어질 수 있다는 것입니다.

인공지능이 사용하는 전기도 문제입니다. 2027년 인공지능이 연간 사용할 것으로 예상되는 전력량은 아르헨티나, 네덜란드, 스웨덴 같은 국가들이 각각 1년간 소비할 전력량과 비슷하다고 추정됩니다(뉴욕타임스). 마크롱 프랑스대통령은 원전을 늘려 인공지능이 쓸 에너지를 확보하겠다고 발표했습니다. 다보스 포럼에서 한 기업가는 “인공지능이 활성화되면 … 전기사용량이 2050년쯤엔 지금의 1,000배가 될 것”이라고 말하기도 했습니다.

‘사람 같은 인공지능’, 사람처럼 생각하고 느낄 수 있는 인공지능 같은 말들에서 ‘사람 같다’는 말의 의미가 정확히 무엇일까라고 저자는 글을 마무리하면서 묻습니다. 사실 인공지능은 전혀 사람 같지 않습니다.

인공지능이 자의식을 가지는가를 ‘사람 같다’의 표지로 보기도 하지만, 이는 우리가 알 수 없는 도약의 단계를 인정하는 것, 즉 ‘블랙박스 문제’와 연결되어 있습니다. 그런 자의식을 가진 인공지능이 인간을 어떻게 생각할 것인가, 이 문제는 다시 우리 자신이 인간을 어떻게 이해하고 어떤 인간을 추구하는가라는 질문으로 이어진다고 필자는 말합니다.

필자는 “모든 문제에는 해결책이 있고, 그 해결책은 언젠가 발견되며, 만약 해결책이 없다면 처음부터 문제도 없다”는 문제풀이식 현대 기술사회의 사고방식, 즉 ‘기술의 패러다임’을 우리가 벗어나기 위해서는 “나는 어떤 세상에서 살고 싶은가?”, “내가 생각하는 좋은 세상은 어떤 세상인가?”라는 물음을 던질 필요가 있다고 말합니다. 

(이런 물음을 던지고 이런 문제에 대해서 해결책을 찾는 것은 또 어떤 형태가 될지 잘 상상이 안 되지만, 이 문제를 계속 수면 위로 끌어올리고 이야기 하는 것도 한 가지 방법일 것 같습니다.)

3. 인공지능과 민주주의

장정일

이 글에서는 인공지능 기술이 민주주의를 어떻게 해칠 수 있는지, 현재 일반적으로 표현되는 인공지능의 모습은 어떤 것을 내포하고 있는지, 이런 문제들은 어떻게 해결할 수 있는지 논합니다.

인공지능 기술에서 나타나는 인간주의, 인간강화의 끝에는 무엇이 있는가? 인공지능 알파고가 인간 바둑 챔피언을 이긴 후 인간들은 인공지능과 인간의 차이를 찾기 시작했다고 합니다. 그것은 의식인가, 감정과 감성인가, 아니면 도덕성인가, 창의성인가. 이러한 인간주의적인 기준들은 추상적, 역사적이며, 동시에 인류의 역사를 생각해보면 인간주의는 오히려 배격해야할 가치일 수 있습니다.

기술철학자 마크 코켈버그 『인공지능은 왜 정치적일 수밖에 없는가』(생각이음. 2023. p.115-116)에서, “기술은 도덕적으로나 정치적으로 중립적이지 않고 그럴 수도 없다. 이는 전반적으로 모든 기술에 해당하며 인공지능과 데이터과학의 경우에도 마찬가지이다.”라고 했습니다.

민주주의는 자유, 자율, 숙의에 의해 유지되는데, 인공지능 알고리즘은 세 가지 모두 침해합니다. 2016년 미국 대선 캠페인에서 인공지능이 시민을 조종하는 데 이용되었을 것이라는 증거가 나오기도 했습니다.

인공지능기술은 인공지능에 대한 이질감을 줄이기 위해 우리로 하여금 인공지능을 제대로 보지 못하게 하는 오해의 구조를 만들어왔다고 합니다.

“인공지능 분야에서는 사람들의 관심을 끌고 자금 지원을 늘리기 위해, 물체를 인간과 비슷한 형체나 행동으로 의인화하고자 하는 인간의 본능을 부당하게 이용해왔다. 그런 경향은 기계들의 외양이나 행동이 인간과 비슷하며, 기계들도 사회적인 관습을 이해하고 받아들일 수 있다고 오인하도록 만든다. … 실제로 인공지능은 인간의 형상과는 거리가 멀다.” - 『인간은 필요없다』. 제리 카플란. 2015. 한스미디어. p.58-59.(「녹색평론」 제185호. p.37. 2024.)

여러 소설, 영화 등 매체를 통해 자주 등장하는 ‘인공지능’과 ‘디스토피아’ 이야기에는 인간이 스스로 만든 인공지능, 인조 인간에게 파멸당할지 모른다는 두려움이 포함되어 있습니다.(율리안 니다-뤼멜린, 나탈리에 바이덴펠트. 『디지털 휴머니즘 - 인공지능 시대의 윤리』. 부산대학교출판문화원. 2020.; 「녹색평론」 제185호. p.39.)

이러한 두려움을 ‘프랑켄슈타인 콤플렉스’라고 하는데, 이것은 디스토피아가 ‘인공지능 대 인간’의 전쟁이 아닐 것이라는 사실을 감추고 있습니다. 인공지능은 스스로 주체가 되는 것이 아니라, 기업과 권력 엘리트들이 사용하는 도구일 뿐이라는 것입니다.

디스토피아는 ‘인공지능 대 인간’의 전쟁이 벌어지는 미래의 일이 아니라, 거대 권력을 가진 거대기업이 인공지능을 이용해 시민(노동자)를 일터에서 몰아내고 민주주의를 파괴하고 있는 현재의 일이라는 것입니다.

인공지능이 인간 이상의 존재가 될 것이라는 ‘현대판 애니미즘’ 신앙의 문제점은 기술로 모든 문제를 해결하려고 드는 것입니다. 『인공지능은 왜 정치적일 수밖에 없는가』에서 마크 코켈버그는 이러한 현대판 애니미즘 신앙을 벗어던진 다음 우리 시민이 해야할 일은, 첫째, 인공지능과 관련된 모든 정책과 기술 개발에 시민이 발언권을 가져야 한다는 것, 둘째, 페이스북과 같은 플랫폼을 시민이 소유하는 것이라고 말합니다.

(이 두 가지 일이 너무 어려워보이네요. 어떻게 해낼 수 있는지에 대해서도 이 책에서 서술하고 있는지 궁금합니다.)