[책새벽 11,12회 - 발췌] 인포메이션. 8장
모임 정리
책새벽
작성자
neomay33
작성일
2022-11-20 17:14
조회
974
책새벽 - 인포메이션
제8장. 정보로의 전환 - 지성을 구축하는 기본 요소
<인포메이션> 제임스 글릭. 박래선, 김태훈 옮김. 2017. 동아시아. pp.317-362.
녹색아카데미에서는 매주 월요일 아침 6-7시에 온라인 책읽기 모임 '책새벽'을 합니다. 현재는 제임스 글릭의 <인포메이션>을 읽고 있습니다. 모임에서 읽은 내용 중 핵심적이라고 생각하는 부분을 챕터별로 발췌해서 옮기고 있습니다. 질문이나 토론거리, 함께 보면 좋을 자료들이 있으시면 부담없이 공유해주세요.
『인포메이션』 목차
프롤로그
제1장 말하는 북 ―코드가 아닌 코드
제2장 말의 지속성 ―마음에는 사전이 없다
제3장 두 개의 단어집 ―글의 불확실성, 철자의 비일관성
제4장 생각의 힘을 기어 장치에 ―보라, 황홀경에 빠진 산술가를!
제5장 지구의 신경계 ―몇 가닥 초라한 전선에서 무엇을 기대할 수 있겠는가?
제6장 새로운 전선, 새로운 논리 ―다른 어떤 것도 이보다 미지에 싸인 것은 없다
제7장 정보이론 ―내가 추구하는 것은 평범한 두뇌일 뿐입니다
제8장 정보로의 전환 ―지성을 구축하는 기본 요소
제9장 엔트로피와 그 도깨비들 ―섞인 것을 휘저어 나눌 수 없어요
제10장 생명의 고유 코드 ―유기체의 완전한 설명서는 이미 알에 적혀 있습니다
제11장 밈 풀 속으로 ―당신은 나의 두뇌를 감염시킨다
제12장 무작위성의 감각 ―죄악의 상태에 빠져
제13장 정보는 물리적이다 ―비트에서 존재로
제14장 홍수 이후 ―바벨의 거대한 앨범
제15장 매일 새로운 뉴스 ―그리고 비슷한 뉴스
에필로그 ―의미의 귀환
p.319. 대부분의 수학이론은 서서히 형태를 갖춘다. 하지만 섀넌의 정보이론은 ... 불쑥 튀어나왔다. 그럼에도 섀넌과 위버의 작은 책(『통신의 수학적 이론』)은 1949년 출간 당시 대중의 관심을 거의 끌지 못했다. ... 가장 이상한 서평은 ... MIT의 노버트 위너(Norbert Wiener)가 ... 1950년 9월 「피직스 투데이」(에 쓴 글).
.
노버트 위너는 섀넌이 ... "통신공학에 대한 자신의 시각을 집대성"했다고 평가했다. ... 위너는 섀넌의 근본적인 아이디어는 "정보량을 네거티브 엔트로피로 파악한 것" ... 자가 자신도 비슷한 시기에 같은 생각을 했다고 덧붙였다.
.
p.320-321. 마지막으로 위너는 또 다른 신간인 자신의 『인공두뇌학』(cybernetics)을 소개하는 문단으로 끝을 맺었다. ... 신조어이자 장차 유행어가 된 '인공두뇌학'은 이 명민하고 성마른 사상가 위너가 제안한 연구 분야이자 전적으로 그가 구상한 자칭 철학운동이었다. ... 위너에게 인공두뇌학은 통신과 제어 그리고 인간과 기계에 대한 연구를 통합하는 학문이었다.
.
p.322-323. 위너는 터프츠대학에서 수학을, 하버드 대학원에서 동물학을, 코넬 대학원에서 철학을 전공한 후 다시 하버드로 돌아왔다가 영국의 케임브리지로 건너가서 버트런드 러셀에게 직접 기호논리학과 『수학 원리』를 배웠다.
.
p.323. 미국으로 돌아온 위너는 버니바 부시가 교수가 된 1919년 MIT의 교수진에 합류. ... 전쟁이 임박하자 위너는 ... 대공포 제어장치를 은밀하게 연구하는 수학자 팀에 합류한다.
.
섀넌의 대공포 제어 연구가 잡음으로 둘러싸인 신호에 천착했다면 위너는 잡음에 매달렸다. ... 위너는 ... 브라운 운동처럼 잡음이 통계적으로 움직인다고 생각했다. 위너는 1920년대에 브라운 운동을 철저하게 수학적으로 다루는 연구를 진행했다. 위너의 관심을 끝 것은 바로 불연속성이었다.
.
이산적 카오스 ... 대공포 제어 프로젝트에 대해 위너와 그의 동료 줄리언 비글로는 120페이지짜리 전설적인 논문을 썼다. 기밀로 분류된 이 논문은 ... '노란색 재난'(Yellow Peril)으로 불렸다. 표지가 노란색 ... 논의가 난해했기 때문.
.
논문 제목은 「외삽법과 내삽법 그리고 정지된 시계열의 평활화」(Extrapolation, Interpolation, and Smoothing of Stationary Time Series)였다. 위너는 이 논문에서 잡음이 섞이고, 불확실하며, 손상된 데이터에서 미래를 예측할 수 있는 통계적 방법을 개발했다.
.
p.324. ... 위너는 야망이 컸다. 회고록을 보면 인공두뇌학을 "인간과 우주에 대한 인간의 지식 그리고 사회에 대한 새로운 해석"이라고 썼다. 섀넌이 자신을 수학자이자 공학자로 생각 ... 위너는 스스로를 최고의 철학자로 여겼고,
.
자신의 대공포 제어장치 연구에서 목적과 행동에 대한 철학적 교훈을 끌어냈다. 행동이라는 개념을 "환경과 관련한 개체의 모든 변화"로 영리하게 정의하면 동물뿐만 아니라 기계에도 적용할 수 있다.
.
p.324-325. 목표를 향한 행동은 목적성을 지니며, ... 이를테면 목표 추적 장치가 그렇다. "자동제어 장치...는 고유의 목적을 가지고 행동을 하는 기계 ..."
.
p.325. 위너는 ... 전기공학에서 "피드백"이라는 모호한 개념을 빌렸다. ... 피드백이 양성이면 통제하기가 아주 어렵다. ... 피드백이 음성이면 시스템을 평형상태로 이끌 수 있다. ... 위너의 친구인 비글로는 이렇게 강조했다. "이는 에너지나 길이 혹은 전압 같은 특정한 물리적 대상이 아니라 (어떻게든 전달되는) 정보일 뿐이다.
.
위너는 음성 피드백이 어디에나 있는 것이 틀림없다고 보았다. .... 위너는 특히 운동 기능이나 언어 기능을 손상시키는 신경장애...를 정보 피드백이 어긋난 매우 구체적인 사례(로 보았다). ... 공식을 동원한 위너의 분석은 구체적이었고 수학적이었다. ... 한편 피드백 제어 시스템은 공장의 조립라인에 영향을 미치기 시작했다. 기계적 시스템도 자신의 행동을 교정할 수 있기 때문.
.
p.326. 1948년 가을 미국과 프랑스에서 출간된 위너의 첫 저서 제목은 『사이버네틱스』였다. 부제는 '동물과 기계에서의 제어와 통신'이었다. ... 위너와 인공두뇌학은 때마침 대중의 인식 속으로 갑자기 들어온 현상(계산기)와 밀접한 관계가 있었다.
.
전쟁이 끝나면서 전자 계산 분야의 최우선 프로젝트들, 특히 ... 에니악(ENIAC)이 베일을 벗었다. 에니악은 진공관과 릴레이, 그리고 손으로 납땜한 24미터에 이르는 전선으로 구성된 30톤짜리 괴물이었다.
.
군사용 프로젝트에 쓰는 천공카드 기계를 납품하던 IMB도 하버드에서 마크 원(Mark I)이라는 거대한 계산기를 만들었다. 영국 ... 브레츨리 파크의 암호해독가들이 콜로서스(Colossus)라는 진공관 계산기 제작을 계획하고 있었다. 앨런 튜링은 맨체스터대학에서 다른 계산기 연구를 시작했다.
.
모두가 같은 질문을 던졌다. "기계가 생각할 수 있을까?
.
p.327. 난해하고 볼품없는 내용에도 불구하고 책이 크게 성공한 이유는 책이 기계가 아니라 인간에 다시 주목했기 때문이다. ... 위너는 컴퓨터 사용의 부상을 조명하기 보다 컴퓨터 사용이 인류에게 어떤 영향을 줄지에 더 관심. ... 아울러 ... 연산기계가 두뇌의 가치를 떨어뜨리지 않을까 우려.
.
p.327-328. 위너는 "계산기와 신경계"라는 장에서 인간과 기계를 나란히 설명. ... 부시의 미분해석기 같은 첫 번째 유형은 연속적 척도 위의 치수로 숫자를 나타냈다. 이 기계들은 아날로그 기계였다.
.
위너가 수치기계(numerical machine)라고 부른 다른 유형은 ... 숫자를 직접적으로 ... 정확하게 나타냈다. 원칙적으로 이 기계들은 ... 이진법을 활용. 고도의 계산을 하려면 일정한 형식의 논리가 필요했다. 그 형식은 무엇일까? 섀넌은 1937년에 쓴 석사논문에서 이 질문에 답했고, 위너도 같은 답을 내놓았다.
.
p.328. "그 형식은 '탁월한'논리대수 혹은 불대수(Boolean algebra)이다. 이 알고리즘은 이진산술처럼 '예'와 '아니요', 혹은 집합 내와 집합 외 사이의 이분법적 선택에 기반을 두고 있다.
.
위너는 두뇌 역시 적어도 일부는 논리적인 기계라고 주장. 컴퓨터가 릴레이를 활용한다면, 두뇌는 뉴런을 활용한다. ... 두뇌와 전자 컴퓨터 모두 논리 연산을 하는 데 많은 에너지를 들인다. 그리고 이 에너지는 ... "열의 형태로 소모되거나 발산"된다. 하지만 이는 ... 핵심에서 벗어난 것. "정보는 정보일 뿐, 물질이나 에너지가 아니다. 이 사실을 인정하지 않는 어떤 유물론도 오늘날 살아남지 못할 것이다."(위너)
.
◎ ◉ ◎
.
p.329. ... 신경생리학자 워런 매컬럭(Warren McCulloch. 1898-1969)은 ... 통신을 다루는 새로운 물리학이 탄생했으며, 형이상학은 결코 이전과 같지 않을 것이라고 말했다. "과학의 역사에서 처음으로 우리가 어떻게 아는지를 알게 되었고, 이를 명확하게 기술할 수 있게 되었습니다."(매컬럭) 매컬럭은 인식아(我)는 계산기라는 이론을 제시했다. 이 기계는 다른 릴레이로부터 신호를 받아서 전달하는 수백억 개의 릴레이로 구성된 두뇌이다.
.
p.330. 전쟁이 끝나자마자 매컬럭은 ... 일련의 학회를 조직하기 시작했다. 자금은 19세기 낸터킷 포경선 상속인들이 기부한 조사이어 메이시 주니어 재단의 후원을 받았다. ... 매컬럭은 수학과 전기공학을 비롯해 이 모든 분야의 전문가들을 초청했다.
.
첫 학회는 '생물학적 사회적 시스템의 순환적 인과관계와 피드백 메커니즘 학회'라는 거추장스러운 이름으로 시작했으나, 위너의 명성 덕을 이들도 누린지라 이후 위너에 대한 경의의 표시로 '인공두뇌학회'로 바꾸었다.
.
1950년 3월 22일과 23일, 학회는 대외적 관심 속에서 열렸다. ... 시카고 의대의 신경과학자인 랠프 제라드는 ... 통신공학의 새로운 사고방식이 자신의 분야에 지대한 영향을 준 게 사실이라고 말했다. 신경충동(nerve impulse)을 그저 "물리화학적 사건"이 아니라 신호 혹은 기호로 생각하는 데 기여했다는 말이었다.
.
p.331-332. 이는 또한 위함한 일이기도 했다. "... 이 기계들이 두뇌이고 우리의 두뇌는 계산하는 기계일 뿐이라는 대중매체의 표현은 주제넘은 것입니다. ..."(제라드)
.
제라드는 두뇌, 즉 수상돌기가 가지처럼 뻗은 신비한 뉴런의 구조와 화학적 수프 안에서 활발하게 움직이는 복잡한 상호연결을 아날로그 혹은 디지털로 제대로 설명할 수 있는지를 논의하는 데 목적이 있었다.
.
p.332-333. 당시 폰 노이만은 자신이 사실상 불완전한 정보에 대한 수학이라고 본 "게임이론"을 만들고 있었다. 또한 새로운 전자 컴퓨터의 구조를 설계하는 일도 주도하고 있었다. .... 폰 노이만은 두뇌 안에서 이뤄지는 "이러한 이산적 행위들은 실제로는 연속적 프로세스를 배경으로 모방된 것"이라고 말했다.
.
p.333. 매컬럭은 「두뇌라 불리는 디지털 컴퓨터에 대하여」라는 새 논문에서 이 내용을 깔끔하게 정리 ... 다음 발표자는 하버드 ... 심리음향 연구소(Psycho-Acoustic Laboratory)의 음성 및 음향전문가 J. C. R. 릭라이더였다. ... 릭은 말을 정량화하는 연구를 하고 있었다. 25달러짜리 진공관, 저항기, 콘덴서를 사다가 집에서 "플립플롭 회로"를 만든 릭은 말의 파장을 이 회로로 재생할 수 있는 최소량으로 줄이는 연구를 했다.
.
p.334. 릭라이더는 ... 나중에 상업 라디오에서 쓰는 특정한 대역폭(5,000사이클)과 신호 대 잡음비(33데시벨)가 주어졌을 때 전송할 수 있는 정보량에 대한 추정치를 제시했다. (초당 10만 비트)
.
p.334-335. 마거릿 미드는 다른 문제를 제기했다. 미드는 의미가 음소 그리고 사전적 정의와는 완전히 별개로 존재할 수 있음을 잊지 않기 바란다고 지적. "... 누군가 화가 났다는 사실을 알리려 하는데, 본디 똑같은 단어들을 전달하는 메시지에서 얼마나 왜곡을 해야 분노를 제거할 수 있을까요?"(미드)
.
◎ ◉ ◎
.
p.335. 섀넌이 발표에 나선 건 그날 저녁이었다(1950년 인공두뇌학회). 섀넌은 의미에는 신경쓰지 말 것을 주문하고는 발표주제가 영어 문어의 잉여성이지만 '의미'에 전혀 관심을 두지 않을 것이라고 밝혔다. 정보는 한 지점에서 다른 지점으로 전송되는 어떤 것이라고 이야기했다.
.
중요한 점은 섀넌이 정보의 원천을 다양한 확률로 메시지를 생성하는 통계적 과정으로 나타낸다는 것이었다. ... 섀넌은 영어가 잉여성과 연관된 양인 특정한 '엔트로피'를 가지며, 이 실험들을 통해 그 수치를 계산할 수 있다고 말했다.
.
위너는 특히 자신의 "예측이론"을 생각했다. ... 섀넌과 위너는 강조점이 달랐다. 위너에게 엔트로피는 무질서의 척도인 반면 섀넌에게는 불확실성의 척도였다. ... 기본적으로 무질서와 불확실성은 같은 것.
.
p.336. 빈 출신의 젊은 물리학자이자 비트겐슈타인의 초기 제자 중 한 명인 하인츠 폰 푀르스터(Heinz von Förster. 1911-2002)는 언어가 진화함에 따라, 특히 구술 문화에서 기록문화로 바뀌는 과정에서 언어에 내재된 잉여성의 정도가 어떻게 변화하는지 궁금해했다.
.
p.337. "그들(마거릿 미드 등 다른 학자들)이 정보이론이라고 부르는 것 전부를 '신호'이론으로 부르고 싶습니다. ... '삑삑'거리는 신호음...을 다른 신호로 바꾸는 순간 우리의 뇌는 이해를 하고, '그제야' 정보가 탄생합니다. 정보는 신호음 속에 있지 않습니다."(폰 푀르스터)
.
◎ ◉ ◎
.
p.338-339. 이듬해(1951) 섀넌은 로봇을 가지고 돌아왔다. ... 미로를 탈출할 줄 알았던 ... 로봇은 섀넌의 생쥐(Theseus)로 불렸다. 섀넌은 상판 위에 가로세로로 각각 다섯 칸으로 구획된 미로를 내놓았다. ... 미로를 돌아다니는 것은 하나는 동서로 또 하나는 남북으로 움직이는 한쌍의 작은 모터로 구동되는 탐지기였다. 상판 밑에는 약 75개의 전자식 릴레이가 연결되어 점멸을 통해 로봇의 "기억"을 만들었다.
.
[그림 1] 새넌과 그의 전기역학적 생쥐 테세우스. (출처 : wikipedia)
.
p.339-340. 목표를 탐색하고 도달하기 위해 기계는 방문한 각 칸에 대한 하나의 정보(마지막에 칸을 떠났던 방향)를 저장해야 했다. 거기에는 동, 서, 남, 북이라는 네 가지 가능성만 있었다. ... 각칸에 대한 기억을 저장하기 위해 두 개의 릴레이가 할당 ... 두 개의 릴레이는 끔-끔, 끔-켬, 켬-끔, 켬-켬이라는 네 개의 가능한 상태를 갖기 때문에 네 가지 대안을 두고 선택하는 데 충분한 2비트의 정보를 뜻했다.
.
p.341-342. 섀넌의 생쥐는 생명체를 흉내 내는 자동 장치 ... 생쥐는 전체 메모리가 75비트에 불과했다. 그럼에도 섀넌은 그 기계가 시행착오를 통해 문제를 풀었고, 해답을 가지고 있다가 실수 없이 반복했고, 추가 경험으로 얻은 새로운 정보를 통합했으며, 환경이 바뀌면 해답을 "잊었다"라고 설득력 있게 주장할 수 있었다.
.
섀넌의 기계는 ... 두뇌가 했던 기능들을 수행했던 것이다. ... "사실 생쥐가 아니라 미로가 기억하는 것입니다."(데니스 가보르) ... 사실상 릴레이가 미로의 지적 모델이자 미로의 '이론'이었다.
.
p.342. 1949년 영국의 새로운 핵심 과학자들은 정보이론과 인공두뇌학에 대응해 뭉치기 시작했다. 대부분이 젊은 데다 암호해독, 레이더, 대공포제어를 새롭게 경험한 사람들 ...
.
p.342-343. 뇌파전위 기록술의 선구자인 존 베이츠(John Bates)는 "회원제로 운영되는 만찬 후 대화를 나누는" 모임을 제안했다. ... 블룸스버리에 있는 국립신경질환병원 지하실에서 처음 만난 이들은 모임(의 이름은) 레이쇼 클럽(Ratio Club).
.
p.343. 이들은 그저 두뇌를 이해하는 방법뿐만 아니라 두뇌를 "설계"하는 방법에 대해서도 논의했다. ... 정신의학자인 로스 애시비(Ross Ashby)는 ... 자기 조직적인 역학계로서의 정신을 연구. 다른 회원들은 패턴 인식, 신경계의 잡음, 로봇 체스, 기계적 자각의 기능성에 대해 논의하고자 했다.
.
p.343. "두뇌를, 신호에 의해 촉발되며 다른 신호를 내보내는 전신 릴레이라고 생각해보십시오. ... 두뇌에서 일어나는 분자 수준의 사건에서 이 신호들은 원자입니다. 각 신호는 가거나 가지 않습니다."(매컬럭) 근본 단위는 하나의 선택, 선택은 양자 택일. "이는 참이나 거짓일 수 있는 최소 사건..."
.
또한 이들은 앨런 튜링을 끌어들이는 데 성공한다. 튜링은 선언문에서 "'기계가 생각할 수 있는가?'라는 문제를 검토할 것을 제안..." ... 하지만 '기계'와 '생각하다'라는 개념을 정의하려는 시도조차 하지 않고 두루뭉술하게 넘어간다.(튜링실험; 모방게임 실험)
.
p.343-344. 처음에 모방게임은 남자와 여자 그리고 심문자 이 세 사람이 등장하는 방식이었다. ... 하지만 이 질문이 남자와 여자가 아니라 인간과 기계를 구별하는 것이라면 어떻게 될까?
.
[그림 2] 튜링실험(Turing test) "표준 해석"(the stantard interpretation). 심문자 C가 A와 B 중 어느 쪽이 사람이고 어느쪽이 컴퓨터인지 알아내는 실험. 심문자는 질문지에 대한 A와 B의 반응만을 사용해야 한다. (출처 : wikipedia)
.
p.344-345. ... (튜링은) 자신이 염두에 두고 있는 기계가 어떤 기계인지를 설명 ... "요새 '생각하는 기계'에 관심이 높아졌는데, 이런 관심은 흔히 '전자 컴퓨터' 혹은 '디지털 컴퓨터'로 불리는 특정한 종류의 기계에 의해 촉발..."
.
p.345. 디지털 컴퓨터는 인간의 기억 혹은 종이에 해당한 "정보 저장소, 개별 동작을 수행하는 "실행부", 지시문의 목록을 관리하고 올바른 순서로 실행하는 "제어부", 이 세 가지 요소로 구성됐다. 지시문은 숫자로 인코딩됐다. 튜링은 때로 이 지시문은 "프로그램"으로, 지시문의 목록을 작성하는 일을 "프로그래밍으로 불린다고 설명.
.
p.345-346. "배비지의 기계는 전기와 관련이 없고, 모든 디지털 컴퓨터 역시 어떤 의미에서 동일하기 때문에 전기의 사용이 이론적으로 중요한 것은 아니라고 봅니다. ... 따라서 전기를 쓴다는 특징은 피상적인 유사성에 불과..."(튜링)
.
p.346. 튜링의 유명한 컴퓨터는 논리, 말하자면 가상의 테이프와 임의적 기호로 만들어진 기계였다. ... 튜링은 향후 50년 동안 일어날 변화에 대해 몇 가지 예언을 내놓는다.
.
p.346-347. "'기계가 생각할 수 있는가?'라는 애초의 질문은 논의할 가치가 없을 정도로 너무 무의미하다고 생각합니다. 그럼에도 20세기 말이 되면 ... 상황이 상당히 변화하게 되어 누구라도 쉽게 생각하는 기계에 대해 말할 수 있을 것이라고 믿습니다."(튜링)
.
p.347. 섀넌은 튜링을 옹호했다. ... "기계가 생각한다는 발상은 결코 우리 모두가 꺼림칙해할 것이 아닙니다. 사실 저는 인간의 두뇌 자체가 무생물로 그 기능을 재현할 수 있는 일종의 기계라는 역발상이 상당히 매력적이라고 생각합니다."
.
p.347-348. 컴퓨터공학자들은 컴퓨터가 어떤 일을 할 수 있는지 알고자 했다. 심리학자들의 관심은 과연 두뇌가 컴퓨터인지 아닌지였다. ... 20세기 중반 ... 당시 심리학은 정체되어 있었다. ... 심리학은 항상 정확하게 무엇을 연구하는지 이야기하기가 가장 어려운 학문이었다.
.
p.348. 문제를 더욱 복잡하게 만든 것은 ... 심리학에서는 관찰자와 관찰 대상이 얽힌다는 점이었다. ... 마음을 연구하는 학자들은 마음 연구에 엄밀함과 검증 가능성을, 그리고 어떠면 수학적으로 만들기 위해 20세기 초 완전히 방향을 바꾸었다. 프로이트의 길은 그 중 하나에 불과했다.
.
p.349. 미국에서는 윌리엄 제임스(William James)가 거의 혼자서 심리학 분야를 구축한 다음 두 손을 들어버렸다.(『심리학 원론』; Principles of Psychology)
.
러시아에서는 ... 생리학자 이반 페트로비치 파블로프(Ivan Petrovich Pavlov)와 함께 새로운 성격의 심리학이 시작 ... 파블로프는 '심리학'이라는 단어 자체를 ... 경멸했다. ... 마음은 없고 오직 행동만이 있을 뿐이었다. ... 제임스가 중심 주제로 삼은 "생각의 흐름", "자신에 대한 의식", 시간과 공간에 대한 인식, 상상, 추론, 의지는 파블로프의 연구 대상이 아니었다.
.
p.349-350. 행동주의자들, 특히 미국의 존 왓슨(John B. Watson), ... B. F. 스키너는 음식, 종, 전기 충격, 타액 분비, 레버 누르기, 미로 달리기 같은 자극과 반응을 기반으로 하나의 학문을 만들었다. ... 자극과 반응 사이에는 ... 근본적으로는 접근이 불가능한 블랙박스가 놓여 있었다.
.
p.350. 행동주의자들의 순수성은 도그마가 되었다. 심리 상태를 거들떠보지 않았던 이들의 태도는 스스로를 우리에 가두었다. 심리학자들은 여전히 마음이 무엇인지 알고 싶었다.
.
행동주의자들에게 길을 터준 것은 정보이론. ... 공학자들이 전자식 릴레이 몇 개를 가지고 생쥐의 사고 모형을 구축하고 있었다. 그저 블랙박스를 연 것이 아니라 나름의 블랙박스를 만들고 있었던 것. ... 외부 세계에 반응하는 내면의 모델이 만들어지고 업데이트 되었던 것이다.
.
p.350-351. 심리학자들은 이 점에 주목. 정보이론과 인공두뇌학에서 심리학자들은 유용한 메타포, 심지어 생산적인 개념적 틀을 받아들였다. ... 갑자기 심리학자들이 계획, 알고리즘, 통사규칙을 거리낌없이 이야기했다.
.
p.351. 섀넌은 이렇게 선언한 바 있었다. "통신의 근본 문제는 한 지점에서 선택된 메시지를 다른 지점에 ... 재현하는 데 있다." 심리학자들은 당연히 메시지의 원천이 외부세계에 있고 수신자가 마음속에 있는 경우를 생각했다. ... "정보의 속성과 측정에 대한 새로운 개념으로 인해 귀의 정보 능력을 정량적으로 나타낼 수 있게 되었다."(호머 제이콥슨)
.
p.351-352. 연구자들은 숫자나 글자 혹은 단어 같은 항목들의 총체가 얼마나 많은 정보를 담고, 얼마나 많이 이해되며 기억되는지 연구하기 시작 ... 말, 경적, 단추 누르기, 발 두드리기로 구성된 표준적인 실험은 자극과 반응이 아니라 정보의 전달과 수용 측면에서 지행되었다.
.
p.352. 영국의 실험심리학자 도널드 브로드벤트(Donald Broadbent)가 케임브리지대학에 응용심리학 과정을 개설하자, 사람들이 어떻게 정보를 다루는지를 전반적으로 분석하는 연구가 여기저기서 쏟아졌다. 단기기억, 장기기억, 패턴 인식, 문제 해결 같은 연구 ...
.
p.352. (미국의) 조지 밀러(George Miller)는 ... 1960년 하버드대학에 인지연구센터를 세우는 데 일조 ... 이미 1956년 「마법의 수 7, ±2: 정보처리 용량의 어떤 한계」라는 다소 이상한 제목의 논문을 발표해 유명세를 타고 있었다.
.
p.353-354. 비트에 대한 밀러의 이야기를 들어보자
"1비트는 두 개의 동일한 확률을 가진 대안 사이의 선택에 필요한 정보의 양이다. ... 확률이 반반이라면 1비트의 정보가 필요하다. ... 정보 2비트가 있으면 네 개의 동일한 확률을 가진 대안을 두고 선택할 수 있다. 3비트는 여덟 개의 동일한 확률을 가진 대안에서 선택 .... 따라서 일반적인 원칙은 단순하다. 대안의 수가 2배로 늘어날 때마다 1비트의 정보가 추가된다."
.
p.354. 사람들은 정보를 점점 더 큰 단위로 묶는 행위, 이를테면 전신의 점과 선을 글자로, 글자를 단어로, 단어를 문구로 구성 ... 이를 정보이론가들은 재코드화(recoding)라고 한다. ... "... 사고 과정의 생명줄은 바로 이 재코드화 ..."(밀러)
.
"정보이론의 개념과 척도는 이런 의문들을 정량적으로 이해하는 방법을 제공했다. ... 정보이론의 개념은 이미 차이를 식별하는 능력과 언어에 대한 연구에서 가치를 증명했고, 학습과 기억에 대한 연구에 큰 도움을 줄 것으로 전망되며, 심지어 개념 형성에 대한 연구에도 유용할 것으로 평가됐다. ..."(밀러) 이는 심리학에서 인지혁명(Cognitive Revolution)이라 불리는 운동의 출발점으로서 심리학, 컴퓨터공학, 철학을 통합하는 인지과학이라는 학문의 토대를 놓았다.
.
◎ ◉ ◎
.
p.355. 섀넌은 (대중 강연에서) 농담하듯 '마태복음' 5장 37절을 인용해 기본적인 개념을 설명했다. "너희는 말할 때에 '예'할 것은 '예'하고 '아니요'할 것은 '아니요'라고 하여라. 그 이상의 것은 악에서 나오는 것이다." 이 말은 비트와 잉여적 인코딩 개념의 본보기 ...
.
p.355-356. ... 너도나도 정보이론의 유행에 편승 ... 섀넌 자신도 이를 유행이라고 불렀다. "... 우리로서는 이런 인기의 물결이 분명 기쁘고 흥분되는 것이기는 하지만, 그와 함께 위험 요소도 따라온다."(섀넌) 섀넌은 정보이론의 핵심은 수학에서 나온 것이라는 점을 상기시켰다. ... 모든 곳에 쉽게 적용할 수 있는 것은 아니라는 말이었다.
.
"정보이론을 적용하는 것은 단어들을 새로운 영역으로 옮기는 사소한 문제가 아니라 가설과 실험을 통한 검증을 거치는 느리고 지루한 과정이다."(섀넌) ... 섀넌은"우리(정보이론) 분야에서도 이런 힘든 과정이 시작조차 되지 않았다고 생각했다.
.
p.357. 섀넌의 핵심적 성과 중 하나인 잡음 부호화 정리(noisy coding theorem)는 오류정정을 통해 잡음과 데이터 손상에 효과적으로 대응할 수 있다는 사실을 보여줌으로써 갈수록 중요해졌다. ... 섀넌의 전망대로 1950년대 들어 오류정정 수단에 대한 연구가 만족할 만한 수준에 이르면서 잡음 부호화 이론이 필요해졌다.
.
p.357-358. 한 가지 적용 분야는 로켓과 인공위성을 이용한 우주 탐사였다. ... 또한 부호화 정리는 확률과정에 관심있는 수학자들이 엔트로피를 측정하는 수단이기도 했다.
.
p.358. 섀넌은 이미 1948년에 "물론, 그 자체로는 전혀 중요하지 않다"라고 말했던 문제를 다룬 첫 번째 논문을 썼다. 바로 체스 두는 기계를 프로그래밍 하는 방법이었다. 사람들은 18-19세기부터 체스 두는 기계를 만들었고, ... 1910년 스페인의 수학자이자 기계 제작자인 레오나르도 토레스 이 케베도(Leonardo Torres y Quevedo)는 완전히 기계적인 진짜 체스 기계(체스 기사를 만들었다.
.
.
p.358. 섀넌은 수치 계산을 하는 컴퓨터가 완벽히 체스를 둘 수 있음을 보여주었다. ...."수천 개의 진공관과 릴레이 그리고 기타 부품들"로 만들어진 이 기계는 "메모리"에 숫자를 저장하고 이 숫자를 영리하게 바꿔내 체스판의 칸과 말을 대신했다. 섀넌이 제시한 원칙들은 이후 모든 체스 프로그램에서 활용됐다.
.
p.359. 하지만 섀넌이 대충 계산해 내놓은 가능한 체스 게임의 수는 무려 10120가지 이상이었다. 이에 비하면 우주의 나이는 나노 초 정도 ... 섀넌이 이야기했듯 체스를 두려면 인간적인 방식으로 생각해야 한다.
.
섀넌은 ... 미국 챔피언, 에드워드 래스커(Edward Lasker)를 찾아갔고, 래스커는 개선점을 제안했다. 섀넌은 1950년 『사이언티픽 아메리칸』에 실은 논문 축약본을 통해 모두에게 이런 질문을 던졌다. "이런 종류의 체스 기계는 '생각하는' 것인가?"
.
p.360. (섀넌의 엉뚱한 상상들 : 로마숫자로 산술하는 기계, 홀수 짝수 맞히기 놀이 기계, 저글링의 과학적 측면, 스스로 수리하는 기계 ...) 이 모든 허무맹랑한 상상들에는 알고리즘 프로세스를 새로운 영역으로 확장한 것이라는 공통점이 있었다. 관념들을 수학적 대상과 추상적으로 연결한 것이다.
.
벨연구소는 섀넌이 .... 강연하고 때로 미로학습 기계를 선보이는 것을 환영했지만, 청중들 누구나가 좋아하는 것은 아니었다. '프랑켄슈타인'이라는 말도 들려왔다.
.
p.361-362. 정보이론가인 피터 일라이어스(Peter Elias. 1923-2001)는 분야간 경계를 넘어 대충대충, 안일하고 상투적인 연구가 쏟아지는 것을 미덥지 않게 보았다. ... 섀넌과 일라이어스의 이러한 경고는 갈수록 늘어나는 정보이론 전문잡지 중 하나에 등장했다.
.
p.362. 이쪽 계통에서 악명 높은 유행어는 '엔트로피'였다. ... "듣자하니 언어, 사회체제, 경제체제에도 '엔트로피'가 있고, ... 엔트로피는 사람들이 지푸라기처럼 움켜잡는 일종의 포괄적인 일반론입니다."(콜린 체리. Colin Cherry. 1914-1979) 체리는 정보이론이 이론물리학과 생명과학의 경로를 바꾸기 시작했으며, 엔트로피도 여기에 한몫하고 있다는 것은 말하지 않았다. 왜냐하면 아직 명확하지 않았기 때문.
.
정보이론은 사회과학을 촉진하여 이미 시작된 새로운 시대를 준비하게 했다. 일은 시작되었고, 정보로의 전환은 돌이킬 수 없었다.
.
(8장 끝.)
전체 340
번호 | 제목 | 작성자 | 작성일 | 추천 | 조회 |
48 |
[책꼽문] 책새벽-월. 『역사의 역사』 "제4장. 이븐 할둔, 최초의 인류사를 쓰다"(p.119-129)
neomay33
|
2024.05.12
|
추천 0
|
조회 83
|
neomay33 | 2024.05.12 | 0 | 83 |
47 |
[책꼽문] 책새벽-월. 『역사의 역사』 "제3장. 이븐 할둔, 최초의 인류사를 쓰다"(p.83-114) (1)
neomay33
|
2024.04.28
|
추천 0
|
조회 230
|
neomay33 | 2024.04.28 | 0 | 230 |
46 |
[책꼽문] 책새벽-월. 『역사의 역사』 "제2장.사마천이 그린 인간과 권력과 시대의 풍경화"
neomay33
|
2024.04.21
|
추천 0
|
조회 153
|
neomay33 | 2024.04.21 | 0 | 153 |
45 |
[책꼽문] 책새벽-월. 『역사의 역사』 서문, 제1장 (p.5-53) (1)
neomay33
|
2024.04.07
|
추천 0
|
조회 257
|
neomay33 | 2024.04.07 | 0 | 257 |
44 |
[책꼽문] 책새벽-월. 『선과 모터사이클 관리술』 31, 32장, 부록.
neomay33
|
2024.03.18
|
추천 0
|
조회 199
|
neomay33 | 2024.03.18 | 0 | 199 |
43 |
[책꼽문] 책새벽-월. 『선과 모터사이클 관리술』 30장 (p.681-711)
neomay33
|
2024.03.17
|
추천 0
|
조회 189
|
neomay33 | 2024.03.17 | 0 | 189 |
42 |
[책꼽문] 책새벽-월. 『선과 모터사이클 관리술』 29장. (p.628-675) (1)
neomay33
|
2024.02.25
|
추천 0
|
조회 305
|
neomay33 | 2024.02.25 | 0 | 305 |
41 |
[책꼽문] 책새벽-월. 『선과 모터사이클 관리술』 27장, 28장. (p.585-627) (1)
neomay33
|
2024.02.04
|
추천 0
|
조회 303
|
neomay33 | 2024.02.04 | 0 | 303 |
40 |
[책꼽문] 책새벽-월. 『선과 모터사이클 관리술』 26장. (p.532-575) (1)
neomay33
|
2024.01.21
|
추천 1
|
조회 400
|
neomay33 | 2024.01.21 | 1 | 400 |
39 |
[책꼽문] 책새벽-월. 선과 모터사이클 관리술. 25장 (p.513-531)
neomay33
|
2024.01.14
|
추천 1
|
조회 375
|
neomay33 | 2024.01.14 | 1 | 375 |
우와~~~후~~~~::
정리 하시느라 고생하셨겠어요.
정리 읽는데도 전 힘들었는데요~~~
어른어른 하게나마 머릿속에 정리되는 느낌적 느낌? 인공지능이란 용어의 등장~ 자극받은 심리학계의 발흥~ 행동주의, 인지과학...
섀년의 로봇마우스, 튜링의 남녀구분 테스트, 또생각하는 기계에 대한 연구... 하여간, 계산기계ㅡ통신ㅡ 컴퓨터 ㆍ로봇 구현을 위한 정보의 코드화 즉, 정보이론 ...
넘 어렵지만 이렇게 함께, 또 끌어주시니 힘내서 계속 가봐야죠. ㅎㅎ
감사합니다!!