현재, 우리가 사는 세상은 전기로 모든 것이 연결돼서 움직여지고 있습니다
마치 우리 몸속에서 영양성분과 신호를 전달하는 혈관처럼, 현대의 기술 문명을 흐르게 하는 보이지 않는 통로라고 할 수 있을 것입니다
그런데 이 전기는 인간이 만들어낸 인위적인 에너지일까요
사실은 그렇지 않습니다
세상을 이루고 있는 모든 물질과 생명체는 본질적으로 전기적인 에너지로 생명력을 얻어 활동하고 있습니다
인류는 뇌도 전기적인 현상으로 움직인다는 것을 아는 순간부터 뇌의 원리를 모방하고자 하는 꿈을 꾸기 시작하였습니다 물로, 아주 많은 실패의 과정이 있었지만 결국에는 뉴런의 구조를 본떠서 인공신경망이라는 기술을 만들어내기에 이르렀습니다
이 글에서는 뇌가 전기적으로 작동하는 원리를 시작으로, 그 원리를 모방하여 인공신경망을 만들기까지의 과정을 따라가 보겠습니다
뇌는 어떻게 작동할까
먼저 인공지능의 모델이 된 뇌가 작동하는 원리에 대해서 알아보겠습니다
우리의 뇌는 수많은 뉴런들의 연결로 이루어져 있습니다 이 연결된 뉴런들의 활동으로 우리는 생각하고 느끼고, 움직일 수 있는 것입니다 그런데 우리의 뇌 속에는 이 뉴런이 약 900억 개 정도 들어있다고 합니다
뉴런의 크기가 어느 정도이길래, 도대체 조그마한 우리의 죄 속에 900억 개 정도나 들어있을까요
뉴런 하나의 크기는 약 10 마이크로미터 정도입니다 보통 A4용지 두께가 약 100 마이크로미터 정도되는데 뉴런은 이 보다 10배 정도로 얇으니 종이 한 겹의 두께의 10분의 1 정도일 것입니다
그런데 조금 엉뚱한 상상을 해보자면, 만약 뉴런의 크기가 A4용지의 두께만큼 되었다면 어떻게 되었을까요
아마 우리의 뇌는 잠실운동장 보다도 훨씬 더 거대한 크기가 되었을 것입니다
예전에 머리의 크기가 크면 머리가 좋다, 아니면 뒤통수가 튀어나오면 머리가 좋다는 속설이 있었는데, 우스갯소리로 혹시 그 머리의 크기가 뉴런 하나하나의 크기에 비례하는 것은 아닐까요?
그러나 사실, 뇌의 기능은 뉴런의 크기에 있는 것이 아니라, 연결에 있는 것입니다 잘 연결이 되어있으면 그만큼 정보의 전달이 긴밀하게 되어서 좋은 능력을 나타내는 것이지요
아무튼, 뉴런은 우리의 신체가 감당할 만한 뇌 크기에 맞추어서 아주 조밀하게 밀집되어서 정교한 신경망을 이루고 있습니다 그리고 서로 긴밀하게 정보를 주고받으며 우리가 활동할 수 있도록 해주고 있습니다
그런데 뉴런들은 어떻나 방식으로 서로 정보를 주고받는 것일까요
어떠한 동력이 뉴런들을 움직이게 하는 걸까요 바로 전기적인 신호입니다
우리는 전기라고 하면 배터리나 전선 등의 이미지를 떠올리지만 사실은 살아있는 모든 생명체는 전기적인 활동을 하고 있으며 그것은 생명력의 상징이라고도 할 수 있습니다
뉴런은 어떻게 전기를 만들어낼까
전기와는 전혀 상관이 없을 것 같은 뉴런(신경세포)이 인체에서 어떻게 전기적인 에너지를 만들어내는지를 알아보겠습니다
뉴런이라고 불리는 신경세포는 세포막이라는 얇은 막으로 둘러싸여 있습니다
이 막은 세포와 세포를 분리시켜 주는 칸막이와 같은 역할을 합니다
그리고 평상시에는 이 세포막의 안 쪽은 평상시에는 -성질을, 세포막의 외부는 +의 성질을 띠고 있습니다
조금 더 자세히 설명하자면, 세포막의 밖에는 -전하는 띤 염소이온과+성질을 띤 나트륨 이온이 있는데 나트륨 이온의 양이 더 많아서 양전하를 띠는 것이고, 세포막의 안 쪽은 단백질, 인산, 칼륨등의 이온이 있는데 +이온인 칼륨에 비해서 -성질을 띤 단백질과 인산 이온이 더 많아서 -성질을 띠는 것입니다
우리의 몸은 이러한 상태를 유지함으로써 전기적인 평형을 유지하고 있습니다
그런데 이러한 평형 상태가 깨질 때가 있는데 바로, 뉴런(신경세포)이 자극을 받을 때입니다
예를 들어서 갑자기 손에 뜨거운 것에 닿았을 때, 신경세포는 자극을 감지합니다
그리고 세포막은 이온들이 오고 갈 수 있는 통로를 엽니다 그런데 세포막의 통로는 무분별하게 열리는 것이 아니라, 처음 자극을 받았을 때는 +이온인 나트륨만 통과할 수 있는 통로가 열립니다
나트륨이 세포막을 통해 세포의 안 쪽으로 들어가면 세포의 내부는 +이온인 나트륨의 이동으로 -상태에서 +의 상태로 변합니다
곧이어, 세포막은 나트륨이 들어온 통로를 닫아버리고, 대신 세포 내부의 +이온인 칼륨이 나갈 수 있는 칼륨의 통로를 엽니다 그러면 칼륨이 세포 안에서 밖으로 나오므로 세포의 내부는 다시 -전하로 돌아갑니다
신경세포는 이러한 나트륨과 칼륨의 이동으로 평형상태를 유지합니다
그리고 +성질을 띤 나트륨, 칼륨의 이동으로 만들어진 전기 신호는 뉴런을 길게 연결하고 있는 축삭을 따라 빠르게 이동하고 또다시 축삭의 말단에서 전기신호를 화학신호(신경전달물질)로 바꾸어 옆의 뉴런으로 신호를 전달해 줍니다
우리의 생명활동은 뉴런의 이러한 전기-화학적인 신호 전달로 이루어지는 것입니다
그런데 인류는 어떻게 뉴런이 작동하는 원리를 알아내게 되었고, 더 나아가 인공적인 신경망까지도 모방할 수 있게 되었을까요
고대인의 뇌에 대한 인식의 역사
고대 이집트에서는 (기원전 3000~1000년 경) 미라를 만들 때 뇌는 버리고, 심장만을 보존했다고 합니다
왜냐하면 그들의 생각에 심장만이 지성과 감정을 느끼는 중심이고, 뇌는 아무런 역할도 하지 않는 있으나 마나 한 기관으로 생각되었기 때문입니다
접경 지역인 히브리, 바빌로니아 문화에서도 마음과 영혼은 주로 가슴(심장)에 있다고 생각했습니다
그러나 기원전 5세기 경에 접어들면서 점점 사고와 감정의 중심지는 심장이 아니라, 뇌라는 주장이 나타나기 시작하였습니다
기원전 500년 경, 파타고라스의 영향을 받았던 이탈리아의 철학자이자 의사였던 알크마이온은 동물을 해부하면서 뇌와 감각기관의 관계를 집중적으로 탐구한 사람이라고 합니다
그는 눈과 뇌가 어떻게 연결되어 있는지를 알아내기 위해서 동물의 눈을 빼내어 뇌와 연결되어 있는 것을 최초로 확인하기도 하였습니다
그리고 의사의 아버지라고 불리는 그리스의 히포크라테스(기원전 460~370)는 전쟁이나 부상으로 뇌에 손상을 입은 사람들의 인격과 감정등이 변하는 것을 보고 사고와 감정은 심장이 아니라 뇌와 관계가 있는 것이라고 주장하였습니다 그는 당시, 신의 저주라고 불리었던 간질병을 가리켜, 이것은 신의 저주가 아니라 뇌의 질환이라고 단언했을 정도로 그 시대의 흐름에 맞서는 주장을 하기도 하였습니다
또한 그리스의 의사였던 헤로필로스는 사체 해부를 허용받은 최초의 의사이기도 한데 그는 죄수들의 시체를 해부하여 척수로부터 뻗어 나온 신경계의 구조를 밝혀내어 정밀한 의학 지식을 남기기도 하였습니다
때때로 이렇게 뇌의 중요성에 대한 의미 있는 주장들이 나오기도 하였으나, 중세유럽은 철학과 종교가 중심이 된 사회였기 때문에 이들의 발견과 주장은 당시의 사고의 흐름에 묻힐 수밖에 없었고, 그 시대의 사람들은 여전히 사람의 생각과 사고, 감정은 심장에서 비롯된다고 믿었습니다
전기의 발달과 신경계
그러나 16세기에 들어오면서 해부학과 과학은 눈에 띄는 발전을 하였고 뇌와 신경계의 연결성이 점차 드러나면서 사람이 생각하고 느끼는 모든 것이 뇌로부터 시작된다고 인식하기 시작하였습니다
또한 당시 사람들은 신경계를 흐르는 것이 무엇인지에 대해서 많은 호기심을 가지고 있었는데, 대부분의 사람들은 그 미지의 에너지를 프뉴마와 같은 정신적인 공기일 것이라고 생각하였습니다
그러나 18세기에 접어들면서, 사람들은 전가라는 에너지의 본질을 알게 되었어고, 혹시 신경계를 흐르는 그 어떤 미지의 에너지는 전기가 아닐까 하는 추측을 가지게 됩니다
이렇게 뇌와 신경계의 큰 구조는 밝혀졌지만 여전히 뇌는 무엇으로 이루어져 있는지는 과학자들의 연구과제였습니다
그러던 중 1830년, 체코의 생리학자인 얀 에반젤리스타 푸르키녜(1787~1869)는 뇌를 관찰하기 위해서 현미경에 소뇌를 놀고 유심히 관찰하던 중, 아주 조그만 점(신경세포)들이 빽빽하게 모여있는 것을 보게 됩니다
그리고 그 점들이 아주 가느다란 실 같은 것들로 연결되어 있다는 것을 알게 되었고 그는 이 사실을 학계에 발표합니다
과학자들은 이 발표에 많은 관심을 가지고 신경세포들을 더 연구해보려 하였습니다
그러나 당시의 현미경 기술은 그 상태보다 더 세밀하게 세포를 관찰할 수 있는 수준이 안되어서 과학자들의 연구는 그 상태에서 더 나아갈 수 없었습니다
뉴런의 구조를 세밀히 보게 된 행운의 실수
그런데 정말 우연한 실수 하나로, 볼 수 없었던 신경세포의 구조를 자세히 관찰할 수 있는 기회를 얻게 됩니다
당시, 세포를 관찰하려면 꼭 염색을 해야 했습니다 왜냐하면 세포는 너무나 작고 또한 투명하기까지 해서 염색을 하지 않고서는 그 모양과 구조를 관찰할 수 없었기 때문입니다
이탈리아의 해부학자인 카밀로 골지는 1873년의 어느 날, 신경세포를 관찰하기 위해서 염색을 합니다
그러다가 질산은을 세포에 떨어뜨리는 실수를 하게 되었는데 질산은이 떨어지자 신경세포들이 까맣게 변하였습니다
골지는 당황하였지만 그 세포를 현미경에 올려놓고 관찰을 해보았습니다
그런데 뜻밖에도 잘 보이지 않던 신경세포의 구조가 아주 뚜렷하게 보이는 것이었습니다
그는 이 실수로 신경세포를 자세히 관찰할 수 있는 기회를 얻게 되었는데, 신경세포 하나하나는 아주 가늘고 긴 줄 (축삭)이 연결되어 있었으며 그 가느다란 줄의 끝과 다른 신경세포(뉴런)는 서로 아주 좁은 틈(시냅스)을 두고 떨어져 있었습니다
과학자들은 이 뉴런과 뉴런을 이어주고 있는 가느다란 선은 무언가를 전달하는 통로일 것이라고 생각하였고, 많은 과학자들은 그것이 전기일 것이라고 추측하였습니다
그리고 19세기 후반~20세기 초가 되면서, 과학자들은 여러 가지 실험을 통해서 신경을 자극하면 전류가 흐른다는 것을 확인하게 되었습니다 하지만 여전히 그 전류가 어디서 발생되는 것인지는 알 수 없었습니다
뉴런이 작동하는 방식을 풀다
그러나 1939년 영국의 생리학자인 호지킨과 앤드류 헉슬리가 이를 밝혀내게 됩니다
이들은 배터리 (볼타전지)의 원리를 떠올리며 혹시 전류가 흐르는 것은 신경세포 안과 밖의 이온의 농도차이 때문은 아닐까를 생각하게 됩니다
이 당시의 과학자들은 세포 안과 밖에 있는 이온들과 또한 세포 안은 -, 세포 밖은 +의 전기적 성질을 띠고 있다는 것을 알고 있었다고 합니다(세포 안; 칼륨, 단백질 세포밖; 나트륨, 염소)
이러한 당시의 기본적인 지식을 바탕으로 볼타전지의 원리를 생각하며 세포 안과 밖의 이온들의 움직임으로 전류가 발생할 것이라고 생각한 것입니다
볼타전지는 서로 다른 두 종류의 금속을 전해질에 넣었을 때, 예를 들어서 아연과 구리를 전해질에 넣었다면, 아연은 구리보다 쉽게 이온화(원자가 +, -성질을 가진 입자로 나누어지는 것)가 되어서 전자를 쉽게 잃어버립니다
그래서 두 금속 간에는 전자의 자리를 메꾸기 위한 흐름이 생깁니다
이것이 전류가 되는 것인데, 호지킨과 헉슬리는 신경세포도 이렇게 세포 안팎의 이온의 농도 차 때문에 전자의 흐름이 생기는 것은 아닌가를 생각한 것입니다
그래서 신경세포의 안과 밖의 전기적인 차이를 실험하기로 결정하였습니다
그러나 신경세포의 크기가 너무나 작아서 이러한 실험을 실행할 수가 없었는데 어느 날 누군가를 통해서 오징어의 축삭이 사람의 축삭보다 500배나 굵다는 것을 알게 되었습니다
그래서 그들은 이 굵은 축삭을 이용하면 세포 안에 전극을 꽂을 수 있을 거라고 생각하였습니다
이들은 곧바로 실험에 착수하여, 오징어의 신경세포의 연장선인 축삭의 안과 밖에 전극을 각각 꽂고 오징어의 신경에 자극을 주자, 전압의 평형이 깨지면서 축삭 내부와 외부에 뚜렷한 전위차가 형성되는 것을 확인하였습니다
결국, 이들의 추측대로 뉴런의 전기적인 신호는 신경세포 안과 밖의 이온밀도의 불균형으로 발생한다는 것을 확인하게 되었습니다
이온이 불균형 상태가 되는 이유는 평형상태였던 신경세포의 안과 밖의 이온의 분포가 자극에 의하여 깨지기 때문입니다 신경세포가 자극을 받으면 세포막은 +이온인 나트륨이 통과할 수 있는 통로(채널)를 엽니다
그러면 나트륨이 통로를 따라서 세포의 내부로 들어오고, 세포의 내부는 나트륨의 이동으로 음전하에서 양전하의 상태가 됩니다 그러면 신경세포는 평형상태를 회복하기 위해서 세포막의 통로를 또 여는데 이번에는 나트륨이 아니라 칼륨의 통로를 엽니다 그러면 칼륨이 통로를 따라 세포의 밖으로 나오므로 신경세포는 평형사태로 돌아갑니다
그리고 발생된 전기는 신경세포와 연결되어 있는 길게 늘어진 축삭을 따라서 이동하다가 축삭의 끝 부분에 와서는 전기 신호가 화학신호(신경전달 물질)로 바뀌고 그것을 다른 뉴런에게 전달합니다
그러니까, 이온들의 흐름이 바로 뉴런과 뉴런을 연결하는 전기적인 신호였던 것입니다
이들은 신경세포의 전기발새의 원인뿐만 아니라, 자극을 전달하는 속성까지도 발견하게 되었는데, 즉 뉴런이 자극을 받아서 전달할 때 무조건 자극이 들어오면 전달하는 것이 아니라, 물이 채워져야 흘러넘치는 것처럼 어떤 일정한 강도의 자극이 채워져야지만 자극의 신호를 전달한다는 것을 알게 되었습니다
뉴런의 이러한 특성은 1920년 영국의 생리학자 에드거 에이드리어가 특이한 실험을 함으로써 증명한 바가 있었는데 이 에이드리어의 실험은 다음과 같습니다
금속 조각들을 피부에 연결합니다
그리고 피부에 자극을 주었을 때 금속조각들의 반응을 조사했습니다
그런데 재미있는 것은 자극의 강도가 꼭, 100%를 채워야지 반응을 하는 것이었습니다
만약, 20%,60%, 90% 일 때는 전혀 반응을 안 하다가 100이라는 강도를 채워야지 금속조각들이 반응을 하였습니다
이것을 실무율의 법칙이라고 하는데 이 말의 뜻은 '있거나 아예 없거나'의 경우를 말합니다
그러니까 에드거 에이드리어의 금속을 피부에 붙여서 자극에 반응하는 신경 반응의 실험을 호지킨과 헉슬리가 뉴런들의 전기 신호를 전달하는 과정으로서 검증한 것입니다
인공지능의 첫 단추
이후 1943년 뇌과학자이던 미국의 워런 맥컬럭과 논리학자인 필터 피츠는 어떤 아이디어에 사로잡히게 됩니다
그것은 뇌의 뉴런이 어떤 기준치에 달해야지만이 신호를 전달하는데, 이러한 특성을 기계적으로 표현할 수 있다고 생각한 것입니다
즉 신호가 꽉 차면 1, 신호가 없거나 덜 차면 무조건 0이라는 단순한 규칙 아래서 작동한다는 것입니다
1958년, 미국의 프랭크 로젠블랫은 뉴런의 이런 특성을 모방해서 인공뉴런을 만들어보고자 합니다
그리고 아주 간단하지만 여러 개의 인공뉴런을 만들었습니다
외부의 자극을 입력하는 단자를 만들고 각 뉴런에서 들어온 입력값들을 다 더해서 정해진 기준(임계값)이 넘으면 1, 엄지 않으면 0 이런 식으로 만들었습니다
그러나 모든 입력을 다 더해서 나온 임계값은 정확한 값이 아니었습니다
예를 들어서 토끼가 정답일 때, 토끼의 가장 큰 특징은 흰 털, 귀, 짧은 다리인데 이 모든 특징을 다 똑같은 값으로 정해서 더하니까 정확한 답이 나오지 않는 것입니다
그래서 가장 중요한 특징에는 높은 값을 더해주고(가중치) 덜 중요한 특징에는 아주 작은 수치를 더해서 중요도를 구분하였습니다 그리고 이 모든 값을 다 더한 다음에 그 값이 임계값을 넘으면 1, 넘지 않으면 0이 되는 방식으로 만들었습니다
그리고 테스트를 해보았는데 아주 간단한 이미지는 구분을 하였습니다
이것을 보고 과학자들은 뉴런을 만들 수 있을 거라는 희망에 부풀어 올랐지만, 이내 그 기대는 사그라지고 말았습니다
왜냐하면 인공뉴런이 간단한 문제는 풀었지만 조금 복잡해지거나 복합적인 문제에 부딪치면 한계를 드러내었기 때문입니다
그러다가 1986년, 미국의 제프리 힌턴이 중요한 아이디어를 떠올립니다
인공뉴런이 잘못된 답을 내면 다시 역으로 올라가면서 잘못된 오차를 수정하며 정답을 찾아갈 수 있지 않을까' 하는 생각을 하게 됩니다
마치 사람이 답안지를 보고 그 답이 왜 틀렸는지를 알아가는 것처럼, 신경망도 출력한 결과에서부터 입력까지 거꾸로 거슬러 올라가면서 잘못된 곳을 교정해 나가는 방법이 가능하다고 생각했습니다
즉 기계는 입력값과 출력값을 비교해서 다르게 나오면 오차를 수치로 계산합니다
그리고 이 오차를 다시 거꾸로 전달하면서 입력층과 같을 때까지 값을 조정해 나갑니다
예를 들어 기계가 문어 사진을 해파리라고 답을 내었다면, 다시 거꾸로 올라가면서 어디서 혼돈이 된 거지? 색깔? 촉수? 하면서 잘못 본 부분을 조금씩 교정해 줍니다
이 과정을 수천 번, 수만 번 반복해서 기계가 배우다 보면 나중에는 문어랑 해파리가 함께 나와도 문어를 쉽게 맞추게 됩니다
즉 중요도를 측정하는 가중치를 오차난만큼 수정하면서 정답을 찾아가는 것입니다
마치 사람이 답안지를 보고 그 답이 왜 틀렸는지를 더듬어 가듯이, 신경망도 자신의 오차를 되짚으며 조금씩 정답에 가까워지게 하는 방식입니다
특 출력하는 곳에서 입력층으로 거슬러 올라가면서 교정해 나가는 과정을 수천 , 수만 번 반복하면 기계는 점점 정확한 판단을 내리게 됩니다
제프리 힌턴이 고안한 아이디어는 인공뉴런의 기술을 자리 작게 한 획기적인 기술이었습니다
딥러닝의 발전
그리고 2006년 힌턴은 또 한 가지의 아이디어를 생각해 냈는데, 인공뉴런이 지금까지의 사실만을 답하는 단계에서 한 단계 더 심화된 의미까지 더해서 답 할 수 있는 방법을 생각합니다
예를 들어서, "오늘 저녁을 안 먹었어"라는 문장을 봅니다
그러면 왜 저녁을 안 먹었을까? 속이 안 좋은가? 다이어트? 아니면 안 좋은 일이 있었나?라는 추론이 발생합니다
이렇게 문장에 숨어있는 감정이나 상황을 세분해서 나누어 대응시키는 훈련을 합니다 이런 훈련을 아주 많이, 수천 번, 수만 번 반복하면 사실과 더불어서 사람과 같이 생각하고 답하는 것 같은 답을 낼 수가 있는 것입니다
현재 우리가 사용하고는 gpt도 우리가 입력한 문장만을 보는 것이 아니라 그 단어의 조합 속에서 파생될 수 있는 여러 가지 상황, 감정등의 경우를 훈련해서 우리가 사람과 대화하는 것 같은 착각에 빠지기도 하는 것입니다
예를 들어서 "오늘 저녁을 안 먹었어"라는 문장을 봅니다
그러면 왜 저녁을 안 먹었을까? 속이 안 좋은가? 다이어트? 아니면 안 좋은 일이 있었나?라는 여러 가지의 생각이 발생합니다
이렇게 단어와 문장의 조합 속에서 파생될 수 있는 여러 가지의 상황, 감정등을 통해서 나올 수 있는 문장들을 나열하고 세분화합니다
그리고 각 단어와 문장에 대응하는 답을 수천, 수만 번 반복하면 기계들은 더욱 정교해져서 현재 우리가 사용하고 있는 GPT와 같이 마치 사람과 대화하고 있는 듯한 착각을 주기도 하는 것입니다
마치며
뇌를 알아간다는 것은 단순한 지식을 넘어서, 어쩌면 나를 알아간다는 과정이라고도 말할 수 있을 것이 비다
우리는 현재, 기게 하고도 대화할 수 있는 시대에 살고 있습니다
그것이 진정한 인격을 지닌 대화는 아닐지라도, 흡사 인격체와 대화하고 있는 것 같은 착각을 불러일으킬 만큼 섬세하고 정교한 생각하는 인형?을 만들어낸 것입니다
사실, 인간이 굉장히 특별한 존재인 것 같지만 어찌 보면, 그 원리를 이해하고 나면 기계적으로 구현될 수 있는 구조라는 생각이 들기도 합니다
그렇다면 인간이 정말로 특별하다는 것은 뇌라는 기관 때문일까요
인공지능 기술이 보여주듯이, 사고하고 생각하는 기능은 만들어낼 수 있으며, 아니 온 세상의 지식을 다 함 쳐놓은 것 같은 존재도 만들어낼 수 있는 것입니다
저는 어쩌면, 아주 고대의 사람들이 생각하였던 인간만의 가장 특별한 점은 뇌가 아니라 혹시, 눈으로 볼 수도 없고 만질 수도 없지만 양자의 세계보다 더 깊고 미묘한 차원에 존재하는 '마음'은 아닐까를 생각해 봅니다