제프리 힌튼, 딥러닝의 아버지
오랜 기간 다양한 시도 끝에 결국 인공지능 학문의 밑바닥이 드러나게 되었고
AI의 겨울이 오게 되는데
그런 다 뒤져가는 인공지능 학계에 혜성처럼 나타난 인물이 바로 제프리 힌튼이다
1980년 당시에는 신경망이 인공지능 연구에 적절한 방법이 아니라고 결론이 내려진 상태였다
당시의 신경망은 입력과 출력, 단 두 개의 계층만 갖고 있었다
이론적으로 입력과 출력 사이에 더 많은 층을 집어넣은
신경망은 훨씬 다양한 문제를 풀 수 있었는데...
아무도 그런 신경망을 훈련시킬 방법을 알지 못했기 때문에
힌튼 같은 소수의 한 우물만 파는 인간들을 제외하곤 다들 신경망 연구를 포기하였다
그러던 도중 1986년 힌튼은 역전파 기술이 둘이나 셋 이상의 계층을 가진
심층 신경망을 훈련시킬 수 있다는 혁신적인 연구를 발표했는데
그게 바로 인공 신경망을 인간의 뇌처럼 여러 겹으로 구성한
“딥 러닝”의 시작이다.
딥 러닝이 최근에 나온 신기술처럼 생각하는 사람이 많은데
여러 가지 문제들을 겨우겨우 해결하여 무려 30년이나 존버에 성공해서 빛을 본 기술이다
가끔 머신 러닝과 딥 러닝의 차이점을 묻는 사람이 있는데
인공 신경망을 얼마나 깊게 여러 겹으로 구성하냐의 차이로 보면 된다
즉 딥 러닝이란 기존 인공신경망을 사람의 뇌처럼 여러 겹으로 구성한
완전한 머신 러닝을 실현하는 기술이라고 보면 된다
미래에 제프리 힌튼은 인공지능 학계의 아인슈타인으로 평가받지 않을까…?
1986년에 나온 딥 러닝이 30년이나 넘게 존버할 수밖에 없던 이유가 있는데
바로 “부족한 하드웨어 성능” 과 “빅 데이터의 부재” 였다
컴퓨터 하드웨어는 기하급수적으로 발전하였고 강력한 GPU의 등장과
만족할만한 수준의 빅 데이터가 구축되어 전제조건을 만족한
딥 러닝은 2016년 3월 “알파고”를 통해 화려하게 데뷔한다
알파고는 이세돌에게 4:1로 승리하였고
압도적인 승리와 사람의 영역을 벗어나는 기괴한 알파고의 플레이 방식을 보며
사람들은 자신들의 일자리가 지속 가능한 게 아니란 걸 깨닫게 된다
그 당시 뉴스에선 굶어 죽는 거 아니냐는 댓글을 자주 볼 수 있었는데
그들의 기대와는 다르게
알파고의 기반 기술이었던 딥 러닝은 한계가 명확했다.
인간은 바둑을 학습하면 그다음에 장기를 배울 땐
바둑의 경험을 활용하기 때문에 더욱 쉽고 빠르게 배울 수 있다
그리고 그 후엔 바둑+장기의 경험이 누적되어
체스를 배울 땐 그보다 더더욱 빠르게 학습이 가능하다
반대로 딥 러닝은 이런 게 불가능하다
바둑을 학습시킨 모델은 바둑에만 활용 가능하다
인간처럼 그 모델을 장기에 써먹으려면 모델을 재구성하고 처음부터 다시 학습시켜야 한다
한마디로 학습 경험치의 누적&활용이 불가능하다는 것이다
이러한 인공지능들을 약 인공지능(Weak AI) 라고 부른다
약은 약하다는 게 아니라 좁다는 뜻이다
한마디로 좁은 분야에서만 통용되는 인공지능이란 소리다
아마 최근에 사람들은 이상하다고 생각할 것이다
분명 알파고 대란 때는 인공지능이 금방이라도 우리를 뛰어넘고 대체할 것 같았는데
몇 년이 지나도록 이렇다 할 성과가 나오지 않고 있는 것이다
이게 바로 상향식 인공지능 개발의 한계다
부분을 연구하고 응용하여 전체를 구현하기엔 우리의 뇌가 너무나도 복잡한 것이다
주위 사람들과 인공지능 관련된 대화를 하다 보면 상향식 개발로도
우리가 원하는 수준의 인공지능 개발이 가능할 거라고 말하는 사람이 자주 있다
난 그럴 때마다 생각한다
그게 대체 언젠데?
100년 후…? 1,000년 후…? 10,000년 후…?
나만 이렇게 생각하는 걸까?
여기서 커넥톰이란 개념을 설명한다
커넥톰이란 뇌의 신경회로 배선도이며 한마디로 뇌의 설계도에 해당한다
그리고 딥 마인드를 인수한 구글은 인간의 커넥톰 구축을 선언했다
사람 같은 AI 위해… 뇌 지도 그리는 구글
http://www.hankookilbo.com/News/Read/201808281793072061
구글은 커넥톰 구축 사업을 시작했는데 앞으로 최소 10년 이상은 걸린다고 한다
정말 상향식만으로 원하는 인공지능 개발이 가능하다면
어째서 구글은 커넥톰을 구축하는가…?
이게 바로 강 인공지능을 위해선 철저하게 하향식 연구가 선행되어야 한다는 방증이다.
상향식 인공지능 개발은 단순노동 대체와 특정 분야에서
전문가를 도와줄 수 있는 인공지능까지는 가능하겠지만 딱 거기까지가 한계인 연구다.
인공지능 학문이 시작되었던 과거엔 뇌 분석 도구가 너무 미개했다
하지만 현재 우리는 거의 완벽에 가까운 뇌 분석 도구들을 갖추기 시작했고
우리는 더 이상 눈먼 장님처럼 인공지능 연구&개발을 할 필요가 없게 되었다
지능의 원리를 모르겠다고?
그럼 그냥 우리 뇌의 설계도(커넥톰)를 얻고 통째로 시뮬레이션 돌려서
하나하나 다 분석해서 뜯어보면 된다
1980년대 AI의 겨울…
비관에 빠진 인공지능 학자들을 구원하는 연구결과가 나왔는데..
그게 바로 예쁜 꼬마선충의 커넥톰이다.
1986년 존 화이트라는 학자는 전자 현미경으로 1mm 크기의
꼬마 선충을 8,000등분 한 뒤 단면을 하나하나 다 살펴 가며 손으로 신경망을 전부 그려냈다.
이렇게 신경계의 연결을 전부 표시한 지도를 “커넥톰”이라고 하는데..
이러한 커넥톰에 시냅스 연결강도를 더해 컴퓨터로 시뮬레이션을 했는데…
아주 충격적인 결과가 나왔지