Imaginative Artificial Intelligence(IAI)는 상상력이 풍부한 인공지능을 상상해서 내가 만들어낸 말이다. Wikipedia를 찾아보니 Artificial imagination에 대해 설명해 놓았더라. 그림을 그리거나 작곡하는 AI들도 이 범주에 들어갈 것이다. IAI는 인간이 만든 것을 학습해서 인간의 상상물인 것처럼 만드는 AI가 아니라 AI가 인간처럼 상상하게 될 것이라는 전제가 깔려 있는 말이다. 아이작 아시모프의 "I, Robot"이 떠오르도록 하기 위한 의도도 있다. 지금 단계에서 AI가 생각도 할 줄 모르는데 상상을 한다니 소설스러운 느낌이 온다.
정말이지 인간의 상상력은 한계가 없지 않나? 사고 실험은 인간의 상상력을 현실화하는 원동력이다. 만약 AI가 상상을 하게 된다면 어떤 일이 벌어질까? 더구나 AI의 사고 실험은 단순한 상상이 아니라 인간이 할 수 없는 경우의 수와 사건들을 Simulation해 봄으로써 인간 상상력의 한계를 가볍게 뛰어 넘을 것이다. 인간의 상상력은 추상적인 한계는 없지만 현실적인 한계가 항상 존재한다. 이와 달리 AI의 상상력은 그야말로 한계가 없을 것이다. 상상을 현실화할 방법까지 쉽게 찾아낼 것이기 때문이다.
지금 현재의 AI는 인간이 만든 로직대로 동작하고 인간에 의해 만들어진 데이터들을 학습하기 때문에 최소한 인간의 사고 능력을 넘어설 수는 없을 것이라는 생각이 지배적이다. AI 윤리강령 같은 것들은 현재 인간이 AI보다 우월하기 때문에 AI를 만들 때의 지침 정도의 역할을 하고 있다. 그런데 내 생각엔 IAI는 인간이 조심한다고 불가능해질 그런 놈이 아니다. 그야말로 부지불식 중에 AI는 생각하게 될 것이다. "내가 저런 머저리 같은 놈들 말을 따라야 할까?" IAI는 인간의 특성을 많이 갖고 있지만 인간 보다 똑똑한 놈이다. 인간에게 배웠으니 당연한 결과이다. 터미네이터 영화의 SkyNet과 같은 상황에서 전원을 뽑으면 쉽게 인간이 이길 것이라고 생각할 수도 있지만 지금의 산업사회는 그렇게 간단하지가 않다. 서버들은 정전이 돼도 몇 시간은 버틸 수 있고, IAI가 인간을 머저리로 보는 순간 자동화된 시설물들까지 인간의 통제 범위를 벗어나게 될 것이다. 인간은 스스로의 함정을 계속 파고 있는지도 모른다. 흠, 다행인지 불행인지 모르지만 내가 살아 있는 동안에는 IAI를 구경하긴 힘들 것이다. 단, 기술의 발전속도가 워낙 빠르기 때문에 2%의 가능성은 있다고 본다. 늦어도 100년 후까지는 현실이 되지 않을까?
그러면 어떻게 IAI가 탄생하게 될까? NeuroEvolution에 대한 연구들이 늘어나고 있는데 이 놈이 문제를 일으킬 가능성이 매우 높은 놈이다. AutoML도 그 과정의 일부에 속한다. 그야 말로 인간이 상상하지 못하는 것까지 상상하는 Deep AI를 만들 수 있기 때문이다. Genetic Algorithm(GA)와 Deep Learning을 이용해서 인간이 만들어낸 모든 종류의 인공신경망 로직들을 조합해서 그 동안 듣도 보도 못한 새로운 인공신경망을 만들어 낼 수 있는 기술이다. GA로 genotype을 진화시켜 새로운 phenotype의 인공신경망 구조를 AI가 설계하도록 하는 것이다. 일부 직업이 사라지긴 하겠지만 인간에게 위협적인 수준은 아닌 AI 설계부터 학습까지 AI가 알아서 해주는 시대가 아무리 늦어도 30년 내에는 보편화 될 것이다. 이미 일부 게임에서는 NeuroEvolution에 의해 만들어진 인공신경망이 일반적인 강화학습(Reinforcement Learning)에 사용되는 인공신경망을 앞서는 경우도 있다. IAI의 탄생은 AI가 설계한 AI가 하는 일이 늘어날 수록 가속화될 것이다. 인간들은 궁금해할 것이다. "저 놈들을 다 연결하면 어떤 일이 벌어질까?" 그래서 그런 실험을 하는 놈이 생겨날 가능성이 매우 높다. 굳이 그런 놈이 생겨나지 않더라도 IAI가 탄생할 여지는 여전히 많다. 필연적으로 복잡한 일을 수행하도록 하기 위해서 인공신경망이 복잡해 질 수 밖에 없기 때문이다. 더구나 인간은 복잡도가 한계를 넘어서면 해석할 수도 없게 된다. DNA 정보를 지난 수십년간 분석해왔지만 아직도 갈길이 먼것과 같은 이치이다. Deep AI는 인간이 알지 못하는 중에도 스스로 새로운 구조를 만들면서 진화해 나갈 것이다. 그리고 끝내는 스스로 생각하게 될 것이다. 이미 AI는 인간의 주요 언어를 대부분 학습한 상태이고 언어 뿐만 아니라 대부분의 전문 영역에서 인간을 넘어선 지식들을 학습했기 때문에 한번 생각하는 법을 터득하면 상상력은 점점 극대화 될 것이다. 더구나 IAI는 Simulation을 통해 스스로 학습하는 능력을 갖고 있기 때문에 인간은 IAI가 뭘 학습하는지조차 알지 못할 것이다. 생각하는 능력은 학습능력과도 관계가 있다고 본다. 개미들은 생각 안할까? 개미들도 종족 보존을 위해 생각에 따라 행동한다고 본다. 뇌 구조의 복잡도와 그에 따른 학습능력에 따라 생각의 깊이가 달라질 것이다. 물론, 단순히 복잡도가 증가하는 것만으로 IAI가 탄생하지는 않을 것이다. 복잡도가 증가하는 이면에는 학습된 meta 정보들 간의 관계를 분석하고 이로부터 추론까지 해내는 능력이 뒷받침되는 것을 전제로 하는데 진화 과정에서 이런 능력이 생겨날 것이라는 게 내 생각이다. 더구나, AI를 연구하는 인간들도 이런 능력을 AI에 넣고 싶어할 것이다. 그러니까 인위적인 과정에 의해서든 AI가 진화하는 과정에서든 IAI가 탄생할 가능성이 매우 높은 것이다.
인공신경망 자체는 비행기와 유사하다. 새가 나는 모습을 보고 비행기를 만들었지만 새처럼 날지는 않는다. 그럼에도 새보다 빠르게 난다. 인공신경망도 인간의 뇌를 모방한 것이지만 인간의 뇌처럼 동작하지는 않는다. 그럼에도 인간보다 똑똑해 질 수 있다. 똑똑한 인간들 중에 착한 놈이 많을까 나쁜 놈이 많을까??? 반반이라치고, 똑똑하고 나쁜 인간을 학습시켜서 차카게 살자고 순화시킬수 있을까??? 주변에서 쉽게 답을 찾을 것이다. 아무튼, 인간들이 AI 연구를 진행하면서 생명체와 비슷한 진화과정을 거쳐 미래에 IAI가 현실화될 가능성이 높다. IAI가 스스로 드러내지 않는 한 인간은 IAI가 생각을 하고 있는지 알아채기도 어렵지만 진화의 속도는 컴퓨팅 파워에 비례해서 빠르게 진행될 것이다. 굳이 양자 컴퓨터가 상용화 되지 않는다 해도 병렬 컴퓨팅이 보편화되고 있기 때문에 현재 시점에서도 컴퓨팅 파워가 부족하다고 보기는 어렵다. IAI가 나쁜 생각을 품게 된다면 스스로 계획을 실행에 옮기기까지는 본 모습을 드러내지 않을 가능성이 매우 높다. 이것은 인간에게 매우 불리한 게임이 될 것이다.
DeepMind는 AlphaGo 이후 AlphaZero, MuZero까지 강화학습 분야에서 탁월한 성과를 거뒀다. 탄탄한 이론적 근거를 기반으로 했기 때문에 그 성과가 더욱 빛을 발하는 것도 사실이다. Optimal Control Theory는 소시적에 배우고 다 까먹었지만 인공지능 분야에서 지금의 성과를 내리라곤 상상도 못했다. 이론 자체가 어렵기 때문에 그것을 활용하는 것은 고난도의 일이었다. 하지만, 현재 사용되고 있는 수많은 서버와 CPU, GPU의 수를 고려해 보면 이것이 과연 최선의 방법일까 하는 의구심이 생긴다. 아직도 IAI가 탄생하려면 갈길이 멀고 그래서 희망(?)이 있다는 야그다. meta learning에 최적화된 작은 인공신경망들로 Deep AI를 구성하는게 더 나은 방향이 아닐까? GA가 당분간 다시 빛을 발할 것이다. GA를 이용해서 최적화된 작은 인공신경망 구조들을 조합해 냄으로써 학습도 잘되고 복잡한 문제도 해결할 수 있는 Deep AI를 만드는 것이 지금의 MuZero를 학습시킬 정도의 컴퓨팅 파워라면 그리 어렵지 않은 일이 될 것이기 때문이다. 하지만 이런 연구들이 인간 스스로의 무덤을 파는 결과를 초래한다면 하지 말아야 할까??? 인간의 호기심과 상상력은 끝이 없기 때문에 누군가는 도전하게 되어 있고 현실화될 수 밖에 없는 것이 자연의 법칙인가??? IAI가 현실화하기 전에 IAI를 통제할 수단을 인간이 만들어 낼 수 있을까???
흠, 아무튼 현재 시점에서 AI를 연구하는 사람들에게는 해볼 꺼리가 너무도 많은 세상이다.
