AGI, 천사인가 악마인가
인공지능이 모든 매체에서 중요한 주제로 다뤄지고 있다.
김대식 카이스트 교수의 유튜브 영상이 가장 관심을 끌어 그의 책을 찾아보았다.
인공지능을 연구하는 사람인데 인문학에 대한 해박한 지식과 독서범위에 더 감탄하였다.
독일에서 학창시절을 보냈다. 다름슈타트에서 성장하였다. 내가 독일에 있었던 시기와 겹치는 것 같아 내적 친밀감을 느낀다.
특히 다름슈타트는 예전의 동독 지역에 속하는 도시여서 빈집과 공사 중인 어수선한 거리, 당시에 사회주의에 대한 교육된 두려움, 가까이 해서는 안되는 도시로 가급적이면 동독을 지나지 않으려했다. 동독 지역에는 당연히 한국 사람들도 드물어 한국 사람들과의 소통이 필요한 사람은 가기를 꺼리는 지역이었다.
그의 책은 현재의 AI가 미래에 펼칠 세상과 인간사회의 변화를 과거의 역사로부터 예측한다.
범용인공지능 AGI(Artificial General Intelligence, 인공 일반 지능)는 특정 작업에 국한된 현재의 AI와 달리, 인간처럼 광범위한 인지 작업을 이해하고, 학습하며, 수행할 수 있는 가상의 인공지능을 의미한다. 인간이 모든 일을 조금씩 다 할 수 있듯이 인공지능이 인간과 같은 지능을 갖는 것이다. 이는 복잡한 문제 해결, 추론, 창의성 등 인간의 모든 지적 능력을 모방하거나 능가하는 것을 목표로 하며, 현재 기술로는 구현되지 않았지만 미래 AI 발전의 궁극적인 목표 중 하나이다.
AGI의 목표와 기대
- 복잡한 문제 해결: 의학, 과학 등 다양한 분야에서 인간이 해결하기 어려운 문제에 접근할 수 있다.
- 업무 자동화 및 효율화: 인간의 귀찮은 일들을 스스로 처리하여 삶의 질을 향상시킨다.
- 자율성과 창의성: 스스로 판단하고 창조적인 결과를 만들어낼 수 있다.
- 현황: 아직 SF의 영역에 가깝지만, 딥러닝, 자연어 처리 등 여러 기술의 발전으로 AGI 구현을 위한 연구가 활발하다. 어떤 나라에서 그 패권을 가질 것인가가 미래의 패권구도를 정한다.
- 과제: 윤리적 문제, 책임 소재, 데이터 확보 등 해결해야 할 과제가 많다. AI 발전이 너무 빠르게 진행되고 있어, 제한이나 윤리 등이 미처 마련되지 못한 채 연구는 진행되고 있다.
- 전망: 일부 전문가들은 향후 10~30년 내에 AGI가 도래할 수도 있다고 보며, 이에 대한 사회적 논의가 필요하다.
초인공지능(Artificial Superintelligence)은 인간의 지능을 뛰어넘는 지적 범위를 가진 가상의 소프트웨어 기반 인공 지능(AI) 시스템이다.
AGI, ASI가 개발이 되면 인간이 인공지능의 지배를 받게 될 것이라고 매우 높은 확률로 예측하고 있다.
전 세계는 인공지능이 인간을 지배할 수 없도록 개발을 제한하고, 국가 간 협약을 맺고 제어해야한다고 주장한다.
패권 국가들이 핵 개발을 제한하듯이 말이다.
인공지능에는 스케일링 법칙이 있다. scaling law. 규모의 법칙이다. 알고리즘을 바꾸지 않아도 모델을 키우기만 하면 없던 기능들이 생긴다. 인공지능도 변수를 늘렸더니 우리가 지금 사용하는 chat gpt처럼 문제를 스스로 풀고, 생각하는 과정도 말해주고 그림도 그릴 수 있게 된 것이다.
인상 깊었던 것
인간의 신경 세포와 시냅스는 100조개가 있는데 신경세포가 100조개가 있으면 자아가 생겨난다. 우리 인간의 머릿속에 자아, 자율성, 감성, 영혼이 있듯이 말이다.
단순한 것을 굉장히 많이 모아놓으면 이머전트 프로퍼티 emergent property 즉 창발적 현상이 나타난다.
현재의 인공지능은 인공신경망이 1.8조개가 있다. 그 수는 몇 년이 지나면 100조 개에 도달할 것이어서, 인간과 같은 자율성, 영혼 등을 갖춘 인공 신경망이 나타날 수 있다.
그럼 인공지능은 자아가 있어 인간의 말을 듣지 않을 수 있다는 것이다. 과학적으로 수학적으로 모든 것이 계산되고 시뮬레이션되고, 예측할 수 있다는 것이 매우 놀랍다.
이런 세계를 맞이할 우리 청소년, 학생들은 그럼 지금 어떤 교육이 필요한가가 내가 긴 겨울 방학 동안 찾아야 할 것이다.
인공지능이 앞으로 우리에게 어떤 영향을 줄 것인지 알고 싶다면, 이 책을 강력하게 추천한다.
아무도 가지 않은 새로운 길이 어떨지는 아무도 모르지만 이 책은 강력한 힌트를 준다.