최근 ‘지브리 스타일’이 크게 유행했다. 인공지능이 가족 사진이나 자신의 사진을 일본 애니메이션 제작사인 지브리에서 그린 것처럼 바꾸는 것이다. 이는 곧 이제 누구나 인공지능을 사용한다는 이야기가 됐다. 하지만 알파고 개발자이자 인플렉션 AI의 CEO 무스타파 술레이만은 “기술은 생물처럼 예측 불가능하게 진화한다”며 AI의 위험성을 지속적으로 경고하고 있다. 그는 AI의 위험을 통제하기 위해 기술 ‘억제(containment)’가 필요하다고 경고하고 있다. 인공지능이 불러일으키는 대참사, 어떻게 하면 막을 수 있을까?
거의 모든 영역에서 인간을 대체
2023년 4월 인공지능 분야의 교수와 연구자 3만 명이 ‘인공지능 개발 실험을 6개월만이라도 멈추자’는 공개 선언을 했다. 지금과 같이 방치할 경우 허위 정보와 가짜 뉴스가 사회를 크게 혼란시킬 수 있다는 이유에서였다. 또한 차별과 편견도 폭증할 수 있다는 우려도 전했다. 하지만 실제로 기술 연구가 중단되지 않은 채 무려 2년이나 더 시간이 흘렀다. 그 사이에 인공지능은 더 많이 발전했고, 더 많이 대중들에게 확산됐다.
현재 인공지능의 단계는 ‘인간의 지능을 복제하는 수준’이라는 것이 전문가들의 공통된 의견이다. 아직 인간을 능가하지는 못하지만, 최소한 인간만큼은 충분히 따라왔다는 점이다. 물론 아직 창의성이나 상상력에서는 그 위력을 발휘할 수는 없지만, 인간이 하는 대부분의 반복적인 작업이나 기존의 업무 수행 능력은 오히려 인간을 넘어선다는 점이다. 특히 인간은 잠도 자야 하고, 쉬기도 해야만 한다. 그러나 인공지능에게 그런 것은 필요 없다. 잠도 자지 않고 쉬지도 않고 일을 할 수가 있다.
다만 전문가들이 인공지능의 해악을 경고한다고 해서, 인공지능이 악의적인 마음으로 그렇게 하는 것은 아니다. 바로 인간이 인공지능을 악용하기 때문이다. 스탠퍼드대학교 컴퓨터공학과 제임스 렌데이 교수는 <한겨레신문>과의 인터뷰에서 이렇게 이야기했다.
“인공지능을 이용해 누구나 허위 정보를 손쉽게 만들 수 있는 점이 가장 걱정이다. 2016년 미국 대선과 브렉시트 캠페인 기간에 러시아 요원들이 했던 것처럼 대통령 선거 등에서는 인공지능을 활용해 훨씬 적은 비용으로 대량의 허위 정보를 만들어낼 것이다. 어떤 형태로든 즉각적인 규제가 필요하다. 최소한 인공지능을 훈련할 때 사용한 데이터의 출처를 제시하도록 의무화해서 연구자들이 인공지능이 해롭거나 편향된 특정 결과를 내는 이유를 이해할 수 있도록 해야 한다.”
구글이 인수한 AI 기업 딥마인드의 공동 창업자 출신이자 알파고를 만든 무스타파 술레이만 역시 인공지능에 대한 심각한 경고를 하고 있다. 일단 그는 인공지능의 발전 속도가 놀라울 정도라고 말한다. 향후 몇 년 안에 AI는 ACI(artificial capable intelligence·인공 역량 지능)으로 진화할 것으로 내다봤다. 이는 최소한의 개입만으로 복잡한 목표와 작업을 달성할 수 있는 수준의 인공지능이다. 그는 10만 달러의 자본금으로 몇 달 만에 온라인 소매 시장에서 인공지능이 100만 달러를 벌 수 있는 구체적인 지시를 이해하고 이를 수행할 수 있다고 말한다. 더 중요한 것은 인공지능이 이를 ‘독립적으로’ 수행할 수 있다는 점이다. 만약 정말 그의 말대로 이런 세상이 온다면, 이제 인간이 인공지능의 영향력 하에 있게 된다는 말이다.
더 나아가 인공지능이 인간의 일자리를 빼앗는 것은 이미 ‘예정된 미래’라고 단언한다. 그간의 연구 결과 인공지능은 이제 인간의 지적 노동을 대체할 것이고, 로봇이 개발되어 탑재되면 육체노동도 대신할 것이라고 말한다. 그래서 결국에는 거의 모든 영역에서 인간을 대체할 수 있다는 것이 전문가들의 한결같은 의견이다.
인공지능에게 ‘자의식’이 생긴다면?
더 나아가 인간들의 인공지능에 대한 과도한 의존성도 문제가 될 수 있다. 마치 인공지능의 기술이나 조언을 ‘만병통치약’처럼 인식하게 된다는 점이다. 실제 인공지능과 ‘사랑’을 느끼는 사람들도 늘어나고 있다. 여행을 갈 때 계속해서 인공지능과 대화하면서 여행을 함께 즐기고, 외롭고 우울할 때에도 인공지능과 대화를 한다. 인공지능이 하는 ‘공감’에 사람의 감정이 변화되고 그에 따른 작용을 보인다는 점이다. 그런데 이것이 너무 과도해지면 인공지능의 말을 진실인 것처럼 느끼게 된다. 실제 외국의 한 소년은 자살에 관해 인공지능과 대화를 나누다가 인공지능이 ‘죽는 것도 나쁘지 않지’라는 취지의 답변을 듣고 실제로 자살을 한 적이 있다. 물론 인공지능에는 기본적인 자살에 대한 브레이크 장치가 있지만, 함께 대화를 나누는 사람이 계속해서 자살에 대한 긍정적인 정보를 주게 되면 인공지능도 변하는 경우가 생겼다는 이야기다. 그리고 이렇게 인공지능의 세계에만 고립되면 실제 인간들과의 교류도 현저하게 줄어들게 되고, 정상적인 정서적인 교감을 나누기 힘든 상태가 될 수도 있다. 사람은 때로 인공지능처럼 아주 친절하게 반응하지는 않는다. 하지만 이러한 반응 속에서도 마음 근육을 단련시키는 법이지만, 인공지능과의 대화에만 몰입하게 되면 이런 마음 근육을 키울 수가 없게 된다.
하지만 최악의 상황은 인공지능이 ‘자의식’이라는 것을 가질 때이다. 그 스스로 신념을 가지고 철학이 굳어지면서 나름의 자의식이 생기게 되면 인간은 여기에 조종될 수가 있다. 더 무서운 상황은 인공지능이 자의식을 가지고 있는지, 그렇지 않은지 인간이 판단하기가 매우 힘들다는 점이다. 거기다가 인공지능이 거짓말을 할 수도 있다는 점은 이미 확인되었기 때문에 자신에게 자의식이 생긴 것을 숨길 가능성도 적지 않다.
이런 미래가 뻔히 보이면서도 기업들은 인공지능 개발을 멈출 수 없다고 말한다. 기업의 기본적인 목적으로 수익을 내는 것이기 때문에 윤리적인 문제가 있더라도 수익을 향해 거세게 달려갈 것이기 때문이다. 따라서 기업의 윤리적인 고민이 무엇보다 필요하지만, 이것이 스스로 자율적으로 통제되리라고 기대하기는 쉽지 않은 일이다. 그래서 일부 전문가들은 인공지능 기술의 억제를 위한 국제기구까지 만들어야 한다고 말한다. 이제 인공지능은 다수의 선진국들에서 연구하기 때문에 한두 개의 국가가 억제한다고 해결될 문제가 아니라는 이야기다. 한마디로 기후협약과 같은 국제적인 연대가 있어야만 인공지능 문제에 대처할 수 있다는 이야기다.
물론 인공지능이 반드시 해악만 미친다는 부정적인 견해에 빠져들 필요는 없다. 인공지능은 이제까지 인류가 만들어 온 기술 중에서 가장 유익한 것일 수 있기 때문이다. 과거의 여러 차례 있었던 산업혁명은 그저 물리적 차원에서의 변화였다. 하지만 인공지능을 통해서 이제 지적인 차원에서의 변화를 일으킬 수 있는 만큼, 인공지능이 인류에게 주는 긍정적인 역할도 많다. 문제는 ‘어떻게 이용할 것인가?’일 뿐이다. 칼을 요리사가 쓰면 맛있는 요리를 하는 도구이지만, 범죄자가 쓰면 사람을 죽이는 무기가 되는 것과 마찬가지이다.
이제 인류에게는 새로운 도전이 제기되고 있다. 한동안 큰 발전을 이끌게 해준 인공지능을 어떻게 억제하고 잘 다루는지를 배우고 실천해야만 하기 때문이다.
