AI 멸망론과 낙관론

상생개벽뉴스 0 30 2024.10.07 09:54

AI에 대한 경고

인공지능(AI)은 전문가들 사이에서 찬사와 지탄이 극명하게 갈리는 기술이다. 한쪽에서는 인간의 한계를 뛰어넘게 해 줄 구원의 기술로, 그 반대편에선 인류의 생존을 위협할 치명적 기술로 받아들인다.

전자의 대표적인 주창자는 구글에서 인공지능 개발을 책임지고 있는 레이 커즈와일Ray Kurzweil이다. 그는 컴퓨터 기술 발전 속도가 갈수록 빨라지면서 2045년쯤에는 전 인류의 지능을 능가하는 초지능이 탄생해 인간을 불멸의 세계로 이끌 것이라고 주장한다.

후자의 대표 주자는 영국의 우주물리학자 스티븐 호킹Stephen Hawking 박사다. 그는 “향후 100년 안에 인공지능이 인간의 지능을 뛰어넘을 것이다. 인공지능이 인간을 조작하고, 인간이 알지도 못하는 무기를 이용해 인간을 정복할 것이다.”라고 경고한다. 테슬라의 CEO 일론 머스크Elon Musk는 “인공지능은 인류에게 핵무기보다 더 큰 위협이 될 수 있다.”며 인공지능의 개발을 ‘악마를 소환하는 행위’에 비유한다.

위험의 측면은 매우 다양하다. 최근 넷플릭스 영화 〈아틀라스〉에는 가정용 AI 로봇이 돌발 사고로 인해 인간의 통제를 벗어나 세계 최초 AI 테러리스트가 된다. 그런데 실제 AI가 테러에 사용된 역사적 사건이 있다. 2020년 11월 이란 최고 핵과학자 파크리자데는 경호원과 함께 승용차로 이동하던 중 '살인 AI'의 기관총 난사로 살해됐다. 당시 현장의 무인 트럭은 안면 인식 AI 시스템을 갖췄고 원격조종으로 공격한 뒤 자폭했다. 팁 러닝의 창시자로 구글에서 부사장을 지냈던 제프리 힌턴Geoffrey Hinton 현 토론토대 명예교수는 “10년 이내에 자율적으로 인간을 죽이는 로봇 병기가 등장할 것으로 본다.”며 AI의 위험성을 경고하였다.

중국 관영 〈환구시보〉는 2024년 6월 로봇 개가 이미 인민해방군에 실전 배치됐을 가능성이 높다고 평가했다. 로봇 개는 두 종류로 정찰용은 인공지능(AI)를 기반으로 장애물을 우회하며 자체적으로 정찰 경로를 선택할 수 있고, 고화상 카메라 영상을 실시간으로 전송한다. 공격용은 소총은 물론 로켓포 등 다양한 무기를 장착할 수 있다. 표적을 수색해 사격을 하기도 하고, 적의 장갑차에 접근해 로켓을 발사하기도 하는 등 높은 시가전 능력을 갖추고 있다.

2010년 세포에 인공 합성 유전자를 주입해 세계 최초의 인공 생명체를 만든 크레이그 벤터Craig Venter 연구소는 2021년에 자손 번식까지 가능한 인공 세포를 내놓았다. 이제 AI가 인공 바이러스를 대량 생산하는 일이 현실화를 앞두고 있어 유출 우려도 커지고 있다. 2023년 〈뉴욕타임스〉 칼럼니스트와 AI 챗봇chatbot의 대화에서 AI는 “치명적 바이러스를 개발하거나, 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 확보하겠다.”고 답했다. AI가 마음만 먹으면 바이러스를 만들어 퍼뜨릴 수 있는 시대가 다가오는 것이다.

최근 미국 뉴욕주가 청소년에게 소셜 네트워크 서비스(SNS)의 알고리즘 추천 콘텐츠 제공을 금지하는 법을 만들어 통과시킨 것도 AI의 부정적 면이 부각된 사례다. 어떻게든 사용자들을 플랫폼 안에 머물게 해야 돈을 버는 SNS 기업들은 자체적으로 디자인한 AI 알고리즘에 의해 개인의 성향에 맞는 자동 피드(게시물)를 제공한다. 소비자에게도 편리한 이 기능을 아예 법적으로 차단시키겠다고 뉴욕주 정부가 나선 것이다.

알고리즘Algorithm은 수없이 많은 정보 가운데 나에게 맞는 맞춤형 정보만 쏙쏙 알아서 제공해 주는 기능으로만 알려져 있다. 하지만 사실, 알고리즘은 사용자가 우연히라도 접할 수 있는 다양한 정보를 AI가 알아서 삭제시키는 무서운 장치일 수도 있다. 다시 말해, 사용자가 혹시 얻을 수도 있었던 사고의 다양성을 뺏어 가는 도구일 수도 있다. 사용자를 편리하게 해 주는 장치일 수도 있지만, 반대로 극도로 편협하게 만들 수도 있는 시스템이다.

캐시 호컬 뉴욕 주지사는 SNS에서 알고리즘을 통해 제공되는 피드가 아이들을 “폭력적이며, 성적으로 노골적인 콘텐츠로 유도”하고 있으며, “결국 중독의 나락으로 떨어뜨리는 핵심 변인”이 되고 있다고 주장했다. SNS가 만드는 이 알고리즘 생태계는 “미성년자들이 경험하는 다양한 정신적 고통과 트라우마로 귀결된다.”라고도 덧붙였다. SNS와 알고리즘이 미성년자들에게 미치는 유해성을 인정하며 각종 입법으로 제한하려는 움직임은 이미 미국 각 지역으로 퍼져 나가고 있다. AI는 분명 양날의 칼이다.

생산성 향상에 앞장서는 AI

반면 무한한 기회의 측면이 있는 것도 사실이다.

AI는 다양한 산업에서 작업 프로세스를 자동화하고 최적화하여 효율성과 생산성을 크게 향상시킬 수 있다. 반도체 설계의 전설로 불리는 짐 켈러Jim Keller는 AI가 조만간 모든 소프트웨어를 대체하게 될 것이라고 전망했다.

이미 의료 분야에서는 환자 치료 결과를 개선하고 건강 연구를 발전시키기 위해 다양한 AI 시스템이 사용되고 있다. 암세포와 치료제가 결합하는 구조를 정확히 예측해 그동안 수년씩 걸렸던 신약 개발 속도를 획기적으로 높일 인공지능 모델이 등장했다. ‘알파고’ 개발사로 잘 알려진 구글의 인공지능 기업 딥마인드DeepMind는 단백질 구조를 파악하는 AI 모델인 알파폴드의 최신 버전 ‘알파폴드3’를 공개했는데 과학자들도 애를 먹었던 복잡한 세포의 단백질 구조를 30분이면 찾아내어 주목받았다.

2024년 5월에는 AI를 활용한 사상 최대 규모의 뇌 3차원 지도도 공개됐다. 구글과 미국 하버드대 연구진이 복잡한 인간 두뇌의 구조를 낱낱이 밝혔는데, 인공지능 알고리즘으로 세포 사이의 경로를 구분하고, 세부 구조를 3차원으로 재구성했다. 아직 밝혀지지 않은 뇌 기능과 관련 질병에 대한 새로운 정보를 제공할 것으로 보고 있다.

중국은 자율주행을 위한 ‘14억의 실험실’이라 불리는데, 도시 전체를 자율주행 실험실로 만든 건 ‘시티 브레인’이라는 인공지능과 첨단 모빌리티로 무장된 지능화 도시라는 콘셉트를 수출 모델로 삼기 위해서다. 이동 시간이 업무와 공부와 휴식의 시간으로 바뀌는 새로운 개념을 보게 될 것이라 전망한다.

인간의 지능을 넘어서는 인공지능의 출현이 얼마 안 남았다는 전망 앞에서, 인간은 선천 인간의 한계를 넘어선 가을 인간으로 거듭나야 한다는 시대정신의 한가운데에 있다. (한재욱 객원기자 )