AI 혁명의 그늘, “인류사 마지막 사건 될 수도”

▲김문조 고려대 명예교수가 지난 5일 서울 종로구 라이나전성기재단 라이나홀에서 열린 미래포럼 제3회 회원포럼에서 ‘AI 문명 시대의 도래와 사회적 파장’을 주제로 강연하고 있다.(이준호 기자)

미래포럼이 지난 5일 서울 종로구 라이나전성기재단 라이나홀에서 제3회 회원포럼을 열고 ‘AI 문명 시대의 도래와 사회적 파장’을 주제로 인공지능이 불러올 문명사적 전환과 위험을 논의했다. 이번 포럼은 미래포럼이 민주주의·다양성·돌봄·기술·지속가능성 등 다섯 가지 키워드로 기획한 시리즈 ‘다섯 가지 담대한 희망’ 가운데 ‘기술과 AI’를 다룬 세 번째 순서다.

장필화 미래포럼 이사장은 개회사에서 “오늘 발표를 해 주실 김문조 교수는 ‘포스트 소셜 사회론 AI 문명시대의 미래’라는 책에서 인간이 만들어지기도 전의 지구에서부터 우주 전체까지, 미세에서 가장 큰 스케일까지를 아우르며 어려운 주제를 모두 녹여냈다”며 “AI를 둘러싼 거대한 변화의 스케일을 함께 생각해 보는 자리가 되기를 바란다”고 말했다.

주제발표를 맡은 김문조 고려대 명예교수는 정보혁명을 “1단계 컴퓨터 혁명(자동화 사회), 2단계 인터넷·네트워크 혁명(초연결 사회), 3단계 지능 혁명(AI 혁명)”으로 나누며 “1·2단계를 모두 합쳐 유라시아 대륙이라고 본다면 AI 혁명은 완전히 동떨어진 신대륙”이라고 규정했다. 단순한 기술 혁명이 아니라 “시공간 제약 없이 언제 어디서나 소통이 가능한 소통 혁명”이며, 이 과정에서 미디어는 단순 매개체를 넘어 “독자적 행동을 하는 행위자”가 됐다고 짚었다.

그는 AI 확산이 가져온 사회 변화를 ‘탈현실화·탈인간화·탈진실화’로 요약했다. 가상현실과 증강현실이 현실의 독점적 지위를 무너뜨리는 ‘탈현실화’, 인간이 기계처럼 작동하고 사물이 인간처럼 말하는 ‘탈인간화’, 사실에 근거한 객관적 지식의 권위가 약화되고 “사실이 아니지만 더 흥미로운 서사가 진실을 대체하는” ‘탈진실화’가 동시에 진행되고 있다는 설명이다.

김 교수는 또 단순한 정보 격차를 넘어 복잡한 기기를 다루는 ‘운영 격차’, 데이터를 선별·조합하는 ‘큐레이션 격차’, AI를 활용해 능력을 키우는 ‘증강 격차’가 겹치며 “디지털 장애”를 낳고 있다고 진단했다. 그는 “예전에는 인간 소외를 걱정했다면 이제는 퇴출까지 연결된다”며 “노동 시장에서뿐 아니라 사회적 존재로서 인간이 ‘필요 없는 존재’가 될 수 있다는 상상까지 가능해졌다”고 경고했다. 기술은 배경이 아니라 “프랑켄슈타인 같은 정보 괴물”이 될 수 있다는 표현도 사용했다.

대응 방식과 관련해 그는 “이제 AI를 단순히 통제의 대상으로 보는 것은 불가능하다”고 선을 그으며, 인간의 가치와 AI 목표를 맞추는 ‘정렬’ 개념을 제시했다. 자율적 학습에 대한 이해, 규범·윤리의 제시, 법적 제재라는 세 축을 통해 인간과 AI의 관계를 다시 설계해야 한다는 제안이다. 세 가지 ‘탈’ 가운데서는 “내가 누구인가, 어떤 세상에 와 있는가라는 정체성의 문제를 흔드는 탈인간화가 가장 근본적인 위기”라고도 강조했다.

지정토론에 나선 전치형 카이스트 과학기술정책대학원 교수는 “그리스 신화에서부터 인간은 늘 ‘나를 닮은 피조물’을 만들고자 했다”며 AI 개발을 역사적 욕망의 연속선 위에 놓고 읽어야 한다고 했다. 그러면서 김 교수가 사용한 ‘인간 퇴출’, ‘정보 괴물’, ‘알고리즘 지배’ 같은 표현을 거론하며 “이것이 단지 부작용을 경고하는 수사인지, 아니면 우리가 저항해야 할 파국적 변화에 대한 진단인지 사회적 입장이 분명해야 한다”고 지적했다.

전 교수는 논의를 ‘인공지능’에서 ‘인공 지구(Anthropocene)’로 확장해야 한다고도 제안했다. 그는 “우리는 인공지능 시대에 살고 있지만 동시에 인간 활동이 지구를 되돌릴 수 없게 바꾼 인류세, 인공 지구의 시대를 살고 있다”며 “인공지능과 인공 지구 모두 인간의 활동으로 생겨났지만, 결국 우리가 먹지 못하고 숨쉬지 못하게 돼 사라지게 만드는 것은 인공지능이 아니라 인공 지구일 수 있다”고 말했다. AI 논의가 모든 의제를 빨아들이면서 정작 기후·환경 위기를 가리는 일이 있어선 안 된다는 경고다.

종합토론에서 김 교수는 “생성형 AI 시대 인간의 욕망은 결국 ‘말하는 주체’가 되려는 데 있다”며 “소통 혁명 시대에 내가 발화자가 되는 것이 존재 가치를 확인하는 방식”이라고 설명했다. 그는 “지금 나타나는 격차와 인간 퇴출의 조짐은 생존을 위협할 수준이므로 저항이 필요하다”며, AI라는 행위자 역시 전치형 교수가 말한 인공 지구의 틀 안에서 함께 다뤄져야 한다고 덧붙였다.