[더밸류뉴스=이영기 산업부장 부국장]

스마트폰을 버리고도 은행과 관공서, 직장 업무를 정상적으로 이용할 수 있을까. 안면인식이나 생체정보 제공을 거부하면서 금융·통신 서비스를 똑같이 이용할 수 있을까. AI의 평가를 거부한 구직자는 인간에게 다시 심사해 달라고 요구할 수 있을까. 선택의 자유가 법률에 적혀 있더라도 스마트폰이나 안면인식을 거부하는 순간 사회 밖으로 밀려난다면 그것을 과연 자유라고 부를 수 있을까.

나만 이런 불안을 느끼는 것은 아닌 듯하다. 미국이라는 나라도 비슷한 처지다. 경쟁에서 뒤처질까 두려워 AI 질주를 멈추지 못하면서도, 잠시 숨을 돌려야 한다는 아우성이 가득하다. 전세계가 AI의 위험을 몰라서 이렇게 달리는 것은 아니다. 위험을 알면서도 누구도 먼저 멈추지 못하는 것이다.

◆ 지금까지는 기술이 우리가 살아갈 길을 알려줬다  

미국과 중국의 AI 경쟁은 산업을 넘어 안보 경쟁으로 번졌다. 미국이 안전성을 검증하느라 개발 속도를 늦추면 중국이 추격하고, 한 기업이 모델 출시를 미루면 경쟁사가 이용자와 투자금, 인재를 선점한다. 누군가 멈추면 상대가 앞서간다는 논리가 AI 질주를 더욱 가속한다. 잠시 멈춰 숨을 돌린다는 것조차 허용되지 않는다.

개인도 다르지 않다. AI를 쓰지 않겠다고 선택할 수는 있다. 그러나 학교와 직장, 금융과 행정이 AI를 전제로 재편되면 그 선택에는 감당하기 어려운 대가가 따른다. 스마트폰을 사용하지 않을 자유가 형식적으로 남아 있어도 정상적인 사회생활은 어려워진 것과 같다. 기업의 업무 시스템에 접속하려면 2단계 인증을 거쳐야 하고, 그 과정에서 스마트폰은 이미 필수가 됐다.

소수가 먼저 신기술을 사용해 생산성과 경쟁의 기준을 바꾸면 나머지도 뒤처지지 않기 위해 이를 받아들여야 한다. 기술 채택은 개인의 자유로운 선택처럼 보이지만 실제로는 사회가 함께 해결해야 할 집단행동의 문제가 된다. 

AI 질주를 우려하는 한 정치학 교수는 "강력한 신기술에는 사람을 강제하는 지대한 효과가 있다"고 말한다. 학생들이 생성형 AI로 과제하면 다른 학생도 뒤처지지 않으려 같은 도구를 쓴다. 한 기업이 AI로 인력을 줄이면 경쟁사도 비용을 낮추기 위해 AI를 도입한다. AI를 거부할 자유는 남아 있지만 그 자유를 행사하는 대가는 갈수록 커진다.

이것이 AI 가속의 함정이다. 기술은 새로운 선택지를 제공하는 데 그치지 않고 기존의 선택지를 지워버린다. ‘AI를 사용할 것인가’를 묻던 사회는 어느 순간 ‘AI 없이 살아갈 수 있는가’를 묻게 된다.

기술 진보가 곧 인간의 진보인 것도 아니다. 산업혁명의 충격은 수십 년에 걸쳐 나타났고, 사회는 시행착오를 거치며 노동법과 교육제도, 복지 체계를 만들었다. 그러나 오늘날 AI 모델의 성능은 몇 개월 단위로 달라진다. 부모와 교사는 다음 세대가 어떤 능력을 준비해야 할지 알기 어렵고, 한 세대의 경험은 다음 세대에 전해지기도 전에 쓸모를 잃는다. 짙은 안개 속에서 운전하는 것처럼 사람들은 교육과 직업, 가족에 관한 장기 계획을 세우기 어려워졌다. 하지만 문제는 속도에만 있지 않다.

 

◆ 이제는 기술이 자기 만의 길을 가려한다

AI는 궁극적으로 초지능에 도달해 인류를 위협할 가능성까지 제기한다. AI 역할이 정보제공을 넘어 현실에서 시스템을 직접 제어하고 실행하는 자율 단계로 전환되면 인간이 컴퓨터로 할 수 있는 일은 무엇이든 AI가 해내게 된다. 최근에는 AI가 사람과 로봇을 구별하는 온라인 검증도 통과해 인간으로 인증 받았다는 소식도 전해진다.

생성형 AI가 친구와 교사, 조언자와 작가의 자리를 차지하면서 우리는 인간 고유의 영역이라고 여겼던 판단과 창작을 기계에 맡기기 시작했다. AI는 이미 인간의 사고 습관과 사회적 관계를 바꾸고 있다.

교육 현장에서 학생들이 AI로 글을 쓰면 교사는 그 글이 학생 자신의 생각인지 확인하기 어렵다. 오랫동안 사고력과 표현력을 길러온 논술과 보고서 과제도 효력을 잃고 있다. 이는 인간이 생각을 다듬고 자기 언어를 형성하는 길을 좁게 만들고, 마침내 그 길 자체를 지워버릴 수 있다.

‘AI를 선택하는 자유와 AI를 거부할 자유의 소멸’ [이미지=더밸류뉴스 | AI 생성]  자본과 연구도 인간을 돕는 AI보다 인간의 일을 대체하는 AI에 더 빠르게 몰리고 있다. 기업에는 노동 비용을 줄이는 일이 합리적일 수 있지만, 사회 전체로는 일자리 감소와 소득 격차 확대, 노동자의 협상력 약화로 이어진다.

중요한 것은 AI가 인간보다 얼마나 똑똑해지느냐가 아니다. AI가 인간을 이전보다 더 유능하고 자율적인 존재로 만들어주느냐는 것이다. 노벨상 수상 연구에서도 AI의 기여도를 둘러싼 논란이 일고 있지 않는가. 이 질문을 놓치면 AI는 인간을 돕는 도구가 아니라 인간을 밀어내며 자기 길을 가는 체계가 될 것이다.

계산기는 인간처럼 생각하지 않지만 인간의 능력을 확장했다. 반면 인간을 흉내 내고 대체하는 AI는 뛰어난 성능을 갖추고도 공동의 생산성을 충분히 높이지 못한 채 분배 문제를 더 키울 수 있다. 인류의 진보는 발명의 자연스러운 결과가 아니다. 발명의 방향과 성과의 배분은 사회가 정치적 선택을 통해 성취해낸 결과다. 증기기관과 공장 제도 역시 이런 문제를 동반했고 오랜 정치 과정과 제도 개혁을 거친 뒤에야 오늘날의 모습으로 거듭났다.

AI가 누구의 문제를 해결할 것인지, 인간을 보완할 것인지 대체할 것인지, 생산성 향상의 성과를 누가 가져갈 것인지는 기술자가 이미 결정해 놓은 사실이 아니다. 민주 사회가 개입해 결정해야 할 선택이다. 기술 진보가 저절로 공동의 번영으로 이어진다는 믿음은 위험하다.

우리는 AI를 사용하기만 하면 되는가. 민주 사회의 시민이라면 AI의 평가와 결정에 일방적으로 종속되지 않고, 그 이유를 알고 이의를 제기하며 최종적으로 스스로 선택할 수 있어야 한다. 지금 물어야 할 것은 AI를 얼마나 잘 사용할 것인가만이 아니다. 우리가 AI의 방향을 선택하고 있는가, 아니면 AI가 우리의 미래를 강요하고 있는가이다. 인간이 이런 질문을 포기하는 순간, AI는 인간을 배제하고 자기만의 길을 가기 시작할 것이다.

007@thevaluenews.co.kr

[저작권 ⓒ 더밸류뉴스. 무단 전재 및 재배포 금지]