[더밸류뉴스=이연우 기자]

"AI는 우리가 무엇을 하는지는 잘 알지만, 왜 그 행동을 하는지는 아직 이해하지 못합니다."

12일 오전 서울 용산구 그랜드 하얏트 서울. 인공지능(AI) 기술이 빠르게 발전하는 가운데 기술의 성능을 넘어 인간에게 미치는 영향을 논의하기 위해 국내외 AI 전문가와 기업 관계자들이 한자리에 모였다.

중소벤처기업부와 창업진흥원이 주최한 'DEEP DIVE INTO 2026'(DETO 2026)은 지난 10일부터 12일까지 사흘간 그랜드 하얏트 서울에서 열렸다. 이번 행사는 국내 딥테크 스타트업의 혁신 기술을 공유하고 글로벌 기업·투자자와의 협력 및 해외 진출 기회를 확대하기 위해 마련됐다.

행사에서는 피지컬 AI와 에이전트 AI, 인간을 위한 AI 등을 주제로 기조강연과 기술 포럼, 기업 전시, 투자·협력 프로그램이 진행됐다. 현장에는 AI 데이터센터 연결 기술을 선보인 포인투테크놀로지 등 딥테크 기업의 전시 부스도 마련됐다.

◆ "AI는 누구의 기준으로 판단하나"…멀티모달 시대의 과제

마지막 날인 12일에는 제임스 랜데이(James Landay) 미국 스탠퍼드대학교 인간중심 AI 연구소(HAI) 소장이 '멀티모달과 오픈소스가 여는 AI의 새로운 미래'를 주제로 강연했다.

12일 개최한 DETO 2026에서 제임스 랜데이(James Landay) 미국 스탠퍼드대학교 인간중심 AI 연구소(HAI) 소장이 '멀티모달과 오픈소스가 여는 AI의 새로운 미래'를 주제로 강연했다. [사진=더밸류뉴스]

랜데이 소장은 AI가 음성과 몸짓, 시선 등 다양한 정보를 이해하는 멀티모달 기술로 발전하면서 인간의 의도를 해석하는 방식에도 주목해야 한다고 강조했다. AI가 더 많은 정보를 처리하더라도 누구의 표현과 상황을 기준으로 판단하는지는 별개의 문제다.

그는 "AI 시스템이 우리의 의도를 추론할 때 과연 누구의 의도를 이해하는 것인가"라며 "어떤 사람의 몸짓이 인식되고, 누구의 상황이 중요하게 받아들여지는지도 살펴야 한다"고 말했다.

AI는 설계 과정에 반영된 관점과 가정의 영향을 받는다. 특정 문화권을 기준으로 삼을 경우 다른 문화권의 표현을 제대로 이해하지 못할 수 있다. 멀티모달 AI에서는 이러한 문제가 언어뿐 아니라 표정과 몸짓, 목소리 등으로 확대될 가능성이 있다.

랜데이 소장은 AI 기술과 데이터가 소수 기업과 국가에 집중되는 문제도 지적했다. 기술 개발을 주도하는 기업과 국가의 가치관이 AI에 반영되면서 특정 문화와 관점이 일반적인 기준으로 자리 잡을 수 있기 때문이다.

이에 각국이 추진하는 'AI 주권' 역시 기술 자립만을 목표로 해서는 안 된다고 설명했다. 랜데이 소장은 "AI 주권을 완전한 자급자족으로 이해하는 경우가 많지만, 상호의존적인 공급망을 기반으로 하는 AI 산업에서 이는 불가능하고 오히려 역효과를 낳을 수 있다"고 말했다.

모든 기술을 자체 개발하기보다 국가적으로 중요한 분야에서는 국내 역량을 확보하고, 다른 분야에서는 해외 기술과 오픈소스를 전략적으로 활용해야 한다는 취지다.

다만 오픈소스만으로 기술 종속 문제를 해결하기는 어렵다고 덧붙였다. 랜데이 소장은 특정 기업에 종속되지 않는 탈중앙화 AI와 자유로운 데이터 이동, 작업 수행 여부를 확인할 수 있는 AI 에이전트가 함께 필요하다고 강조했다.

◆ "AI 성능 평가 현실과 동떨어져"…새 기준 마련 나선 스탠퍼드

이어진 패널 토론에서 AI 기술이 실제 인간의 삶에 미치는 영향과 AI 평가기준에 대한 논의가 이어졌다. 인간중심 AI라는 포괄적인 개념을 어떻게 구현하고 평가할 것인지에 대한 질문에 랜데이 소장은 기존 AI 벤치마크(성능 평가)의 한계를 지적했다.

DETO 2026 '멀티모달과 오픈소스가 여는 AI의 새로운 미래' 패널토론에서 참석자들이 논의하고 있다. (왼쪽부터 김선식 오픈 AI 디렉터, 제임스 랜데이 스탠퍼드대 인간중심 AI 연구소장, 노유헌 이모코그 공동대표, 이기욱 휴로틱스 대표, 임재균 SK텔레콤 멀티모달 플랫폼 개발팀 PL) [사진=더밸류뉴스]

그는 "현재 상당수 벤치마크는 사람들이 AI를 사용하는 환경과 동떨어져 있다"며 "실제 사용 상황을 지나치게 단순화하는 경우가 많다"고 설명했다. 기존의 기술적 성능 평가뿐 아니라 의료나 금융 등 실제 현장에서 AI가 복잡한 업무를 수행할 수 있는지도 살펴야 한다는 것이다.

스탠퍼드 연구진은 지난 9월 AI 벤치마크 56개를 분석해 같은 능력을 평가하는 시험에서도 결과가 일치하지 않는 사례를 확인했다. 기존 평가의 정확성과 신뢰성을 검증할 필요가 있다는 지적이다.

의료 분야에서는 실제 업무를 반영한 평가도 개발되고 있다. AI가 의사 면허시험에서 높은 점수를 받더라도 환자의 과거 진료 기록과 검사 결과를 종합해 수행하는 능력은 별개다. 스탠퍼드 연구진은 AI가 실제 진료 및 의료 행정 과정의 여러 단계를 수행할 수 있는지 검증하는 평가체계를 연구하고 있다.

랜데이 소장은 약 2주 전 열린 스탠퍼드 HAI 콘퍼런스에서 AI 측정과학 관련 새 연구센터 계획을 비공식적으로 소개했다고 밝혔다. 기존 벤치마크를 없애기보다 인간의 실제 문제와 사용 환경을 반영하는 평가를 추가해야 한다는 설명이다.

이어 패널들의 답변에서도 인간 중심 AI가 논의됐다. 노유헌 이모코그 공동대표는 경도인지장애 환자를 위한 디지털 치료기기의 최종 목표가 단순한 기억력 개선이 아닌 일상생활 능력 향상이라고 설명했다. AI가 인지 기능을 보조하더라도 환자가 스스로 판단하고 생활할 수 있도록 돕는 것이 중요하다는 것이다.

이기욱 휴로틱스 대표 역시 웨어러블 로봇을 활용한 보행 재활에서 인간의 능동적인 참여를 강조했다. 로봇이 환자의 움직임을 완전히 대신한다면 보행 자체는 가능하더라도 재활 훈련이라는 목적을 달성하기 어렵다는 설명이다.

이 대표는 "로봇이 환자의 보행을 완전히 대체한다면 환자는 훈련을 하는 것이 아니다"라며 "로봇이 얼마나 잘 작동하느냐보다 어떻게 하면 사람이 스스로 더 많이 움직이도록 만들 것인지가 중요한 문제"라고 말했다.

결국 AI가 얼마나 많은 일을 정확하게 대신하는지뿐 아니라, 기술의 도움으로 인간이 스스로 무엇을 할 수 있게 됐는지도 중요한 평가 대상이라는 것이다.

dldusdn836@thevaluenews.co.kr

[저작권 ⓒ 더밸류뉴스. 무단 전재 및 재배포 금지]