# 전자상거래 플랫폼 아마존은 지난 9일 미국 내슈빌 컨퍼런스에서 인공지능이 쇼핑을 도와주는 ‘자율 쇼핑 인공지능 도우미(AI 에이전트)’ 계획을 발표했다.

아마존은 지난 2월부터 거대언어모델 기반의 챗봇 루퍼스를 서비스하고 있다. 루퍼스는 방대한 제품 정보, 고객 질문, 후기, 피드백 등 사람이 몇시간 동안 검색을 통해 파악할 수 있는 정보를 조사하고 사용자 구매습관까지 반영한 맞춤형 결과를 순식간에 추천해준다.

트리슐 칠림비 아마존 부사장은 “우리는 자율 쇼핑 인공지능 에이전트의 초기모델을 만들고 있으며 적절한 때 출시할 것”이라고 밝혔다.

# 지난 2일 샌프란시스코에서 열린 오픈에이아이(OpenAI) 개발자대회(데브데이)에서 케빈 와일 최고제품책임자는 “우리는 인공지능을 다른 사람과 상호작용하는 것처럼 만들고 싶다.

2025년은 인공지능 에이전트 시스템이 주류가 될 것”이라고 말했다.

샘 올트먼 오픈에이아이 최고경영자는 지난 5월 인공지능 에이전트를 킬러 앱으로 소개하며,“내 인생 전체, 모든 이메일, 내가 말하는 모든 대화를 모두 알고 있는 매우 유능한 동료”라며 “이에 비하면 챗지피티는 멍청한 수준”이라고 말했다.

소프트뱅크도 최근 오픈에이아이에 5억달러를 투자하며 인공지능 에이전트가 곧 집안 전체를 관리할 것이라고 전망했다.

어떠한 질문에도 척척 답변을 내놓고 순식간에 고품질의 창작물을 만들어내는 생성 인공지능의 다음 단계로 인공지능 에이전트가 주목받고 있다. 수동적으로 답변을 내놓는 챗지피티(GPT) 같은 챗봇과 달리 인공지능 에이전트는 능동성과 자율성이 특징이다.

“내일 일정을 짜줘”라고 말하면 인공지능 에이전트가 즉시 일정을 정리하고, 회의를 주선하고, 메모를 작성하고, 이전 미팅 회의록에서 중요한 사항을 브리핑하는 방식이다. 쇼핑이나 재무관리 등 시간과 정성을 쏟아야 하는 일도 대행해 줄 수 있다.

예를 들어, 아마존은 한강 작가의 팬인 독자에게 한강의 신간이 나오면 이를 자동으로 추천하고 구매까지 대신할 수 있다고 말한다. “한강 작가의 신간이 나와 장바구니에 담았습니다. 오늘 배송하면 내일 아침 도착합니다. 이대로 진행할까요?”라고 ‘최종 승인’ 여부만 묻는 방식이다.

인공지능 에이전트는 나의 말을 경청할 뿐 아니라 일상에서 처리해야 할 업무를 빠르고 깔끔하게 정리해주며 판단과 실행까지 대행해주는 걸 목표로 한다. 인공지능 에이전트를 활용하면 누구나 유능하고 독립적이며 자율적으로 행동하는 개인 비서를 곁에 두는 셈이다.

 “GUI 이후 40년 만의 컴퓨팅 최대 혁신”

빌 게이츠는 지난해 11월 블로그 게이츠노트에 글을 올려 인공지능 에이전트가 컴퓨터 사용방식을 근본적으로 혁신할 것이라고 주장했다.

게이츠는 “뛰어난 사이트라도 사용자의 업무, 개인사, 관심, 인간관계에 대한 이해가 불완전하기 때문에 이를 활용한 작업 수행에 한계가 있다. 친한 친구나 개인비서만 할 수 있는 영역이 있다”며 인공지능 에이전트 덕분에 “5년 뒤에는 완전히 달라져 일상언어로 원하는 것을 기기에 말하기만 하면 된다”고 말했다.

빌 게이츠는 지난해 3월 블로그 글에서 챗지피티를 컴퓨팅 분야에서 1980년의 그래픽사용자환경(GUI) 이후 최대의 혁신기술이라고 주장했는데, 그 이유를 대중의 컴퓨터 사용방법 변화라고 적시했다.

게이츠는 “나는 30여년 간 에이전트에 대해서 생각해왔고 1995년 저서 ‘미래로 가는 길’에서 주장했지만, 최근 인공지능 발전으로 마침내 실용화됐다”며 인공지능 에이전트는 모든 사람이 컴퓨터와 상호작용하는 방식을 바꿀 것이라고 말했다. 그는 특히 대부분의 사람들이 이용하기에 비싼 건강 관리, 교육, 생산성, 엔터테인먼트와 쇼핑 관련한 영역에서 인공지능 에이전트의 영향력이 특히 클 것이라고 예상했다.

오픈에이아이, 아마존, 소프트뱅크뿐 아니라 최근 한달 안에 인공지능 에이전트 개발을 언급한 빅테크 기업에는 구글, 메타, 마이크로소프트, 세일즈포스 등도 들어 있다.

다수의 빅테크가 개발에 뛰어들고 있으며 컴퓨팅을 혁신할 기술이라며 기대를 키우고 있지만, 인공지능 에이전트는 새로운 문제도 불러온다. 사용자의 명령에 따라 움직이는 그래픽사용자환경과 달리, 인공지능 에이전트는 자율적이고 능동적인 ‘행위 주체’로 기능하기 때문이다.

악의적 사용자가 인공지능 에이전트를 이용해 딥페이크나 악성코드를 만들어 사기와 범죄를 저지르게 할 수 있다. 인공지능 에이전트가 가져올 영향에 대해 부주의하거나 무지한 이용자가 사용한다면 거대한 재난으로 이어질 수 있다. 유발 하라리가 최신작 ‘넥서스’에서 우려한 내용이기도 하다.

저명한 인공지능 과학자 피터 노빅은 지난 4일 ‘포브스’ 회견에서 안전하고 책임감 있는 에이전트 개발을 위해서는 엄격한 제어와 안전성 구축이 우선되어야 한다고 조언했다.

생성형 인공지능(AI) 등 신기술의 영향으로 자신의 업무가 위협받을 수 있다는 한국인의 불안감이 주요 10개국 가운데 두번째로 높은 것으로 조사됐다. 그러면서도 한국인은 인공지능 기술 활용에 다른 나라 시민보다 긍정적이고, 생성형 인공지능 개발을 감시·규제할 필요성은 크게 느끼지 못하는 것으로 나타났다.

3일 정세정·신영규 한국보건사회연구원 부연구위원이 한국과 미국, 유럽 등 10개국 시민을 설문조사한 자료(SCOaPP-10)를 분석한 보고서(‘디지털전환과 인공지능 기술에 관한 인식과 태도에 대한 10개국 비교’)를 보면 인공지능 기술에 대한 한국인의 양가적인 인식과 태도가 엿보인다.

한국은 ‘신기술 등장으로 자신의 업무가 위협받을 가능성이 있느냐’는 질문에 “매우 동의하거나 동의한다”는 응답(35.4%)이 이탈리아(39.1%) 다음으로 가장 많았다. 영국(28.3%)은 물론 스웨덴(20.1%)·덴마크(18.3%)에 견줘 월등히 높았다. 신기술 확산에 따라 일자리를 잃을 수 있는 등 한국인의 고용 불안감이 다른 나라보다 크다는 뜻이다. 이외에도 본인의 디지털 기술 숙련도 수준을 묻는 질문에 대한 한국인의 답변은 다른 나라에 견줘 낮은 편에 속했다.

반면 한국인은 인공지능 기술 활용에 대해선 호의적인 반응을 보였다. ‘노년기 동반자 역할 인공지능 로봇 기술’(64.2%, 긍정 답변율), ‘세금·사회보장급여 계산을 위한 인공지능 기술’(63.8%), ‘질병 진단을 위한 인공지능 기술’(58.7%)의 이용 의향을 묻는 질문에 긍정 답변율이 10개국 중 가장 높았다. 같은 질문에 대해 핀란드·덴마크 등 북유럽 국가에선 부정 답변이 더 많았다.

규제에 대해선 소극적인 입장을 보였다. 인공지능 기술의 오남용을 막기 위해 ‘독립적인 기관이 생성형 인공지능 개발을 감시·규제할 필요성이 있느냐’는 물음에 한국은 58.7%만 “매우 동의하거나 동의한다”고 답했다.

10개국 가운데 이탈리아에 이어 두번째로 낮은 수치다. ‘노동자를 대체하는 신기술이 기업의 수익을 높이는 경우 규제해야 하는가’란 질문에도 한국은 32.9%가 “규제하지 않거나 최소한의 규제”를 주장했다. 10개국 중 가장 규제에 부정적인 응답률이다.

인공지능 기술의 토대가 되는 데이터 활용 기관에 대한 신뢰도 조사도 눈길을 끈다. ‘개인 데이터를 책임감 있게 사용할 것으로 신뢰하는 기관’(중복응답)을 묻는 질문에 한국은 41.6%만이 “중앙정부를 신뢰한다”고 답했다. 조사 대상 국가 중 이탈리아 다음으로 가장 낮다. 같은 질문에서 핀란드와 노르웨이는 각각 73.2%와 65.1%가 중앙정부를 신뢰한다고 했다.

인공지능(AI) 모델 훈련에 AI가 만든 데이터를 쓸 수 있는지 기업과 학계의 논쟁이 이어지고 있다. 학습 데이터 고갈과 모델 붕괴라는 현실적인 문제 사이에서 AI 업계 종사자들은 아직 확실한 답을 찾지 못한 모습이다.

14일 테크크런치 등 외신에 따르면 합성 데이터 생성 시장은 오는 2030년까지 23억4천만 달러까지 커질 전망이다.

가트너는 올해 AI와 분석 프로젝트에 사용되는 데이터의 60%가 AI로 생성될 것으로 예측했다. 레딧이 구글, 오픈AI 등 데이터 라이선스를 제공하는 대가로 수억 달러를 버는 등 데이터의 가격이 크게 급등했기 때문이다.

또 일부 연구진은 데이터 스크랩 금지 등으로 인해 오는 2026년부터 2032년 사이에 생성형AI 모델이 학습할 데이터가 고갈될 것으로 예상했다. 앞서 샘 알트먼 오픈AI 대표는 지난 8월 "언젠가 AI는 스스로를 효과적으로 훈련할 수 있을 만큼 합성 데이터를 생산할 수 있을 것"이라고 언급했다.

다만 이에 대한 의견은 여전히 분분하다. 스탠퍼드 대학 통계학과 교수 등은 지난해 훈련 중에 합성 데이터에 지나치게 의존하면 모델의 품질이나 다양성이 점진적으로 감소할 수 있다는 연구 결과를 발표한 바 있다.

또 ▲모델 붕괴 ▲창의성 감소 ▲출력 편향 ▲샘플링 편향 ▲환각 강화 등이 일어날 수 있다고 주장했다.

옥스퍼드 대학 교수진들은 지난 6월 네이처에 합성 데이터를 사용해 생성형AI를 훈련하면 모델 정확도가 크게 떨어져 오류가 발생할 수 있다는 논문을 게재했다.

옥스퍼드 대학 일리아 슈마일로프 교수는 "모델 붕괴는 학습된 생생형AI 모델을 퇴화시키는 과정으로 이렇게 생긴 데이터는 다음 세대의 모델 훈련 과정을 오염시킨다"며 "이렇게 망가진 데이터로 모델이 머신러닝 될 경우 현실을 잘못 인식할 우려가 크다"고 말했다.

정부가 퍼블리시티권 보호 법안 마련에 착수했다. 음악·영상 등 인공지능(AI) 콘텐츠가 증가하면서 법적·윤리적 문제가 수면 위로 부상하고 있기 때문이다.

퍼블리시티권은 얼굴이나 목소리 등 개인의 특징을 상업적으로 이용할 수 있는 배타적 권리다. 인격권인 초상권과 달리 재산권으로 구분된다.

14일 업계에 따르면 문화체육관광부는 퍼블리시티권 보호와 이용에 관한 법률(가칭) 제정을 위해 퍼블리시티권 보호를 위한 법적 범위와 근거를 마련하고 있다. 현재 초안 작성은 완료된 상태로 저작권 전문가 자문 등 검수를 하고 있다. 이르면 올해 발의될 전망이다.

문체부의 이 같은 움직임은 콘텐츠 업계에서 '퍼블리시티권 침해' 논란이 끊이지 않고 있기 때문이다. 특히 AI 기술 발달로 침해 논란이 더 가속화되는 모양새다. 실제로 유튜브 및 소셜네트워크서비스(SNS)에서는 유명인 목소리 데이터를 학습해 그대로 모방하는 'AI 커버곡' 열풍이 불고 있다. 커버곡을 만드는 과정에 AI가 활용되는 것이다.

딥페이크 성착취물·불법촬영물 피해도 심각하다 딥페이크 범죄는 유명인이 아닌 일반인까지 대상 범위가 확대됐다. 불특정 다수를 상대로 SNS에 올라온 사진들을 몰래 모은 뒤 AI 기술을 활용해 성 착취물을 만드는 식이다.

온라인으로 빠르게 유통되는 음악·영상 등의 AI 콘텐츠는 퍼블리시티권 침해 논란이 있음에도 명확한 법규가 마련돼 있지 않다.

문체부가 마련 중인 퍼블리시티 법안에는 타인이 본인 허락없이 무단으로 이러한 특질 등을 사용해 배포하거나 발행 혹은 공연 등의 목적으로 사용할 경우, 이를 침해행위로 보고 규제하는 내용이 담길 전망이다.

앞서 문체부는 대중예술인의 '퍼블리시티권' 귀속을 명확히 한 바 있다. 지난 6월 '대중문화예술인 표준전속계약서' 개정안 2종을 고시했다. 개정안에서는 계약기간 중 기획업자가 퍼블리시티권을 배타적으로 이용할 수 있는 권한을 가짐은 변함이 없으나, 원천적으로는 해당 예술인에게 귀속되는 권리임을 명확히 했다.

세계적으로 딥페이크 문제가 확산되며, 국가별로도 퍼블리시티권 관련 제도에 관심이 쏠린다. 미국의 경우 19개 주에서 주법으로 퍼블리시티권을 보호하고 있다.

캐나다에서도 주법으로 퍼블리시티권을 보호하고 있다. 일본은 아직 관련 법은 없지만 1991년 도쿄고등재판소, 2012년 최고재판소에서의 판결 이후 퍼블리시티권을 법원이 적극적으로 인정하고 있다.