지난 2월 국내 신규 다운로드가 중단된 중국 인공지능(AI) 스타트업 딥시크가 챗봇 입력창에 넣은 정보 등을 이용자 동의 없이 중국 바이트댄스 계열사에 전송한 사실이 확인됐다. 개인정보보호위원회(개인정보위)는 딥시크에 이미 국외로 이전한 이용자 정보를 즉각 파기할 것을 시정 권고했다. 딥시크는 개인정보위의 시정·개선 권고를 이행한 뒤 국내 신규 앱 다운로드 서비스를 재개할 전망이다.

개인정보위는 24일 딥시크 서비스의 사전 실태점검 결과, 다른 사업자와의 통신 기능 및 개인정보 처리방침에 미흡한 부분을 일부 확인했다고 밝혔다.

점검 결과 개인정보위는 딥시크가 이용자로부터 국외 이전에 대한 동의를 받지 않은 채 개인정보를 중국·미국 소재 회사 4곳(중국 3곳, 미국 1곳)에 이전한 점을 확인했다. 특히 딥시크는 이용자의 기기 및 네트워크 정보, 앱 정보 이외에도 챗봇 입력창에 쓴 내용을 중국 바이트댄스가 소유한 클라우드 플랫폼 ‘볼케이노 엔진’에 전송해왔던 것으로 드러났다.

딥시크 쪽은 개인정보위에 “보안 취약점 및 이용자 인터페이스와 경험(UI/UX) 등의 개선을 위해 클라우드 서비스를 이용한 것”이라며 서비스 운영·개선 이외 목적으로는 개인정보를 이용하지 않고 있다고 소명했다. 하지만 개인정보위는 보안 문제와 사용자 경험 개선 목적으로 이용자의 입력 내용을 수집할 이유는 없다고 지적했고, 이에 딥시크는 지난 10일부터 이들 정보의 신규 이전을 차단했다.

지난 1월 국내 서비스 출시 이후 광범위한 정보 수집 의혹이 일었던 키 입력 패턴과 리듬은 실제 수집되지 않은 것으로 나타났다. 딥시크의 개인정보 처리방침에는 회사가 이들 정보를 수집하는 것으로 명시됐으나, 이는 서비스 출시 전 수집 정보를 확정하지 않은 상태에서 처리방침을 먼저 작성했기 때문이라는 게 회사 쪽 설명이라고 개인정보위는 전했다. 아울러 딥시크는 이용자가 프롬프트에 입력한 내용이 인공지능 개발·학습에 활용되는 것을 거부할 수 있는 기능인 ‘옵트아웃’ 옵션도 지난달 17일 국내 서비스에 추가했다.

개인정보위는 그동안 국내외 언론 등이 제기한 딥시크의 개인정보 침해 우려와 관련해 시스템 전반을 점검했지만, 딥시크 쪽이 이용자의 민감 정보를 의도적으로 수집했다고 볼 수 없는 만큼 조사로 전환해 시정명령 및 과징금 처분 등을 하진 않았다고 설명했다. 이용자들이 프롬프트에 입력한 민감 정보가 국외로 이전됐을 가능성을 배제할 순 없지만, 개인정보위가 입력 데이터를 확인할 방법은 없기 때문이다.

또 페이스북 프로필에 종교와 결혼 여부 등 민감 정보 입력을 유도한 뒤 이를 무단 수집해 맞춤 광고에 활용해 과징금 처분을 받은 메타와 달리 딥시크 챗봇은 이용자 스스로 정보를 입력한 탓에 문제 삼기 어렵다는 점도 고려됐다.

구글 딥마인드 영국팀 일부 직원들이 노조 결성을 추진하고 있다. 구글이 인공지능(AI)을 무기 및 감시 목적으로 활용하지 않겠다는 기존 서약을 삭제하면서 윤리적 우려를 제기하는 목소리가 조직화되는 모양새다.

28일 파이낸셜타임스 등 외신에 따르면 딥마인드 런던 본사 직원 약 300명이 최근 노조 결성 절차에 착수한 것으로 확인됐다. 이들은 구글이 AI 원칙에서 군사기술 등을 포함한 '추구하지 않을 기술' 목록을 삭제하고 이스라엘 군과 대규모 클라우드 계약을 체결한 점을 주요 문제로 지목했다. 딥마인드는 영국에 약 2천 명의 직원을 두고 있다.

구글의 이같은 정책 변화에 대해 딥마인드 직원들 사이에서는 불만이 확산된 것으로 전해졌다. 노조 추진과 별개로 최소 5명의 직원이 같은 문제를 이유로 퇴사한 사실도 확인됐다.

구글 측은 이번 상황과 관련해 "직원들과의 건설적이고 열린 대화를 장려한다"고 밝혔다. 다만 AI 윤리 정책 변경의 배경이나 세부적 설명은 내놓지 않았다.

앞서 구글은 지난 2월 초 회사의 원칙 페이지를 개정하면서 "AI 무기화 및 감시 기술 개발을 하지 않겠다"는 서약을 삭제했다. 이 서약은 지난 2018년 미국 국방부의 '메이븐 프로젝트'에 참여했다가 내부 반발로 계약을 철회하면서 구글이 직접 내세운 방침이었다.

당시 구글은 원칙 개정과 관련해 "국가 안보를 지원하는 AI를 만들기 위해 정부 및 조직과 협력해야 한다"며 "국제법과 인권 원칙을 준수하겠다"고 밝혔다. 다만 구체적인 변경 이유나 무기화 가능성에 대한 명확한 방침은 제시하지 않았다. 더불어 회사는 미국 국방부 및 이스라엘 군과 각각 대규모 클라우드 서비스 계약을 체결한 상태다.

파이낸셜타임스는 "딥마인드 팀원들이 '속았다'고 느끼고 있다"며 "최소 5명의 직원이 이러한 문제를 이유로 퇴사했다"고 보도했다.

오픈AI가 생성형 인공지능(AI) 서비스 '챗GPT'에서 상품 쇼핑을 지원한다. 구글과 검색에 이어 온라인 쇼핑까지 경쟁이 본격화될 전망이다.

챗GPT 쇼핑 검색은 사용자가 제품을 검색하면 여러 가지 추천 상품이 제시, 해당 상품의 이미지와 리뷰를 제공하는 방식이다. 사용자가 제품 구매를 희망할 경우 외부 홈페이지로 연결해준다. 사용자들이 자연어로 복잡하고 구체적인 질문을 해도 원하는 검색결과를 얻을 수 있다는 게 오픈AI 설명이다.

쇼핑 기능은 패션, 미용, 가정용품, 전자기기 카테고리에 우선 적용된다. 향후 보다 많은 카테고리로 확대될 예정이다. 오픈AI는 사용자가 챗GPT로 제품을 구매하더라도 해당 업체로부터 제휴 수수료를 받지 않을 계획이다.

챗GPT 프로·플러스 등 유료 가입자뿐만 아니라 무료 사용자도 쇼핑 기능을 이용할 수 있다. 챗GPT 계정 없이도 챗GPT 웹사이트에서 쇼핑 서비스를 이용할 수 있다. 챗GPT 검색 기능은 빠르게 성장하고 있다. 지난주 챗GPT를 통해 10억건 이상 웹 검색이 이뤄진 것으로 나타났다.

오픈AI의 이번 쇼핑 기능 추가로 구글과 경쟁이 심화될 것으로 예상된다. 온라인 쇼핑은 구글의 핵심 사업 중 하나로 구글은 검색에서 제품을 우선순위에 배치하는 방식으로 막대한 광고 수익을 얻고 있다.

오픈AI는 지난해 10월 챗GPT 내 검색 기능을 공식 출시했으며 현재 구글 '크롬'과 같은 웹브라우저도 자체 개발하는 것으로 알려졌다. 또 구글 온라인 검색 독점 관련 재판에서 크롬에 대한 강제 매각 명령이 내려질 경우 크롬 인수 의향을 밝히기도 했다.

젠슨 황 엔비디아 CEO는 인공지능(AI)의 다음 단계(next frontier of AI)는 '피지컬 AI'라고 선언했다. 피지컬 AI란 로봇이나 자동차 등 실물 하드웨어에 탑재하는 AI로, 물리적인 환경에서 하드웨어 기기가 지능적으로 외부 환경과 상호작용할 수 있도록 하는 기술을 말한다.

인공지능에 관한 관심은 2016년 3월, 이세돌 9단과 알파고 간 세기의 바둑 대결로 촉발됐다. 이후, AI 발달은 이미지·단어 및 소리를 이해하는 '인식형 AI(reception AI)'의 단계를 거쳐, 챗GPT 출시를 통해 또 한 번 폭풍 성장의 전기를 맞이했다. 텍스트와 이미지, 소리를 만드는 '생성형 AI(generative AI)'가 등장했고, 곧이어 독립적으로 의사결정을 내리고 행동하는 '에이전틱 AI(agentic AI)'가 출현해 사람의 명령이나 데이터 입력 없이 AI 스스로 환경을 분석해 자율적으로 행동하는 시대가 도래했다.

AI가 나아갈 다음 개척지로는 '피지컬 AI'가 주목된다. 지금까지 AI를 통해 방대한 시장자료에 대한 리포트를 순식간에 작성하고, 지브리풍 프로필 사진을 SNS에 올리는 도움을 얻을 수 있었다면, 피지컬 AI는 SF 영화에서 보던 미래에 좀 더 가까이 다가갈 수 있게 해줄 것으로 기대한다.

피지컬 AI 시대에는 완전 자율주행차가 거리를 달리고 인간형 로봇이 사람을 대신하거나 사람과 협력할 수 있다. 광범위한 산업에 또 한 번의 혁신을 가져올 수 있다.

AI 분야를 압도적으로 선도하고 있는 미국은 기술 패권 강화에 민관이 적극적으로 나서고 있다. 트럼프 대통령은 AI 안전성 테스트 등 전임 정부의 AI 규제 폐지와 자율주행차량에 대한 연방 안전 규정 일부 면제를 추진하고 있다. 엔비디아는 피지컬 AI 개발 플랫폼 '코스모스'를 공개하며 현실을 복제한 가상공간 '디지털 트윈'에서 로봇을 학습시켜 AI 로봇 개발의 한계극복에 도전하고 있고, 테슬라는 오는 6월 자율주행 택시 출시를 앞두고 있다.

글로벌 AI 경쟁이 치열한 가운데, 영국 토터스미디어의 AI 지수 순위에 따르면 1위 미국(100), 2위 중국(53)이 압도적이며 한국은 6위(27)에 올라 있다. 순위를 보면 비교적 높아 보이지만 절댓값인 평가지수를 보면 미국은 물론 중국에도 한참 뒤처져 있는게 현실이다.

'IT메가비전xIITP 테크앤퓨처 인사이트 콘서트'는 글로벌 AI 기술 동향과 우리 정부 및 기업들의 비전과 전략을 공유하기 위해 마련된 콘퍼런스 행사다. 배경훈 LG AI연구원장, 임의철 SK하이닉스 부사장, 이기창 네이버클라우드 이사, 이경일 솔트룩스 대표, 에릭 데이비스 SKT AI본부장, 차재원 네이버랩스 리더, 류중희 리얼월드 대표, 김태호 뤼튼테크놀로지스 공동창업자, 박현준 로브로스 CTO, 이성환 고려대 AI학과 교수, 우사이먼성일 성균관대 AI대학원 교수 등이 강연에 참여한다.

정송 KAIST AI대학원장, 송상훈 과기정통부 정보통신정책실장, 이용석 행안부 디지털정부혁신실장, 강감찬 산업부 산업정책관, 조경원 중기부 창업정책관이 AI 고도화 정책 비전을 토의하고, 김득중 정보통신산업진흥원 부원장, 전유덕 한국산업기술진흥원 본부장, 정종열 정보통신기획평가원 본부장이 AI 산업 지원 및 생태계 조성방안을 각각 발표한다.

이 행사는 5월 16일 서울 양재동 엘타워에서 개최되며 정부의 AI 육성 로드맵과 시장주도 기업들의 AI 전략을 동시에 가늠해 보는 자리가 될 전망이다. 행사 참석을 위해서는 홈페이지에서 사전 등록하면 된다.