🤓 이번 위클리티티에서는 인공지능(AI) 기술의 최신 동향과 그에 따른 윤리적, 법적, 보안적 이슈들을 중점적으로 다루고자 합니다. 인공지능의 놀라운 발전과 함께, 우리가 마주하게 되는 새로운 도전과 문제들을 탐구해보는 건 어떠실까요? |
|
|
목소리도 베끼는 인공지능…MS·오픈AI, 공개 망설이는 이유 |
|
|
생성 인공지능(AI) 열풍을 몰고 온 건 챗지피티였지만, 불씨는 오픈에이아이(AI)의 3세대 언어 모델 ‘지피티3’이었다. 기술전문매체 ‘에이아이엠’은 지피티3의 탄생을 알리며 오픈에이아이 연구원의 말을 빌려 이런 경고도 덧붙였다.
“지피티3은 언어 모델의 유익한 응용 분야와 해로운 응용 분야를 모두 발전시킬 수 있는 잠재력을 가지고 있습니다.” 과학자들은 이 언어 모델을 일반에 공개할지 여부를 두고 갑론을박을 벌였다. 지피티3은 결국 공개됐고, 이를 품은 챗지피티는 인공지능 세상을 열었다.
그로부터 4년 뒤, 마이크로소프트도 비슷한 고민에 맞닥뜨렸다. 올해 7월 공개한 인공지능 음성 모델 ‘발리2’ 때문이다.
발리2는 3초 분량의 원본 오디오만 있으면 목소리를 똑같이 복제해낸다. 마이크로소프트 연구원들은 발리2가 실제 사람으로 착각할 만큼 설득력 있는 목소리를 만들어낸다고 밝혔다. 발리2는 마이크로소프트가 진행한 ‘인간 동등성’ 테스트에서 처음으로 인간보다 우수하다는 평가를 받았다. 음성의 견고성, 자연스러움, 화자 유사성 3개 항목에서 발리2는 모두 원본 인간 음성을 앞질렀다.
이 기술은 교육과 의학, 엔터테인먼트와 고객 서비스 등 다양한 분야에서 혁신을 가져올 수 있지만 전화 사기 등 각종 범죄에도 활용되기도 쉽다. 변조된 목소리 뒤에 숨은 시스템은 복잡하고 어렵지만, 사용법은 너무도 간단하고 쉽기 때문이다. 마이크로소프트는 발리2를 연구 목적으로만 쓰고, 제품에 탑재하거나 대중에게 공개하진 않기로 했다.
오픈에이아이도 올해 3월 음성 합성 기술 연구 결과를 발표하며 이 기술을 공개하지 않고 미리보기만 제공하기로 결정했다. 그러면서 은행이나 계좌의 음성 인증 보안 강화, 인공지능 음성 사용을 위한 정책 수립, 인공지능 기술의 기만 가능성을 포함한 대중 교육, 인공지능 기술 사용시 명확한 표기 등의 조치가 먼저 이뤄져야 한다고 말했다.
|
|
|
세븐틴 팬클럽, 'AI 사용' 주장 BBC에 뿔났다…우지가 밝힌 입장은? |
|
|
英 BBC "K팝, AI에 작사·작곡 적극 활용" 주장…우지 "세븐틴 음악, 인간이 창작"
"세븐틴의 모든 음악은 인간 창작자가 작사 및 작곡합니다."
아이돌그룹 세븐틴 멤버 우지가 인공지능(AI)을 사용해 가사를 쓴다는 영국 BBC의 주장에 대해 반박했다.
15일 업계에 따르면 우지가 자신의 인스타그램에 이같은 입장을 밝힌 데 이어 세븐틴 소속사 플레디스 엔터테인먼트도 영국 BBC에 항의하는 내용의 입장을 전달했다.
플레디스 엔터테인먼트는 "세븐틴 곡 가사에 AI가 사용됐다는 내용은 사실이 아니다"며 "해당 내용을 보도한 외신 매체에는 내용 정정을 위한 우리 입장을 전달했다"고 밝혔다.
앞서 영국 BBC는 'K팝의 AI 실험이 성공할 수 있을까'라는 제목의 기사를 통해 K-팝이 AI로 작사·작곡되고 있다고 주장하며 그룹 세븐틴과 에스파 등을 지목했다. 세븐틴은 전 세계적인 인기를 누리고 있는 그룹으로, 13명의 멤버 중 우지가 작사‧작곡‧프로듀싱을 담당하고 있다.
BBC는 세븐틴이 최근 발표한 곡 '마에스트로'를 언급하며 "뮤직비디오엔 AI로 생성한 장면이 등장하며 가사 중에도 AI의 도움을 받은 부분이 있을 가능성이 있다"며 "세븐틴을 비롯한 여러 유명 스타들이 AI 기술을 활용해 뮤직비디오를 제작하고 가사를 쓴다"고 주장했다.
BBC는 이에 대한 근거로 우지가 지난 4월 기자회견 당시 "AI를 가지고 실험해 봤다"라고 했던 발언을 인용했다. 또 BBC는 "(우지는) 'AI를 활용해 곡을 만드는 연습을 했다. 기술에 대해 불평하기보다는 기술과 함께 발전하고 싶기 때문'이라고 설명했다"고 덧붙였다.
하지만 이는 사실이 아닌 것으로 드러났다. 실제 우지는 "AI 작사·작곡을 당연히 해봤고 불평을 하기보다 발맞춰 연습을 할 것"이라며 "단점도 찾아보고 장점은 무엇인지 고민하고 있고 빠르게 발전하는 기술에서 우리의 고유한 아이덴티티(정체성)는 어떻게 지킬 것인지도 고민하고 있다"고 밝혔다.
뮤직비디오에서 AI와 관련된 장면도 티저 영상에만 등장한 것으로 알려졌다. '마에스트로' 뮤직비디오에는 AI가 직접 생성한 장면이 삽입됐다. 여성 아이돌 그룹 에스파도 지난 5월 선보인 '슈퍼노바' 뮤직비디오에 AI를 이용해 멤버들의 얼굴은 가만히 두고 입만 움직여 노래하는 장면을 담은 바 있다. |
|
|
#자율주행 #데이터수집 #보행자_권리보장 #AI규제 |
|
|
자율주행에 모자이크 없는 얼굴 정보도 활용 허용된다 |
|
|
자율주행 기술 발전에 필요한 보행자의 얼굴이나 시선 처리 등이 담긴 영상을 원본 데이터로 활용할 수 있는 법안이 마련된다.
개인정보보호위원회는 23일 정부서울청사에서 열린 '개인정보보호법과 자율주행' 설명회에서 이 같은 내용을 밝혔다.
현재 개인정보보호법은 개인을 특정할 수 없도록 '가명처리'를 한 정보만 통계 작성이나 연구에 쓸 수 있도록 규정했다.
정보주체의 권리 보장을 위한 안전장치이지만, 자율주행 분야에선 모자이크 등의 가명처리를 거친 영상데이터는 활용 가치가 크게 떨어지는 탓에 이에 대한 규제를 해소해 달라는 요구가 이어졌다.
일반적으로 자율주행 차에 탑재된 카메라는 8~10대다. 주행하는 내내 각종 정보를 수집하는 만큼 확보하는 데이터도 많다.
운전자가 개입하지 않고 차량 스스로 주변 환경을 분석해 목적지까지 알아서 운행하는 자율주행차 특성상 보행자의 시선이나 진입 방향 등을 빠르게 파악해 안전을 확보하는 게 필수이기 때문이다.
그러나 이렇게 확보한 영상 속 인물들의 얼굴이 가명처리될 경우 활용성이 크게 떨어진다고 관련 산업계는 지적해왔다.
개인정보위는 이러한 한계를 보완하기 위해 정보 주체의 안전성만 확보한다면 원본 데이터를 쓸 수 있도록 실증특례를 허용해 주고 있다.
현재 뉴빌리티, 우아한형제들, 포티투닷, 카카오모빌리티 등 4개 자율주행 기업이 실증특례에 참여하고 있다.
고낙준 개인정보위 신기술개인정보과장은 “실증특례는 '임시 허용'이라는 한계가 있다”며 “이를 보완할 수 있도록 법제화도 추진할 것”이라고 말했다.
반면에 개인을 식별할 수 있는 대량의 데이터가 임의로 수집될 경우 정보주체의 권리 보장이 악화할 것이라는 우려도 나왔다.
특히 관련 정보가 해킹 공격이나 시스템 오류로 외부로 유출돼 다른 정보와 결합한다면 또 다른 피해를 낳을 수 있다는 지적이 제기된다.
이에 개인정보위는 현재 실증특례 제도에서도 △목적 외 이용 제한 △비인가자 접근통제 △제삼자 제공 금지 등의 안전장치를 마련해야 개발을 허용하고 있으며, 향후에 안전성 검증과 보완을 거쳐 법제화할 계획이라고 강조했다.
또한 불빛이나 소리 등으로 자율주행차가 지나간다는 사실을 행인에게 알리고, 해당 장비에 연락처를 달아 삭제 요청을 할 수 있도록 한다는 방침이다.
인공지능(AI) 학습 용도가 아닌 다른 목적으로 수집된 데이터를 쓰지 않도록 안전장치도 마련하기로 했다. |
|
|
생성형 AI 워터마크 의무화 추진…'텍스트' 생성물 탐지 실효성 제기 |
|
|
딥페이크나 생성형 AI 기술로 만든 가짜영상 등이 사회적 문제로 불거지면서 최소한의 규제로 워터마크 의무화가 추진 중이다. 하지만 AI가 생성한 문장(텍스트)는 구별이나 탐지가 어려워 정책 실효성이 낮다는 지적도 나온다.
21일 AI 업계에 따르면 우리나라를 비롯한 각국 정부와 의회, 기업들이 생성형 AI 결과물에 워터마크 표시를 의무화하는 것을 추진하고 있다. 워터마킹 등을 통해 이용자가 AI 생성물을 구분하고, 검증할수록 하는 것이다.
AI 생성물에 대한 워터마크는 텍스트, 오디오, 이미지, 영상 등에 AI 생성물에 식별 가능한 신호를 심는 것을 말한다. 보이지 않는 워터마크도 있으며, 누군가 생성물을 수정하더라도 변조 방지 기능까지 갖춰야 한다.
미국 바이든 정부는 지난해 10월 30일 행정명령을 발표하고 AI로 생성된 콘텐츠와 그렇지 않은 콘텐츠를 구분할 수 있도록 효과적 라벨링, 콘텐츠 추적 매커니즘을 개발해야 한다고 제시했다.
우리나라도 생성형 AI 결과물에 대해 이용자가 구별, 검증할 수 있도록 의무화를 추진 중이다. 5월 21일 국무회의에서 과학기술정보통신부는 관계부처 합동으로 '새로운 디지털 질서 정립 추진계획'을 보고하고, AI 생성물에 대한 워터마크 표시를 의무화하는 방안을 추진한다고 밝혔다.
그러나 워터마크 의무화 제도 시행 전부터 사업자에 불합리하고 또 현실적으로 실행 불가능한 의무가 될 수 있다는 지적이 세계 최초로 AI법을 통과시킨 유럽연합(EU) 내부에서 제기되고 있다.
EU는 올해 말 시행되는 'AI법'에서 AI 시스템 제공자에게 사용자가 AI 생성 콘텐츠를 구별할 수 있고, 또 탐지·추적할 수 있는 의무를 부과하고 있다.
그러나 기본적으로 워터마크 표시를 눈에 잘 띄게 표시할수록 콘텐츠 품질이 저하될 수 있고, 아직 워터마크 기술 표준이 제대로 갖춰지지 않아 상호 운용성에도 문제가 제기됐다.
특히 생성형 AI가 생성한 텍스트에 대해선 워터마크를 삽입해도 정확한 구별이나 탐지, 추적이 사실상 불가능하다는 것이 전문가들의 공통된 의견이다.
유럽의회조사국(EPRS)은 텍스트 AI 생성물에 대해 원문 의미를 손상하지 않으면서 워터마크 삽입이 어렵고, AI 텍스트 감지기가 영어가 원어민이 아닌 텍스트에는 편향될 수 있을 가능성을 제기했다. 또 인간이 쓴 텍스트를 AI가 생성한 문장으로 잘못 탐지할 수 있다고 지적했다.
과제물이나 논문, 자기소개서 등에 쓰인 문장에서 생성형 AI 산출물 여부를 탐지하는 AI 기업 무하유 측도 “글자수가 적을수록 탐지가 어려워진다”며 “글자수 300자 이하에선 탐지가 어렵다”고 전했다. |
|
|
韓, 랜섬웨어 등 사이버위협 검색 1위...AI 기반 공격 증가 |
|
|
구글, 개발자 및 교사 대상 AI 보안 교육 등 국내 보안환경 강화지원 주력
"한국은 지난해 피싱, 멀웨어, 랜섬웨어 등 사이버위협에 대한 키워드를 가장 많이 검색한 국가다. 특히 인공지능(AI)의 기술발전과 함께 사이버보안에 대한 관심이 높아지고 있을 뿐 아니라 실질적인 위협이 늘었다는 방증이기도 하다."
구글의 아만다 워커 보안 및 개인정보보호 연구 개발 총괄은 18일 서울 서초구 JW매리어트 호텔에서 개최한 '세이퍼 위드 구글(Safer with Google)'에서 이와 같이 말하며 국내 보안 상황과 구글의 보안 전략을 발표했다.
올해 3회를 맞은 세이퍼 위드 구글은 안전한 온라인 환경을 만들기 위해 학계 및 업계 전문가와 구글 관계자들간 소통하기 위해 마련됐다.
아만다 워커 총괄은 "구글 트렌드 검색어 분석 자료에 따르면 한국은 2023년 피싱, 멀웨어, 랜섬웨어 키워드를 가장 많이 검색한 국가이며, 전세계에서 '사기(fraud)'를 가장 많이 검색한 상위 10개 국가에도 포함됐다"고 밝혔다.
같은 기간 보안 관련 주제에 대한 검색 관심도가 13년 만에 최고치를 기록한 것으로 국내에서 사이버 보안에 대한 관심도와 우려가 급격하게 증가하고 있다는 의미다.
아만다 워커 총괄은 "이러한 결과는 한국 내에서 사이버위협에 대한 인식이 높아지면서 정보를 찾거나 대응 방법을 알아보려는 사람들이 많아졌기 때문으로 분석된다"며 "AI의 발전으로 사이버 위협이 늘었을 뿐 아니라 특히 한국은 인터넷 사용률이 높아 공격의 표적이 되기 쉬울 뿐 아니라 보안 전문 인력 감소로 대응이 어려워진 경향이 작용한 것으로 보인다"고 설명했다.
구글은 지난 5월 한국에서 A1 서울 정상회의 및 A1글로벌 포럼에 주도적으로 참여하는 등 국내 보안 한경을 개선하기 위한 노력을 지속해왔다.
지난 1년간 약 4천여 명의 개발자, 기업체 직원 교사를 대상으로 사이버보안 및 AI 리터러시 교육을 실시하는 등 AI에 대한 위협을 극복하고 안정적인 AI활용을 지원하기 위한 프로젝트를 진행 중이다.
또한 안전한 AI 활용을 위한 생성형AI 활용 가이드 및 접근방식에 대한 논의도 함께 진행했다. 클라우드, 개발자, 스타트업, 연구 부문별 트랙 세션을 마련해 각 영역별로 실무진들이 실질적으로 현업과 연구 현장에서 활용할 수 있는 인사이트도 소개한다.
아만다 워커 총괄은 "구글은 급증하는 사이버위협과 사용자의 우려에 대비해 'AI 원칙'을 발표하며 AI 개발과 활용에 대한 명확한 기준을 제시하고, 개발 테스트, 제품 적용 전 과정에서 준수해 왔다"고 설명했다. |
|
|
|
