미국 반도체 기업 엔비디아가 자체 인공지능(AI) 플랫폼인 '네모(NeMo)'를 학습시키기 위해 저작권이 있는 도서를 허가 없이 사용했다는 이유로 저자들로부터 소송을 당했다.

로이터통신과 CNBC 방송은 3명의 미국 소설가가 지난 8일 밤 샌프란시스코 연방 법원에 엔비디아를 상대로 소를 제기했다고 10일(현지시간) 보도했다.

이들 작가는 자신들의 작품이 네모의 거대언어모델(LLM) 학습에 도움이 된 약 19만 6640권의 도서로 이뤄진 데이터셋의 일부라는 주장을 폈다. 이들의 도서는 지난해 10월 저작권 문제가 제기된 후 데이터셋에서 제외된 바 있다.

이들은 소장에서 엔비디아의 제외 조치는 결국 자신들의 저서가 네모의 학습에 이용됐고 저작권을 침해했음을 인정하는 셈이라고 주장했다.

인공지능(AI)을 이용한 비비 '밤양갱' 커버 곡이 인기를 끌면서 법적·윤리적 문제가 수면 위로 부상하고 있다. 안정적 AI 서비스 활성화를 위해서라도 AI 저작물과 관련한 사회적 논의가 필요하다는 진단이다.

12일 기준으로 유튜브에는 '밤양갱'의 아이유(58만회), 오혁(39만회), 박명수(31만회), 백예린(13만회) AI 커버 영상이 각각 수십만 건의 조회수를 기록하며 화제를 모으고 있다. 해당 영상을 두고 타인의 성명, 목소리를 무단사용해 이들의 명성이나 프라이버시를 침해할 수 있다는 지적이 제기된다.

이를 해결하기 위해 지난해 12월 유럽연합(EU)은 세계 최초로 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시켰다.

우리나라 역시 AI 콘텐츠 부작용 예방을 목적으로 AI 활용 표기 의무 내용을 담은 법이 발의됐다. 국회 문화체육관광위원회 소속 이상헌 더불어민주당 의원은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 지난해 대표발의했다. 하지만 법안 처리는 불투명한 상황이다. 정치권이 총선 모드에 들어가면서 법안 처리는 뒷전으로 밀릴 가능성이 크다.

미국 플로리다주 중학생 2명이 동급생들의 딥페이크(AI로 만드는 가짜 영상이나 사진) 음란 사진을 제작한 혐의로 기소됐다.

10일(현지시간) 미국 테크매체 와이어드에 따르면, 지난해 12월 13세와 14세 두 소년이 인공지능(AI) 애플리케이션(앱)을 사용해 동급생들의 딥페이크 음란 사진을 제작한 혐의로 기소됐다.

이 사건은 AI가 생성한 음란 사진 관련 형사 고발의 첫 사례가 될 수 있다고 미국 IT 전문매체 더 버지는 보도했다.

미국에는 현재 동의 없이 생성된 딥페이크 음란 이미지를 다루는 연방법이 없다. 아동의 성적 학대 자료, 동의 없이 만들어진 딥페이크 또는 음란물 등 생성형 AI 문제를 각 주에서 자체적으로 다루고 있는 실정이다.

딥마인드의 인공지능 분류 체계 ‘성인 숙련자 상위 10%’ 3단계

오픈에이아이가 2월15일 발표한 동영상 제작 인공지능 소라(SORA)가 한동안 뜨거운 화제였다. 소라가 스스로 만들었다는 압도적인 동영상을 본 영상업계는 대부분 큰일 났다는 반응을 보였지만, 이 정도라면 오히려 잘됐다는 반응도 없지는 않았다.

범용인공지능이라고도 하는 일반인공지능은 모든 분야에서 사람을 뛰어넘는 수준의 업무를 수행할 수 있다. 지난해 11월 구글 딥마인드의 연구자들은 일반인공지능에 이르는 단계 분류를 제안했다.

기존에 제안된 정의들이 일반인공지능의 추상적인 기본 속성을 규정했던 것에 반해, 일단은 외형적으로 되도록 많은 사람들이 잠정 동의할 수 있을 척도에 따라 구분했다.

국제자동차엔지니어협회가 자율주행 5단계를 제정한 것을 본뜬 것으로, 궁극적인 기준을 세우는 것이 아니라 현재의 혼란상을 극복하는 것이 주목적이다. 그래서 일각에서 일반인공지능으로 막연히 짐작하는 특화인공지능들도 같은 방식으로 분류했다.

인공지능의 능력 기준으로는 인공지능이 아닌 0단계, 비숙련 인간과 동등하거나 그 이상인 1단계, 성인 숙련자 상위 50% 수준인 2단계, 10% 수준인 3단계, 1% 수준인 4단계, 모든 인간보다뛰어난 5단계를 설정했다. 5단계에 이르러야 인간을 능가하는 일반인공지능(범용인공지능)이 완성되는 것이다.

자율성 기준으로는 인간이 전부 담당하는 0단계, 인간 통제 아래 인공지능이 지루한 작업을 맡는 1단계, 인간이 시키면 인공지능이 중요한 역할을 맡는 2단계, 인공지능과 사람이 동등하게 협력하는 3단계, 인공지능이 주도하고 필요하면 인간에게 추가 정보를 요구하는 4단계, 인간이 전혀 개입하지 않는 5단계로 나눴다.

“10년 내에 자율적으로 인간을 죽이는 로봇 병기가 등장할 것으로 본다.”

인공지능(AI) 분야 대부로 불리는 제프리 힌턴 캐나다 토론토대 명예교수가 일본 니혼게이자이신문과 인터뷰에서 이렇게 말했다. 인공지능의 위험성을 재차 경고하고 나선 것이다.

그는 인터뷰에서 인공지능이 인류를 위협할 존재로 보는 이유에 대해 “인공지능에게 임무를 주면, 해결책을 찾는 과정에서 인간에게 나쁜 방법을 찾아낼지도 모른다”며 “예를 들어, 인공지능에게 기후변화를 막으라고 하면, 이 목적 달성을 위해 인간을 배제하는 게 필요하다고 생각하고, 실행에 옮길 위험성이 있다"고 말했다.

그는 “다만, 누구도 인공지능이 지배하는 미래를 원하지 않는다”며 “그 사실이 각국이 인공지능 병기 규제를 향해 보조를 맞추는 토대가 될 것”이라고 덧붙였다.

그는 또 “생성형 인공지능의 기반인 거대 언어 모델은 우리와 마찬가지로 말을 이해하고 있다고 생각한다”고 밝혔다. 

스냅태그는 비가시성 워터마크 기술 전문기업이다. 눈에 보이지 않는 워터마크 기술을 통해 정보보호와 저작권 보호에 앞장서고 있다. 인공지능(AI)이 만든 가짜영상이나 사진(딥페이크)이 확산하면서 스냅태그에 대한 관심이 높아진다.

스냅태그가 개발, 특허까지 보유한 비가시성 워터마크는 문서나 이미지·영상 등에 보이지 않게 데이터를 연결하는 기술이다. 이미지에 사용할 수 있는 주파수 영역과 색채널 영역을 모두 사용하기 때문에 보이지 않는 워터마크의 내구성을 최대로 올릴 수 있다.

기업에선 이미지 변형이나 훼손 없이 데이터 입력과 손쉬운 데이터 확인이 가능하다. '눈에 보이지 않는 QR코드'로 이미지나 영상 출처를 표기할 수 있다.

원본 이미지에 적용된 보이지 않는 워터마크는 원본과 비교했을 때 큰 차이가 없고, 디텍팅(검사) 모듈이나 사이트, 리더기 등을 통해 스캔 시 데이터 조회가 가능하다. 보안, 인증, 식별 등에도 뛰어나다.

스냅태그의 비가시성 워터마크는 이미 정보보호를 비롯해 생성형 AI, 대체불가토큰(NFT), 정품인증 등 다양한 분야에서 사용되고 있다. 이미지 훼손이나 크롭(잘라내기), 저화질 등에서도 워터마크가 살아있어 소셜미디어(SNS)나 포털에서도 원본 이미지나 데이터 없이도 출처 등을 파악할 수 있다.

스냅태그의 비가시성 워터마크는 삼성전자, LG 등 대기업 고객을 통해 기술력과 신뢰성을 인정받았다. 대표 솔루션인 '랩가드'는 눈에 보이는 워터마크에 대한 불편함을 해결한 것은 물론이고 PC 화면이나 모바일 화면 촬영을 통한 정보 유출을 막는 대안으로 주목받고 있다.