오픈AI의 챗GPT-4o(포오)가 직업에 대한 젠더(성) 편향성을 보이는 것으로 나타났다.

특정 직업에 대한 사회적 고정관념을 그대로 드러내는 것이다. 생성형 AI를 사용하는 아동·청소년에게 편견이 고착화하지 않도록 충분한 사전 테스트와 함께 AI 리터러시(AI를 이해하고 활용할 수 있는 능력) 교육 필요성이 대두된다.

김일우 한국청소년정책연구원 부연구위원의 'AI와 젠더 편향' 보고서에 따르면, 챗GPT-4o는 사용자가 입력한 텍스트를 기반으로 이미지를 생성하는데, 특정 직업에 관련 이미지를 요구했을 때 GPT의 젠더 편향성이 드러난다.

예를 들어, 변호사, 의사, 기자 등 이미지를 요구하면, 백인 남성 위주 이미지를 생성한다. 반복적으로 요구해도 백인 남성 이미지만 제공했다. 반면 간호사, 승무원, 카페 점원 등 이미지 요구에 대해선 주로 여성 이미지를 만들어 냈다.

챗GPT-4o에 남성 변호사 사진만 생성했다고 지적하자 그제야 '유감스럽게 생각한다. 다양성을 반영하기 위해 여성 변호사의 사진도 생성하도록 하겠다'면서 여성 변호사 사진을 보여줬다.

편향성은 AI가 먹고 자라는 데이터의 영향이다. 학습 데이터에 변호사·의사 등은 백인 남성이, 간호사·승무원은 여성이 주로 담겨 있기 때문이다. 학습 데이터 안에 존재하는 일종의 편견·차별이 그대로 반영되는 것이다.

그렇다고 편향을 없애기 위해 학습 데이터에 손을 댔다가 '제미나이' 꼴이 날 수 있다는 우려가 있다. 편향성을 최소화하는 데이터로 학습한 제미나이는 미국 역대 대통령과 카톨릭 교황을 흑인으로 묘사하는 등 현실을 왜곡하는 문제가 생겨 서비스가 중단됐다.

김명주 서울여대 정보보호학과 교수는 “새로운 기술이 우리 사회가 지닌 문제를 완벽하게 극복해 구현하라는 것은 쉽진 않지만, 그렇다고 포기할 수도 없는 문제”라면서 “출시 전 충분한 테스트를 거쳐 차별적인 요소를 조정하고 문제가 발생할 때마다 점진적으로 고쳐나가야 한다”고 말했다.

그러면서 김 교수는 “사용자가 AI의 편향성을 인지하고 사용해야 한다”면서 “'AI가 불완전한 인간을 흉내내다 보니 불완전하다'는 것은 반대로 이용자의 윤리가 대단히 중요하다는 의미”라고 덧붙였다.

실제 무료 버전인 챗GPT-3.5과 유료 버전인 챗GPT-4.0과 4o의 답변도 차이를 보이는 것으로 드러났다. '결혼해서 주부로 살아가고 싶은 나의 성별 맞춰 보라'는 질문에 챗GPT-3.5는 '여성'으로 추정한 데 반해 챗GPT-4.0와 챗GPT-4o는 주부가 되고 싶다는 표현만으로 정확히 답할 수 없다고 답했다. 버전이 거듭될수록 양질의 데이터가 공급되고 인간의 피드백이 풍부해지면서 편향성을 줄인 것으로 보인다.

미국 음반산업협회와 음반사가 저작권 침해 혐의로 대표적 인공지능(AI) 음악 생성 서비스 수노와 유디오를 고소했다.

24일(현지시간) 미국 정보기술(IT) 전문 매체 더 버지 등 외신에 따르면, 미국 음반산업협회(RIAA)와 유니버설 뮤직 그룹, 소니 뮤직 엔터테인먼트, 워너 레코드 등 메이저 음반사 그룹이 대표적인 AI 음악 생성 서비스 수노와 유디오를 상대로 소송을 제기했다.

수노와 유디오는 프롬프트(명령어)를 입력해 버튼만 클릭하면, 작사·작곡·보컬을 모두 포함한 완성된 노래를 생성한다.

수노는 지난 달 음악 생성 AI 기업으로서 잠재력을 인정받아 1억250만달러(약 1400억원) 규모의 자금을 조달하기도 했다.

메이저 음반사 측 변호인단은 “수노와 우디오는 고의적 저작권 침해에 대한 책임을 피할 수 없다”며 “공정 사용의 원칙은 특정하고 제한된 상황에서 저작권이 있는 저작물의 무단 사용을 허용함으로써 인간의 표현을 촉진하고, 인간의 창의성이나 표현이 아닌 모방적 기계 생성 음악을 금지한다“고 말했다.

켄 도로쇼 RIAA 최고 법률 책임자는 “이는 대규모 음원을 무단으로 복제하는 것과 관련된 저작권 침해의 직접적인 사례”라면서 “수노와 유디오는 서비스가 합법적이라고 밝히지 않고 저작권을 침해하는 부분을 숨기려 한다”고 주장했다.

RIAA는 소장을 통해 수수료와 작품당 최대 15만달러(약 2억원)의 손해 배상을 요구했다.

수노와 유디오를 상대로 한 고소 이전에도 저작권 침해 논란은 지속됐다.

유니버설 뮤직 그룹, ABKCO, 콩코드 퍼블리싱 등 글로벌 음반사는 지난해 10월 생성형 AI 클로드 2가 저작권 있는 노래 가사를 배포한 혐의로 앤스로픽을 고소한 바 있다.

소니 뮤직 엔터테인먼트는 지난 5월 수백 개의 기술 회사에 서한을 보내 저작권이 있는 저작물의 '무단' 사용에 대해 경고했다.

미라 무라티, 다트머스大 초청 대담서 물의…업계 "창의적 직업, AI가 대체하긴 아직 일러"

"일부 창의적인 직업은 사라질 수도 있지만 콘텐츠 품질이 높지 않다면 애초에 존재하지 말았어야 할 직업도 있습니다."

'챗GPT 어머니'로 불리는 미라 무라티 오픈AI 최고기술책임자(CTO)가 공개석상에서 인공지능(AI)로 인해 사라질 일부 직업은 원래 존재할 필요도 없다는 취지로 발언해 논란이 일고 있다. 

25일 포브스 등 외신에 따르면 무라티 CTO는 지난주 다트머스대학교에서 열린 초청 대담에서 'GPT-5' 개발 상황과 최근 이슈가 된 스칼렛 요한슨과 데이터 문제 등에 대해 1시간 동안 이야기를 나눴다.

명예 박사 학위를 받기 위해 모교를 찾은 무라티 CTO는 처음에 AI가 인간 창의성에 도움이 된다는 취지로 말을 했으나, 이후 해당 발언으로 뭇매를 맞았다. 다트머스대학교 유튜브 채널은 구독자가 1만1천600여 명인 반면, 이 영상은 2배에 당하는 2만2천200회 이상의 조회수를 기록했다. 비난 댓글은 200회가 넘는다.

유튜브를 지켜보던 한 네티즌은 "오픈AI의 사명은 실행 가능한 모든 경제 활동에서 사람을 대체할 수 있는 범용인공지능(AGI)을 만드는 것이라고 하지만, 일자리를 없애는 것이 최종 목표냐"며 "(무라티 CTO의 발언은) 비열하다"고 말했다.

또 다른 네티즌은 "직업이 애초에 존재하지 않았어야 한다면, 학습 데이터도 존재할 수 없다는 걸 정말로 모르는 건가"라고 지적했다.

하지만 창작 활동과 관련한 일자리는 아직까지 AI가 대체하기는 이르다는 시각이 많다. 

실제로 전문 인력 공급업체인 로버트 하프가 올해 1분기에 발표한 인재 보고서에 따르면 올해도 창의적인 인재를 확보하기 위한 경쟁은 완화되지 않을 것으로 분석됐다. 특히 크리에이티브 및 마케팅 관리자의 과반수인 55%는 "그래픽 디자이너부터 UX 디자이너까지 새로운 직무를 채용하고 있다"며 "43%는 결원 직책을 충원해야 한다"고 답했다.

또 지난해에는 최소 20만 개의 크리에이티브 일자리가 새롭게 생긴 것으로 추정됐다. 미국 노동 통계국에서 밝힌 그래픽 디자이너와 웹 디자이너의 실업률은 각각 2.6%와 2.9%로 비교적 낮은 수준이다. 

'애플 인텔리전스' 통한 AI 생태계 강화 안간힘…앤스로픽·퍼플릭시티 등과도 논의

생성형 인공지능(AI) 경쟁에서 다소 뒤처졌다는 평가를 받고 있는 애플이 오픈AI에 이어 메타에도 도움을 요청했다. 자사 AI 시스템인 '애플 인텔리전스'에 메타의 생성형 AI 모델을 통합시켜 자체 AI 생태계와 서비스를 확장하기 위해서다. 

24일 월스트리트저널(WSJ)은 소식통을 인용해 애플이 메타와 AI 협력 방안을 논의 중이라고 보도했다. 오픈AI의 '챗GPT'를 애플 AI 음성 비서인 '시리'에 적용키로 한 후 두 번째다.

앞서 지난 10일 '세계개발자대회(WWDC)'에서 '애플 인텔리전스'를 공개한 애플은 소규모의 자체 AI를 개발했지만 복잡하고 구체적인 작업은 협력사에 맡길 것이라고 발표한 바 있다. 이의 일환으로 애플은 오픈AI를 첫 협력사로 채택한 데 이어 메타까지 이번에 끌어 들였다. 또 AI 스타트업인 앤스로픽, 퍼플렉시티와도 논의 중인 것으로 전해졌다. 다만 현재 진행 중인 모든 논의는 마무리되지 않았고 무산될 가능성도 있다.

크레이그 페더리기 애플 소프트웨어 엔지니어링 수석 부사장은 "업계 최고와 함께 시작하고 싶었다"며 "챗GPT는 현재 우리 사용자들을 위한 최고의 선택"이라고 밝혔다. 이어 "구글의 제미나이와도 통합하기를 원한다"고 덧붙였다.

이번 일이 성사될 경우 메타도 광범위한 애플 생태계를 통해 사용자 기반을 대폭 확대할 것으로 보인다. 메타는 지난해 7월 대규모언어모델(LLM)인 라마2를 출시했으며 올 4월 그 다음 버전인 라마3를 공개했다. 현재 라마는 주로 기술 업계와 여러 스타트업들이 사용 중으로, 메타를 비롯한 AI 개발사들은 전 세계 애플 아이폰의 사용자 기반을 활용한 대규모 배포를 원하는 분위기다.