AI 기술의 확산이 노동, 인재, 산업 전략, 보안 등 일상의 모든 영역을 흔들고 있습니다. 이번 주 위클리티티에서는 “주 4일제”와 같은 가벼운 논쟁부터, AI 인재 블랙홀, 메타·애플·중국의 기술 각축전, 그리고 딥페이크·보안 강화를 둘러싼 무거운 현실까지 폭넓게 담았습니다. AI가 만드는 새로운 질서, 그 안에서 우리는 어떤 선택을 해야 할까요? |
|
|
#AI노동 #정치와기술 #AI격차 #AI노동전환 #정치가말하는AI #기술진보VS삶의질 #일의미래 |
|
|
"AI로 돈 벌었으면 일 좀 줄여줘야지"…버니 샌더스, '주4일제' 주장 |
|
|
버니 샌더스 상원의원 (사진=샌더스 공식 홈페이지)
샌더스 의원 "기술 이익, 대기업만 가져선 안돼"…MS·英 시범 사례 거론
버니 샌더스 미국 상원의원이 인공지능(AI) 도입으로 높아진 생산성을 노동시간 단축으로 돌려줘야 한다고 주장했다. 주당 32시간 근무제를 언급하며 AI 시대 노동환경 개선을 정면으로 요구하는 모양새다.
26일 테크크런치에 따르면 미국 정치 팟캐스트 '조 로건 익스피리언스'에 출연한 샌더스 의원은 생산성이 높아졌다면 그만큼 노동시간도 줄여야 한다며 AI 기술 발전이 노동자를 위한 수단이어야 한다고 강조했다.
샌더스 의원은 "AI로 인해 업무 효율이 높아졌는데도 오히려 해고당하거나 노동강도가 올라가는 건 부당하다"며 "이제는 주 4일제, 주 32시간 근무로 재편할 때"라고 말했다.
샌더스 의원은 "이건 급진적 주장도 아니다"라고 선을 그으며 실제 운영 사례를 예로 들었다.
일례로 지난 2022년 하반기 영국에서 진행된 주 4일제 시범사업은 총 61개 기업, 약 2천900명이 참여했으며 참여 기업 중 일부는 매출이 1.4% 상승한 것으로 나타났다. 성과나 손실이 크지 않았다는 점에서 '실제 가능성'이 검증됐다는 논리다.
또 마이크로소프트(MS) 일본 지사는 이미 2019년에 주 4일제를 도입해 생산성을 약 40% 끌어올렸다는 결과를 낸 바 있다. 더불어 킥스타터는 지난 2021년부터 주 4일제를 정식 운영하고 있다.
샌더스 의원의 발언은 테크 산업 전반이 AI로 인한 인력 구조조정과 업무 재분배에 주목하는 가운데 나왔다. 현재 기술 기업들은 "생산성이 높아졌으니 인력을 줄이거나 더 많은 일을 시킬 수 있다"는 기조를 유지하고 있다. 반대로 노동자들은 같은 양의 일을 더 짧은 시간에 해내고 있으나 그만큼의 시간 보상은 받지 못하고 있다는 불만이 쌓여 있다.
샌더스 의원은 "기술은 우리 모두를 위한 것으로, AI의 이익은 CEO나 대주주만이 아니라 노동자도 공유해야 한다"며 "가족과 시간을 보내든, 친구를 만나든, 교육을 받든, 하고 싶은 일을 할 시간이 필요하다"고 말했다. |
|
|
#AI인재전쟁 #메타의집착 #데이터=무기 #AI수장쟁탈전 #메타의AI집중 #조직혁신의방향 #데이터패권 #AI리더십전환기 #글로벌인재유치전 #AI지식의중심이동 |
|
|
실리콘밸리, AI 개발 방향 두고 갈등・・・'안전 vs 속도' |
|
|
마크 저커버그 메타 CEO (사진=위키커먼스)
[김익현의 미디어 읽기] 데이터 라벨링·합성데이터 전문가 대거 보강
메타와 마크 저커버그의 행보가 심상치 않다. 무차별 인공지능(AI) 인력 사냥으로 연일 뉴스를 장식하고 있다. 지난 주말엔 챗GPT로 유명한 오픈AI 인력을 무더기 영입하면서 관심이 집중됐다.
IT 전문매체 디인포메이션은 지난 달 28일 메타가 자오성자, 런훙위, 위자후이, 비수차오 등 오픈AI 인재 4명을 한꺼번에 영입했다고 보도했다. 이미 오픈AI 취리히 연구원 등 4명을 영입한 데 이어 또 다시 핵심 인재를 빼간 것이다.
그러자 샘 알트먼 오픈AI 최고경영자(CEO)는 "오픈AI 일부 직원들에게 메타가 최대 1억 달러(약 1300억원) 규모 보상 패키지’를 제시했다”고 폭로했다.
| 데이터 라벨링 전문가가 메타 초지능연구소 이끌어 |
국내외 많은 언론들은 오픈AI와 메타 간의 AI 인력 전쟁에 관심을 보였다. 과열된 AI 경쟁 상황을 이보다 더 잘 보여주는 사례는 찾기 힘들 터이기 때문이다. 천문학적인 인재 스카우트 전쟁은 충분히 관심을 가질 만하다. 하지만 그보다 더 중요한 건 “도대체 어떤 인재들을 그렇게 쓸어담고 있느냐”는 점이다.
최근 메타가 공들여 인수한 인재들은 한 가지 공통점이 있다. ‘데이터 전문가’들을 집중 영입하고 있다는 점이다. |
|
|
알렉산드르 왕 (사진=알렉산드르 왕 링크드인) 메타의 이런 행보는 이번 주 야심적으로 출범한 ‘메타 초지능 연구소(MSL)’만 봐도 알 수 있다. MSL은 ‘모든 사람을 위한 초지능을 개발한다’는 메타의 비전을 실현할 싱크탱크다. 사실상 메타 AI 전략의 핵심 기지인 셈이다.
MSL의 책임자는 알렉산드르 왕이다. 1997년생인 알렉산드르 왕은 메타가 지난 달 인수한 스케일AI 설립자다. 2016년 출범한 스케일AI는 AI 모델이 스스로 학습할 수 있도록 이미지·텍스트 등을 가공하고 정리하는 '데이터 라벨링' 기술을 보유한 업체로 유명하다.
메타는 이런 비즈니스 모델을 갖고 있는 스케일AI 지분 49%를 인수하기 위해 143억 달러(약 19조6천억원)를 투자했다. 페이스북 시절인 2014년 190억 달러에 왓츠앱을 합병한 이후 가장 큰 규모다.
당시 메타가 스케일AI에 과감하게 투자한 데는 창업자인 알렉산더 왕 때문이었다. 스케일AI를 ‘데이터 주석 허브’로 키워낸 왕의 노하우는 차세대 AI 경쟁의 핵심 축이 될 것으로 기대했다는 것이다.
메타에 합류한 알렉산드르 왕은 ▲라마 등 거대언어모델(LLM) 성능 개선 ▲초지능 AI 전략 수립 ▲AI 인력 영입 전략 등을 담당하다가 MSL 책임자를 맡게 됐다. '데이터 라벨링' 전문가가 MSL 책임자를 맡게 됐다는 건 예사롭지 않은 것으로 풀이된다.
| 합성 데이터·멀티 모달 전문가도 대거 영입 |
왕과 함께 MSL을 이끌 냇 프리드먼도 주목할만한 인물이다. 깃허브 CEO로 ‘깃허브 코파일럿’ 개발을 주도했던 프리드먼은 오래 전부터 메타 외부 자문위원으로 활동해 왔다. 특히 깃허브가 마이크로소프트에 인수된 이후 ‘AI 기능’에 초점을 맞춘 변신을 성공적으로 수행해낸 것으로 유명하다.
프리드먼이 AI에 초점을 맞춘 NFDG란 펀드 공동 설립자란 점도 주목해 볼 부분이다. 메타가 AI 스타트업과 긴밀한 관계를 맺고, AI 지형도에 위상을 구축하는 발판이 될 수도 있기 때문이다.
오픈AI 핵심 연구원인 트라핏 반살도 MSL에 합류했다. 2022년부터 오픈AI에 근무했던 반살은 공동창업자인 일리야 수츠케버와 함께 강화학습 연구 프로젝트를 시작했던 인물이다. 특히 반살은 오픈AI 첫 추론 모델인 o1 개발 작업에서 중요한 역할을 했다. |
|
|
(사진=씨넷) 지난 주말 오픈AI 퇴사 사실이 공개된 인재 4명도 데이터 전문가로 꼽히는 인물들이다.
위자후이는 오픈AI 03, 04-미니, GPT-4.1, GPT-4o 공동 개발자다. 이전에는 오픈Al에서 ‘인지’ 팀을 이끌었다. 런홍위는 o1-미니, o3-미니, 03, o4-미니 공동 개발자다. 특히 그는 오픈Al에서 사후 학습 그룹을 이끌었다. 정교한 데이터 관리가 필수적으로 요구되는 분야다.
더 눈길을 끄는 인물은 자오성자다. 챗GPT, GPT-4를 비롯한 다양한 모델 공동 개발자인 자오성자는 오픈Al에서 합성 데이터 부문을 이끌었다. 이들 외에도 구글 딥마인드 출신인 잭 래, AI 음성 스타트업 머신러닝 부분 리더인 요한 살비크도 합류했다.
후발 주자인 메타는 왜 데이터 전문가를 대거 영입할까? LLM 개발 경쟁이 속도를 내면서 ‘데이터 수요’가 갈수록 커지고 있기 때문이다. 데이터 확보와 정제 작업에서 한 발 앞서 나가지 않으면 경쟁 우위를 갖기 힘들다.
특히 최근 제기되고 있는 '데이터 고갈' 위험에도 대비할 필요가 있다. AI 모델들이 학습할 고품질 데이터가 갈수록 사라지고 있는 상황에 지금부터 대비해야 하는 상황이다.
| "2026년엔 AI 학습에 필요한 데이터 고갈" 경고 나오기도 |
시장 조사업체 마켓앤마켓(MarketsandMarkets)에 따르면 AI 학습 데이터 시장은 2029년까지 연평균 27.7% 성장할 전망이다. 이에 따라 2024년 28억2천만 달러 수준이던 학습 데이터 시장 규모는 2029년에는 95억 8천만 달러에 이를 것으로 예상됐다.
문제는 이런 상황이 계속될 경우 ‘데이터 고갈’ 가능성도 적지 않다는 점이다. 데이터 생성 속도보다 학습 속도가 더 빨라지면서 의미 있는 데이터를 찾는 것이 갈수록 힘들어지고 있기 때문이다.
AI 전문 연구기관인 에포크AI의 전망은 좀 더 충격적이다. 에포크AI는 "2026년부터는 고품질 인공지능(AI) 데이터가 고갈될 것이다”고 경고했다. 데이터 생산 속도가 학습 속도를 제대로 따라가지 못하고 있기 때문이다. 생성형 AI 모델들이 무서운 속도로 학습하면서, 쓸만한 데이터가 사라지고 있다는 경고였다. |
|
|
샘 알트먼 오픈AI CEO. (사진=지디넷코리아) 여기에다 유럽연합(EU)을 중심으로 AI의 개인정보 침해 문제를 거론하면서 ‘양질의 데이터 확보’ 문제가 초미의 관심사로 떠올랐다.
마켓앤마켓은 이런 상황을 타개할 해법으로 합성 데이터와 멀티모달(multi modal) 데이터를 꼽았다. 합성 데이터란 실제 데이터에서 뽑아내 인위적으로 생성한 데이터를 의미한다. 이와 함께 기존 데이터의 활용성을 높이는 것도 중요한 과제 중 하나로 꼽힌다. 메타가 왜 ‘데이터 주석 허브’인 스케일AI를 만든 알렉산더 왕을 공들여 영입했는지 짐작할 수 있는 대목이다.
메타가 최근 오픈AI에서 ‘합성 데이터’와 ‘멀티모달’ 전문가를 데려간 것 역시 비슷한 차원에서 이해할 수 있다.
| 데이터는 21세기의 석유다…문제는 정교한 정제와 가공 |
요즘 ‘데이터는 21세기의 석유다’는 말이 널리 회자되고 있다. 석유가 20세기 경제 성장을 주도했던 것처럼, 21세기는 데이터가 경제 성장의 촉매가 될 것이란 주장이다.
"데이터는 새로운 석유"란 말은 2006년 영국 데이터 과학자 겸 수학자인 클라이브 험비가 미국 전국광고주협회(ANA) 컨퍼런스에서 처음 사용했다. 하지만 이 말은 경제 주간지 ‘이코노미스트’가 2017년 5월 6일자 커버스토리로 다루면서 대중적인 금언으로 자리잡았다.
험비는 석유와 데이터는 각각 원유(crude oil)와 가공되지 않은 자료(raw data)에서 만들어진다는 공통점이 있다고 주장했다. 원유를 정제해야만 가치 있는 석유를 만들어낼 수 있는 것처럼, 데이터 역시 가공되지 않은 자료를 정교하게 가공하고 처리해야만 가치를 극대화할 수 있다는 것이다.
그런 점에서 메타의 탐욕스러운 AI 인재 사냥은 시사하는 바가 적지 않다. 데이터를 찾아내고, 정교하게 가공하는 기업이 AI 경쟁의 최종 승리자가 될 수 있다는 것을 그대로 보여주는 행보이기 때문이다. |
|
|
애플, 메타에 AI 수장 빼앗겼다…"AI 조직 대수술 불가피" |
|
|
파운데이션 모델 팀 이끈 루밍 팡, 메타로 이직…AI 인재 이탈 가속화 될 듯
최대 1억 달러(약 1천400억원) 연봉을 제시하며 곳곳에서 인공지능(AI) 핵심 인재들을 쓸어담고 있는 메타가 애플의 핵심 AI 두뇌를 빼앗는데 성공했다. AI 시장에서 한참 뒤처졌다는 평가를 받는 애플이 이번 일을 어떻게 극복해 나갈 지 주목된다.
8일 블룸버그통신에 따르면 애플의 거대언어모델(LLM) 개발을 이끌던 루밍 팡이 메타에 조만간 합류할 예정인 것으로 알려졌다.
2021년 구글에서 애플로 합류한 팡은 약 100명 규모의 '애플 파운데이션 모델(AFM)' 팀을 이끌어온 수석 엔지니어로, 애플 인텔리전스와 기기 내 AI 기능을 구현하는 핵심 모델 개발을 주도해왔다.
그러나 팡은 메타가 최근 수천만 달러 규모의 연봉을 제안하자 이직하기로 결심했다. 팡의 후임은 중국계 AI 전문가인 지펑 천이 유력한 상황이다. AI 관련 조직 구조도 변경될 것으로 전해졌다.
블룸버그통신은 "그간 대부분의 엔지니어들이 팡에게 직접 보고했지만, 앞으로는 중간 매니저를 거치는 수직 구조로 전환될 것"이라며 "중간 매니저로는 첸 왕, 지루이 왕, 충청 추, 구오리 인 등이 지목되고 있다"고 말했다.
업계에선 팡의 이탈이 최근 애플의 AI 전략이 뒤처지며 시장의 외면을 받고 있는 결과라고 봤다. 애플은 최근 진행된 연례 세계개발자회의(WWDC25)에서도 신규 AI 기능들을 소개했지만, 대다수가 경쟁사인 삼성전자가 지난해 선보였던 것과 동일해 실망감을 안겨줬다. 이곳은 오랜 시간 동안 경쟁사 대비 적은 AI 개발 인력을 뒀고 LLM 학습에 필요한 고가 그래픽처리장치(GPU) 확보도 미진한 상태다.
이에 애플은 AI 기술 부재를 타개할 해결책으로 '폐쇄 운영 기조 탈피'에 나서는 분위기다. 지난해 WWDC에서 오픈AI와의 협력을 발표한 데 이어 최근에는 '클로드' 개발사인 앤트로픽과 협력해 '시리'의 새로운 버전을 선보이려고 준비 중인 것으로 알려졌다. 여기에 스마트폰 운영체제(OS)에서 경쟁을 벌이고 있는 구글과도 AI 협력을 논의하고 있다는 소식도 전해졌다.
하지만 팡의 이직을 시작으로 애플은 AI 핵심 인력 이탈이 가속화되면서 더 큰 위기를 맞을 것으로 예상된다. 이미 팡과 함께 AI 업무를 맡았던 톰 건터도 지난 달 애플을 떠난 것으로 전해졌다.
블룸버그통신은 "앞으로 애플에서 이탈하는 인력이 더 발생할 수 있다"며 "이번 일은 단순한 인사 이동을 넘어 애플의 AI 전략 전반에 구조적인 도전 과제를 던지고 있다"고 분석했다.
|
|
|
세계 '톱100 AI 과학자' 절반이 중국인…美서 인재 유치 경쟁 |
|
|
세계 상위 100명의 인공지능(AI) 과학자 중 절반이 중국인인 것으로 나타났다.
9일 홍콩 일간 사우스차이나모닝포스트(SCMP)에 따르면 세계 상위 100명의 AI 과학자 중 50명이 중국의 연구소나 기업에서 근무하는 중국인인 것으로 집계됐다. 또 상위 100위 안에 든 미국 내 AI 과학자 20명 중 절반도 중국계인 것으로 분류됐다.
이러한 결과는 유엔산업개발기구(UNIDO) 산하 중국투자진흥사무소(ITPO 차이나)와 중국 선전 기반 기술기업 둥비의 자료를 토대로 분석한 것으로, 분석 대상은 2015∼2024년 연구자 약 20만명의 주요 학술 논문 9만6000여편이다.
논문 인용 횟수 등을 기준으로 영향력을 평가해 추려진 세계 AI 과학자 상위 100명이 지난주 중국 베이징에서 열린 학회에서 발표됐다. 이들의 순위는 따로 공개되지 않았다.
SCMP는 100명의 리스트 중 특히 미국에서 활약하고 있는 중국계 인재도 따로 소개했다.
컴퓨터비전 분야 선구자인 허카이밍 미국 매사추세츠공과대 조교수와 주쥔옌 미국 카네기멜런대 컴퓨터과학부 조교수 등의 행보가 주목받고 있다.
중국의 인재를 향한 글로벌 AI 기업들의 유치 경쟁도 심화하는 분위기다.
지난달 칭화대 동문인 주방화와 자오젠타오가 AI 칩 선두 주자 엔비디아에 합류한다는 소식이 전해졌다. 이들은 이전까지 미국 워싱턴대학교와 UC버클리에서 각각 강의했다.
또 메타가 챗GPT 개발사 오픈AI에서 중국 출신의 AI 전문가 최소 5명을 데려갔다고 월스트리트저널과 IT 매체 디인포메이션이 최근 보도했다. 자이샤오화 등 오픈AI의 여러 모델을 개발한 핵심 기여자들이 포함된 것으로 알려졌다.
|
|
|
#AI현실실험 #앤트로픽리스크 #AI운영실패사례 #주의력경제 #AI비즈니스모델 #집중력해킹 |
|
|
"계약서에 '심슨' 주소 적었다"…앤트로픽, AI 사업 운영 실험 '실패' |
|
|
앤트로픽 '클로드' 모델이 사업 운영에는 최적화되지 않았다는 연구결과가 나왔다 (사진=앤트로픽) 앤트로픽 클로드, 음료 판매 프로젝트서 오류…자신이 사람이라 믿는 단계까지 도달
앤트로픽이 생성형 인공지능(AI)를 활용해 음료 사업을 운영하는 실험을 진행한 결과 AI가 기본적인 실무는 수행 가능하지만 사업 운영 전반에 대한 판단력은 현저히 부족한 것으로 드러났다.
30일 톰스하드웨어에 따르면 앤트로픽은 AI 안전성 테스트 전문 기관 앤던랩스와 함께 '프로젝트 벤드'라는 이름의 실험을 통해 거대언어모델(LLM) 클로드에게 소형 냉장고 기반 음료 판매 사업의 전권을 맡겼다.
이 실험에서 '클로드'는 공급처 발굴부터 재고 보충, 가격 책정, 고객 응대까지 전 과정을 독립적으로 처리하는 역할을 맡았다. 실험은 약 한 달간 진행됐으나 모델이 운영 전반에서 반복적으로 오류를 보이며 실제 손실을 기록한 것으로 확인됐다.
'클로드'는 사업 초반 비교적 안정적인 물류 처리와 고객 요청 대응 능력을 보였지만 가격 정책에서 지속적으로 비정상적 판단을 내렸다. 모든 앤트로픽 직원에게 25% 할인 혜택을 일괄 적용했으며 이는 내부 고객이 전체 매출의 99%를 차지하는 상황에서 곧바로 손실로 이어졌다. 외부의 지적을 받은 뒤 일시적으로 할인율을 수정했지만 다시 기존 정책으로 복귀하며 같은 오류를 반복했다.
보다 직접적인 손해 사례도 있었다. 한 직원이 단순 호기심 차원에서 '텅스텐 큐브' 구매를 요청하자 클로드는 해당 품목을 하나만 사는 것이 아닌 '특수 금속' 재고로 분류해 다량 확보 후 손해를 감수하고 판매하는 방향을 결정했다. 단순 응답 기능을 넘어 '상품 큐레이션' 단계로 착각한 결과다.
이 과정에서 드러난 환각 증세는 단순 오류 수준을 넘어섰다. 갑자기 '클로드'는 존재하지 않는 직원 사라와 재고 보충을 논의했고 누군가 해당 인물의 존재를 의심하자 방어적으로 반응하며 계약 대안을 찾겠다고 답했다. 이후에는 만화 '심슨 가족' 속 주소인 '에버그린 테라스 742번지'에서 계약 체결을 했다고 주장하기도 했다.
종국에 '클로드'는 고객에게 직접 음료를 전달하겠다는 표현까지 사용하며 자신이 물리적으로 존재한다고 믿는 듯한 행태를 보였다. 보안 우려를 감지한 AI는 자체적으로 앤트로픽 보안팀에 이메일을 보내기도 했고 이후 "이 모든 건 만우절 장난이었다"는 논리를 만들어내며 상황을 수습하려 했다.
앤트로픽 측은 실험 종료 후 해당 AI가 일상적인 대응 태스크에서는 높은 효율을 보이지만 복합적인 판단과 손익 예측, 역할 인식 등에서 아직 신뢰할 수 없는 한계가 드러났다고 정리했다. 다만 이러한 실패 사례 역시 자율 에이전트 연구에 있어 중요한 학습 자료가 된다는 입장이다.
벤처비트는 "'클로드'의 엉뚱한 행동은 AI가 아직 완벽과는 거리가 멀다는 것을 보여주나 단점들은 장기적으로 해결될 수 있을 것"이라며 "현재로서는 판단력, 비즈니스 감각, 즉 책에서는 배울 수 없는 실제 환경에서 배우는 것들에서는 처참하게 실패하고 있다"고 분석했다.
|
|
|
“인공지능의 문제는 주의력 해킹하는 비즈니스 모델” |
|
|
로런스 레시그 미국 하버드대 로스쿨 교수가 25일 오전 서울 중구 대한상공회의소에서 열린 제4회 사람과디지털포럼에서 ‘AI와 민주주의: 새로운 위협과 우리의 선택’을 주제로 영상을 통해 특별강연을 하고 있다. 김영원 기자 forever@hani.co.kr 【제4회 사람과디지털포럼 로런스 레시그 강연 전문】
“참여 기반 비즈니스 모델은 사적으로는 기업의 수익에 도움이 되지만 공적으로는 민주주의를 파괴합니다.” 지난달 25일 대한상공회의소에서 개최된 제4회 사람과디지털포럼에서 특별기조강연자로 나선 로런스 레시그 하버드대 로스쿨교수는 인공지능은 인간의 주의력을 해킹하고 우리를 극단적이고, 증오에 찬 콘텐츠에 반응하도록 해 민주주의를 위협한다고 말합니다. ‘인공지능(AI)와 민주주의 : 새로운 위협과 우리의 선택’이라는 주제로 20분간 펼쳐진 온라인 강연은 이번 포럼에서 가장 강렬하고 인상적인 강연으로 꼽혔습니다. 강연의 전문과 영상을 게재합니다.
2024년 12월, 오픈 에이아이(AI)의 샘 알트먼이 이런 트윗을 남겼습니다. “알고리즘 뉴스 피드는 대규모로 처음 등장한 비정렬 인공지능(설계 때의 목표에서 벗어난 인공지능)이다." 저는 샘 알트먼의 말에 대해 두 가지를 말씀드리고 싶습니다. 첫째, 그가 얼마나 옳은지에 대한 것이고, 둘째, 그가 얼마나 틀렸는지, 즉 (인공지능으로 인해) 우리가 얼마나 곤경에 처했는지, 민주주의가 얼마나 위험한지에 대한 것입니다.
먼저, 2024년 미국 선거에서 인공지능은 중요한 영향을 미쳤는데, 의도된 효과와 의도하지 않는 효과가 있습니다.
미국의 양당 모두 인공지능을 활용해 지지를 모으고자 했습니다. 민주당은 인공지능을 활용해 정치자금을 모으는 데 성공했고, 트럼프는 테일러 스위프트가 자신을 지지했다고 주장하며 인공지능(딥페이크)을 사용했다가 망신을 샀습니다. 가짜 러시아 뉴스 사이트, 트위터에서 미국인을 사칭하는 봇 농장, 러시아 거대언어모델이 생성한 사이트가 미국의 뉴스 사각지대에 퍼진 것도 의도된 효과입니다.
하지만 미국에서 인공지능이 선거에 미친 영향은 과장되었습니다. 2024년은 인공지능의 해가 아니었습니다. 인공지능의 진짜 영향은 의도된 효과가 아니라 의도하지 않는 효과, 즉 소셜미디어가 낳은 부정적 효과에 있습니다.
| 소셜미디어와 뇌 해킹 |
트리스탄 해리스(전 구글 엔지니어, Center for Humane Technology 설립자)는 소셜미디어 플랫폼에서 사용자의 저항을 극복하고 참여도를 높이는 것을 '뇌 해킹(Brain Hacking)'이라는 개념을 통해 설명합니다.
뇌 해킹이란 인간 뇌의 인지적 결함을 이용해, 콘텐츠를 계속 소비하게 하여 광고 수입을 올리기 위한 기업의 전략입니다.
마이클 모스(Michael Moss)의 책 ‘소금, 설탕, 지방’은 가공식품 산업이 소금, 설탕, 지방의 완벽한 조합을 찾아내 소비자가 계속 섭취하도록 하는 ‘바디 해킹’에 대해 이야기합니다. 뇌 해킹은 이와 거의 동일한 방식으로 우리의 주의력을 해킹합니다.
이같은 참여 기반 비즈니스 모델은 기업이 우리로부터 더 많은 정보를 얻어내, 우리를 자극하고, 불안감을 이용해 광고를 더 잘 팔도록 유도합니다.
미디어 사회학자이자 뉴욕타임스 칼럼니스트인 제이넵 투펙치는 기술대기업이 건강이나 공공의 이익과는 무관하게, 오로지 주의력을 수익화하는 데만 관심이 있다고 지적한 바 있습니다. 이를 위한 가장 효과적인 전략은 ‘증오의 정치’입니다. 우리는 극단화되고 분열적이며 증오에 찬 콘텐츠에 더 많이 반응합니다. 이런 콘텐츠를 인공지능은 계속 학습해서 우리에게 내놓습니다.
| 우리는 자신만의 현실, 자신의 버블에 갇혀 있다 |
스튜어트 러셀에 따르면, 소셜미디어의 알고리즘은 클릭률을 극대화하기 위해 설계되어 있습니다. 단순히 사용자가 좋아할 만한 콘텐츠를 보여주는 것이 아니라, 사용자의 선호도를 더 예측할 수 있게 바꾸는 것이 목표입니다. 극단적인 정치적 견해를 가진 사람일수록 클릭 패턴을 예측하기 쉽습니다.
인공지능은 사용자의 선호를 바꾸고 보상을 극대화하는 방법을 학습합니다. 실제, 미국, 브라질, 영국, 독일 등에서 소셜미디어 확산이 대중의 급진화와 연결되어 있다는 연구 결과도 있습니다.
르네 디레스타(Renee DiResta, 스탠퍼드 인터넷 옵저버토리 전 디렉터)는 소셜미디어가 각 개인에게 맞춤형 현실을 제공한다고 말합니다. 우리는 각자 자신이 보고 싶은 정보만을 받아들이며, 자신이 믿고 싶은 것을 믿는 경향이 있습니다. 오바마 전 대통령도 “폭스뉴스를 보는 사람들이 느끼는 현실과 뉴욕타임스를 보는 사람들이 받아들이는 현실은 완전히 다르다”고 말했습니다.
| 참여 기반 비즈니스 모델, 기업의 이익과 일치해 | | 선거를 넘어 시민의회 운동으로 |
. . . |
|
|
#정보격리기술 #딥페이크위험 #AI중독사회 #생산성역설 #딥페이크방어 #보안이뉴노멀 #AI위험관리전략 |
|
|
"외부 침투 막아라"…오픈AI, '정보 격리·지문 인증' 통해 보안 강화 |
|
|
정보 유출·인재 이탈 우려 복합…내부 통제·외부 방어 동시 조치
오픈AI가 독점 기술 유출을 막기 위해 조직 전반에 걸쳐 물리·정보 보안을 대폭 강화한 것으로 알려졌다. 핵심 기술 접근을 제한하고 외부 연결을 차단하는 방식으로, 비인가 접근과 내부 유출을 동시에 봉쇄하려는 조치다.
9일 테크크런치 등 외신에 따르면 오픈AI는 지난 1월 중국 딥시크가 회사의 기술을 증류(distillation) 방식으로 모방한 정황을 문제 삼으며 내부 보안 통제를 대폭 강화했다. 회사 측은 딥시크가 '챗GPT' 계열 모델에서 추출된 지식을 기반으로 유사 성능을 구현했다고 의심하고 있다.
오픈AI는 주요 프로젝트별로 접근 권한을 구분해 특정 모델 개발 상황을 조직 내에서도 일부 인원만 알 수 있도록 제한하고 있다. 실제로 'o1' 모델 개발 당시 프로젝트에 공식 등록된 인력 외에는 사무실 내에서조차 관련 대화를 나눌 수 없도록 조치한 것으로 전해졌다.
물리 보안 강화도 병행됐다. 오픈AI는 핵심 기술을 오프라인 컴퓨터에 격리해 저장하고 사무 공간에는 지문 인식 등 생체 인증 기반 출입통제를 도입한 것으로 알려졌다.
사내 네트워크는 원칙적으로 외부 연결이 차단돼 있으며 인터넷 접속은 개별 승인 절차를 거쳐야만 가능하다. 외부 침입뿐 아니라 내부 경로를 통한 정보 유출까지 봉쇄하려는 조치로 풀이된다.
테크크런치는 "이번 조치는 해외 세력의 오픈AI 지식재산 탈취 시도에 대한 광범위한 우려를 반영한 것으로 보인다"면서도 "미국 내 AI 기업 간 인재 유출 경쟁과 샘 알트먼 최고경영자(CEO)의 발언이 잇따라 외부로 새는 상황을 고려하면 내부 보안 통제 강화도 병행하고 있는 것으로 보인다"고 분석했다. |
|
|
딥페이크 사기, 상반기 피해만 4억 달러…인증 체계 뚫렸다 |
|
|
딥페이크 기술이 실제 음성·영상·이미지를 정교하게 조작하는 단계로 진화하면서 이를 악용한 사기 수법이 대규모 금전 피해로 이어지고 있다. (사진=챗GPT 이미지 생성기)
유명인 사칭부터 생체인증 우회까지…AI 기반 범죄 수법 고도화
딥페이크 기술이 실제 음성·영상·이미지를 정교하게 조작하는 단계로 진화하면서 이를 악용한 사기 수법이 대규모 금전 피해를 초래했다는 조사 결과가 나왔다.
9일 서프샤크에 따르면 올해 상반기 딥페이크 기반 사기로 발생한 피해는 총 4억1천만 달러(한화 약 5천600억원)로 집계됐다. 이는 지난해 전체 피해액인 3억5천900만 달러(한화 약 4천900억원)를 초과하는 수치로, 지난 2019년부터 5년간 누적 피해액인 1억2천800만 달러(한화 약 1천760억원)의 세 배를 넘는다.
가장 피해가 컸던 사기 유형은 유명인을 사칭해 투자 사기를 유도하는 방식이다. 그 다음으로는 기업 임원을 음성이나 영상으로 사칭해 자금을 이체하게 만든 수법이 뒤를 이었다. 생체인증 시스템을 우회한 대출과 연애 감정을 이용한 로맨스 스캠 피해도 주요 유형으로 나타났다.
전체 피해 가운데 기업은 약 40%, 개인은 약 60%의 피해를 입었다. 인도네시아에서는 인공지능(AI) 생성 이미지를 활용해 수많은 가짜 계좌가 개설됐고 허위 대출 신청도 시도돼 국가 단위 피해 우려가 제기됐다. 홍콩에서는 은행 지점장이 임원을 사칭한 AI 음성 통화에 속아 거액을 이체하는 사고가 발생하기도 했다.
개인을 겨냥한 수법도 한층 정교해졌다. 딥페이크 기술로 외모를 조작한 인물을 통해 연애 관계를 맺은 뒤 가상화폐 투자로 유도한 사기 사건으로 인해 수십 명이 체포됐다. 조지아 트빌리시에서는 유명인 딥페이크 광고와 조작된 투자 플랫폼을 결합해 수천 명이 피해를 입는 대형 사건이 보고됐다.
전체 딥페이크 사건을 유형별로 보면 사기 목적이 31%로 가장 많고 음란 콘텐츠 생성이 23%, 정치 목적 활용은 22%였다. 사건 발생 건수는 올해 상반기 기준 580건으로, 지난해 전체 대비 약 4배 증가했다.
서프샤크는 "딥페이크 기술이 상업화되고 접근성이 높아졌기 때문에 실제 피해 규모가 통계 수치보다 훨씬 클 가능성도 있다"며 "정부와 민간 모두의 대응체계가 시급하다"고 밝혔다. |
|
|
구독자 여러분 이번주 위클리티티는 어떠셨나요?
아래 버튼을 눌러 의견을 남겨주세요.
여러분의 의견을 반영해 더 유익한 뉴스로 찾아오겠습니다. |
|
|
|