구글의 인공지능(AI) 연구 자회사 딥마인드 직원들이 전쟁과 인종차별에 AI를 사용하는 것에 반대하고 나섰다.

23일 타임 등 외신에 따르면 구글 딥마인드 직원 200여 명은 이스라엘 정부와 체결한 프로젝트 님버스 계약을 종료할 것을 촉구하는 서명에 사인했다.

서명한 직원들은 가자에서 벌어지는 전쟁에 AI가 악용될 우려가 크다며 프로젝트 님버스 계약에 대한 반대 시위에 나서고 있다.

특히 딥마인드가 2014년 구글에 인수될 당시 군사 또는 감시 목적으로 AI를 사용하지 않을 것이라는 약속을 체결한 만큼 해당 프로젝트는 이를 위반하는 것이라고 강하게 비판에 나서고 있다.

프로젝트 님버스는 구글과 아마존이 2021년에 체결한 합작 계약으로 이스라엘 정부와 군대에 클라우드 컴퓨팅 인프라, 인공지능(AI) 및 기타 기술 서비스를 제공하는 사업이다.

약 12억 달러 규모인 해당 사업의 구체적인 목표와 임무는 공개되지 않았다. 하지만 구글클라우드플랫폼(GCP)에서 제공하는 AI 도구에는 미국 세관 및 국경 보호국에서 사용했던 얼굴 감지, 자동 이미지 분류, 객체 추적 및 감정 분석 기능이 포함될 것으로 알려지면서 논란이 되고 있다. 이스라엘 국방부나 관련 기관에서 해당 AI도구를 사용할 우려가 있기 때문이다.

구글 직원들과 전문가들은 이스라엘이 팔레스타인 사람을 격리시키기 위해 AI를 사용되고 있다고 우려를 표하고 있다. 또 법학자들도 전쟁에서 AI를 사용하는 것은 국제법을 위반한다고 지적 중이다.

프로젝트 님버스 계약에는 이스라엘에서 AI를 어떤 군사적 용도로 사용하는지 명시되어 있지 않으며, 특정 목적으로 사용한다는 근거도 마련되지 않았다.

하지만 구글 직원들은 이스라엘과 같은 국가에서 클라우드 인프라를 사용할 경우 실제 어떤 활동에 활용하는지 파악하는 것은 거의 불가능하다고 지적했다.

이에 지난 3월 열린 구글 컨퍼런스에서 진행된 이스라엘 기술 산업을 홍보하는 연설도중 에디 해트필드라는 구글 개발자가 난입한 바 있다.

당시 그는 대량 학살, 아파르트헤이트 또는 감시를 위한 기술을 만드는 것을 거부한다며 해당 계약을 비판하며 소리쳤다.

연설 방해로 인해 에디 해트필드는 구글에서 해고됐다. 이러한 구글의 조치에 항의하는 의미로 3일 뒤 구글 신뢰 및 안전 정책 담당 직원 비다나 압델 카렉도 사직서를 제출했다.

구글의 티나 바초프스키 SW엔지니어도 "팔레스타인에서 잔혹 행위를 저지르는 데 도움이 되는 이스라엘 정부 제품을 회사가 제공한다는 사실을 알고 있을 때 일에 대한 흥분과 활력을 느끼는 것은 불가능하다"고 말했다.

구글 조직 내 직원들의 불만이 이어지자 순다르 피차이 구글 최고경영자(CEO)는 대처에 나섰다.

피차이 CEO는 "우리는 놀라운 제품을 만들고 훌륭한 아이디어를 실행으로 옮길 수 있는 활기차고 개방적인 토론 문화를 가지고 있다"며 "하지만 궁극적으로 구글은 직장이며 우리의 정책과 기대는 명확하다"고 말했다.

이어 "이것은 엄연히 사업으로, 동료를 방해하거나 안전하지 않다고 느끼게 하는 방식으로 행동하고 회사를 개인적인 플랫폼으로 사용하려고 시도할 뿐 아니라 파괴적인 문제에 대해 싸우거나 정치에 대해 논쟁해선 안된다"며 "이것은 우리가 주의를 산만하게 할 수 없을 만큼 중요한 사안"이라고 답했다.

지난 20일부터 미국 캘리포니아 주 의회가 표결 중인 인공지능(AI) 규제 법안에 대한 의견이 분분하다.

22일 테크크런치 등 외신에 따르면 오픈AI 이사가 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 반대하는 목소리를 냈다. 이에 주 상원의원이 "말도 안 되는 소리"라고 일축했다. 해당 법안은 캘리포니아 내 AI 개발 사업자들에게 모델 안전성 테스트 등 사전 예방 조치를 요구하는 내용을 담고 있다. 

제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 상원의원에게 공개서한을 보내 "법안이 AI 혁신을 저해할 것"이라고 지적했다.

그러면서 그는 법안이 시행될 경우 "캘리포니아의 엔지니어들과 테크기업들이 다른 주로 떠날 수 있다"며 "미국의 경쟁력을 위해 최첨단 모델의 규제는 국가 차원에서 진행돼야 한다"고 밝혔다.

이에 법안을 발의한 스콧 위너 상원의원은 오픈AI의 주장이 논리적이지 않다고 반박했다. 그는 법안이 캘리포니아에 본사를 두지 않은 기업에도 적용되므로 기업들이 주를 떠날 필요가 없다고 강조했다. 또 오픈AI가 법안의 구체적인 조항을 비판하지 않고 단순히 연방 규제를 요구하는 점에 대해서도 비판했다.

해당 법안 표결은 오는 30일까지 진행된다. 통과될 경우 개빈 뉴섬 캘리포니아 주지사의 서명을 받게 된다. 뉴섬 주지사의 입장은 아직 명확하지 않지만 법안이 통과될 경우 산업계의 강력한 반발이 예상된다.

특히 오픈AI 측은 캘리포니아 주의 규제 환경 변화에 대한 우려로 샌프란시스코 사무실 확장 계획을 보류하고 있는 것으로 알려졌다.

AI 업계 관계자는 "캘리포니아의 AI 규제가 통과하는지 여부에 따라 산업계의 대응이 달라질 수 있다"며 "실리콘 밸리가 위치해 테크 기업들이 몰린 지역이기 때문에 이번 표결에 많은 것이 걸려있다"고 밝혔다.

직간접 탈옥공격 모두 방지하는 스포트라이트닝 기술 적용

마이크로소프트가 인공지능(AI) 악용을 위한 탈옥을 방지하는 기능을 출시했다.

26일 MS파워유저 등 외신에 따르면 마이크로소프트의 애저 오픈AI서비스와 애저AI콘텐츠 세이프티팀이 프롬프트실드를 선보였다.

AI 탈옥은 특정한 명령어나 상황을 입력해 윤리적으로 어긋난 답변을 유도하거나, 악의적인 작업을 수행하도록 만드는 공격방식이다.

프롬프트실드는 고급 기계학습 알고리즘과 자연어처리 기반 기술을 적용해 사용자 프롬프트와 외부 데이터에서 탈옥의 위험이 있는 잠재적 위협을 식별하고 무력화할 수 있다.

이와 함께 직접 프롬프트에 명령어를 입력하지 않고 이메일이나 외부 메시지 등으로 AI의 행동을 조작하는 간접 프롬프트 주입 공격까지 방지할 수 있는 기능도 제공한다.

마이크로소프트는 이를 위해 스포트라이트닝이라는 신규 기술을 개발했다. AI 모델에 입력된 데이터의 출처가 실제 사용자인지 아니면 제3자인지 구분하는 기술로 이를 통해 발생할 수 있는 부정적 상황을 무시하게 할 수 있다.

마이크로소프트 AI플랫폼팀 페데리코 자르파티 시니어 제품 매니저는 "스포트라이트닝은 대해 악성 공격 성공률을 2% 이하로 낮출 수 있는 방어 수단"이라며 "복잡한 환경에서 AI의 일관된 성능을 보장하고, 중요한 응용 프로그램에서의 보안을 강화하는 데 더욱 효율적"이라고 설명했다.

지난 22일 포항제철소 제4연주공장. 고로에서 녹인 뜨거운 쇳물을 굳혀 철강재 반제품인 슬라브를 만드는 현장이다.

이 곳에서 만들어지는 슬라브는 가로 세로 8미터(m), 2.5미터에 무게 30톤(t)에 달하는 거대한 쇳덩이다. 설비와 부딪힐 경우 연주공장 전체가 임시 중단될 우려가 크다. 온도 역시 1천℃에 달해 복구 과정에서 작업자가 화상을 입는 등 안전사고 위험도 상당하다.

포항제철소는 포스코DX와 함께 인공지능(AI)을 적용한 스마트 CCTV로 이러한 사고를 사전에 방지하고 있다.

이 밖에도 포스코는 기관차 건널목과 선재제품검수장 등 포항제철소에서 비전AI를 적용해 작업자의 안전을 보장하고 생산성을 높인 사례를 소개했다.

■ 거대한 슬라브 작은 진행 변화도 알아채는 스마트 CCTV

제4연주공장에서는 쇳물(용선)이 굳어 생산된 슬라브가 줄지어 내려왔다.

컨베이어 벨트를 따라 이동하는 슬라브는 아직 채 식지 않아 새빨간 빛을 내며 주변 공기를 달궜다.

컨베이어 벨트에 설치된 스마트CCTV는 AI를 통해 실시간으로 슬라브의 진행 방향과 형상을 확인한다. 고열에 수십 톤에 달하는 슬라브의 특성상 이동 중 정상 진행 방향을 벗어나 설비에 부딪힐 경우 사고로 이어지기 때문이다.

AI는 영상 프레임 단위로 슬라브가 컨베이어 벨트 위의 슬라브 진행방향을 분석한다. 진행 방향이 한쪽으로 2도 이상 치우칠 경우 이를 사행이라고 부르며 위험 상황으로 판단한다.

사행을 감지한 AI는 담당자에게 알림을 보낼 뿐 아니라 사고가 발생하기 전 스스로 작업을 중단시키는 공정제어 역할까지 수행한다.

포스코 생산기술부 생산시스템섹션 박중해 과장은 "사행감지 시스템 지금까지 슬라브 사행 사고가 발생하지 않았다"며 "특히 사행의 주요 원인인 불꽃 비산을 미리 감지해 사고에 대처할 수 있는 환경을 제공한다"고 설명했다.

그는 이어 "이를 통해 현장 직원은 모니터를 하루 종일 바라봐야 하는 단순업무에서 벗어날 수 있게 됐다"며 "또한 AI가 사고를 일차적으로 막아주는 방파제 역할을 하는 만큼 사고 발생에 대한 부담도 한시름 놓을 수 있게 됐다"고 소개했다.

포스코DX 윤일용 AI센터장은 “포스코에서 활용 중인 AI솔루션의 가장 큰 특징은 AI가 실제 장비와 연계해 제어까지 가능한 것"이라며 "이는 AI기술과 함께 운영 기술(OT) 노하우까지 보유한 포스코DX의 역량을 보여주는 대표적인 사례"라고 강조했다.