챗GPT 개발사 오픈AI가 직원들에게 인공지능(AI) 기술 위험을 규제 당국에 알리지 못하도록 불법적으로 금지했다는 내부 고발이 제기됐다.

13일(현지시간) 워싱턴포스트(WP)에 따르면 오픈AI 일부 직원들은 이달 초 연방거래위원회(SEC)에 회사의 비밀 유지계약에 대한 조사를 촉구하는 서한을 보냈다.

내부고발자들(whistleblowers)은 오픈AI 기술이 인류에게 미칠 수 있는 위험을 규제 당국에 신고하지 못하도록 오픈AI가 불법적으로 금지했다고 주장했다.

이들은 오픈AI가 “직원들과 지나치게 제한적인 고용, 퇴직 및 비밀 유지 계약을 체결했다”며 “이를 근거로 회사 측은 연방 규제당국에 회사에 대한 우려를 제기한 직원들에게 책임을 물을 수 있다”고 밝혔다.

이들은 “회사가 직원들에게 내부고발자 보상에 대한 연방 권리를 포기하도록 하는 직원 협약에 서명하도록 했다”며 “이 협약은 또 직원들이 연방 당국에 정보를 공개하고자 할 경우 회사의 사전 동의를 받도록 했다”고 강조했다.

이처럼 지나치게 광범위한 협정은 회사 내부의 치명적인 정보를 밝히려는 내부 고발자 보호를 위한 연방법과 규정을 위반한 것이라고 이들은 주장했다.

내부고발자 중 한 명은 “이 계약서는 '우리는… 직원들이 연방 규제 당국과 이야기하는 것을 원하지 않는다'는 메시지를 보낸 것”이라며 “AI 기업이 감시와 반대로부터 스스로를 보호한다면 안전하고 공익에 부합하는 기술을 개발할 수 없다”고 말했다.

내부고발자들의 서한은 비영리 단체로 시작한 오픈AI가 자사의 AI 기술을 만드는 데 있어 안전보다 이익을 우선시하고 있다는 우려가 제기되는 가운데 나왔다.

이에 대해 오픈AI 대변인은 “회사의 내부 고발 정책은 직원들이 보호받는 정보를 알릴 권리를 보장한다”며 “회사는 직원들이 퇴직 시 회사를 비방하지 않는다는 조건을 없애는 중요한 변화를 이미 시행했다”고 말했다.

챗GPT 개발사 오픈AI가 인공지능(AI) 능력 수준을 5단계로 나눠 제시하고, 현재 자신들의 기술은 문제해결 능력을 보유하는 2단계에 도달하기 직전 수준이라고 평가했다.

블룸버그통신에 따르면 오픈AI는 11일(현지시간) 전 직원회의에서 AI 능력에 대한 새로운 분류체계를 직원들과 공유했다.

이들이 제시한 분류체계 1단계(챗봇, Chatbots)는 인간과 대화를 통해 상호작용하는 수준을 말하며, 2단계(추론가, Reasoners)는 인간 수준의 문제해결 능력을 보유한 경우다.

3단계(대리인, Agents)는 이용자를 대신해 며칠간 작업을 수행할 수 있어야 하고, 4단계(혁신자,Innovators)는 새 혁신을 제시할 수 있는 능력을 보유한 수준을 말한다.

가장 진보한 최종 단계인 5단계(조직, Organizations)는 조직업무를 수행할 수 있는 수준을 의미한다.

오픈AI 경영진은 이날 직원들에게 자신들은 현재 1단계에 있다고 생각하지만 2단계에 도달하기 직전이라고 말했다고 이 회사 대변인이 전했다.

이 대변인은 2단계에 대해 박사 수준의 교육을 받았지만 이같이 문제 해결에 사용하는 각종 도구에 접근할 권한이 없는 사람처럼 기본적인 문제해결 능력을 수행할 수 있는 수준을 말한다고 부연했다.

익명의 소식통은 이날 회의에서 인간과 같은 추론을 할 수 있는 2단계 기술을 보유한 것으로 평가받는 GPT-4 모델과 관련된 연구 프로젝트도 시연됐다고 전했다.

오픈AI는 그동안 대부분의 작업을 인간보다 잘 수행할 수 있는 범용인공지능(AGI) 개발을 위해 노력하고 있다고 말해 왔으며 최고경영자(CEO) 샘 올트먼은 10년 안에 AGI에 도달할 수 있다고 언급한 바 있다.

이 분류체계는 오픈AI 경영진과 고위급 직원들이 공동으로 마련한 것으로, 여전히 진행 중인 작업이며, 직원과 투자자와 이사회 등의 피드백을 받아 조정될 수 있다.

AI 연구자들은 오랫동안 AGI 기준을 결정하는 방안을 놓고 토론해왔으며, 지난해 11월 구글 딥마인드 연구자들도 '전문가'와 '초인간' 등 단계를 포함하는 5단계 분류를 제안한 바 있다.

이러한 분류체계는 자율주행 차량의 자동화 정도를 평가하는 시스템과도 유사하다고 블룸버그는 덧붙였다.

인공지능(AI) 열풍으로 전력난이 우려되는 가운데 챗GPT 개발사 오픈AI가 2027년 원전 에너지로 전력을 공급받을 수 있을 것이라고 미 시사주간지 뉴스위크가 13일(현지시간) 보도했다.

보도에 따르면 샘 올트먼이 투자한 소형모듈원전(SMR) 개발사 오클로(Oklo)는 2027년 가동을 목표로 첫 SMR 개발에 박차를 가하고 있다.

오클로는 올트먼이 향후 AI 구동 과정에서 부족할 것으로 예상되는 전력 수요에 대비해 투자한 스타트업 중 하나다. 올트먼이 현재 이사회 의장을 맡고 있다.

오클로 측은 아이다호주 국립연구소에 첫 번째 SMR 건설을 위해 노력하고 있으며, 이 원자로는 지속 가능하고 신뢰할 수 있으며 가격도 저렴하다고 밝혔다.

오클로 공동 설립자이자 최고경영자(CEO)인 제이콥 드위트는 “우리는 아이다호와 워싱턴에 두 개의 시범 공장을 건설해 성공적으로 운영했다”고 말했다.

오클로의 SMR은 현재 원전과는 달리 원자로 자체를 소형화해 전력을 공급하는 방안을 추진 중이다.

기존 원자력 발전소 건설에 수십만∼수백만㎡의 부지가 필요한 것과 달리 오클로 SMR 발전소는 약 2에이커(약 8100㎡)의 부지에 건설된다.

또 다른 원전과 달리 냉각수로 물을 사용하지 않아 비용을 크게 낮출 수 있다고 오클로는 설명했다.

드위트 CEO는 “기존 원전은 연료에 담긴 에너지 중 약 5%만 사용해 효율이 낮지만, 오클로는 에너지 활용 기술 개발을 통해 나머지 95%를 활용해 에너지 생산량을 획기적으로 늘리고 연료 공급도 거의 무한대로 확대할 수 있다”고 주장했다.

이어 “이는 오클로가 오픈AI와 같은 AI 기업 및 데이터센터와 협력할 수 있는 잠재력을 가진 이유”라며 “이런 AI 기업 등의 에너지 수요가 얼마나 될지 상상조차 할 수 없지만, 이들 기업은 재생가능 에너지를 필요로 할 것”이라고 덧붙였다.

워싱턴포스트가 10일(현지시간) 기후변화 관련 질문에 답변하는 인공지능(AI) 챗봇 '클라이미트 앤서(Climate Answers)'를 출시했다.

생성형 AI 기술을 기반으로 채팅 인터페이스를 통해 워싱턴포스트가 보도한 기후변화 관련 내용을 독자들에게 쉽고 편리하게 전달할 계획이다.

사용자는 기후변화, 환경, 날씨 관련 섹션에 2016년부터 워싱턴포스트가 직접 발행한 기사를 바탕으로 원하는 질문에 답변을 얻을 수 있다.

사용자 질문에 따라 8년 간의 기후변화 관련 기사를 검색하고 관련성에 따라 점수를 매기고, 거대언어모델(LLM)을 활용해 질문에 맞는 답변을 생성하는 방식이다.

예를 들면 챗봇에게 “집에 태양광 패널을 설치해야 할 것인가?” 또는 “미국에서 해수면이 가장 빠르게 상승하는 곳은 어디인가?”와 같은 내용을 질문할 수 있다.

답변에는 챗봇이 답변을 작성하는 데 활용한 기사와 정보 관련 작은 링크를 달았다. 만약 정확한 답변을 제공할 수 없는 질문에 대해서는 '모른다'고 말하고 거짓 답변을 생성하지 않도록 했다.

비닛 코슬라 워싱턴포스트 최고기술책임자는 “다른 AI 챗봇과 차별화되는 점은 저널리즘을 바탕으로 한다는 것”이라며 “현재는 기후변화 관련 질문만 답변하고 있지만, 워싱턴포스트가 보도하는 다른 주제로 확장할 가능성을 배제하지 않았다”고 전했다.

미국 IT전문매체 더버지에 따르면, 이번 서비스는 챗GPT 개발사인 오픈AI LLM을 기반으로 개발됐지만 워싱턴포스트는 미스트랄과 메타의 라마 등 다른 AI 모델도 실험하고 있다.

AI를 활용하려는 미디어는 워싱턴포스트가 처음이 아니다. 영국 파이낸셜타임스는 구독자가 보도 관련해 질문하고 답변을 얻을 수 있는 챗봇인 '애스크 FT'를 올 초부터 테스트하기 시작했다.

중국 기업의 80% 이상이 비즈니스에 생성형 인공지능(AI)을 사용한다는 통계가 나왔다. 

14일(현지시간) 디지털인포메이션월드 등 외신에 따르면, 중국이 전세계에서 생성적 AI를 사용하는 기업이 가장 많은 나라로 확인됐다. 

통계분석 기업 사스(SAS)는 보고서에서 전 세계 기업의 54%, 미국 기업의 65%가 생성형 AI를 사용하는 반면 중국에서는 83%의 기업이 생성형 AI를 사용 중인 것으로 집계됐다.

중국은 업무에 AI를 통합할 뿐 아니라 모든 시스템과 프로세스에 AI를 안전하게 사용하기 위한 조치를 취하고 있다. 

2014년부터 지난해까지 10년 간 등록된 중국의 생성형 AI 특허는 3만8천여개로 전세계에서 가장 많지만 같은 기간 미국의 생성형 AI 특허는 6천300여개다.

또한 사스는 많은 기업이 중국에서 생성적 AI를 사용하고 있지만, 시스템에 AI를 완전히 구현한 기업은 대부분 미국에 있다고 설명했다. 미국이 최신 AI에 사용할 반도체 칩의 중국 수출을 중단했기 때문에 중국 기업은 재료수급 문제로 생산성이 떨어질 수 있다는 점도 짚었다.

사스 관계자는 보고서를 통해 "성공적인 생성형 AI 서비스 기술 활용을 위해선 종합적 거버넌스·기술 통합·전문가 지도가 필요하다"며 "많은 기업들은 적절한 거버넌스 시스템을 구축하기 전에 생성형 AI를 도입하고 있는데, 이로 인해 나중에 품질과 관련 규정 준수에 문제가 발생할 수 있다"고 강조했다.

중국 정부가 인공지능(AI) 경쟁에서 뒤처지지 않기 위해 국가 자원을 총동원하고 있지만, 한편에선 엄격한 정치적 규제를 실시하고 있다고 월스트리트저널이 16일 보도했다.

중국은 생성형 AI 개발에서 미국과 양대 산맥을 형성하고 있다. 하지만 정부의 엄격한 규제는 기업의 AI 모델 출시를 어렵게 하고 있다. 스탠퍼드 대학의 쉬 청강 연구원은 “생성형 AI에서는 아이디어가 중요하고 모든 것을 새로 만들어야 하는데, 국가 주도의 접근 방식은 효과가 없다”고 말했다.

중국의 생성형 AI 모델은 인터넷 규제 당국인 중국 사이버 공간 관리국의 승인을 받아야 한다. 규제 당국은 모델이 안전한 답변을 내놓는지 테스트하기 위해 2만개에서 7만 개의 질문을 준비하도록 요구하고 있다. 또 모델이 답변하지 않아야 할 질문 5000에서 1만 개의 데이터 세트를 제출해야 하며, 이 중 절반은 정치 이념 및 공산당 비판과 관련된 것이다.

생성형 AI 운영자는 부적절한 질문을 연속 3회 또는 하루에 총 5회 이상 하는 사용자에게 서비스를 중단해야 한다. 이러한 규제 요구 사항은 민간 기업이 모델 출시를 위한 승인을 받기 위해 규제 당국의 전직 또는 현직 직원을 고용하는 산업을 낳았다.

중국은 AI 시스템 훈련에 필요한 데이터 접근성에서도 어려움을 겪고 있다. 중국어 데이터는 매우 제한적이며, AI 개발자가 모델과 데이터 세트를 공유하는 인기 있는 저장소인 허깅페이스(Hugging Face)에 대한 접근이 차단됐다.

중국의 접근 방식은 자원의 낭비를 초래할 수 있다는 우려도 있다. AI 전문가들은 “정부가 제한된 자원인 칩, 인재, 자금을 모아 효과적으로 사용하는 방법을 찾아야 한다”고 지적했다.