“빅테크는 인공지능(AI)을 ‘마법 같은 기술’로 포장한 뒤 인공지능이 모든 문제를 해결해줄 것 같은 환상을 유포해 민주주의와 법치주의를 약화시킨다.”

한겨레는 제4회 사람과디지털포럼을 앞두고 기조연사인 마티아스 슈필캄프와 전자우편으로 인터뷰했다. 슈필캄프는 독일의 알고리즘 감시기구 ‘알고리즘워치’를 공동 설립한 뒤 지금까지 책임지고 있다. 2016년 설립된 알고리즘워치는 자동화된 의사결정 시스템과 알고리즘의 사회적 영향, 투명성, 책임성을 감시하고 연구하는 유럽 내 대표적 시민사회 조직으로 주목받고 있다.

슈필캄프는 다수의 거대 플랫폼이 민주주의 보호라는 도덕적 책무를 소홀히 해 공론장을 분열시키고 있지만, 독일을 포함해 여러 나라에서 나타나는 극우 정당의 성공을 플랫폼 탓으로 돌리는 것은 ‘희생양’을 만들어 정치인의 책임을 회피하는 측면도 있다고 말한다.

사람과디지털포럼은 오는 25일 ‘인공지능 알고리즘은 민주주의를 어떻게 해킹하는가’를 주제로 서울 대한상공회의소에서 열린다.

“알고리즘워치는 베를린과 취리히에 본부를 둔 비영리, 비정부 단체로 30명의 전문가팀으로 구성되어 있다. 알고리즘과 인공지능이 정의, 인권, 민주주의, 지속가능성과 동행하는 세상을 만들기 위해 투쟁하고 있다. 우리의 접근 방식은 ‘증거 기반 옹호’(구체적인 데이터와 연구 결과를 바탕으로 정책 변화와 사회 변화를 추구하는 활동 방식)다. 유럽과 오스트레일리아(호주)에 있는 20개 이상의 대학 및 연구기관과 여러 해 동안 연구 프로젝트를 해왔다. 기술연구팀을 통해 실제 시스템을 조사하는 방식으로, 선거 관련 챗봇 답변이 얼마나 정확한지도 테스트했다. 또한 이탈리아 학교 당국이 교사를 배치할 때 결함이 있는 알고리즘을 사용해서 나타난 피해 사례와 문제점, 시스템의 불투명성과 오류를 밝혀내고 공론화하기도 했다. 이러한 사례를 바탕으로 기업과 정부가 책임 있는 인공지능을 개발하고 더 나은 거버넌스 체계를 마련하도록 촉구하고 있다.”

“2023~2024년 유럽연합(EU), 스위스, 독일 주의회 선거 당시 마이크로소프트의 인공지능 챗봇인 빙(Bing)과 코파일럿(Copilot)에 선거 정보에 대한 질문을 입력해 답변 데이터세트를 구축하고 분석했다. 그 결과 약 30%가 부정확한 것으로 드러났다. 결국 마이크로소프트는 챗봇 답변 방식을 바꾸었고 유럽연합 집행위원회(EU Commission)는 플랫폼을 위한 선거 가이드라인에 이 사례를 포함했다.

또한 전세계 시민 사회단체 및 학계와 협력해, 메타, 구글, 틱톡과 같은 거대 플랫폼의 추천 알고리즘이 선거에 개입하는 것과 같이 사회적 위험을 유발할 소지가 있는 경우, 연구자들의 데이터 접근 요청을 의무화하는 요구를 공동으로 제기했다. 이는 기업의 책임성을 강화하는 유럽연합 디지털서비스법(DSA)에 반영되었다. 향후 몇달 안에 플랫폼의 관행을 조사하기 위해 첫번째 데이터 접근 요청을 제출할 예정이다.”

“미국 기술사학자 멜빈 크랜즈버그는 “기술은 선하지도 악하지도, 중립적이지도 않다”고 말했는데, 매우 정확한 지적이다. 알고리즘과 같은 기술은 특정 목적을 가지고 개발되며, 기존 권력 구조의 일부로 작동한다. 예를 들어, 수천억달러 규모의 인공지능 개발 프로젝트를 지원하는 미국 대통령을 생각해보자. 투자자들은 “이 프로젝트가 강력한 인공지능 개발로 이어질 것”이라고 주장하지만, 인체 건강과 환경에 엄청난 피해를 초래한다는 사실은 완전히 무시하고 있다. 이런 기술이 중립적이라고 할 수 있을까?”

.
.
.