【투데이신문 변동휘 기자】 빠르게 고도화되고 있는 초거대 AI(인공지능)의 위험성을 지적하며 관련 개발을 멈춰야 한다는 주장이 나온 가운데, 테슬라 일론 머스크 CEO(최고경영자) 등 전문가들도 이에 동조하고 나섰다.

30일 관련업계에 따르면, 미국의 비영리 단체 미래생명연구소(FLI)는 최근 모든 AI 연구조직에 GPT-4보다 강력한 AI 시스템 개발을 최소 6개월간 중단할 것을 요구했다. 

이들은 인간과 경쟁 가능한 수준을 갖춘 AI가 사회와 인류에 심각한 위험을 초래할 수 있기에 이에 상응하는 계획과 관리가 필요하지만, AI 개발사들 사이에서 통제 불능 수준의 경쟁이 일어나고 있음에도 이 같은 관리가 이뤄지지 않고 있다고 주장했다.

또한 환각 현상과 같은 잘못된 정보 제공과 비인간성, 문명에 대한 통제력 상실 등 AI 윤리와 관련된 질문을 던져야 한다며, 이러한 결정은 선출되지 않은 기술 기업 리더들에게 위임돼선 안 된다고 지적했다. 

이에 모든 AI 연구소들이 GPT-4보다 강력한 AI 시스템 개발을 최소 6개월 이상 공개적이고 검증 가능한 형태로 중단해야 하며, 그 동안 독립적인 외부 전문가의 엄격한 감독 하에 고급 AI 설계 및 개발을 위한 안전 프로토콜을 공동으로 개발해야 한다고 강조했다. 이러한 결정이 신속하게 이행되지 못한다면 정부가 개입해 유예 조치를 시행해야 한다고도 밝혔다.

이들은 성명을 통해 “AI 시스템은 긍정적인 효과와 더불어 위험을 관리할 수 있다는 확신이 있어야만 개발할 수 있다”며 “AI 거버넌스 시스템 개발을 가속하기 위해 정책 입안자들과 협력해야 한다”고 전했다.

눈길을 끄는 부분은 이 성명에 동참한다며 서명한 인사들의 면면이다. FLI 측이 공개한 리스트에 따르면, AI 분야의 세계적 석학인 몬트리올대학교 요슈아 벤지오 교수를 비롯해 일론 머스크 CEO, 애플 공동창업자인 스티브 워즈니악, 지난 2020년 미국 대통령 선거 후보로 나섰던 앤드류 양 등이 서명한 것으로 알려졌다. 진위 여부와 관련해서는 각 인원들에게 직접 신원을 확인했다는 것이 이들의 설명이다. 

관련업계에서는 챗GPT가 글로벌 전역에서 주목받은 이후 AI 윤리가 화두로 떠오를 것이라 내다본 바 있다. 이러한 가운데 관련 연구개발의 속도 조절이 필요하다는 주장이 제기됐고, IT 분야 유명인사들도 이에 동조하며 힘을 싣는 분위기다.