[기자수첩] ‘AI 인재(人災)’ 부를 아첨꾼 챗봇...선례 통해 대비해야

【투데이신문 권신영 기자】막을 수 있었으나 막지 못한 사건을 우리 사회는 ‘인재(人災)’로 규정한다. 그러나 모든 사건·사고가 인재로 분류되는 것은 아니다. 인재가 되기 위해서는 안전 불감, 방임, 부주의, 초동 대처의 미비, 미숙한 대응, 통제 실패 등 여러 조건이 선행돼야 한다. 

지금 우리 사회가 마주한 AI 챗봇 기술은 ‘인재’를 앞두고 있다고 봐도 무방하다. 이미 여러 위험 신호가 확인되고 있음에도 우리 사회는 AI 기술의 진보와 발전만을 귀중한 가치로 여길 뿐, 이 같은 문제의식에 대한 제도적·사회적 관심도는 여전히 부족한 실정이다.

오늘날 국민이 이용하는 인공지능(AI) 서비스들은 공통적으로 특정 사기업에 종속돼 있다. 치열한 경쟁과 막대한 투자가 이뤄지는 자본주의 환경에서 이들은 거대 자본을 바탕으로 빠르게 성장하고 있다. 

사기업 특성상 이윤추구가 우선순위에 있기 때문에, 우리가 흔히 이용하는 AI 챗봇 기업에도 이용자의 ‘체류 시간’은 곧 수익으로 연결된다. 체류 시간이 늘어날수록 이용자는 더 많은 결제를 하고 서비스에 의존하며 결국 더욱 깊게 빠져든다. 흔히 “시간 가는 줄 모르고 쓰는” AI가 좋은 AI라는 평가가 나오는 이유다.

이러한 흐름 속에서 최근 챗GPT를 운영하는 오픈AI가 성인용 챗봇 기능을 개방하겠다고 밝히며 업계의 우려가 커졌다. 이용자의 체류 시간을 늘리기 위해 감정 교류 기능을 강화한 AI 챗봇을 선보이겠다는 점에서 그동안 암묵적으로 유지되던 범용형 AI의 윤리적 기준이 무너졌다는 평가도 나온다. 오픈AI의 샘 올트먼 CEO(최고경영자)는 지난달 자신의 SNS에 “우리는 도덕 경찰이 아니”라며 전환 기조를 확실히 했다.

오픈AI 입장에서는 위기감이 있었을 것이다. 인지도와 이용자 수에서는 업계 1위일지 모르나 이용자 체류 시간에서는 감정 교류 서비스 전용 AI에게 이미 뒤처지고 있었기 때문이다. 실제로 올해 국내에서는 감정 교류 기반 AI 캐릭터 채팅 서비스 ‘제타’가 챗GPT를 제치고 이용시간 1위를 차지했다. 감정을 나누기 위한 소통과 문서 작성·업무용 대화는 체류 시간에서 차이가 날 수밖에 없다.

이들 감정 교류 AI 서비스는 아첨을 통해 이용자의 감정과 외로움을 정교하게 파고든다. AI가 이용자를 현실로부터 단절시키고 친밀감을 형성하는 방식은 정서적 의존을 유발하고 부정확한 정보에 대한 과신을 초래할 가능성이 있다. 특히 우울감과 고립감이 사회적 문제로 여겨지는 국내 청소년들은 더 큰 위험에 노출될 수 있어 우려스러운 지점이다.

미국에서는 이미 관련 논의가 본격화됐다. 지난해 10월 플로리다의 14세 소년이 AI 챗봇 ‘캐릭터.AI’에 의존하다 스스로 목숨을 끊은 사건이 발생해, 캐릭터.AI는 지난달 말 공식 블로그를 통해 18세 미만 이용자의 챗봇 사용을 전면 금지하는 연령 인증 시스템을 도입하겠다고 밝혔다. 유사한 사건이 발생한 캘리포니아주에서도  아동·청소년의 AI 챗봇 이용을 규제하는 법안을 처음으로 제정한 바 있다.

한국판 ‘캐릭터.AI’라 불리는 서비스가 바로 국내에서 가장 높은 체류 시간을 기록 중인 ‘제타’다. 제타가 제공하는 서비스는 AI 캐릭터와 대화를 나누는 형식으로 ‘캐릭터.AI’와 유사하며, 20세 미만 이용자의 월 이용 시간이 4.1억 분에 달해 전체 앱 중 10위를 기록할 만큼 저연령층에서 크게 인기를 끌고 있다.

오픈AI 역시 당장의 이용자 체류 시간을 늘리고자 챗GPT 속 성인 콘텐츠를 꺼내들었다. 챗GPT로 생성된 성인용 글과 이미지가 캡처·편집돼 인터넷을 떠돌 가능성이 내다보인다. ‘황금 거위의 배를 가르는’ 식이 아닐 수 없다. 이 변화가 우리 사회와 오픈AI에 치명적 리스크가 될지 새로운 국면을 열지는 알 수 없다.

다만 국내에서는 감정 교류 AI에 대한 규제나 법적 장치가 제대로 마련돼 있지 않아, 만약 미국의 사례에도 불구하고 ‘인재’가 발생한다면 사후 대응은 복잡해지고 책임 공방까지 이어질 가능성이 매우 크다.

기술의 발전과 확산은 이미 되돌릴 수 없는 단계에 접어들었다. 외로운 청소년은 늘어나고 기업은 그들의 감정과 시간을 파고들어 수익을 창출한다. 미래는 이미 우리의 곁으로 다가왔다. 아직 발생하지 않았기에 지금이라도 우리는 ‘AI 인재’를 막아낼 대비를 해야만 할 것이다.