출시 연기된 오픈AI 음성비서, 스칼릿 조핸슨 때문?

안전성 우려 커지는 AI

차세대 AI(인공지능) 비서로 기대감을 키운 오픈AI의 음성모드 AI 서비스 출시가 안전성을 이유로 미뤄졌다. 음성 모드는 오픈AI의 최신 AI 모델 ‘GPT-4o’(포오)의 핵심 서비스다. GPT-4o는 지난달 오픈AI 온라인 행사에서 카메라를 통해 상황을 인식하고 이용자와 자연스럽게 대화하는 기술을 선보이며 주목받았다. 당시 오픈AI는 이 서비스를 “몇 주 내로 출시하겠다”고 밝혔지만, 단기간 상용화는 불투명해졌다.

25일(현지시간) 블룸버그 등 외신에 따르면 오픈AI는 “GPT-4o 음성모드의 특정 콘텐트를 감지하고 거부하는 기능을 개선 중”이라며 “내부 안전과 신뢰성 검사가 충족될 때까지 정식 출시를 미룰 계획”이라고 밝혔다. 일부 유료 가입자를 대상으로 한 음성모드 테스트 출시는 기존에 예고한 6월에서 한 달 미룬 다음 달 진행할 계획이다. 오픈AI는 “자체 출시 기준에 도달하려면 한 달이 더 필요하다고 판단했다”면서 “사용자 경험을 개선하고 사용자 수백만 명에게 실시간 응답이 가능하게끔 인프라를 준비 중”이라고 설명했다.

이번 결정은 그간 오픈AI를 향해 쏟아졌던 안전성과 신뢰성 지적을 의식한 조치로 풀이된다. 2022년 11월 ‘챗GPT’를 출시한 오픈AI는 그간 빠르게 제품을 출시하고 서비스와 기술 피드백을 반영한 뒤 업데이트 제품을 출시해왔다. AI 할루시네이션(환각·그럴싸한 거짓말) 등의 문제는 새로운 버전을 출시하며 보완하는 식이었다. 이렇게 속도를 중시했던 오픈AI가 이번엔 안전성에 무게를 두기로 했다.

업계에선 크게 2가지 이유를 든다. 우선, 지난달 오픈AI의 공동창업자이자 AI 안전을 강조한 일리야 수츠케버가 오픈AI를 떠나면서 안전성 우려가 커졌다. AI 안전 정책을 두고 최고경영자(CEO) 샘 올트먼과 충돌을 빚어온 수츠케버는 자신이 이끌던 사내 안전 조직 ‘수퍼얼라인먼트’팀이 해체되자 회사를 나왔다. 수츠케버는 엑스(X, 옛 트위터)를 통해 “안전한 초지능(safe superintelligence·SSI)을 구축하는 것은 우리 시대의 가장 중요한 기술적 문제”라면서 새 회사 ‘SSI’ 창업 사실을 알렸다.

아울러 지난달 오픈AI 온라인 행사 이후 배우 스칼릿 조핸슨과의 갈등도 영향을 미쳤다는 분석이다. 당시 GPT-4o의 5가지 음성모드 중 하나인 스카이(sky)가 스칼릿 조핸슨의 목소리와 유사하다는 지적이 이어졌다. 조핸슨은 성명을 통해 “올트먼 CEO가 GPT-4o의 음성을 담당해 달라고 제안했지만, 개인적인 이유로 제안을 거절했다”고 밝혔다.

무엇보다 AI 안전에 대한 우려 목소리도 커지고 있다. 이달 초 오픈AI·구글 딥마인드·앤스로픽 등 전·현직 IT업계 종사자 13명은 ‘첨단 AI에 대해 경고할 권리’라는 제목의 공동 성명을 내고 기술의 위험성을 경고했다. 국내 기업도 AI 위험 관리를 위한 대응책 마련에 나섰다. 네이버는 AI 안전성 실천 체계인 ‘ASF(AI 안전 프레임워크)’를 세웠다. AI가 불러올 위험을 ‘통제력 상실 위험’과 ‘악용 위험’으로 분류하고 ‘AI 위험 평가 스케일’을 통해 위험성을 주기적으로 평가한다. 생성AI 출시를 앞둔 카카오는 ‘AI 세이프티’ 조직을 신설했다.

여성국·어환희 기자 yu.sungkuk@joongang.co.kr