당신의 위치:메인 화면 >지식 >챗GPT 이어 '소라'…오픈AI 야심작에 '딥페이크' 우려 왜? 본문

챗GPT 이어 '소라'…오픈AI 야심작에 '딥페이크' 우려 왜?

시간:2024-03-28 19:13:15 출처:网络整理编辑:지식

핵심 힌트

텍스트만으로 60초 동영상 생성 AI 서비스 '소라' 공개"극단적 폭력‧성적 콘텐츠, 유명인 초상화 사용 등 요청 거부할 것"오픈AI는 15일(현지 시각) 소라를 활용해

챗GPT 이어 '소라'…오픈AI 야심작에 '딥페이크' 우려 왜?

텍스트만으로 60초 동영상 생성 AI 서비스 '소라' 공개
"극단적 폭력‧성적 콘텐츠, 유명인 초상화 사용 등 요청 거부할 것"


오픈AI는 15일(현지 시각) 소라를 활용해 텍스트 입력으로 만든 영상을 공개했다. ⓒ오픈AI 제공


챗GPT 개발사인 오픈AI가 15일(현지 시각) 텍스트를 동영상으로 만들어주는 인공지능(AI) 시스템을 공개했다. 명령어를 입력하면 60초 분량의 비디오를 만들어주는 서비스, '소라(Sora)'다. 소셜미디어(SNS) 등에서 딥페이크로 인한 피해가 이어지는 가운데, 기술 오용과 가짜 정보 유통에 대한 우려도 제기되고 있다.

이미 오픈AI는 생성AI 챗봇 '챗GPT'와 명령어를 통해 이미지를 구현하는 AI 서비스 '달리'를 출시한 바 있다. 이제 소라의 출시를 통해 생성형 비디오 AI 서비스까지 사업을 넓힌 것이다. 소라는 달리를 기반으로 비디오를 생성하는 서비스로, 원하는 장면을 묘사한 명령어를 입력하면 고화질 영상 클립으로 만들어준다.

오픈AI에 따르면, 소라는 여러 캐릭터와 특정한 유형의 동작, 피사체와 배경의 구체성 등을 살려 최대 60초 길이의 동영상을 빠르게 생성할 수 있다. 오픈AI는 "(소라는) 언어에 대한 깊은 이해를 갖고 있어 프롬프트(명령어)를 정확하게 해석하고, 생생한 감정을 표현하는 매력적인 캐릭터를 생성할 수 있다"고 언급했다.

소라는 텍스트만으로도, 기존의 이미지를 활용하는 방식으로도 동영상을 생성할 수 있으며, 기존 동영상을 확장하거나 누락된 프레임을 채우는 것도 가능하다는 설명이다. 이와 함께 여성의 스타일과 배경을 설명한 명령어로 만들어진 '도쿄 워크(Tokyo walk)' 영상을 블로그에 공유했다.

다만 오픈AI는 소라의 '기술적 단점'에 대해서도 언급했다. 장면과 장면 사이의 인과관계 이해에 한계가 있을 수 있다는 것이다. 오픈AI는 "(소라는) 복잡한 장면의 물리학적 구성을 정확하게 도출하는 것에 어려움을 겪을 수 있다"며 "누군가 쿠키를 한 입 베어 물었지만, 쿠키에 물린 자국이 없을 수도 있다"고 설명했다.

생성형 인공지능 챗GPT 개발사인 오픈AI가 15일 동영상 생성 AI서비스 소라를 공개했다. ⓒAP=연합뉴스


'딥페이크'에 대한 우려도 나온다. CNBC 등 주요 외신은 "오픈AI의 비디오 AI 서비스는 생성형 AI 산업의 차세대 개척자가 될 수 있지만, 심각한 가짜 정보 문제를 야기할 수 있다"고 언급했다. 특히 전 세계 주요 선거를 앞두고 이 같은 기술에 대한 우려는 더 커지고 있는 상황이다. CNBC는 AI분석업체 클래리티의 데이터를 근거로 AI로 생성된 딥페이크 수가 전년 대비 900% 폭증했다고도 전했다.

이 같은 우려에 대해 오픈AI는 소라를 회사 제품에 통합하기 전에 전문가 팀에 맡겨 안전성 여부를 평가한다는 계획이다. 당장은 예술가와 영화 제작자 등 소수에게만 소라를 제공할 것이며, 모델의 취약점을 테스트하는 '레드 팀' 구성원들과의 협력을 통해 감별 기술을 마련하겠다고 밝혔다.

또 "극단적인 폭력‧성적 콘텐츠, 혐오 이미지, 유명인의 초상화 사용 등의 내용을 명령어로 사용할 경우 요청을 거부하게 할 것"이라며 "생성된 모든 비디오를 검토해, 표시되기 전 사용 정책을 준수하는지 확인하겠다"고 강조했다.

한편 오픈AI는 웹 검색 서비스도 개발하고 있는 것으로 알려졌다. 정보통신 전문 매체인 디인포메이션에 따르면, 오픈AI는 구글이 장악한 검색 시장에 도전할 준비를 하고 있으며, 이 서비스는 마이크로소프트의 검색 엔진 '빙'을 기반으로 일부 구동될 것으로 전해졌다.

다만 오픈AI 검색 제품이 구글에 미칠 영향은 크지 않을 것이라는 전망이 나온다. 콜린 세바스찬 베어드 투자은행 애널리스트는 "'검색'은 제대로 하기가 매우 어려운 분야로, 사용자 행동을 바꾸려면 구글보다 더 뛰어나야 한다"고 언급했다.