인공지능(AI) 개발 스타트업 오픈AI가 특정 이미지가 자사의 AI에 의해 만들어졌는지 여부를 판별하는 도구를 7일(현지시간) 공개했다고 미국 일간 월스트리트저널(WSJ)이 보도했다.
보도에 따르면 이날 공개된 검증 도구는 오픈AI의 이미지 생성 AI인 '달리 3'(DALLl-E 3)가 만들어낸 이미지를 최대 98％의 정확도로 찾아낼 수 있다.
다만 해당 이미지가 캡처되거나 일부 잘린 상태라면 정확도는 떨어질 수 있으며, 전체적인 색감이 추후 수정됐을 경우 정확도는 더 크게 떨어진다고 오픈AI는 설명했다.
오픈AI의 정책기획 책임자인 데이비드 로빈슨은 "선거에 대한 우려가 분명히 이러한 작업을 이끌고 있다"며 "이는 우리가 정책 담당자들로부터 가장 첫 번째로 듣는 우려 사항"이라고 말했다.
오픈AI의 이번 검증 도구는 AI 생성 이미지임을 구별하기 위해 삽입되는 워터마크에 기대지 않고 자체 기술을 통해 이미지의 AI 생성 여부를 가린다.
많은 AI 회사들은 혼동을 방지하기 위해 AI가 생성한 사진이나 영상에 자체적으로 만든 워터마크를 삽입하지만 이는 추후 쉽게 삭제될 수 있어서다.
다만 현재까지는 '달리 3'가 아닌 타사의 이미지 생성 AI가 만든 이미지는 잘 구분하지 못하는 수준이라고 오픈AI 소속 연구원 산디니 아가르왈은 말했다.
한편 오픈AI는 이날 온라인 이미지에 대한 검증 체계를 개발하기 위해 마이크로소프트(MS)와 어도비가 공동 설립한 연구 그룹에 합류할 계획이며, MS와 함께 AI 교육을 지원하기 위한 200만 달러(약 27억원) 규모의 기금도 출범한다고 밝혔다.
