AI가 만든 가짜사진, AI로 잡아낸다…오픈AI, 검증도구 개발
자사 이미지 생성 AI '달리 3' 사용여부 판별…"정확도 98％"
오픈AI 이미지 생성 AI '달리3'가 만든 이미지와 오픈AI 로고
[AP=연합뉴스 자료사진]
인공지능(AI) 개발 스타트업 오픈AI가 특정 이미지가 자사의 AI에 의해 만들어졌는지 여부를 판별하는 도구를 7일(현지시간) 공개했다고 미국 일간 월스트리트저널(WSJ)이 보도했다.
보도에 따르면 이날 공개된 검증 도구는 오픈AI의 이미지 생성 AI인 '달리 3'(DALLl-E 3)가 만들어낸 이미지를 최대 98％의 정확도로 찾아낼 수 있다.
다만 해당 이미지가 캡처되거나 일부 잘린 상태라면 정확도는 떨어질 수 있으며, 전체적인 색감이 추후 수정됐을 경우 정확도는 더 크게 떨어진다고 오픈AI는 설명했다.
오픈AI의 새로운 도구는 최근 미국 대통령 선거를 앞두고 AI를 이용한 허위·조작 이미지가 대거 유포될 수 있다는 우려에 대응하기 위한 것이다.
오픈AI를 비롯한 여러 기업들은 최근 잇달아 이미지 생성 AI를 선보였고, 미국 정치권에선 유권자들이 이런 AI가 만든 거짓 사진 등에 속아 잘못된 판단을 내릴 수 있다는 우려가 커져왔다.
오픈AI의 정책기획 책임자인 데이비드 로빈슨은 "선거에 대한 우려가 분명히 이러한 작업을 이끌고 있다"며 "이는 우리가 정책 담당자들로부터 가장 첫 번째로 듣는 우려 사항"이라고 말했다.
오픈AI의 이번 검증 도구는 AI 생성 이미지임을 구별하기 위해 삽입되는 워터마크에 기대지 않고 자체 기술을 통해 이미지의 AI 생성 여부를 가린다.
많은 AI 회사들은 혼동을 방지하기 위해 AI가 생성한 사진이나 영상에 자체적으로 만든 워터마크를 삽입하지만 이는 추후 쉽게 삭제될 수 있어서다.
다만 현재까지는 '달리 3'가 아닌 타사의 이미지 생성 AI가 만든 이미지는 잘 구분하지 못하는 수준이라고 오픈AI 소속 연구원 산디니 아가르왈은 말했다.
한편 오픈AI는 이날 온라인 이미지에 대한 검증 체계를 개발하기 위해 마이크로소프트(MS)와 어도비가 공동 설립한 연구 그룹에 합류할 계획이며, MS와 함께 AI 교육을 지원하기 위한 200만 달러(약 27억원) 규모의 기금도 출범한다고 밝혔다.
연합뉴스제공 (케이시애틀 제휴사)
