OpenAI 'ChatGPT 감지기' 완성, 99.9% 정확도에도 공개 미룬다?

OpenAI가 ChatGPT로 작성된 콘텐츠를 찾아내는 기술을 완성한 것으로 전해졌다.

지난 해 선보였던 AI Classifier의 정확도가 문제가 되자 서비스를 중단하고 내부 테스트를 거쳐 왔다는데 지금은 99.9%를 찾아낼 만큼 정확도가 크게 향상됐다는 소식이다.

텍스트 워터마킹이라 불리는 이 기술은 ChatGPT가 작성한 콘텐츠를 매우 효과적으로 찾아내며 LLM으로 출력한 품질에도 영향이 없다고 한다.

하지만, ChatGPT로 작성한 콘텐츠에만 사용이 가능하고 Gemini AI나 Llama 3와 같은 다른 LLM에는 적용이 불가능하며 원본 텍스트를 다른 번역기로 변환하거나 문구 일부를 수정할 경우 감지가 불가능할 수도 있다.

거기다 ChatGPT 사용자의 69%가 인공지능으로 작성한 콘텐츠에 대한 비난을 두려워 하고 있으며 30%는 ChatGPT 감지기가 배포될 경우 경쟁 서비스로 전환할 가능성도 있다고 말해 배포를 주저하고 있다는 것이 외신들의 설명이다.