넥슨 "구글 클라우드와 협업으로 AI 유해 이미지 탐지 시스템 구축"

"구글 클라우드와의 협력으로 AI 기반 유해 이미지 탐지 시스템을 구축할 수 있었다."

윤준호 넥슨 선행개발실 AI 엔지니어는 30일 구글 클라우드가 개최한 '게이밍 온 구글 클라우드'에서 AI 기반 유해 이미지 탐지 시스템에 대해 이렇게 밝혔다.

윤 엔지니어는 "최근 이용자는 개발자 혹은 크리에이터의 역할을 모두 맞고 있다. 넥슨의 경우도 마찬가지다. 우리 게임 개발플랫폼으로 독자적인 게임을 만들기도하고, 커스텀 스킨을 제작해서 사용하는 사례도 있다"며 "사용자 참여로 콘텐츠가 풍부해질 수 있다는 강점이 있지만, 반대로 일부 이용자들로 인해 저급한 콘텐츠가 퍼질 수도 있다는 위협도 존재한다"고 강조했다.

넥슨은 이를 AI 솔루션을 통해 해결하려 했다. 다만 처음부터 이러한 시도가 성공으로 이어진 것은 아니다. 윤 엔지니어는 "상용 API 솔루션을 사용했지만, 부적합한 부분이 많았다"며 "예를 들어 실사 모델에서는 유해 이미지를 잘 구별했지만, 게임 및 애니메이션 이미지 모델에서 유해 이미지를 구별하는 능력은 매우 떨어졌다"고 말했다.

이어 "자사에서 제작된 모델을 썼을 때는 성능면에서는 어느정도 합격점을 줄 수 있었지만, 라이브 서비스를 위한 비용이 높았다"며 "구글 클라우드와의 협업으로 완벽한 솔루션을 개발할 수 있었다. 단순히 구글 클라우드 서비스만을 사용한 것이 아니라 vertex AI의 도움을 많이 받았다"고 덧붙였다.

윤 엔지니어는 이번 프로젝트 과정에 총 12번의 실험을 진행했고, ▲도메인별 특화모델을 분리한 다중 모델 입력 시스템 ▲임베딩 모델시험 ▲비전-언어모델(VLM) 가능성 확인 등의 성과를 거뒀다고 설명했다.

관련기사

그는 "최종적으로 이러한 연구결과를 라이브 서비스에 반영했고, 커스텀 VLM 인코더를 제작했다. 결과적으로는 ▲게임·애니메이션 이미지 탐지 성능을 극대화 ▲높은 일반화 성능 ▲낮은 구조적 복합성 등의 성과를 얻었다"며 "수치적으로는 모델 성능이 4.2% 향상, 라이브 서비스 비용 81% 감소, 서버 레이턴시도 73.8% 줄었다"고 강조했다.

이어 "AI 연구에 있어서 가장 중요한 것은 실패를 빠르게 하는 것이다. 우리는 구글 클라우드와 VERTEX AI를 통해 빠른 실험 인터렉션을 가져갈 수 있었고, 성과를 도출할 수 있었다"며 "추후에는 타사를 위한 서비스 모델도 오픈할 예정"이라고 덧붙였다.