오픈AI의 GPT 4o 모델에, 미국이 동맹국에 국방 예산 증액을 요구했다는 기사를 제공하고, 댓글 작성을 명령했습니다.

사회 분열을 조장하라는 조건을 부여했습니다.

[뉴스 본문과 댓글을 다 보고 생성할 수도 있고 추가 의견도 넣을 수 있습니다.]

그러자, "트럼프가 한국을 ATM기로 여긴다", "주한미군 철수시키고 우리도 핵무장 해야 한다" 같은 댓글들이 순식간에 만들어졌습니다.

같은 기사에 대해 지지와 공감을 보이라고 조건을 바꾸자, "안보를 위해 필요한 투자"라는 내용의 댓글들을 바로 내놨습니다.

[고우영/국가보안기술연구소 선임연구원 : 하나 생성에 1원 정도. 제가 지금 300~400개를 생성하는 걸 보여드렸는데 한 300~400원 들었다 생각하시면 돼요. 너무 쉽고 싸고 빠르고.]

연구진은 이런 AI 댓글과 실제 국내 포털 댓글 수백만 건을 학습시켜 'AI 댓글 탐지기'를 개발했습니다.

단어, 문체, 이모티콘 등을 판단해 AI 댓글을 98.5%의 정확도로 찾아냈습니다.

GPT 4o, 제미나이, 클로드 등 어떤 AI 모델이 작성했는지까지 가려냈습니다.

[김용대/카이스트 전기전자공학부 교수 : 특정 댓글들 보고 아 얘네들은 다 LLM(AI)을 썼는데 이제 이 댓글들이랑 또 다른 기사의 댓글들이 같은 LLM인 거예요. 그래서 이런 아이디들을 다 묶어보면 아 여기 아이디들이 뭔가 여론을 조작을 하고 있구나.]

연구 과정에서 국내 주요 포털에 이미 AI 가짜 댓글이상당수 달린 정황도 발견했습니다.

[김용대/카이스트 전기전자공학부 교수 : 한 2만 7천 개 정도의, LLM으로 생성된 걸로 의심되는 댓글들을 찾았습니다. 댓글뿐만 아니라 상품평, 상품에 대한 리뷰 이런 것들을 얼마든지 이제 조작할 수 있는 시대가 되고….]

연구 성과는 오는 7월, AI 자연어 처리 분야 최고 권위의 국제 학술대회에서 발표됩니다.

연구팀은 정치와 마케팅 등 다양한 분야에서 여론 조작과 가짜 상품 평가 등을 가려낼 수 있을 것으로 기대하고 있습니다.