오픈AI 로고. (사진=연합뉴스)

오픈AI가 이란 그룹 계정을 차단했다. 

오픈AI는 17일(현지시간) 챗GPT 챗봇을 사용해 미국 대선 및 기타 문제에 영향을 미치는 콘텐츠를 생성한 이란 그룹의 계정을 삭제했다고 밝혔다. 

스톰-2035로 확인된 이 작전은 챗GPT를 이용해 미국 선거에서 양측 후보에 대한 논평, 가자 분쟁, 올림픽 게임에서 이스라엘의 존재 등의 주제에 초점을 맞춘 콘텐츠를 생성한 뒤 소셜 미디어 계정과 웹사이트를 통해 공유했다.

마이크로소프트가 지원하는 AI 회사의 조사에 따르면 챗GPT는 긴 형식의 기사와 짧은 소셜 미디어 댓글을 생성하는 데 사용됐다. 

반면, 오픈AI는 확인된 소셜 미디어 게시물의 대부분은 좋아요, 공유 또는 댓글을 받지 못했으며 회사는 웹 기사가 소셜 미디어를 통해 공유된 징후를 발견하지 못했다고 전했다. 

챗GPT. (사진=오픈AI)

해당 계정은 오픈AI의 서비스 이용이 금지됐으며 회사는 정책 위반 시도가 추가로 있는지 활동을 지속적으로 모니터링하고 있다고 밝혔다.

마이크로소프트 위협 인텔리전스 보고서는 앞서 뉴스 매체로 가장한 4개의 웹사이트로 구성된 이란 네트워크 스톰-2035가 정치적 스펙트럼의 반대쪽에 있는 미국 유권자 그룹에 적극적으로 참여하고 있다고 밝혔다. 

보고서는 이 교류가 "미국 대선 후보, 성소수자 권리, 이스라엘-하마스 갈등과 같은 문제에 대한 양극화된 메시지로 이루어지고 있었다"고 설명했다.

또한, 오픈AI는 지난 5월 인터넷을 통해 기만적인 활동을 위해 자사의 모델을 사용하려는 5개의 비밀 영향력 운영을 중단했다고 밝힌 바 있다.