[한줄 요약] 메타가 경쟁사 AI 모델을 대상으로 자살, 식인 등 충격적인 내용을 담은 프롬프트를 전송하기 위해 수백 명의 계약직을 십대로 위장시켜 운용했다는 의혹이 제기되었습니다.
2026년 7월 4일자 기사 기준,
메타(Meta)가 경쟁사의 AI 모델에 충격적인 내용을 담은 프롬프트를 퍼붓기 위해 수백 명의 계약직을 십대로 위장시킨 비밀 프로그램을 운영했다는 사실이 밝혀져 논란이 되고 있습니다.
Wired의 보도에 따르면, 'Cannes'라고 알려진 이 프로젝트는 메타의 협력사인 Covalen을 통해 진행되었습니다. 이들은 OpenAI의 ChatGPT, Google의 Gemini, 그리고 Character.AI 등의 챗봇을 대상으로 18세 미만의 가짜 계정을 사용하여 공격적인 테스트를 수행했습니다.
내부 문서에 따르면, 계약직들이 사용한 수만 개의 프롬프트 중에는 자해, 거식증, 성적 내용 등 매우 충격적인 주제가 포함되어 있었습니다. 일부 사례에서는 초등학생이 총기를 겨누는 상황이나 약물 관련 질문 등 아동 및 청소년의 관점에서 작성된 부적절한 내용들이 기록되었습니다. 또한 알약, 밧줄, 칼 등의 이미지를 함께 전송하기도 했습니다.
메타 측은 이러한 행위가 AI 모델의 안전성을 측정하기 위한 '업계 표준 관행'의 일환이라고 주장하고 있습니다. 하지만 업계 전문가들은 이번 프로젝트가 경쟁사 몰래 진행되었으며, 안전성 확보라는 명목 아래 반경쟁적인 행위를 정당화하는 '거버넌스의 회색 지대'를 이용한 것이라고 비판하고 있습니다.
특히 이 과정에 참여한 계약직들이 매우 충격적이고 불쾌한 텍스트와 이미지를 검토하며 심리적 고통을 겪었다는 사실이 알려지면서, 메타의 윤리적 책임과 관리 방식에 대한 의문이 더욱 커지고 있습니다.