성인 콘텐츠 제작에 AI를 활용하는 것은 새로운 일이 아닙니다. 2023년 GPT-3.5가 AI를 주류로 끌어올린 이후, 새로운 AI 모델이 출시될 때마다 기술 리뷰어와 온라인 마니아 모두의 열광적인 반응을 얻었습니다. 하지만 Grok 3의 사례는 특히 심각합니다. AI 커뮤니티는 항상 성인 콘텐츠에 새로운 모델을 빠르게 활용해 왔으며, Grok 3도 예외는 아닙니다. Reddit과 arXiv와 같은 플랫폼에는 제한을 우회하고 노골적인 콘텐츠를 생성하는 방법에 대한 가이드가 넘쳐납니다.

주요 AI 기업들은 이러한 오용을 막기 위해 엄격한 도덕적 검토를 시행해 왔습니다. 예를 들어, 선도적인 AI 이미지 생성 플랫폼인 미드저니(Midjourney)는 폭력적, 나체 또는 성적 이미지를 포함한 NSFW(업무용 아님) 콘텐츠에 대해 엄격한 정책을 시행하고 있습니다. 위반 시 계정 정지로 이어질 수 있습니다. 그러나 사용자들이 제한을 우회하는 창의적인 방법을 찾아내는 "탈옥"이라는 관행으로 인해 이러한 조치는 종종 미흡한 것으로 나타났습니다.

성인 콘텐츠에 대한 수요는 전 세계적으로 지속되는 현상이며, AI는 단지 새로운 창구를 제공했을 뿐입니다. 최근 OpenAI조차도 성장 압력에 따라 일부 콘텐츠 제한을 완화했지만, 미성년자 관련 콘텐츠는 여전히 엄격히 금지되어 있습니다. 이러한 변화 덕분에 AI와의 상호작용이 더욱 인간적이고 흥미로워졌으며, 이는 Reddit에서의 뜨거운 반응에서 확인할 수 있습니다.