성인 콘텐츠를 생성하기 위해 AI를 사용하는 것은 새로운 것이 아니지만 GPT-3.5가 2023 년에 AI를 주류로 가져 왔기 때문에 모든 새로운 AI 모델 릴리스는 기술 리뷰어와 온라인 애호가의 서두를 보았습니다. Grok 3의 사례는 특히 심각합니다. AI 커뮤니티는 항상 성인 콘텐츠에 대한 새로운 모델을 빠르게 이용해 왔으며 Grok 3도 예외는 아닙니다. Reddit 및 Arxiv와 같은 플랫폼은 제한을 우회하고 명시 적 자료를 생성하는 방법에 대한 가이드가 있습니다.

주요 AI 회사들은 그러한 오용을 억제하기 위해 엄격한 도덕 검토를 구현하기 위해 노력하고 있습니다. 예를 들어, 주요 AI 이미지 생성 플랫폼 인 Midjourney는 폭력, 누드 또는 성적인 이미지를 포함하여 NSFW (작업에 안전하지 않음) 컨텐츠에 대한 엄격한 정책을 가지고 있습니다. 위반은 계정 금지로 이어질 수 있습니다. 그러나 사용자가 구어체로 "탈옥"으로 알려진 연습 제한을 우회하는 창의적인 방법을 찾으면 이러한 조치는 종종 부족합니다.

성인 콘텐츠에 대한 수요는 전 세계적이고 시대를 초월한 현상이며 AI는 단지 새로운 출구를 제공했습니다. 최근에, OpenAi조차도 미성년자와 관련된 콘텐츠를 제외하고는 성장 압력에 따라 일부 내용 제한을 완화 시켰으며, 이는 엄격하게 금지되어 있습니다. 이러한 변화는 Reddit에 대한 열정적 인 반응에 의해 입증 된 바와 같이 AI와의 상호 작용을보다 인간과 유사하고 매력적으로 만들었습니다.