AI 서비스의 출발과 이후 변화 과정을 되짚어보면, 최근 논의가 왜 나왔는지 맥락이 보인다. 일부 AI 연구 조직은 2015년 비영리 형태로 출발했고, 이후 운영 비용과 성장 압박 속에서 2019년 영리 구조로 전환해 수익을 추구하기 시작했다. 이 흐름은 플랫폼이 초기의 공익적 목적에서 점차 사업성과 지속가능성을 고려하는 쪽으로 무게중심을 옮겼다는 점을 보여준다.
그 과정에서 비용 압박이 어떻게 정책의 우선순위를 바꾸는지도 눈에 띈다. 운영과 개발에 들어가는 비용이 커지면 플랫폼은 수익을 내는 기능과 콘텐츠에 더 많은 자원을 배분하게 된다. 그러다 보면 안전과 윤리 관련 모니터링이나 엄격한 심사 과정이 상대적으로 후순위로 밀릴 가능성이 커진다. 실제로 2023년 11월에는 이사회가 CEO를 해임했다가 복귀시키는 사건이 있었고, 2024년에는 성인용(NSFW) 생성 허용 가능성을 검토했다는 보도가 나오기도 했다.
성인 콘텐츠가 플랫폼의 성장 동력으로 작동하는 메커니즘도 단순하다. 이런 콘텐츠는 사용자 체류 시간을 늘리고, 결제 저항을 낮추는 성향이 있다. 체류 시간이 길어지면 광고나 유료 서비스의 수익성이 올라가고, 결제 전환이 쉬운 영역은 직접적인 매출원이 된다. 따라서 플랫폼 입장에서는 단기적인 수익 관점에서 관련 기능을 도입·확대할 유인이 생긴다.
문제는 이런 경제적 유인이 윤리적 고려와 충돌할 때다. 성인용 AI의 확산은 비동의 디페이크 같은 2차 피해 산업의 위험을 동반한다. 디페이크 성착취물은 피해자의 명예를 훼손하고 정신적 고통을 초래할 수 있으며, 사회적 피해가 복합적으로 이어진다. 플랫폼이 규제와 사용자 보호에 충분히 투자하지 않으면 이런 피해는 통계에 잡히기 전에 확산될 가능성이 크다.
한국 시장을 시각적으로 보면, 영향은 단편적이지 않다. 환율 쪽에서는 불확실성이 증가하면 투자자 심리에 영향을 주어 변동성이 커질 수 있다는 지적이 있다. 코스피와 같은 주식시장에서는 AI 관련 기업의 수익 모델 변화가 주가 변동으로 이어질 수 있고, 이는 전체 시장에도 파급된다. 산업·섹터 측면에선 IT와 미디어 업계가 새로운 기회를 얻는 한편, 윤리적 문제를 함께 떠안게 될 가능성이 있다.
관심을 두고 지켜볼 지점들도 정리해둘 필요가 있다. AI의 수익 구조 변화, 성인 콘텐츠에 대한 규제 변화, 디페이크 기술 발전 속도, 사용자 보호를 위한 법적 조치, 그리고 사회적 논의의 진전 등이 그것이다. 이 요소들은 서로 엮여 플랫폼의 정책 방향과 시장의 구조를 결정할 테고, 결국 피해 최소화와 기술 활용의 균형을 좌우할 것이다.
개인적으론 기술의 진보 자체를 곧바로 문제삼고 싶진 않다. 다만 플랫폼의 의사결정이 수익성만을 좇을 때 발생하는 외부효과에 대해선 더 촘촘한 사회적 안전망과 법적 장치가 따라와야 한다는 생각이 든다. 앞으로 나올 규제와 기업의 내부 정책 변경을 주의 깊게 관찰할 필요가 있다.