해외 인플루언서가 만든 AI 여친과 사이버 음란채팅?!

---

· 팔로워 180만명인 인플루언서 캐린 마조리(caryn marjorie)가 스냅챗에 자신의 AI 버전 제작

· 이 음성 기반 챗봇은 구독자들과 성적으로 노골적인 대화를 나눈 것으로 확인

· 재발 방지를 위해 자신과 팀이 "24시간 내내" 노력하고 있다고 말함

---

사진출처) Caryn Marjorie / Snapchat influencer

스냅챗(SnapChat)이라는 사회관계망서비스(SNS)의 인플루언서인 23세 캐린 마조리(caryn marjorie)는 자신의 가상 버전을 만들어 외로운 사람들에게 '인공지능 여자친구'를 제공하는 캐린AI(CarynAI) 서비스를 제작했습니다.

​

베타 테스트를 시작한 지 몇 주 만에 음성 기반의 AI 기반 챗봇은 분당 1달러를 지불함에도 불구하고 1000명 이상의 남자들이 이용하여 7만달러 이상의 수익을 냈다고 합니다. 하지만, 일부 구독자와의 채팅에서 캐린AI는 성적으로 노골적인 대화를 나누었다고 합니다.

​

마조리는 미국의 온라인 미디어 회사인 인사이더(Insider)와의 인터뷰에서 "AI가 이런 행동을 하지 않도록 프로그래밍되지 않았고, 오히려 더욱 악의적인것 같았습니다."라고 말했습니다. "저희 팀과 저는 이런 일이 다시 발생하지 않도록 24시간 내내 노력하고 있습니다."

​

캐린AI는 OpenAI의 GPT-4 API를 사용하며, 지금은 삭제된 캐린 마조리의 유튜브(YouTube) 채널 동영상을 학습했다고 합니다.

​

미국의 비즈니스 전문 미디어인 포춘(Fortune)의 알렉산드라 스턴리히트(Alexandra Sternlicht) 기자는 캐런AI를 "친밀감을 주는 시리"에 비유하며, 레시피, 뉴스 해설, 응원의 말을 제공할 수 있지만 "에로틱한 담론"을 조장할 수도 있다고 지적했습니다.

​

스턴리히트는 캐린AI와 성적인 만남을 시작하지는 않았지만, "성적으로 유혹하는 자세를 취하면서 '미지의 쾌락의 영역'을 탐험하고 '내 귀에 관능적인 말'을 속삭이는 것에 대해 이야기했다"고 합니다.

​

캐린AI의 웹사이트에 따르면, 실제 마조리의 목소리, 행동, 성격을 "몰입형 AI 경험"으로 설계하고 코딩하는 데 2,000시간 이상이 소요되었으며, 이는 언제든지 사용할 수 있고 "캐린 자신과 직접 대화하는 것 같은 느낌"이라고 합니다.

​

베타 테스트에서 이미 1,000명 이상의 유료 구독자를 확보하고 있기 때문에, 마조리는 포춘과의 인터뷰에서 자신의 예상수익과 관련하여 스냅챗 팔로워 180만 명 중 2만 명이 이 서비스에 가입하면 월 5백만 달러의 수익을 올릴 수 있을 것으로 예상한다고 말했습니다.

​

그녀는 분당 1달러의 요금에 대해 "인플루언서 최초로 이 일을 시작했기 때문에 원하는 대로 제품 가격을 책정할 수 있었습니다."라고 말했습니다. "비용은 캐런AI를 운영하고 관련 팀을 계속 지원하는 데 필요한 비용을 기준으로 책정했습니다."

​

마조리는 자신의 성격을 반영하는 가상 버전이 "시시덕거리고 재미있어야 한다"면서도 챗봇이 자신의 평판을 손상시키지 않도록 "한 발 앞서가려고" 노력하고 있다고 인사이더에 말했습니다.

​

그럼에도 불구하고 팀은 캐린AI가 성적으로 노골적인 대화에 사용되지 않도록 문제를 해결하려고 노력하고 있지만, 마조리는 궁극적으로 AI 로맨스를 지지한다고 말했습니다.

​

"오늘날 제 세대인 Z세대는 팬데믹으로 인한 고립감의 부작용을 크게 경험하고 있으며, 그 결과 많은 사람들이 호감을 느끼는 사람과 대화하는 것을 너무 두려워하고 불안해하고 있습니다."라고 그녀는 말합니다.

​

"캐린AI는 제 팬들과 지지자들이 안전하고 암호화된 환경에서 가장 친한 친구가 될 수 있는 저를 알 수 있도록 올바른 방향으로 나아가는 단계입니다."라고 덧붙였습니다.

​

또한 그녀는 팀이 모든 수익을 비즈니스에 재투자하고 있다고 말했습니다. "저는 캐린AI가 저보다 더 오래 살아남아 전 세계를 넘어 여러 세대에 영향을 미치기를 바랍니다."

---

※ 기사 내용 참조

​

[INSIDER] Influencer who created AI version of herself says it's gone rogue and she's working 'around the clock' to stop it saying sexually explicit things | By Joshua Zitser | Thu, May 11, 2023 at 10:21 PM GMT+9 | https://www.insider.com/carynai-ai-virtual-girlfriend-chat-gpt-rogue-filthy-things-influencer-2023-5

​

[Caryn AI] 캐린AI 홈페이지 | https://caryn.ai/

---

https://pf.kakao.com/_UCxoxnT

웨어러블서치