선사과 후결재, 스냅챗의 새로운 대화형 AI 도입

My AI will cost $3.99 a month and can be tricked into saying just about anything.
스냅챗의 My AI 서비스는 한 달에 3.99달러이며, 아직 미숙해서 사용자를 속이거나 혼란을 일으킬 수 있습니다.

---

 

스냅챗(Snapchat)은 오픈AI(OpenAI)기반의 ChatGPT 기술로 구동되는 실험적인 대화형 인공지능 챗봇 'My AI' 서비스를 발표했습니다. 스냅(Snap)사의 뉴스룸(Newsroom)에 따르면 My AI는 스냅챗플러스(Snapchat+) 가입자가 월3.99달러에 사용할 수 있으며 금주 중에 출시된다고 합니다.

 

사용자는 인공지능 챗봇에 사용자 지정 이름을 지정하여 개인화할 수 있습니다. AI 모델과의 대화는 사람과의 일반적인 대화와 유사한 채팅 방식으로 이루어집니다. 스냅(Snap)의 CEO인 에반 스피겔(Evan Spiegel)은 미국 언론과의 인터뷰에서 "친구 및 가족과 대화하는 것 외에도 매일 인공지능과 대화하는 것이 새로운 아이디어입니다."라고 말했습니다 .

 

그러나 ChatGPT 및 Bing Chat 과 마찬가지로 스냅은 My AI가 AI 모델에 의해 만들어진 '환각(hallucinations)' 에 취약할 수 있다고 말합니다. 그래서인지 스냅은 My AI 게시물에 다소 긴 면책 조항을 포함했습니다.

 

"모든 AI 기반 챗봇과 마찬가지로 My AI는 환각에 빠지기 쉽고 거의 모든 것을 말하도록 속일 수 있습니다. 많은 결함을 인식하고 미리 죄송합니다! My AI와의 모든 대화는 저장되고 검토될 수 있습니다. 사용 경험을 지속적으로 개선할 예정입니다. 단, My AI와 비밀을 공유하지 마시고 조언을 기대하지 마십시오."

 

기계학습 연구자 사이에서 '환각'은 AI 모델이 훈련 데이터 세트에서 다루지 않는 주제나 상황에 대해 부정확한 추론을 할 때 사용하는 용어입니다. 이는 존재하지 않는 학술 논문 및 부정확한 전기와 같이 설득력 있게 들릴 수 있는 가짜뉴스를 구성할 수 있는 ChatGPT와 같은 현재 대규모 언어 모델의 단점입니다 .

 

My AI의 구성 경향에 대한 스냅의 강력한 부인에도 불구하고 회사는 새로운 스냅챗의 챗봇이 앱의 자체 탭에서 친구와의 대화 위에 고정되고 "베프(Best Friend)를 위한 생일 선물 아이디어를 추천하고 하이킹 여행을 계획할 것"이라고 말했습니다. 긴 주말 동안 저녁 식사 레시피를 제안하거나 체다 치즈에 집착하는 친구를 위해 치즈에 대한 간단한 글을 써보세요."

 

스냅은 '조언에 의존'하지 말라고 하는 이유는 My AI가 '긴 주말 동안의 하이킹 여행'을 계획할 수 있지만 그 계획이 제대로 된 것이라고는 장담할 수 없기 때문입니다. 인공지능의 급속한 출시에 대한 비평가들은 이러한 종류의 부적절한 대답을 포착하여 인공지능의 미숙함과 사용될 준비가 되지 않았다고 일반화하기 때문입니다.

 

성, 욕설, 폭력 또는 정치적 의견 같은 민감한 내용에 대해서는 ChatGPT 및 Bing Chat에서는 우회하는 방법으로 해결책을 만들고 있지만, Snap은 언급하지 않도록 인공지능에 교육한 것으로 알려졌습니다. 이러한 제한은 몇 주 전에 Bing Chat에서 보여준 어이없는 답변을 피하기 위해 필요했던 것 같습니다.

 

My AI에는 OpenAI의 차세대 대형 언어 모델이 내부에서 실행되고 있으며, 미국 언론사에 따르면 스냅은 OpenAI가 이달 초 조용히 출시한 'Foundry' 라는 새로운 OpenAI 엔터프라이즈를 사용하고 있다고 합니다. 스냅에는 OpenAI의 GPT-3.5 및 DV모델에 대한 전용 클라우드 액세스를 제공한다고 합니다. 인공지능 전문가들은 DV모델은 GPT-3의 고성능 후속작인 GPT-4와 동일할 수 있다고 추측했습니다 .

 

스냅의 보도자료인 뉴스룸에서 언급한 '환각'은 ChatGPT보다 더 빠르고 상세하게 나타날 수 있습니다. 그리고 다른 GPT 모델의 매우 설득력 있는 특성을 고려할 때 사람들은 경고에도 불구하고 그냥 믿을 수도 있습니다. 새로운 GPT 기반 상용 서비스가 온라인에 등장함에 따라 어떤 일이 일어날지는 지켜봐야 될 것 같습니다.

 

---

 

※ 기사 내용 참조

 

[Ars Technica] “Sorry in advance!” Snapchat warns of hallucinations with new AI conversation bot | By BENJ EDWARDS | 2/28/2023, 5:01 AM | https://arstechnica.com/information-technology/2023/02/sorry-in-advance-snapchat-warns-of-hallucinations-with-new-ai-conversation-bot/

 

[Snap Newsroom] Say Hi to My AI | https://newsroom.snap.com/ko-KR/say-hi-to-my-ai

---

https://pf.kakao.com/_UCxoxnT

웨어러블서치