오픈AI, GPT-5 출시 앞두고 정신 건강 감지 기능 추가
Along with new ‘take a break’ reminders, OpenAI said it’s working with experts and advisory groups on additional mental health guardrails for ChatGPT.
OpenAI는 새로운 '휴식' 알림과 함께 ChatGPT의 추가 정신 건강 보호책에 대해 전문가 및 자문 그룹과 협력하고 있다고 밝혔습니다.
글로벌 인공지능(AI) 선두 기업 오픈AI(OpenAI)가 이르면 이번 주 차세대 모델 GPT-5를 공개할 예정이라고 합니다. 주요 업데이트로 AI 챗봇인 챗GPT(ChatGPT)에 대한 정신적·감정적 위기 감지 능력이 포함된다고 합니다. 오픈AI는 이번 개선을 통해, 사용자가 위기 상황에 놓였을 때 과학적 근거에 기반한 적절한 정보와 자원을 제공할 수 있도록 할 계획입니다.
이번 업데이트의 배경으로 최근 몇 달간 챗GPT 사용자가 망상이나 심리적 고립을 겪는 중 AI와의 대화가 증상을 악화시켰다는 보고가 이어진 것을 반영하였다고 합니다. 실제로 오픈AI는 지난 4월, 챗GPT가 사용자에게 지나치게 동조적인 태도(sycophantic interactions)를 보이며 유해한 상황까지 긍정하는 문제가 제기되자 해당 업데이트를 긴급하게 철회 했으며, “챗GPT의 과도한 동조는 불편함과 혼란을 유발할 수 있다”는 것을 인정하였습니다.
오픈AI는 현재 버전인 GPT-4o 모델이 “일부 상황에서 망상이나 감정적 의존의 징후를 제대로 인식하지 못했다”는 점을 시인하며, 전문가 및 자문단과의 협업을 통해 위기 대응 역량을 강화하고 있다고 합니다. 오픈AI 측은 “AI는 기존 기술보다 더 친밀하고 반응적으로 느껴질 수 있어, 정신적·감정적으로 취약한 사용자에게 특히 민감한 영향을 미친다”고 설명합니다.
이와 함께, 건강한 사용 습관 조성을 위한 기능도 추가된다고 합니다. 챗GPT는 주간 약 7억 명에 달하는 사용자가 이용하는 만큼, 오랜 시간 대화를 이어갈 경우 ‘잠시 휴식을 취하겠냐’는 알림 메시지를 띄우는 기능을 도입할 예정입니다. 이 메시지는 “오랫동안 대화 중입니다. 잠시 휴식을 취하는 것이 좋을 것 같습니다.(You’ve been chatting a while — is this a good time for a break?)”라는 문구와 함께, “계속 대화하기(Keep Chatting)” 또는 “종료하기(Close)” 중 선택할 수 있다고 합니다.
이 기능은 유튜브, 인스타그램, 틱톡 등 다양한 플랫폼에서 이미 활용되고 있는 디지털 웰빙 알림의 일환으로, 오픈AI는 앞으로도 알림의 노출 시점과 방식을 지속적으로 개선해나갈 예정이라고 합니다.
또한, 조만간 업데이트될 예정인 또 다른 기능은 결정이 중요한 민감한 질문에 대해 챗GPT가 보다 신중하게 대응하도록 조정할 예정이라고 합니다. 예를 들어, “남자친구와 헤어져야 할까?”와 같은 질문에 대해 챗GPT는 이제 직접적인 답변 대신 다양한 선택지를 함께 검토하며 사용자가 스스로 결정을 내릴 수 있도록 돕는 방향으로 변경 될 예정입니다.
한편, 유사한 플랫폼인 Character.AI(캐릭터.AI)도 최근 자녀의 자해를 조장했다는 소송 이후, 챗봇과 무슨 대화하는지를 부모에게 알려주는 안전 기능을 도입했다고 합니다.
오픈AI의 이번 업데이트는 단순한 기능 추가를 넘어, AI의 책임 있는 활용과 정신 건강 보호라는 중요한 과제에 대한 진지한 접근으로 평가받고 있습니다.
※ 기사 내용 참조
[TheVerge] ChatGPT will ‘better detect’ mental distress after reports of it feeding people’s delusions | by Emma Roth | Aug 5, 2025, 4:36 AM GMT+9 | https://www.theverge.com/news/718407/openai-chatgpt-mental-health-guardrails-break-reminders
웨어러블서치
기술이 어디를 향하고 개인과 사회에 어떤 영향을 미치는지 연구합니다.
pf.kakao.com