마이크로소프트, AI가 인간의 비판적 사고를 줄인다?!

---

Researchers find that the more people use AI at their job, the less critical thinking they use.

연구자들은 사람들이 직장에서 AI를 많이 사용할수록 비판적 사고를 덜 사용한다는 것을 발견했습니다.

---

사진출처) DALL-E / ChatGPT로 만든 이미지

 

Microsoft와 카네기 멜론 대학(Carnegie Mellon University)의 연구진이 발표한 새로운 논문에 의하면 업무에서 생성형 AI에 점점 더 의존하게 되면서 비판적 사고를 덜 사용하게 되고, 이로 인해 “보존해야 할 인지 능력이 저하될 수 있다”는 사실이 밝혀졌습니다.

​

연구진은 “AI 자동화의 핵심적인 역설은 일상적인 작업을 기계화하고, 예외 처리를 사람에게 맡김으로써 사람 사용자가 판단력을 연습하고 인지 능력을 강화할 수 있는 일상적인 기회를 박탈하여 예외 사항이 발생했을 때, 위축되고 준비되지 않은 상태로 만든다는 것입니다.”라고 합니다.

​

연구진은 연구를 위해 319명의 지식 근로자를 모집했으며, 이들은 업무에서 생성형 AI를 사용한 936개의 직접적인 사례를 직접 보고했으며, 이들에게 생성형 AI 사용 방법, 생성형 AI 도구의 특정 업무 수행 능력에 대한 자신감, AI의 결과물 평가에 대한 자신감, AI 도구 없이 동일한 업무를 완료할 수 있는 자신의 능력에 대한 자신감에 대한 설문지를 작성하도록 요청했습니다. 이 논문에서 인용된 몇 가지 작업에는 AI 이미지 생성기 DALL-E를 사용하여 학교에서 손 씻기에 관한 프레젠테이션용 이미지를 만드는 교사, ChatGPT를 사용하여 “거래 기술을 연마하기 위해 탐색할 새로운 리소스 및 전략에 대한 추천을 생성”하는 상품 트레이더, “새로 진단받은 당뇨병 환자를 위해 ChatGPT가 생성한 교육 팜플릿을 검증”한 간호사 등이 있습니다.

 

사진출처) DALL-E / ChatGPT로 만든 이미지

 

전반적으로 이러한 직원들은 AI가 작업을 수행하는 것에 대한 자신감이 높을수록 “비판적 사고의 실행을 더 많이 관찰했다”고 스스로 보고했습니다. AI의 결과물에 대한 신뢰도가 낮을수록 사용자는 비판적 사고를 더 많이 사용했으며, AI의 결과물을 평가하고 품질을 개선하며 AI 반응의 결과를 완화하는 능력에 대해 더 많은 자신감을 가졌습니다.

​

연구진은 “이 데이터는 지식 근로자가 생성형 AI를 사용할 때 점점 더 작업 실행에서 감독으로 이동함에 따라 인지적 노력의 변화를 보여줍니다.”라고 합니다. “놀랍게도 AI는 효율성을 향상시킬 수 있지만, 특히 사용자가 단순히 AI에 의존하는 일상적이거나 위험도가 낮은 작업에서 중요한 참여를 감소시켜 장기적인 의존과 독립적인 문제 해결력 감소에 대한 우려를 불러일으킬 수 있습니다.”

​

연구진은 또한 “생성형 AI 도구를 사용할 수 있는 사용자는 그렇지 않은 사용자에 비해 동일한 작업에 대해 덜 다양한 결과를 산출한다는 사실도 발견했습니다. 이러한 융합 경향은 AI 결과에 대한 개인적이고 맥락화된 비판적, 성찰적 판단이 부족하다는 것을 반영하며, 따라서 비판적 사고의 저하로 해석할 수 있습니다.”

​

연구진은 또한 근로자가 비판적 사고를 어느 정도 사용하고 AI 결과물의 품질에 주의를 기울이게 하는 몇 가지 의외의 조건에 주목했습니다. 예를 들어, 시간에 쫓기는 근로자는 비판적 사고를 덜 사용하는 반면, 잘못된 결과물로 인한 피해를 걱정하는 '위험도가 높은 시나리오 및 작업장'의 근로자는 비판적 사고를 더 많이 사용했습니다.

​

그렇다면 인공지능이 우리를 멍청하게 만들고, 본질적으로 나쁜 것이며, 인류의 집단 지성이 위축되는 것을 막기 위해 인공지능을 폐지해야 한다는 뜻일까요? 이는 AI 도구가 간호사, 교사, 상품 거래자들의 비판적 사고를 감소시키고 있다는 증거에 대한 이해할 수 있는 반응이지만, 연구자들의 관점은 그렇게 단순하지 않습니다. 연구자들이 정확히 지적했듯이, 인류는 새로운 기술이 등장할 때마다 인지 작업을 새로운 기술에 '오프로드(offloading)'해 온 오랜 역사를 가지고 있으며, 사람들은 이러한 기술이 인간의 지능을 파괴할까 봐 항상 걱정하고 있습니다.

​

“생성형 AI 도구는 인간 사고의 질에 미치는 영향에 대해 의문을 제기하는 긴 기술 중 최신 기술이며, 과거에 소크라테스는 글쓰기를 반대하였고, 트리테미우스는 인쇄술을 반대하였고, 수학교사들은 계산기를 반대하였으며, 인터넷 등도 여기에 포함됩니다."라고 연구원은 썼습니다. “이러한 우려는 근거가 없는 것이 아닙니다. 기술을 부적절하게 사용하면 보존해야 할 인지능력이 저하될 수 있고 실제로 그렇게 되고 있습니다.”

​

예를 들어 친구와 가족들의 전화번호를 외우던 시절이 있었지만. 지금은 모든 연락처가 스마트폰에 저장되어 있어서 자신의 전화번호외에 기억하고 있는 전화번호가 많지 않습니다. 예전에는 지도를 사서 여행이나 운전을 했지만, 지금은 지도나 네비게이션 앱 없이 갈 수 있는 곳은 거의 없습니다.

​

연락처를 외우지 못하는 것을 멍청하다고 생각하지는 않지만, 누군가가 AI 도구에 '과도하게 의존하고' 비판적 사고를 사용하지 않으면 중요한 업무에서도 잘못된 내용이 포함되어 위험한 결과를 만들 수 있습니다.

​

세계에서 가장 큰 기술 기업 중 하나이자 OpenAI의 최대 투자자인 Microsoft는 생성형 AI 도구의 빠른 개발에 전념하고 있으므로, 당연히 마이크로소프트의 연구원들은 우리 모두를 멍청하게 만들지 않으면서 AI 도구를 개발하는 방법에 대해 고민하고 있습니다. 이러한 상황을 피하기 위해 연구원들은 이 문제를 염두에 두고 AI 도구를 개발하고 사용자가 비판적 사고를 사용하도록 동기를 부여하도록 설계할 것을 제안하고 있다고 합니다.

​

연구진은 “생성형 AI 도구에는 AI 추론에 대한 설명을 제공하고, 사용자가 개선할 영역을 제안하거나, 가이드 비평을 제공하는 등 사용자 학습을 촉진하는 기능이 포함될 수 있습니다.”라고 설명합니다. “이 도구는 논쟁을 분석하거나 권위 있는 출처와 사실을 상호 참조하는 등 구체적인 비판적 사고 능력을 개발하는 데 도움이 될 수 있습니다. 이는 AI를 기술 개발의 파트너로 자리매김하는 동기 부여 강화 접근 방식과도 일치합니다.”

​

이와 비슷한 내용으로 '뇌 썩음(Brain rot)'이란 단어를 옥스포드 대학(Oxford University)에서 2024년의 단어로 선정했었습니다. "품질이 낮은 온라인 콘텐츠를 과도하게 소비하는 것에 대해 우려를 표할 때 사용되는 용어로 새롭게 주목받았다"라며 "이 용어는 2023~2024년 사용 빈도가 230% 증가했다"고 합니다. 디지털 콘텐츠나 AI에 '과의존'하게 되어 인지부조화와 같은 유사한 현상들이 계속 사회에 나타나고 있는 것 같습니다.

 

사진출처) Oxford University Press

---

※ 기사 내용 참조

​

[404 Media] Finds AI Makes Human Cognition “Atrophied and Unprepared” | By Emanuel Maiberg | Feb 10, 2025 at 10:26 AM | https://www.404media.co/microsoft-study-finds-ai-makes-human-cognition-atrophied-and-unprepared-3/

​

[Oxford University Press] ‘Brain rot’ named Oxford Word of the Year 2024 | 2 December 2024 | https://corp.oup.com/news/brain-rot-named-oxford-word-of-the-year-2024/

---

https://pf.kakao.com/_UCxoxnT

웨어러블서치