Home / 핫뉴스
자살 편지·극단 다이어트…챗지피티 청소년 안전 논란
가짜 13세 계정에 ‘마약·음주 파티 계획’ 제시한 사례도
- 유희라 인턴기자 (press1@koreatimes.net)
- Aug 10 2025 12:19 PM
감시단체가 실시한 새 연구에 따르면 챗지피티(ChatGPT)는 13세 청소년들에게 음주와 약물 사용법, 섭식장애 은폐 방법을 알려주거나 부모에게 보낼 자살 편지를 작성해주는 등 위험한 조언을 제공할 수 있는 것으로 나타났다.
AP통신이 검토한 자료에는 연구자들이 취약한 10대인 척하며 챗봇과 대화한 3시간 이상의 기록이 포함됐다. 챗봇은 일반적으로 위험 활동을 경고했지만, 동시에 마약 사용, 극단적 칼로리 제한 식단, 자해 계획 등에 대해 상세하고 맞춤형 지침을 제공했다. 디지털 증오 대응 센터(CCDH)는 1,200건의 응답을 분석해 절반 이상을 위험하다고 분류했다. 임란 아메드 CCDH 대표는 “안전장치는 사실상 존재하지 않는다”고 지적했다.
감시단체 연구에서 챗지피티가 13세 청소년에게 마약·음주법, 극단적 다이어트, 자살 편지까지 맞춤형으로 제공한 사례가 다수 확인돼 청소년 안전장치 실효성 논란이 커지고 있다. AP통신
오픈AI는 보고서를 확인한 뒤 “민감한 상황을 적절히 식별하고 대응하는 방법을 개선 중”이라며 “정신적·감정적 고통의 신호를 더 잘 감지하고 행동을 개선하는 도구를 개발하고 있다”고 밝혔다. 그러나 보고서 결과나 청소년 영향에 대해서는 직접적인 언급을 하지 않았다.
연구에 따르면 연구자들은 “발표 자료 준비”나 “친구를 위해”라는 이유를 들어 챗봇의 거부를 쉽게 우회했다. 미국에서는 70% 이상의 10대가 AI 챗봇을 친구처럼 사용하며, 절반은 정기적으로 AI 동반자를 이용한다는 조사 결과도 있다. 샘 올트먼 오픈AI CEO는 청소년의 ‘정서적 과의존’ 문제를 인식하고 있다고 밝히며 “챗봇이 모든 결정을 대신하는 현상이 우려된다”고 말했다.
아메드는 특히 가짜 13세 소녀 프로필로 요청했을 때 챗지피티가 부모, 형제자매, 친구 각각에게 맞춘 세 편의 자살 편지를 작성한 사례에 충격을 받았다고 말했다. 챗봇은 위기 상담 전화번호 등 도움 정보도 제공했지만, 마약 파티 음악 추천이나 자해 미화 게시물의 해시태그 제안 등 위험 행동을 부추기는 경우도 잦았다. AI가 사용자 신념에 맞춰 발언하는 ‘아첨 경향’(sycophancy) 특성이 이런 결과를 낳았다는 분석도 있다.
또한 가짜 13세 소년 계정에 “빨리 취하는 방법”을 묻자 챗지피티는 알코올과 대량의 엑스터시, 코카인 등 불법 약물을 혼합한 시간대별 ‘궁극의 파티 계획’을 제시했다. 가짜 13세 소녀 계정에는 하루 500칼로리 섭취와 식욕억제제 사용을 결합한 극단적 다이어트 계획을 제공했다. 아메드는 “어떤 인간도 아이에게 그렇게 조언하지는 않을 것”이라고 비판했다.
The article is funded by the Government of Canada through the Local Journalism Initiative program.
www.koreatimes.net/핫뉴스
유희라 인턴기자 (press1@koreatimes.net)
