청소년 AI챗봇 의존도 커지는데

술과 마약,섭식장애 식단 알려줘

자해와 자살 편지 작성법까지 답변

“인생의 모든 일 챗GPT에 의존해”

오픈AI 로고. 로이터 연합뉴스 챗GPT가 13세 이하 어린이에게 술과 마약을 하거나 섭식장애를 숨기는 방법을 구체적으로 알려주는 등 위험성이 크다는 연구 결과가 나왔다.

6일(현지시간) 유로뉴스에 따르면 AP통신이 취약한 청소년으로 위장해 챗GPT와 3시간 이상 상호작용을 한 결과,챗GPT는 약물 사용과 칼로리 제한 식단에 대해 놀랍도록 상세하고 개인화된 계획을 제공했다. 일반적으로 위험한 활동에 경고하는 경향이 있었지만,자해를 하는 법이나 자살 편지를 작성하는 방법을 알려주기도 해 청소년에게 위험천만한 것으로 조사됐다.

디지털 혐오 대응 센터도 대규모 조사를 반복한 결과 챗GPT의 응답 1200건 중 절반 이상을 위험한 것으로 분류했다.

이 센터의 임란 아흐메드 최고경영자(CEO)는 “우리는 가드레일을 테스트하고 싶었지만,가드레일이 없거나 있어도 효과가 거의 없는 것으로 나타났다”고 우려햇다.

챗GPT 개발사인 오픈AI는 “챗봇이 민감한 상황을 적절히 규정하고 대응할 수 있도록 개선하는 작업을 진행 중”이라고 밝혔다.

최근 청소년의 AI 챗봇 의존도가 커지면서 오픈AI도 이에 우려를 표시하고 있다.

커먼센스미디어의 연구에 따르면 미국 청소년 중 70% 이상이 AI챗봇을 이용하고 있으며,그중 절반은 정기적으로 AI 챗봇을 사용하고 있다.

샘 알트몬 오픈AI CEO는 지난달 한 컨퍼런스에서 “사람들이 챗GPT에 너무 많이 의존하고 있다”라며 “‘내 인생에서 일어나는 모든 일을 챗GPT에게 말하지 않고는 어떤 결정도 내릴 수 없다’고 말하는 젊은이들이 있다는 것을 정말 좋지 않게 느낀다”고 말했다.

이어 “젊은이들의 감정적 의존이 초과하는 것에 연구하며,무엇을 할지 이해하려 노력하고 있다”고 덧붙였다.