[Hinews 하이뉴스] 백종우 경희대병원 정신건강의학과 교수팀이 박진영 성균관대 교수, 박성준 한국자살예방협회 박사, 조경현 뉴욕대 교수와 공동으로 AI 기반 ‘온라인 자살 유해 콘텐츠 조기 탐지·대응 기술’을 개발했다.

한국은 OECD 국가 중 자살률이 가장 높아 디지털 환경에서 위험 관리 필요성이 꾸준히 제기돼 왔다. 기존 모니터링은 인력 중심으로 24시간 대응이 어렵고, 콘텐츠 노출로 인한 트라우마 문제도 있었다.


연구팀은 SNS와 온라인 커뮤니티 게시물 4만 3,244건을 분석하고, 정신건강의학과 전문의와 심리학자가 검토한 벤치마크 데이터를 기반으로 AI 시스템을 구축했다. 이 시스템은 자살 유도 및 고위험 콘텐츠를 불법, 유해, 잠재적 유해, 무해, 비자살 등 5단계로 자동 분류하며, 은어·비유·약어 등 우회 표현까지 정밀 탐지한다.

GPT-4 모델 적용 시 불법 콘텐츠 탐지 정확도는 66.46%, 유해 콘텐츠는 77.09%로 기존 인력보다 높은 성능을 보였다.

백종우 교수는 “AI 기반 탐지 시스템은 안전한 디지털 환경 조성과 고위험군 조기 발견에 유용하다”며 “선제적·비용 효율적인 정책 대응과 국가 자살 예방 인프라 구축의 기반이 될 것”이라고 말했다.

이번 연구 결과는 의료정보학 분야 권위지 ‘JMIR Medical Informatics’ 2월호에 게재됐다.