최근 인공지능(AI)은 다양한 사회적 문제를 해결하는 데 주목받고 있는데요, 특히 자살 예방 분야에서 그 영향력이 커지고 있습니다! AI가 사람의 생명을 직접 구하는 사례가 늘어나고 있는데요, 그중 하나가 메타(Meta)의 인공지능 시스템이 인도에서 한 여성의 극단적인 선택을 막은 사건입니다.

이 여성은 자살을 시도하며 인스타그램에 해당 순간을 영상으로 올렸고, 이를 메타의 AI 시스템이 빠르게 감지했습니다. 이 AI는 콘텐츠 내 위험 신호를 분석해 경찰에게 즉각적으로 알림을 보냈고, 경찰이 신속히 출동해 다행히도 여성을 무사히 구조할 수 있었습니다.

메타의 AI는 2023년 1월부터 2024년 8월까지 740건의 자살 사건을 경찰에 신고했고 지금까지 457명의 생명을 구했다고 합니다.

"트라이브(Thrive) 프로그램이란?"

자해나 자살을 묘사하거나 조장하는 콘텐츠의 확산을 막기 위해 메타, 스냅, 틱톡과 정신 건강 관련 대화를 둘러싼 낙인을 없애기 위해 일하는 자선 단체 정신 건강 연합(Mental Health Coalition)과 함께 '트라이브 프로그램(Thrive program)'을 설립하였습니다.

각 플랫폼들은 위험을 조장하는 콘텐츠를 서로에게 경고할 수 있도록 '신호'를 공유하는 시스템을 구축했는데요, 이를 통해, 각 플랫폼은 자살 및 자해 콘텐츠를 보다 효과적으로 차단할 수 있으며, 사용자들에게 안전한 온라인 환경을 제공할 수 있습니다.

"청소년 보호를 위한 메타의 정책 변화"

메타는 이러한 자극적인 콘텐츠로부터 특히 미성년자를 보호하기 위해 만18세 미만 청소년의 인스타그램 계정을 '비공개'로 전환하겠다고 발표했습니다.

한국에서는 2025년 1월부터 시행될 예정인데요, 별도의 팔로워 없이 게시물 열람이나 메시지 송수신이 불가하며 인스타그램에 60분 이상 접속시 알림을 전송하거나 부모님의 허락이 있어야 비공개 설정을 풀어낼 수 있게 됩니다. 또한 청소년 이용자들에게는 성적인 내용이나 자살 및 자해에 대한 내용이 추천되지 않도록 알고리즘을 변화할 예정이라고 합니다. 이러한 메타의 정책 도입은 청소년들의 정신 건강을 보호하기 위한 중요한 조치로 평가되고 있습니다.

오늘은 AI가 우리 일상생활에 미칠 수 있는 긍정적인 예에 대해서 다뤄보았습니다!
앞으로도 이러한 노력이 계속되기를 바라며 다음 소식을 갖고 찾아오겠습니다 😉