아이온커뮤니케이션즈의 골라보는 IT이슈(#50)
1) 인스타그램이 사이버폭력 쫓는 방법은…"AI와 인간의 협력" [이미지 출처 : 게티이미지뱅크] 인스타그램은 9월 15일 온라인으로 기자간담회를 열고 사이버 괴롭힘 등 온라인상의 폭력·혐오를 예방하기 위해 기울이는 노력을 공유하면서 이와 관련해 도입한 새 기능을 발표했습니다. 인스타그램의 필립 추아 정책 아시아태평양(APAC) 총괄에 따르면 인스타그램은 안전한 플랫폼을 만들기 위해 커뮤니티 가이드라인을 운영하고 있으며, 머신러닝 인공지능(AI) 기술과 리뷰팀 인력을 동시에 적용하고 있습니다. 머신러닝 AI는 가이드라인을 위반하는 게시물을 찾아 자동으로 리뷰팀에 신고하며, 리뷰팀은 신고된 게시물을 연중무휴 리뷰해 적절히 조처를 합니다. 추아 총괄은 이런 AI와 리뷰팀의 적절한 조화가 안전한 플랫폼의 핵심이라고 설명했고 또한, "검토 정확도와 속도를 향상하기 위해 AI 기술을 개선하고 있지만, (게시물의) 앞뒤 맥락을 이해하는 데 있어 알고리즘은 아직 인간만큼 효율적이지 않기 때문에 콘텐츠 검토 프로세스의 중심에는 여전히 리뷰 인력이 있다"고 말했습니다. 인스타그램 리뷰팀은 신고가 들어온 콘텐츠를 검토해 정책 위반 여부를 결정하는데, 신고 내용에 상관없이 해당 콘텐츠가 인스타 정책 중 어느 하나라도 위반하는지를 판단합니다. '스팸 광고'라고 신고가 들어와도 스팸인지만 따지는 게 아니라 노출이 심하지는 않은지, 혐오 표현은 아닌지 등을 모두 검토를 합니다. 신고 접수 게시물이 자살, 자해, 테러, 아동착취 등에 관한 이미지일 경우 리뷰팀은 사법기관 등 타 기관과 협력해 추가 조처를 내립니다. 이런 시스템이 제대로 작동하려면 꼼꼼히 설계한 게시물 가이드라인과 주기적인 업데이트, 리뷰팀의 전문적인 트레이닝이 필수적입니다. 인스타그램은 "정책 변화가 인스타그램 커뮤니티 전반에 미치는 영향을 평가하고 현재 문제시되는 이슈를 인지하고자 노력한다"며 "해당 분야 전문가들과 정책을 검토하고 업데이트한다"고 설명했습니다. 최근 인스타그램은 이 같은 절차를 거쳐 자해 관련 내용을...