1) 인스타그램이 사이버폭력 쫓는 방법은…"AI와 인간의 협력"

인스타그램은 9월 15일 온라인으로 기자간담회를 열고 사이버 괴롭힘 등 온라인상의 폭력·혐오를 예방하기 위해 기울이는 노력을 공유하면서 이와 관련해 도입한 새 기능을 발표했습니다.

인스타그램의 필립 추아 정책 아시아태평양(APAC) 총괄에 따르면 인스타그램은 안전한 플랫폼을 만들기 위해 커뮤니티 가이드라인을 운영하고 있으며, 머신러닝 인공지능(AI) 기술과 리뷰팀 인력을 동시에 적용하고 있습니다.

머신러닝 AI는 가이드라인을 위반하는 게시물을 찾아 자동으로 리뷰팀에 신고하며, 리뷰팀은 신고된 게시물을 연중무휴 리뷰해 적절히 조처를 합니다.

추아 총괄은 이런 AI와 리뷰팀의 적절한 조화가 안전한 플랫폼의 핵심이라고 설명했고 또한, "검토 정확도와 속도를 향상하기 위해 AI 기술을 개선하고 있지만, (게시물의) 앞뒤 맥락을 이해하는 데 있어 알고리즘은 아직 인간만큼 효율적이지 않기 때문에 콘텐츠 검토 프로세스의 중심에는 여전히 리뷰 인력이 있다"고 말했습니다.

인스타그램 리뷰팀은 신고가 들어온 콘텐츠를 검토해 정책 위반 여부를 결정하는데, 신고 내용에 상관없이 해당 콘텐츠가 인스타 정책 중 어느 하나라도 위반하는지를 판단합니다. '스팸 광고'라고 신고가 들어와도 스팸인지만 따지는 게 아니라 노출이 심하지는 않은지, 혐오 표현은 아닌지 등을 모두 검토를 합니다.

신고 접수 게시물이 자살, 자해, 테러, 아동착취 등에 관한 이미지일 경우 리뷰팀은 사법기관 등 타 기관과 협력해 추가 조처를 내립니다. 이런 시스템이 제대로 작동하려면 꼼꼼히 설계한 게시물 가이드라인과 주기적인 업데이트, 리뷰팀의 전문적인 트레이닝이 필수적입니다.

인스타그램은 "정책 변화가 인스타그램 커뮤니티 전반에 미치는 영향을 평가하고 현재 문제시되는 이슈를 인지하고자 노력한다"며 "해당 분야 전문가들과 정책을 검토하고 업데이트한다"고 설명했습니다. 최근 인스타그램은 이 같은 절차를 거쳐 자해 관련 내용을 담은 콘텐츠를 더는 허용하지 않기로 결정했습니다.

추아 총괄은 "어려움을 겪는 이들이 마음의 상처를 치유하기 위해 자신을 표현하는 것과 그런 콘텐츠를 보게 될 이용자들에게 미칠 수 있는 부정적 영향력 간의 균형을 고민했다"며 "노골적인 자해 이미지는 의도치 않았더라도 자해를 조장할 가능성이 있다고 결론 내렸다"고 밝혔습니다.

앞으로 인스타그램에서 자해 관련 콘텐츠는 검색, 해시태그, 둘러보기 등의 탭에서 표시되지 않으며, 자살·자해 관련 콘텐츠를 예방하는 데에 각국 기관과 협력하기로 했습니다. 한국에서는 중앙자살예방센터와 파트너십을 맺었습니다. 우울증 관련 대응을 위해 스텔라파운데이션·아이들과미래재단과도 협력하기로 했습니다.

또한 추아 총괄은 인스타그램이 온라인 괴롭힘(사이버불링) 역시 집중적으로 모니터링하고 있다고 말했습니다.

그는 "온라인 괴롭힘은 그저 악의적인 댓글이나 이미지뿐 아니라, 수치스럽거나 모욕적인 발언, 협박, 의도적인 따돌림 등 다양한 형태로 존재한다"며 "이용자를 보호할 수 있는 다양한 기능과 AI 기술을 개발하고 있다"고 설명했습니다.

(연합뉴스_20200915)

2) 흐릿한 CCTV 범죄 현장, AI는 볼 수 있다

영화에선 범죄가 늘 비와 눈이 내리는 궂은 날씨에 일어납니다. 방범카메라(CCTV)나 자동차 블랙박스에 범죄 현장이 찍혀도 범인 얼굴을 알아보기 힘들었는데, 국내 연구진이 인공지능(AI)을 이용해 흐린 날씨에도 또렷한 영상을 볼 수 있는 길이 열렸습니다.

포스텍(포항공대)은 “인공지능대학원의 곽수하, 조성현 교수 연구진이 ‘유럽 컴퓨터비전 학술대회’에서 악천후 상황에서도 영상 인식을 제대로 할 수 있게 돕는 새로운 영상 증강 모델을 소개했다”고 밝혔습니다.

자율주행차 안전성도 높일 수 있어 AI 딥러닝(심층학습) 기술이 발전하면서 영상 인식 기술도 크게 발전했습니다. 하지만 이것도 날씨나 조명이 좋을 때만 해당되는데, 비나 눈이 쏟아지거나 카메라의 빛 노출이 제대로 되지 않으면 인식율이 급감합니다.

포스텍 연구진은 이 문제를 해결하기 위해 영상 인식 AI에게 안경과 같은 역할을 하는 영상 증강 모델을 개발했습니다. 이 모델은 기존의 다양한 영상 인식 프로그램 앞에서 각종 악조건으로 인해 손상된 입력 영상을 인식하기에 적합한 형태로 바꿉니다. 그 결과 영상 분류 작업의 정확도가 훼손 영상에서 47.4%에서 57.8%로 11.9% 증가했다고 연구진은 밝혔습니다.

연구진은 실험을 통해 영상 증강 모델이 AI의 영상 인식률과 신뢰성을 높이고, 다른 영상 개선 모델보다도 성능이 월등히 뛰어나다는 것을 확인했습니다. 특히 이 모델은 영상 인식 시스템을 변경할 필요 없이 그 앞 단계에서 작동되는데 덕분에 기존 영상 인식 AI를 재학습하지 않아도 된다는 장점이 있다고 연구진은 밝혔습니다. 이번 영상 증강 모델은 다양한 악조건에서 정확한 영상 인식을 수행할 수 있습니다다. 연구진은 “AI 기술이 실제 생활에 응용될 가능성을 보여준다”며 “특히 자율주행 자동차의 안전성을 높이는 데 기여할 수 있다”고 말했습니다.

(조선일보_20200914)

3) 유튜브, 틱톡 대항마 서비스 내놨다

파벳 산하 동영상 공유 서비스 업체 유튜브가 중국 인기 쇼트폼 동영상앱 틱톡과 비슷한 기능을 내놓고 이 회사 견제에 나섰습니다.

CNBC 등의 주요외신들에 따르면 유튜브는 14일(현지시간) 15초~30초 분량의 짧은 동영상을 주고받을 수 있는 쇼트폼 공유 플랫폼 '쇼츠'를 선보였습니다.

유튜브는 며칠내로 이 서비스를 인도에서 시작할 예정입니다. 인도는 최근 중국과 국경분쟁으로 반중감정이 고조되는 상황이며 데이터 유출을 이유로 인도에서 틱톡 등의 중국앱의 이용을 금지하고 있습니다.

유튜브는 이 틈새를 공략해 쇼트폼 시장에서 영향력을 확대할 것으로 예상됩니다. 최근 소셜미디어 시장이 틱톡 중심의 동영상 메세지 서비스가 성장하자 페이스북 산하 인스타그램이 유사 기능인 릴스를 내놓고 틱톡과 경쟁을 벌이고 있습니다.

여기에 유튜브까지 나서 틱톡을 견제하려는 반틱톡진영의 움직임이 본격화되고 있습니다. 유튜브의 쇼츠는 15초 분량의 음악을 게재하거나 동영상의 재생속도를 바꿀 수 있습니다.

유튜브는 이 기능을 안드로이드폰에서 먼저 제공하고 아이폰으로 점차 확대하며 서비스 지역도 다양한 국가로 넓혀 나갈 방침입니다.

(아이뉴스24_20200915)