온라인 혐오 발언

Online hate speech
다음에 대한 시리즈 일부
차별
ProhibitionSign.svg
일반 양식
사교적인
종교적인
민족/민족
발현황
정책들
대응책
관련 항목
혐오발언 가이드라인 위반으로 계정이 정지된 페이스북 사용자.

온라인 혐오발언은 인종, 종교, 민족 출신, 성적 지향, 장애, 성별에 따라 사람이나 그룹을 공격하려는 목적으로 온라인에서 이루어지는 연설의 일종이다.[1]온라인 혐오 표현은 쉽게 정의되지 않지만, 그것이 제공하는 비하 또는 비인간화 기능으로 인식될 수 있다.[2][3]

국제 시민 및 정치적 권리에 관한 국제규약(ICCPR)과 같은 다자간 조약은 그 윤곽선을 정의하려고 노력해왔다.다중 스테이크 소유자 프로세스(예: 라바트 행동 계획)는 보다 명확성을 높이고 혐오스러운 메시지를 식별하기 위한 메커니즘을 제시하려고 노력해왔다.그러나 혐오 표현은 여전히 일상 담화에서 일반적인 용어로서 개인이나/또는 집단에 대한 구체적인 위협과 사람들이 권위에 대한 분노를 단순히 분출하고 있는 경우를 혼합한다.페이스북, 트위터, 구글과 같은 온라인 커뮤니케이션을 중재하는 조직과 소셜 네트워크인 인터넷 중개자들은 사용자들을 일련의 규칙에 묶고 기업들이 특정한 형태의 표현을 제한할 수 있도록 허용하는 그들 자신의 혐오 표현에 대한 정의를 발전시켰다.국가 및 지역 단체는 지역 전통에 더 뿌리를 두고 있는 용어의 이해를 증진시키기 위해 노력해왔다.[3]

인터넷의 속도와 도달 범위는 정부가 가상세계에서 국가입법을 시행하는 것을 어렵게 만든다.소셜미디어는 공공표현의 사적 공간이라 규제당국의 입장이 곤란하다.이러한 공간을 소유한 회사들 중 일부는 온라인 혐오 발언의 문제를 다루는데 더 많은 반응을 보이고 있다.[3]

정치인, 운동가, 학계 등은 온라인 혐오 발언의 성격과 오프라인 발언과 행동과의 관련성을 논의하지만, 토론은 체계적인 경험적 증거에서 벗어나려는 경향이 있다.혐오 발언의 성격과 가능한 결과는 문제의 해결책과 국제 인권법에 근거해야 하는 방법에 많은 중점을 두게 되었다.그러나 바로 이 초점은 또한 현상의 근본 원인과 특정 유형의 콘텐츠가 등장, 확산 및 유도하거나 실제 차별, 적대 또는 폭력으로 이어지는 역학을 이해하려는 더 깊은 시도를 제한했다.[3]

정의들

혐오표현상

혐오 발언의 개념은 표현의 자유와 개인, 집단, 소수 권리의 충돌뿐만 아니라 존엄성, 자유, 평등의 개념에 닿는다.그것은 쉽게 정의되지 않지만 그 기능에 의해 인식될 수 있다.[3]

국가 및 국제 법률에서 혐오 발언이란 대상자의 사회적, 또는 인구통계학적 정체성에 기초하여 특히 차별, 적개심, 과격화, 언어적 및/또는 신체적 폭력 등 위해를 선동하는 것을 옹호하는 표현을 말한다.증오 dpeech는 폭력적인 행위를 옹호하거나 위협하거나 조장하는 연설을 포함할 수 있지만 이에 국한되지는 않는다.이 개념은 또한 이것이 목표한 차별, 적대감, 그리고 폭력적인 공격을 부채질할 수 있다는 가정 하에 편견과 편협함의 풍토를 조성하는 표현으로도 확장될 수 있다.정치 선거와 같은 중요한 시기에, 혐오 발언의 개념은 조작되기 쉬울 수 있다; 혐오 발언을 조장한다는 비난은 정적들 사이에서 거래되거나, 권력자들이 이견과 비판을 억제하기 위해 사용될 수 있다.혐오 표현(텍스트, 이미지 및/또는 소리를 통해 전달되는 경우)은 그것이 서비스하는 기능 저하 또는 비인간화 함수를 통해 근사치로 식별할 수 있다.[2][3]혐오 발언에는 두 가지 유형의 메시지가 있다: 첫 번째 메시지는 대상 그룹에 전달되며, 이 그룹의 구성원을 비인간화하고 축소시키는 기능이다.[3]다음은 첫 번째 유형의 메시지 예:

"여기서 환영한다고 속아넘어가지 마. [...] 당신은 수배되지 않고, 당신과 당신 가족들은 우리가 벗어날 수 있을 때마다 외면당하고, 배제되고, 구타당하고, 쫓겨날 거야.우리는 지금 당장 저자세를 유지해야 할지도 모른다.하지만 너무 편해지지 마.] [...] 두려워하라."[4]

혐오표현의 또 다른 메시지는 비슷한 의견을 가진 다른 사람들이 혼자가 아니라는 것을 알게 하고, 위협받고 있는 집단 내(대략적으로) 의식을 강화하라는 것이다.다음은 같은 생각을 가진 개인에게 보내는 두 번째 유형의 메시지 예다.

"우리는 여러분 중 몇몇이 이 사람들이 여기서 수배되지 않는다는 것에 동의한다는 것을 알고 있다.우리는 여러분 중 몇몇이 그들이 더럽다고 느낀다는 것을 안다.이제 너 혼자만 있는 게 아니라는 걸 알아둬. [...] 이 사람들이 환영받지 못하게 할 만큼 우리 주변에 충분히 있어.이 사람들이 정말 어떤 사람들인지 관심을 끌기에는 우리 주변에 충분한 사람들이 있다."[4]

특성.

소수민족 문제에 대한 유엔 인권이사회의 특별보고관이 관찰한 온라인상의 혐오 발언의 확산은 새로운 도전 과제를 내포하고 있다.[5]혐오 발언을 퇴치하기 위해 만들어진 소셜 네트워킹 플랫폼과 단체들 모두 온라인에서 유포되는 혐오 메시지가 점점 더 흔해지고 있다는 것을 인식하고 적절한 대응을 개발하기 위해 전례 없는 관심을 이끌어냈다.[6]전 세계 온라인에서 혐오표현 사례를 수집하는 웹 기반 애플리케이션인 '히트베이스'에 따르면 인종과 국적을 기준으로 혐오표현 개인을 대상으로 하는 경우가 대부분이지만 종교와 사회계층에 초점을 맞춘 혐오 선동도 늘고 있다.[7]

온라인에서의 혐오표현은 본질적으로 오프라인에서 발견되는 유사한 표현과 다르지 않지만, 온라인 콘텐츠와 그 규제에만 독특한 난제가 있다.이러한 도전은 그것의 영속성, 순회성, 익명성 및 복잡한 교차 행정적 성격과 관련이 있었다.

혐오발언은 여러 플랫폼에 걸쳐 서로 다른 형식으로 오랫동안 온라인에 머무를 수 있어 반복적으로 연결될 수 있다.안드레 오볼러 온라인혐오예방연구소 대표는 "콘텐츠가 오래 유지될수록 피해자에게 더 큰 피해를 주고 가해자에게 힘을 실어줄 수 있다"고 지적한 바 있다.초기에 내용을 제거하면 노출을 제한할 수 있다.이것은 마치 쓰레기를 청소하는 것과 같으며, 사람들이 쓰레기를 버리는 것을 멈추지는 않지만 만약 여러분이 그 문제를 처리하지 않는다면 그것은 쌓이고 더 악화된다."[8]유행하는 주제를 중심으로 구성된 트위터의 대화는 혐오스러운 메시지의 빠르고 광범위한 확산을 촉진할 수 있지만,[9] 영향력 있는 연설자들에게는 메시지를 피하고 폭력을 선동하는 대중적인 실마리를 끝낼 수 있는 기회를 제공할 수도 있다.반대로 페이스북은 여러 개의 실이 병렬로 지속되도록 허용하고 눈에 띄지 않게 할 수 있다; 특정한 개인과 집단을 불쾌하게 하고 차별하며 조롱하는 더 오래 지속되는 공간을 만든다.[3]

온라인에서의 혐오 연설은 떠돌이일 수 있다.콘텐츠가 제거되더라도 다른 곳에서, 다른 이름으로 같은 플랫폼이나 다른 온라인 공간에서 표현을 찾을 수 있다.웹사이트가 폐쇄되면 규제가 덜한 웹호스팅 서비스를 이용하거나 혐오표현의 문턱이 더 높은 법률을 가진 국가에 재할당을 통해 빠르게 재개장할 수 있다.혐오표현의 순회적 성격은 또한 과거에 대중적인 표현과 지지를 발견하지 못했을 잘못된 생각, 즉 인플레이션 이하의 행동이 이제 많은 청중들이 볼 수 있는 공간에 착륙할 수도 있다는 것을 의미한다.[3]

익명성은 온라인 혐오 발언을 다루는 데도 도전장을 내밀 수 있다.[10]Sentinel Project의 운영 책임자인 Drew Boyd는 "인터넷은 개인에게 끔찍한 말들을 할 수 있는 능력을 부여한다. 왜냐하면 그들은 그들이 발견되지 않을 것이라고 생각하기 때문이다.이것은 사람들이 자신이 말하는 것의 결과에 대처해야 할 때 현실과는 반대로 혐오감을 말하는 것이 훨씬 더 편안함을 느끼기 때문에 온라인에서 혐오 발언을 하는 것이 매우 독특하게 만드는 것이다."[11]중국과 한국은 소셜 미디어의 실명제를 시행한다.페이스북, 링크드인, 쿠오라는 온라인 혐오 발언을 더 많이 통제하기 위해 실명제를 활성화하려고 노력해왔다.이 같은 조치는 사생활 침해 권리와 표현의 자유를 침해하는 것으로 논란이 되고 있다.

온라인 혐오 발언의 많은 예들은 인터넷 "트롤"에 의해 게시되는데, 인터넷 "트롤"은 보통 사람들에게 부정적인 반응을 불러일으키도록 의도된 충격적이고, 천박하고, 전반적으로 사실이 아닌 내용을 게시하는 가명 사용자일 뿐만 아니라, 그들이 같은 의견을 공유하면 속임수, 영향력, 때로는 그들을 모집하기도 한다.[12]소셜미디어는 급진적이거나 극단주의적인 정치집단이 반체제적, 반정치적 올바름의 메시지를 전파하고 인종주의, 반페미니스트, 동성애 혐오 등의 이념을 촉진하기 위해 결성, 네트워크화, 협업을 할 수 있는 발판을 마련했다.[13]사용자가 쉽게 식별할 수 없도록 고도의 기술적 조치를 취해야 하기 때문에 완전히 익명의 온라인 통신은 드물다.[3]

또 다른 문제는 인터넷의 초국가적 접근으로 혐오 발언과 싸우기 위한 법적 메커니즘과 관련하여 관할권 간 협력 문제가 제기되는 것이다.유럽, 아시아, 북아메리카 전역에서 상호 법률 지원 조약이 시행되고 있지만, 이것들은 특징적으로 효과가 더디다.많은 민간 부문 인터넷 중개자의 초국가적인 도달 범위는 경우에 따라 문제 해결을 위한 더 효과적인 채널을 제공할 수 있지만, 이러한 기관들은 종종 (특정 콘텐츠의 작성자의 신원을 밝히는 것과 같은) 교차 행정적 호소에 의해서도 영향을 받는다.[3]각국마다 혐오표현이라고 규정하는 것에 대한 이해가 달라 온라인 혐오표현의 가해자를 기소하기 어렵게 하고 있는데, 특히 표현의 자유에 대한 헌법적 헌신이 뿌리 깊게 깔려 있는 미국에선 더욱 그렇다.[14]

기존의 채널을 통한 혐오 발언의 전파와 달리 온라인 혐오 발언의 전파에는 알든 모르든 복수의 행위자가 참여한다.가해자들이 SNS를 통해 혐오 메시지를 퍼뜨리면 피해자들에게 상처를 줄 뿐만 아니라, 그 플랫폼에서 복무하는 약관, 때로는 위치에 따라 주법까지 위반할 수 있다.피해자들은 온라인 괴롭힘에 직면해 누구에게 도움을 청해야 할지 모르는 무력감을 느낄 수도 있다.비정부기구와 로비단체들은 다른 이해관계자들의 행동을 촉구하고 인지도를 높여왔다.[3]

페이스북과 같은 일부 기술 회사들은 혐오 발언을 감시하기 위해 인공지능(AI) 시스템을 사용한다.[15]하지만, 인공지능이 항상 혐오표현을 감시하는 효과적인 방법은 아닐지도 모른다. 왜냐하면 그 시스템에는 인간이 가지고 있는 감정과 판단력이 결여되어 있기 때문이다.[16]예를 들어 사용자가 혐오발언으로 분류되거나 커뮤니티 가이드라인을 위반하는 글을 올리거나 댓글을 달 수 있지만, 대상 단어가 철자가 잘못되었거나 일부 문자가 기호로 대체되면 AI 시스템이 이를 인식하지 못하게 된다.따라서 인간은 여전히 '자동화의 마지막 마일'이라는 개념인 혐오 발언을 감시하는 AI 시스템을 감시해야 한다.[16]

프레임워크

스톰프런트 판례

2014년 극적 사건의 여파로 인터넷의 증오와 폭력 확산 가능성을 억제하기 위해 온라인과 오프라인 폭력 사이의 연관성이 잘 알려진 것처럼 보다 제한적이거나 간섭적인 조치를 요구하는 목소리가 일반적이다.반대로, 다음의 예에서 알 수 있듯이, 외모는 종종 기만적인 것일 수도 있다.스톰프런트(Stormfront)는 1995년 3월 쿠클룩스 클랜 전 지도자에 의해 설립된 최초의 '혐오 웹사이트'로 여겨지고 있다.[17]스톰프런트(Stormfront)[18]는 처음에는 미국, 다음에는 세계적으로 네오나치주의, 백인 민족주의, 백인 분리주의와 관련된 아이디어를 토론하는 데 인기 있는 공간이 되었다.이 포럼은 인종간의 성전과 이민에 저항하기 위해 폭력을 행사하도록 선동할 것을 촉구하고 있다.[18]그리고 운동가들을 모집하고 폭력 행위를 조정하기 위한 공간으로 여겨진다.[19]스톰프론트의 정체성을 탐구한 몇 안 되는 연구들은 사실 좀 더 복잡한 그림을 그리고 있다.행동 조정을 위한 공간으로 보기보다는.잘 알려진 극우 운동가들은 이 포럼이 단지 "키보드 전사들"을 위한 모임이라고 비난했다.예를 들어, 드 코스터와 후트맨이 보도한 바와 같이, "나는 포럼 주변에서 꽤 많은 작품을 읽었는데, 큰 소동이 벌어지지만, 거의 일어나지 않는다는 생각이 든다.섹션 행동주의/정치 그 자체는 명백히 어처구니없어. [...] 단 네 사람이 나타나는 집회는 말할 것도 없고."[20]더욱 폭로되는 것은 이 웹사이트의 정규 회원들이 제공한 이러한 비난에 대한 일부 응답이다.그들 중 한 사람이 주장했듯이, "분명히, 나는 적극적으로 실행하지 않고 의견을 가질 권리가 있다. [...] 나는 시위에 참가하지 않고 정당에 가입하지도 않는다.이게 날 키보드 워리어로 만든다면, 괜찮아이런 식으로 기분이 좋아. [...] 부끄럽지 않아."[20]드 코스터와 후트먼은 스톰프론트의 전국 지부와 대표적이지 않은 사용자 샘플을 조사했을 뿐이지만, 위의 답변과 같은 답변들은 극단주의 관점을 수용하는 것이 주요 기능인 공간에서도 표현과 행동을 연결하는 가설을 경계하도록 최소한 유도해야 한다.[3]남부빈곤법률센터는 2014년 "이전 5년간 100명에 가까운 사람들이 살해된 것으로 추정되는 이 사이트의 이용자들이 책임이 있다"는 연구결과를 발표했다.[21]

국제 원칙

혐오 발언은 많은 국제 인권 문서와 조약에서 명시적으로 언급되지는 않지만, 인간의 존엄성과 표현의 자유와 관련된 일부 원칙들에 의해 간접적으로 요구되고 있다.예를 들어 제2차 세계대전의 잔혹행위에 대한 대응으로 초안된 1948년 세계인권선언(UDHR)에는 "모든 사람은 이 선언에 위반되는 어떤 차별에도 평등하게 보호받을 권리가 있다"고 선언하는 제7조의 법에 따른 평등보호권이 담겨 있다.그런 차별에 말려들게 된다.[22]UDHR은 또한 모든 사람이 표현의 자유에 대한 권리를 가지고 있다고 말하는데, 여기에는 "간섭 없이 의견을 가질 수 있는 자유"와 "어떤 미디어를 통해서든 정보와 사상을 찾고, 받고, 전할 수 있는 자유"[22]가 포함되어 있다.

UDHR은 인권보호를 위한 틀과 의제를 정하는데 결정적인 역할을 했지만, 그 선언은 구속력이 없다.표현의 자유와 차별에 대한 보호에 대한 보다 강력한 보호를 제공하기 위해 일련의 구속력 있는 문서가 이후에 만들어졌다.시민 및 정치적 권리에 관한 국제규약(ICCPR)은 혐오 발언을 다루고 있으며, 제19조에[22] 표현의 자유권, 제20조에 차별·적대·폭력에 대한 선동에 해당하는 증오의 옹호 금지를 담고 있다.[22]그 밖의 더 맞춤화된 국제법적 기구에는 혐오표현의 정의와 이에 대한 대응의 식별에 영향을 미치는 조항이 포함되어 있다: 대량학살 범죄의 예방과 처벌에 관한 협약(1951년), 모든 형태의 인종차별 철폐에 관한 국제협약, ICER.D(1969년), 그리고 덜한 정도는 여성에 대한 모든 형태의 차별 철폐에 관한 협약인 CEDAW(1981)이다.[3]

혐오 발언과 ICCPR

ICCPR은 "혐오 발언"이라는 용어를 명시적으로 사용하지 않지만, 혐오 발언과 그 규제에 관한 논쟁에서 가장 흔히 언급되는 법적 수단이다.흔히 '약속의 핵심'[23]의 일부로 언급되는 제19조는 표현의 자유에 대한 권리를 규정하고 있다.이것은 권리를 정하고, 또한 합법적이 되기 위해 권리의 제한이 따라야 하는 일반적인 규제를 포함한다.19조에 이어 '차별·적대·폭력의 선동에 해당하는 민족적·인종적·종교적 증오의 교란'[24]의 경우 표현의 자유를 명시적으로 제한하는 20조다.혐오표현의 특정한 개념화를 구현한 것으로 특징지을 수 있는 이 조항을 포함시키기로 한 결정은 깊은 논쟁을 불러 일으켰다.ICCPR이 그것의 실행을 감독하기 위해 만든 유엔 기구인 인권위원회는 긴장감을 인식하고 제20조가 표현의 자유에 대한 권리와 완전히 부합한다는 것을 강조하기 위해 노력해왔다.[25]ICCPR에서 표현의 자유권은 절대권이 아니다.그것은 합법적으로 제한된 상황에서 주들에 의해 제한될 수 있다.

"3. 본조 제2항에 규정된 권리의 행사에는 특별한 의무와 책임이 수반된다.따라서 일정한 제한을 받을 수 있지만, 이는 법률에 의해 제공되고 필요한 것일 뿐이다. (a) 타인의 권리나 평판을 존중하기 위한 것, (b) 국가 안보나 공공질서(질서)의 보호를 위한 것, 또는 공중 보건이나 도덕의 보호를 위한 것 등이다.[26]

제19조제3항과 제20조 사이에는 표현의 자유에 대한 선택적 제한과 의무적 제한의 구분이 있다.제19조 제3항은 표현의 자유에 대한 제한은 법률에 의해 규정되고 특정한 합법적 목적에 필요한 한 "따라서 특정 제한의 대상이 될 수 있다"고 명시하고 있다.20조는 차별, 적개심 또는 폭력을 선동하는 행위를 "(확실한 종류의) 증오를 옹호하는 것은 "법에 의해 금지되어야 한다"고 명시하고 있다.제20조에 따라 법으로 금지해야 할 언론범죄의 중대성에 대한 징후에도 불구하고 여전히 복잡성이 남아 있다.[27]특히 (i) 증오의 표현, (ii) 증오를 옹호하는 표현, (iii) 차별, 적대감 또는 폭력의 실질적 해악에 대한 선동을 구체적으로 구성하는 (iii) 혐오 발언 사이의 명확한 구분을 개념화하는 데는 회색 영역이 있다.국가는 제20조 제2항과 일관되게 "차별, 적대, 폭력의 선동에 해당하는 증오의 파괴"로 간주되는 발언을 금지할 의무가 있지만, 이를 어떻게 해석할 것인지는 명확히 규정되어 있지 않다.[28][29]

기타 국제법률기구

아이서드

1969년 발효된 국제 인종차별철폐협약(ICERD)은 혐오표현의 형식을 개념화하는 데도 시사하는 바가 크다.ICERD는 세 가지 측면에서 ICCPR과 다르다.[3]혐오표현의 개념화는 특히 인종과 민족을 지칭하는 말로 한정된다.그것은 제4조 (a)항 (a)에서 주 당사자는 다음과 같이 주장한다.

"인종의 우월성이나 증오를 근거로 한 사상의 유포, 인종 차별의 선동, 그리고 다른 인종이나 민족 출신에 대한 모든 폭력 행위나 선동, 그리고 인종 차별 행위에 대한 어떠한 지원도 법률에 의해 처벌될 수 있는 범죄로 선언해야 한다.그 자금조달에 관하여.ICERD가 주 정당에 부과하는 이 의무는 차별, 적대, 폭력을 반드시 부추기지 않는 인종차별적 사상의 범죄화를 다룬 ICCPR 20조 사례보다 엄격하다."

중요한 차이점은 의향의 문제에 있다.ICCPR에서 소개된 "증오의 혼란"의 개념은 ICERD에서 기술된 차별적 연설보다 더 구체적이다. 왜냐하면 그것은 ICCPR에서 "증오의 파종을 위한 의도"를 요구하는 것으로 해석되기 때문이다.[30]인종차별철폐위원회는 일반권고 29에서 혐오 발언을 적극적으로 다루었는데, 위원회는 이를 통해 주정부에 다음을 권고했다.

"(r) 카스트 우월성과 열등감에 대한 사상의 유포나, 후손에 기초한 공동체에 대한 폭력, 증오 또는 차별을 정당화하려는 시도에 대해 조치를 취하라. (s) 인터넷을 포함한 공동체에 대한 차별이나 폭력을 선동하는 행위에 대해 엄격한 조치를 취하라. (t) 제기 조치를 취하라.언론 전문가들 사이에서 강하 기반 차별의 성격과 발생에 대한 인식"[31]

ICERD의 표현의 보급에 대한 참조를 반영하는 이러한 점들은 인터넷에 중요한 의미를 갖는다.일부 온라인 맥락에서 아이디어를 표현하는 것은 아이디어를 즉시 확산시키는 것에 해당할 수 있다.이는 특히 많은 소셜 네트워킹 플랫폼의 경우처럼 공적 역할을 하기 시작한 사적 공간과 관련이 있다.[3]

대량학살 협약

ICERD와 유사하게, 대량학살 협약은 종교 단체로 그 조항을 확대하지만 인종, 국적 또는 민족에 의해 정의된 집단을 보호하는 것을 목표로 한다.혐오 표현에 관한 한, 대량학살 협약은 그러한 행위가 평화시나 전시시에 행해지든 상관없이, "국가, 인종, 종교 집단의 전부 또는 일부를 파괴하려는 의도로 행해진 행위"로 인식되는, 대량학살을 공개적으로 선동하는 행위에 한정된다.[3]구체적으로 (차별적 행동과 구별되는) 성 기반의 혐오 발언은 국제법에서 깊이 있게 다루어지지 않는다.[3]

시다우

1981년 발효된 모든 형태의 여성차별철폐협약(CEDAW)은 국가에 여성에[32] 대한 차별을 규탄하고 성별에 따른 폭력 행위를 '예방, 조사, 기소, 처벌'할 의무를 부과하고 있다.[33]

지역 응답

대부분의 지역 기구에는 혐오표현의 금지를 규정하는 구체적인 조항이 없지만, 주정부가 표현의 자유를 제한할 수 있도록 더 일반적으로 허용하고 있는데, 이 조항은 특정 사례에 적용될 수 있다.[3]

미국 인권 협약

미국인권협약은 제19조제3항의 ICCPR과 유사한 방식으로 표현의 자유에 대한 제한을 기술하고 있다.미국기구(OECD)도 표현의 자유 원칙에 관한 또 다른 선언문을 채택했는데, 여기에는 '진실성, 적시성, 공정성 등 표현의 조건화는 국제기구에서 인정하는 표현의 자유에 대한 권리와 양립할 수 없다'[34]는 구체적인 조항이 포함돼 있다.중미법원은 "(정보의 자유는) 그러므로 예방적 조치로 통제될 수 없고, 그 결과 가해자에 대한 제재를 가하는 것만으로 통제할 수 없다"[35]고 밝혔다.법원은 또한 "a) 이전에 확립된 책임의 근거의 존재, b) 법률에 의한 이러한 근거의 명시적이고 정확한 정의, c) 목적을 달성하고자 하는 목적의 정당성, d) 다음과 같은 요건을 준수할 필요가 있기 때문에 표현의 자유에 대한 제약을 제정하고자 하는 주들에 대해 시험을 부과한다.이러한 책임의 근거는 앞에서 언급한 목적을 '확보할 수 있는' 것이다."[36]미국간 시스템에는 혐오 표현에 대한 포괄적인 연구를 수행한 표현의 자유에 대한 특별 보고자가 있다.그는 미국간 인권 체계가 유엔과 유럽의 접근방식과 다르다고 결론지었다.미국간 시스템은 실제로 폭력으로 이어지는 혐오 발언을 다루고 제한하며, 그러한 발언만 제한될 수 있다.[36]

아프리카 인권 및 인권 헌장

아프리카인권헌장은 제9조 제2항과 달리 접근해 '법 안에 있는 한' 권리 제한을 허용하고 있다.이 개념은 비판을 받아왔으며 이른바 '클라우백' 조항과 그 해석에 대해 방대한 양의 법적 장학금이 있다.[37]이런 비판은 주로 각국이 자체 입법을 조작해 표현의 자유에 대한 본질을 약화시킬 수 있다는 점을 겨냥한 것이다.아프리카의 표현의 자유에 관한 원칙 선언은 표현의 자유에 대한 한계에 대한 더 높은 기준을 구체화한다."합리적인 이익에 위해를 가할 실질적인 위험이 있고, 위해의 위험과 표현 사이에 밀접한 인과관계가 있지 않는 한 공공질서나 국가안보적 근거로 권리를 제한해서는 안 된다"[38]고 선언한다.

카이로 이슬람 인권 선언

1990년, 이슬람 회의 기구(이슬람 협력 기구, OIC)는 이슬람 인권에 관한 카이로 선언(CDHRI)을 채택했는데, 이 선언은 곧 있을 폭력 사건을 넘어 '표현적 편협성과 혐오를 나타내는 행동이나 연설'을 포괄하는 것으로까지 확대되는 발언의 범죄화를 요구하는 내용을 담고 있다.[39]

아랍 인권 헌장

2004년 아랍국가연합(AU)이 채택한 아랍인권헌장은 제32조에 '의견과 표현의 자유, 어떤 매체를 통해서든 정보·사상을 구·수신·전할 수 있는 권리'를 보장하고 있어 온라인 소통에도 적절한 내용을 담고 있다.지리적 경계."[40]그것은 제2항 "이러한 권리와 자유는 사회의 기본적 가치에 따라 행사되어야 한다"[41]에서 광범위하게 제한을 허용한다.

아세안 인권 선언

아세안 인권선언에는 23조에 표현의 자유권이 포함되어 있다.선언문 7조는 "인권 실현은 정치적, 경제적, 법률적, 사회적, 문화적, 역사적, 종교적 배경이 다른 것을 염두에 두고 지역적, 국가적 맥락에서 고려되어야 한다"고 단언하면서 일반적인 한계를 규정하고 있다.[42]

유럽연합 기본권 헌장

제11조에서 표현의 자유를 선언하는 유럽연합(EU) 기본권 헌장에는 권리 남용을 금지하는 조항이 있다.그것은 헌장이 "그 안에서 제공되는 것보다 더 큰 한도"[43]를 암시하는 것으로 해석되어서는 안 된다고 주장한다.필요성과 비례성에 대한 엄격한 테스트를 내포하고 있는 한계의 예는 표현의 자유가 의무와 책임을 수반한다는 것을 강조하는 유럽인권협약의 표현의 자유에 관한 조항이다."법률에 규정된 형식, 조건, 제한 또는 처벌의 대상이 될 수 있으며, 민주주의 사회에서 국가 안보, 영토 무결성 또는 공공 안전의 이익, 무질서와 범죄의 예방, 건강 또는 도덕의 보호, 명예나 부정의 보호를 위해 필요하다.다른 사람들, 신뢰로 받은 정보의 공개를 막거나, 사법부의 권위와 공정성을 유지하기 위한 것"[44]

유럽인권재판소는 혐오표현과 개인이 자신의 견해를 자유롭게 표현할 수 있는 권리를 남들이 불쾌하게 생각하더라도 구분하는 데 신중을 기하고 있다.[45]특히 온라인 혐오 발언과 관련된 지역 사례들이 있다.2000년 유럽평의회(CoE)는 인터넷을 통한 인종차별주의, 외국인 혐오, 반유대주의 자료의 보급에 관한 일반 정책 권고안을 발표했다.[46]2001년 사이버범죄에 관한 CoE협약이 제정됨에 따라 수사권과 관련한 상호지원을 규제하게 되면서 서명국들은 온라인상에서 초국가적인 혐오 발언을 포함하는 컴퓨터 데이터를 다룰 수 있는 메커니즘을 갖게 되었다.[47]2003년에 CoE는 온라인에서 인종차별과 외국인 혐오증을 다루는 사이버범죄협약의 추가 의정서를 시작했다.협약과 그 의정서는 유럽 이외의 나라들의 서명 및 비준을 위해 개방되었고, 캐나다와 남아프리카 공화국 등 다른 나라들은 이미 이 협약의 일부분이다.이 의정서는 (i) 인종, 피부색, 혈통, 민족 또는 민족적 기원에 의해 구별되는 그룹에 속한다는 이유로, (ii) 이러한 요인의 구실로 사용되는 경우, 또는 (ii) 구별되는 한 집단에 속한다는 이유로, (i) 회원국에 대해 온라인 상에서 인종차별 및 외국인 혐오적 모욕을 범죄화할 의무를 부과한다.이러한 특징들 중 하나에 의해."[48]

개인 공간

소셜 네트워킹 플랫폼, 인터넷 서비스 제공자 또는 검색 엔진과 같은 인터넷 중개자는 특정 콘텐츠에 대한 창작과 접근을 허용, 제한 또는 규제하는 데 그들이 개입할 수 있는 방법을 서비스 약관에 명시한다.국가 사법권을 초월하는 소셜 네트워킹 플랫폼에서 방대한 양의 온라인 상호작용이 발생하고, 어느 플랫폼에서도 혐오 발언과 그에 대한 대응책에 대한 자체 정의가 개발되었다.이용약관을 위반한 이용자에 대해서는 게시한 콘텐츠를 플랫폼에서 삭제하거나, 특정 범주의 이용자(예: 특정 국가 이외의 지역에 거주하는 이용자)만이 열람할 수 있도록 접속을 제한할 수 있다.[3]

서비스 약관을 고취시키는 원칙과 각 회사가 구현을 보장하기 위해 개발하는 메커니즘은 사람들이 혐오 발언으로부터 보호받을 뿐만 아니라 온라인상에서 자신을 표현해야 하는 능력에 상당한 영향을 미친다.대부분의 중개업자는 중개업자의 종류, 회사가 등록되어 있는 지역, 적용되는 법률체제에 따라 달라지는 범위 내에서 국가정부와 협상에 임해야 한다.쎄시스의 설명대로 "(i)f 전송은 특정 장소에서 송수신되고, 그 다음엔 인터넷에서 거래되는 불법행위를 기소할 수 있는 관할권을 특정하게 유지한다"[3]고 설명했다.인터넷 서비스 제공자들은 운영하기 위해 특정 국가에 위치해야 하기 때문에 국가 입법의 가장 직접적인 영향을 받는다.검색 엔진, 그들은 또는 상업적인 자율 규제 이유의 검색 결과를 수식할 수 있지만 점점 그들은 그들의 서비스를 제공한다 둘 다 그들의 등록된 집 관할 구역과 다른 관할권 중재적 책임 정권을 적극적으로 또는 당국의 요청 시 콘텐츠에 대한 링크를 삭제 적응하는 경향이 있었다.[49]

민간기업이 운영하는 모든 인터넷 중개업자도 인권을 존중할 것으로 보인다.이는 유엔 인권고등판무관실(UN Office of the United Office of the High Commission of Human Rights)이 상세히 기술한 '기업 및 인권에 관한 지침 원칙(Guiding Principles on Business and Human Rights)'에 나와 있다.그 문서는 인권 유지에 대한 기업의 책임을 강조한다.원칙 11은 다음과 같이 선언한다: "기업은 인권을 존중해야 한다.다른 사람의 인권을 침해하지 말고 자신이 관여하는 인권 역풍을 해소해야 한다는 뜻이라고 말했다.[50]유엔지침원칙에도 인권침해 사례에 대해서는 기업이 "합법적인 절차를 통해 교정조치를 제공하거나 협력해야 한다"[50]고 명시돼 있다.인터넷 중개자와 혐오 발언의 개념의 경우, 그에 상응하는 대응을 할 수 있는 조치가 마련되도록 해야 한다는 뜻이다.[3]

사회적 대응

사례 연구

미국 트렌드 패널

퓨 리서치 센터는 소셜 미디어가 정치와 사회 정의 행동주의에 미치는 영향을 연구하기 위해 2020년 7월 1만 명 이상의 성인들을 대상으로 설문조사를 실시했다.성인 소셜미디어 이용자인 응답자 23%는 소셜미디어 콘텐츠가 정치·사회 정의 문제에 대해 긍정적이든 부정적이든 의견을 바꾸도록 했다고 보고했다.[51]응답자 중 35%는 흑인의 생명체 운동, 경찰 개혁 및/또는 인종 관계를 꼽았다.[51]정당·이념·정치인·도널드 트럼프 대통령에 대한 의견변화를 보고한 응답자가 18%로 가장 많았고,[51] LGBTQ 등 사회정의 문제를 꼽은 응답자가 9%로 가장 많았다.IA+권리, 페미니즘, 이민 등.[51] 응답자의 8%가 COVID-19 대유행에 대한 의견을 바꿨고, 10%가 다른 의견을 들었다.[51]이러한 결과를 바탕으로 소셜미디어가 여론에 영향을 미치는 중요한 역할을 한다.

미디어 조작 및 온라인 등록 취소

앨리스 마윅과 레베카 루이스 연구원이 실시한 연구는 미디어 조작을 관찰하고, 알트 라이트(alt-right)가 어떻게 마케팅을 하고, 네트워크로 연결되어 있으며, 2016년 선거에서 트럼프 대통령의 승리에 잠재적으로 영향을 줄 수 있는 그들의 논쟁적인 신념에 영향을 미치는지 탐구했다.주류 언론과 달리, 알트 우파는 영향을 미칠 때 어떤 규칙도 준수할 필요가 없으며, 네트워크 시청률, 시청률, 선정성 등을 걱정할 필요가 없다.[52]알트 우파 단체들은 2016년 선거에서 역할을 했을지도 모르는 어떤 강령에서든 자신이 원하는 대로 무뚝뚝하고 경솔하게 자신의 논쟁적 신념을 다른 사람들에게 공유하고 설득할 수 있다.비록 이번 연구가 선거에 미치는 영향이 정확히 무엇인지를 결론지을 수는 없었지만, 언론 조작과 트롤링의 특성에 대한 광범위한 연구를 제공했다.[52]

온라인 게임에서 욕설과 언어 프로파일링

Kishonna Gray 교수는 온라인 게임 커뮤니티에서 교차압박을 연구했으며 마이크로소프트와 게임 개발자들에게 "온라인 커뮤니티에서 비전통 게이머들의 경험을 비판적으로 평가해 달라"고 요구했다.다양성을 인정하다...디폴트 게이밍 인구는 헤게모니적 희박성과 남성성을 공간 내 비 백인 및/또는 비 남성 사용자의 손상에 배치하고 있다."[53]그레이는 온라인 게임 커뮤니티에서 성차별과 인종차별을 조사했다.게이머들은 다른 플레이어가 보이지 않을 때 언어 프로파일링을 통해 동료와 상대의 성별, 성별, 민족적 배경을 파악하려고 한다.[53]가상 게임 영역의 격한 분위기와 보이지 않거나, 위치하거나, 물리적으로 맞설 수 없는 능력 때문에 게이머들은 가상 게임에서 공공장소에서 말하지 않았을 법한 말을 하는 경향이 있다.소외된 커뮤니티의 많은 게이머들은 게임 중 차별을 피하기 위해 세계 게임 네트워크로부터 발을 딛고 동성, 성, 인종적 정체성을 가진 게이머들로만 구성된 "클랜즈"에 가입했다.온라인 게이머의 78%가 '클랜'과 비슷한 소규모 게임 그룹인 'guilds'에서 게임을 한다는 연구결과가 나왔다.[54]대표적인 '클랜즈' 중 하나인 푸에르토 리칸 킬라즈가 LGBTQ의 블랙과 라티나 여성들을 위한 온라인 게임 공간을 만들었다.IA+ 커뮤니티는 인종차별, 자연주의, 동성애 혐오, 성차별, 성희롱의 위험 없이 놀 수 있다.[53]

혐오 발언 외에도, 많은 게이머들이 정체성 관광을 경험했다는 것을 발견했다. 즉, 나카무라가 백인 남성 게이머들이 일본의 게이샤로 노는 것을 관찰했을 때, 사람이나 그룹이 적절하고 다른 그룹의 멤버들을 흉내 내는 것이다.[55]정체성 관광은 종종 고정관념, 차별, 문화적 전용으로 이어진다.[55]나카무라는 온라인 게임 커뮤니티에 "인터넷이 인종과 인종 차별의 이미지를 전파하고 전파하며 상품화하는 방법"을 인식하라고 요구했다."[56]

반아시아 혐오 가해자가 고용한 반중국 수사

스톱 AAPI(아시아계 미국인/태평양 지역 주민) 혐오에 따르면 2020년 8월 현재 2,500명 이상의 아시아계 미국인들이 COVID-19에 의해 촉발된 인종차별을 경험하고 있으며, 그 중 30.5%가 반중국적 수사법을 포함하고 있다고 한다.이 사건들에 사용된 언어는 치명적인 적대감, 중국의 희생양, 반이민 자연주의, 중국인의 인종차별적 특성화, 인종적 비방의 5가지 범주로 나뉜다. 이 보고된 사건들 중 60.4%는 "중국인을 내게서**** 떨어져라!"[57]와 같은 구절을 포함하는 치명적인 적대감 범주에 들어맞는다.

미얀마

인터넷은 전례 없는 속도로 성장해 왔다.미얀마는 더 큰 개방성과 접근성을 향해 나아가고 있으며, 이로 인해 혐오 발언이나 폭력에 대한 호출을 사용하는 것과 같은 소셜 미디어의 부정적인 결과가 초래되고 있다.[58]2014년 유엔 인권이사회 소수민족 문제에 대한 특별보고관은 언론과 인터넷 등에서 특히 소수민족 사회를 대상으로 한 오보 확산, 혐오 발언, 폭력, 차별, 적개심 선동 등에 대해 우려를 표명했다.[5]온라인상의 긴장이 고조되고 있는 것은 실제 폭력사태로 수백 명이 사망하고 수천 명이 실향민이 된 사례와 유사하다.[59]이 과정에서 한 가지 도전은 소수민족과 종교적 소수민족에 관한 것이었다.2013년 서부 라킨주에서 분쟁이 발생한 뒤 불거진 충돌로 43명이 숨졌다.[59]1년 전, 인종 폭력으로 인해 200명 이상이 사망하고 수천 명의 이재민이 발생했다.[60]이러한 배경에서, 비록 인구의 극히 일부일지라도, 새로운 온라인 공간의 빠른 출현은, 이러한 뿌리 깊은 긴장감을 새로운 형태로 반영하고 있다.[3]

온라인에서 편협함과 혐오 발언을 다루는 것은 새로운 이슈다.페이스북은 온라인에서 첫발을 내딛는 시민들에게 빠르게 선택의 플랫폼이 되었다.이러한 환경에는 개인과 집단이 있었는데, 이들은 특히 의의와 국익을 옹호하기 위해 행동하고 있다는 주장에 의해 보호받고 있다고 느낄 때, 매체를 보다 적극적으로 사용한다고 옹호해왔다.정치권 인사들도 특정 원인으로 온라인 매체를 사용해 왔다.소셜 미디어에서는 소수민족에 대한 경멸적인 용어가 사용되어 왔다.[61]이런 복잡한 상황에서 더 이상의 폭력을 피할 수 있는 대응을 모색하며 다양한 배우들이 총출동하기 시작했다.페이스북은 미얀마에서 소셜 네트워크 플랫폼의 사용을 모니터링하고, 현지 단체와 파트너십을 발전시키며, 버마에서 접근 가능한 문제 보고에 관한 가이드라인을 만드는 데 보다 적극적인 역할을 하기 위해 노력해왔다.[62][3]

지역 시민사회는 온라인 혐오 발언의 확산을 공공연히 비난하면서도 동시에 검열의 대안을 요구하는 강력한 목소리를 내고 있다.가장 혁신적인 대응으로는 버마어로 '꽃말'이라는 뜻의 판자가르가 있는데, 이 캠페인은 블로거이자 활동가인 네 폰 래트가 공개적으로 혐오 발언을 반대하기 위해 시작한 캠페인이다.이 이니셔티브의 목표는 온라인과 오프라인 모두에서 사람들이 어떻게 상호작용할 수 있는지에 대한 즐거운 사례를 제공하는 것이었습니다.[63]국내 활동가들은 이러한 문제들에 대해 세계 시민사회를 동원하려 하기보다는 지역적 해결책에 초점을 맞춰왔다.이는 상대적으로 방치된 문제로 세계의 관심을 끌 수 있었던 일부 다른 온라인 캠페인과는 대조적이다.수단 내전을 위해 다르푸르 살리기 연합이 추진한 시책이나 주 저항군이 저지른 만행을 규탄하는 코니2012 캠페인과 같은 단체 '보이지 않는 아이들'이 대표적인 예다.이러한 캠페인에 대한 논평들이 지적했듯이, 그러한 세계적인 반응은 지역적 해결책이 발견되는 능력에 부정적인 영향을 미칠 수 있다.[64]

에티오피아

2019–2020

오로모족과 암하라족 사이의 에티오피아에서 오래 지속된 인종 경쟁은 페이스북에서 전쟁터를 발견했고, 이로 인해 혐오 발언, 협박, 위압, 죽음으로 이어졌다.페이스북에는 에티오피아에서 사용되는 지배적인 언어 중 하나를 사용하는 팩트체커도 없고 커뮤니티 표준의 번역도 제공하지 않기 때문에, 에티오피아에서는 페이스북의 혐오 발언이 대부분 감시되지 않는다.대신에, 페이스북은 잠재적인 혐오 발언과 혐오감을 표시하기 위해 활동가들에게 의존하고 있지만, 많은 활동가들은 학대 받는다고 느낀다.[65]

2019년 10월 에티오피아 활동가 자와르 모하메드는 경찰이 종교적 인종적 긴장을 이유로 자신을 구금할 것이라고 페이스북을 통해 거짓으로 발표했다.이것은 지역사회가 그의 감금설과 70명 이상의 사망을 초래한 인종과 민족간의 긴장에 항의하도록 자극했다.[66]

페이스북에서 오로모 민족인 에티오피아의 인기 가수 하찰루 헌데사를 중심으로 한 혐오 캠페인이 시작됐다.이 게시물들은 훈데사가 논란이 되고 있는 아비 아흐메드 총리를 지지하고 있다고 비난했는데, 오로모 민족주의자들은 훈데사가 다른 인종 집단에게 음식을 제공한 것에 대해 반증했다.헌데사는 2020년 6월 밉살스러운 페이스북 게시물에 이어 암살당해 국민적 공분을 샀다.페이스북 이용자들은 오랜 기간 이어진 혐오 콘텐츠 속에서 아무 증거도 없이 훈데사가 암살된 것에 대해 암하라인들을 비난했다.[65]'혐오 방지 네트워크'에 따르면, 페이스북에는 "민족이나 종교에 대한, 또는 두 종교 모두에 대한 자생적 공격"과 "민간인의 재산을 불태우고 잔혹하게 살해하고 대체하도록 명령하라"[65]는 글이 많이 올라왔다.길거리와 페이스북에서의 폭력은 에티오피아 정부가 3주 동안 인터넷을 폐쇄할 정도로 커졌다.하지만 이웃 나라들은 여전히 이 문제의 혐오스러운 내용을 게시하고 접근할 수 있었고, 자원봉사 활동가들은 혐오 발언을 금지하기 위해 인터넷에 접속할 수 없었다.따라서 햄라인 대학의 Endalk Chala 교수는 "이 민족 집단을 몰살시켜야 한다고 말하는 극단주의 내용인 디아스포라 커뮤니티에서 몇 시간 동안 영상이 흘러나오고 있다"고 말했다.[65]

페이스북 관계자들은 조사를 위해 에티오피아로 모험을 떠났지만 조사 결과는 발표하지 않았다.페이스북은 이들이 에티오피아에서 암하릭어와 다른 언어를 구사할 수 있는 중재자를 고용하고 있지만, 광범위한 세부사항을 제공하지 않았다고 발표했다.[65]

2020년 말-1950년

온라인 혐오 발언은 티그레이 전쟁 기간 중 일어났는데, 2020년 11월부터는 반인륜적 범죄에 해당할 수 있는 모든 측의 군사적 충돌과 전쟁 범죄가 시작되었다.[67]언론인, 정치인, 친연방 운동가들은 2021년 11월 온라인 소셜미디어 혐오 발언에서 티그라얀 민족을 '반역자'라고 부르며 이웃들에게 '기밀'을 요구하고 당국이 티그라얀 민족을 '집중 수용소'에 구금할 것을 요구했다.2021년 에티오피아 비상사태 하에서 연방법적 정당성을 갖추는 등 티그라얀족에 대한 집단 구금이 이루어졌다.[68]

사기업

인터넷 중개업자들은 혐오표현과 그것을 규제하기 위한 가이드라인의 상이한 정의를 개발했다.일부 기업은 혐오표현이라는 용어를 사용하지 않고 관련 용어 목록을 기술하고 있다.[3]

야후!

야후'의 서비스 약관은 "불법적이고, 해롭고, 위협적이고, 위협적이고, 학대하고, 괴롭히고, 모욕적이고, 모욕적이고, 모욕적이고, 천박하고, 음란하고, 혐오스럽고, 인종적으로, 또는 그 밖의 반대할 수 있는 콘텐츠"[69]의 포스팅을 금지하고 있다.

트위터

2017년 12월 트위터는 혐오표현에 대한 새로운 정책을 시행하기 시작했으며, 복수의 계정을 금지하고 그들의 플랫폼에서 허용될 것에 대한 새로운 지침을 정했다.[70]트위터 도움말 센터에는 그들의 혐오스러운 행동 방침과 집행 절차에 대해 설명하는 페이지 전체가 있다.이 페이지 상단에 "표현의 자유는 사람들이 목소리를 내는 것을 두려워하기 때문에 목소리가 침묵된다면 거의 의미가 없다.우리는 다른 사람의 목소리를 잠재우기 위해 괴롭히거나 위협하거나 두려움을 사용하는 행동을 용납하지 않는다.트위터에서 이런 규정을 어기는 것을 보면 저희에게 보고해 주시죠."트위터의 혐오 표현에 대한 정의는 "폭력적 위협"과 "개인이나 집단의 신체적 해악, 죽음 또는 질병에 대한 혐오"에서 "반복 및/또는 비협조적인 비방, 상피, 인종차별주의 및 성차별주의적인 열대, 또는 누군가를 비하하는 다른 내용"에 이르기까지 다양하다.

위반에 대한 처벌은 사용자가 트윗을 할 수 있는 능력을 정지시키는 것에서부터 공격/혐오 게시물을 내려놓을 때까지, 계정 전체를 삭제하는 것까지 다양하다.트위터는 새 정책 시행에 따른 성명에서 "이곳에서 좀 더 적극적으로 대처하기 위한 노력에서 실수를 저지를 수 있고 강력한 항소 절차를 밟고 있다"면서 "앞으로 며칠, 몇 주 동안 이러한 변화에 대해 평가하고 반복할 것이며 앞으로도 계속 진행 상황을 알려드릴 것"[71]이라고 밝혔다.이러한 변화는 24시간 이내에 혐오 발언 보고서를 다룰 수 없는 사이트에 벌금을 부과하는 유럽의 새로운 법을 포함하여 전 세계의 혐오 발언을 막기 위한 조치가 취해지고 있는 시기에 나타난다.[72]

유튜브

기술기업 구글의 자회사 유튜브는 콘텐츠 제작자라면 누구나 쉽게 콘텐츠를 유통하고 접근할 수 있도록 해 주류 미디어에서 흔히 볼 수 있는 '모더레이트' 이념의 오른쪽이나 왼쪽으로 움직이는 콘텐츠에 시청자들이 접근할 수 있는 기회를 만든다.[73]유튜브는 인기 콘텐츠 크리에이터들에게 인센티브를 제공함으로써 일부 크리에이터들은 유튜버 경험을 최적화하고 극단주의적이고 혐오스러운 아이디어를 홍보할 수 있는 충격적 가치의 콘텐츠를 게시하도록 유도한다.[73][74]유튜브의 콘텐츠 다양성과 수익화는 많은 시청자들을 극단주의자들이 잠재적으로 해로울 수 있는 콘텐츠로 이끈다.[73][74]유튜브는 크리에이터들이 직접 브랜드를 붙일 수 있도록 해 젊은 구독자들이 쉽게 자신들과 파라시스적 관계를 형성하고 '정규 고객'으로 활동할 수 있도록 했다.[74]2019년 유튜브는 정치적 계정을 악마로 만들었지만,[75] 급진적인 콘텐츠 제작자들은 여전히 그들의 채널과 구독자를 가지고 있어 문화적으로 적절하고 재정적으로 인기가 있다.[74]

유튜브는 웹사이트에 올라온 몇 가지 다른 사용자 정책들 가운데 명백한 "혐오 발언 정책"의 개요를 제시했다.[76]이 정책은 다음과 같은 말로 표현된다: "우리는 언론의 자유를 장려하고 비인기적인 관점을 표현할 권리를 방어하려고 노력하지만, 우리는 혐오 발언을 허용하지 않는다.'혐오 발언'은 인종이나 민족 출신, 종교, 장애, 성별, 나이, 베테랑 지위, 성적 지향/성 정체성 등 특정 속성에 근거해 개인이나 집단에 대한 증오심을 부추기는 주요 목적을 가진 내용을 말한다.유튜브는 증가하는 혐오 발언에 대응하기 위해 사용자 보고 시스템을 구축했다.[77]혐오표현에 대한 가장 인기 있는 단점들 중, 사용자들은 그들이 부적절하다고 생각하는 내용에 대해 익명으로 다른 사용자들을 보고할 수 있다.이후 유튜브 정책과 연령 제한에 대해 내용을 검토한 후 철거하거나 방치한다.

페이스북

페이스북의 용어들은 유해하거나 위협적이거나 증오와 폭력을 부추길 가능성이 있는 콘텐츠를 금지한다.페이스북은 커뮤니티 기준에서 "페이스북은 인종, 민족, 민족 출신, 종교적 소속, 성적 지향, 성별, 성 정체성, 심각한 장애나 질병 등 사람을 직접 공격하는 내용을 담은 혐오 발언을 삭제한다"[78]고 구체적으로 밝히고 있다.더 나아가 "우리는 이런 주제와 관련된 유머, 풍자, 사회적 해설을 허용하며, 사람들이 자신의 진정한 정체성을 사용할 때, 이런 종류의 해설을 공유할 때 더 책임감이 있다고 믿는다"고 명시하고 있다.그런 이유로 페이지 소유자들은 자신의 이름과 페이스북 프로필을 우리의 정책을 위반하지 않더라도 무감각한 모든 콘텐츠와 연결시켜 줄 것을 요청한다.늘 그렇듯이, 우리는 사람들이 이런 종류의 콘텐츠를 공유할 때 청중들을 의식할 것을 촉구한다."[78]

페이스북이 보유한 사진·영상 공유 플랫폼 인스타그램은 페이스북과 혐오발언 가이드라인이 유사하지만 계층별로 나누지 않고 있다.인스타그램 커뮤니티 가이드라인도 오보, 나체, 자해 미화, 저작권 침해 콘텐츠 게시 등을 허가 없이 금지하고 있다.[79]

페이스북의 혐오 발언 정책은 7,500명의 콘텐츠 리뷰어를 비롯해 많은 인공지능 모니터가 시행하고 있다.이를 위해서는 어려운 의사결정이 필요하기 때문에 정책 시행을 놓고 콘텐츠 검토자들 사이에서 논란이 일고 있다.일부 사용자들은 시행이 일관성이 없다고 느끼는 것 같다.한 가지 적절한 과거 사례는 두 개의 분리된 글이지만 유사하게 특정 종교의 구성원들에게 죽음을 기원하는 글이다.두 게시물 모두 사용자들이 플래그를 붙이고 페이스북 직원이 검토했다.그러나 거의 같은 정서를 지니고 있었음에도 한 사람만이 제거되었다.[80]페이스북의 저스틴 오소프키 글로벌 운영 담당 부사장은 플랫폼에서의 혐오 연설에 대한 인용문에서 "우리가 저지른 실수에 대해 유감스럽게 생각한다. 그것들은 우리가 만들고자 하는 공동체를 반영하지 못하고 있다"고 말했다.우리는 더 잘해야 한다."[81]

페이스북의 혐오 발언 정책의 특수성 때문에 추가 논란이 일고 있다.사용자가 무감각하다고 느끼고 증오를 전달하는 상태 업데이트와 댓글에 대한 보고가 여러 차례 있었다.그러나 이 게시물들은 페이스북의 어떤 정책도 위반하지 않는다. 왜냐하면 그들의 연설은 회사의 보호 등급 목록에 근거한 다른 사람들을 공격하지 않기 때문이다.예를 들어 "여성 스포츠 기자들은 하키 퍽으로 머리를 맞아야 한다"는 발언은 페이스북 플랫폼에서 혐오 발언을 한 것으로 간주되지 않아 삭제되지 않을 것으로 보인다.[82]회사는 성별에 따른 증오로부터 보호하지만 직업에 따른 증오로부터 보호하지는 않는다.

페이스북은 혐오 발언과 관련해 플랫폼에 영향을 준 혐오나 잘못된 정보를 조장할 수 있는 정치 캠페인 광고를 거론하며 편견을 갖고 있다는 비난을 받아왔다.[15]페이스북은 반발과 고발이 잇따르자 정책을 조정했고, 대기업들은 플랫폼이 혐오 발언과 오보를 느슨하게 처리한 데 항의하기 위해 플랫폼에서 광고를 빼냈다.[15]2020년을 기점으로 정치 선거 광고는 내용이 뉴스 가치가 있지만 일부 커뮤니티 가이드라인을 위반할 수 있다는 점에 주목하는 '플랙(flag)' 기능을 가지고 있다.[15]

페이스북은 또한 다른 혐오 발언 콘텐츠를 홍보하는 사용자들을 비판할 목적으로 수용하려고 노력한다.이 경우 이용자는 타인을 교육하려는 의도를 명확히 해야 한다.만약 이 의도가 불분명하다면 페이스북은 그 내용을 검열할 권리를 보유한다.[83]페이스북이 처음에는 혐오 발언을 포함할 수 있는 콘텐츠에 플래그를 지정하면 콘텐츠의 심각도에 따라 계층 1, 2, 3 규모로 지정한다.계층 1이 가장 심하고 계층 3이 가장 적다.Tier 1은 "폭력적인 연설 또는 죽음/질병/해해를 위한 지원"[84]을 전달하는 모든 것을 포함한다.Tier 2는 다른 사용자의 이미지를 정신적, 육체적, 도덕적으로 비방하는 콘텐츠로 분류된다.[85]계층 3은 잠재적으로 다른 사람들을 배제하거나 차별할 수 있거나 보호 그룹에 대한 비방글을 사용하는 모든 것을 포함하지만, 이민을 제한하려는 주장이나 기존 이민 정책에 대한 비판에는 반드시 적용되지 않는다.[85]

페이스북은 2019년 3월 백인 민족주의와 백인 분리주의를 지지하는 콘텐츠를 금지하면서 백인 우월주의 콘텐츠에 대한 종전 금지를 연장했다.[86]2019년 5월, 알렉스 존스, 루이 파라칸, 밀로 이안노풀로스, 로라 루머, 폴 네를 포함한 몇몇 저명인사들에 대한 혐오 발언 금지를 발표했다.[87]

페이스북은 2020년 Tier 1에 블랙페이스, 동물에 대한 인종적 비교, 인종적 또는 종교적 고정관념, 역사적 사건 부인, 여성 대상화 및 LGBTQ를 금지하는 가이드라인을 추가했다.IA+ 커뮤니티.[88]

페이스북과 인스타그램의 헤이트 스피치(Heat Speech)는 2020년 4배 증가해 2020년 2분기에만 페이스북 2250만 건, 인스타그램에만 330만 건이 삭제됐다.[15]

마이크로소프트

마이크로소프트는 다양한 어플리케이션에 대한 혐오 표현에 관한 구체적인 규칙을 가지고 있다.휴대전화 정책은 인종, 민족, 국적, 언어, 성별, 나이, 장애, 종교, 성적 지향, 베테랑으로서의 지위 또는 다른 사회 집단에서의 회원 가입에 대한 고려를 바탕으로 차별, 증오, 폭력을 옹호하는 모든 콘텐츠를 포함하는 애플리케이션을 금지하고 있다.[89]이 회사는 또한 온라인 게임에 관한 규칙도 가지고 있는데, 이 규칙들은 "혐오 발언, 논란이 되는 종교적 주제, 민감한 현재 혹은 역사적인 사건"[90]을 나타내는 어떤 의사소통도 금지하고 있다.

틱톡

틱톡은 괴롭힘, 괴롭힘, 선전, 혐오표현이 틱톡에 대한 정상적인 담론의 일부가 될 수 있도록 하는 혐오표현에 대한 명확한 지침과 통제가 부족하다.극우 증오 단체, 테러 단체, 소아성애자들은 13세 정도의 어린 청중들에게 증오심을 전파하고 조장함으로써 틱톡에서 번성한다.[91]아이들은 순진하고 다른 사람과 메시지에 의해 쉽게 영향을 받기 때문에, 그들이 보여주거나 말하는 것을 듣고 반복할 가능성이 더 높다.[92]인터넷에는 어린이들의 안전을 보장하는 지나치게 감시되는 공간이 없기 때문에, 인터넷이 공개적인 한, 어린이와 청소년들은 혐오 발언을 접하게 될 수밖에 없다.[92]거기서부터, 어린 십대들은 그들의 호기심이 급진적인 아이디어에 대한 관심과 연구를 더 많이 이끌도록 하는 경향이 있다.[92]

그러나 아이들은 어른들이 할 수 있고 그래야 하는 방식으로 자신의 행동에 대한 책임을 질 수 없어 저속한 내용을 올린 사람뿐만 아니라 소셜미디어 플랫폼 자체에 책임을 전가한다.[92]따라서 틱톡은 연단에서 혐오 발언을 다룬다는 비판을 받고 있다.틱톡은 약관상 왕따, 괴롭힘, 천박하거나 혐오적인 언사를 금지하고 있지만, 틱톡은 이 내용을 감시할 수 있는 효과적인 방법을 개발했을 정도로 오랫동안 활동하지 않았다.[91]인스타그램, 트위터, 페이스북과 같은 다른 소셜 미디어 플랫폼은 온라인 혐오 발언과 저속한 콘텐츠와 싸우는 법을 알 정도로 오랫동안 활동해 왔지만,[91]그 플랫폼에 있는 청중들은 그들이 퍼뜨린 메시지에 대한 책임을 질 수 있을 만큼 충분히 나이가 들었다.[92]

반면 틱톡은 젊은 관객들에게 배포된 콘텐츠에 대해 어느 정도 책임을 져야 한다.[91]틱톡 이용자는 최소 13세 이상이어야 하지만 앱이 물리적으로 이용자의 연령에 접근할 수 없기 때문에 그 요건은 쉽게 포기될 수 있다.로버트 마크 심슨 연구원은 청소년 대상 미디어에 대한 혐오 발언을 퇴치하는 것은 "홀로코스트 부정 금지보다는 성인 오락에 관한 규제와 더 유사할 것"[92]이라고 결론지었다.

미디어 및 정보 활용 능력

주요 기사:미디어 리터러시

미디어 및 정보 리터러시(Media and Information Literacy)는 다양한 형태로 메시지를 효과적으로 액세스, 구성, 분석, 평가 및 생성할 수 있는 동시에 비판적으로 사용, 이해, 질문, 생성, 커뮤니케이션 및 사고할 수 있게 함으로써 사람들이 디지털 사회에 참여할 수 있도록 돕는 것을 목적으로 한다.[93]

시민교육은 권리와 자유, 책임에 대한 연구를 통해 개인이 정보를 얻고 책임감 있는 시민을 준비하는데 중점을 두고 있으며 폭력적인 갈등에서 비롯된 사회에 다양하게 고용되어 왔다.[94]그것의 주요 목표들 중 하나는 언론의 자유와 그것으로부터 나오는 책임과 사회적 함의를 포함한 개인과 집단의 정치적, 사회적, 문화적 권리에 대한 경각심을 높이는 것이다.혐오표현을 통한 시민교육의 우려는 두 가지인데, 그것은 혐오표현을 식별하는 지식과 기술을 포괄하고, 개인들이 증오의 메시지에 대응할 수 있도록 해야 한다는 것이다.[95]그것의 현재 도전과제 중 하나는 디지털 세계에 그것의 목표와 전략을 적응시키는 것으로, 논쟁적인 것뿐만 아니라 한 시민이 온라인 혐오 발언을 대항하기 위해 필요로 할 수 있는 기술적 지식과 기술들을 제공하는 것이다.[3]

정보 활용능력은 표현의 자유와 사생활 보호 권리, 비판적 시민권, 정치적 참여를 위한 권한 강화와 같은 문제들을 피할 수 없다.[96]다중 및 보완적 문헌이 중요해진다.이러한 변화에는 신기술과 소셜 미디어의 출현이 중요한 역할을 했다.개인은 미디어 메시지의 소비자일 뿐에서 생산자, 창작자, 정보 큐레이터로 진화하여 투표나 정당 가입 등 전통적인 것과 상호 작용하는 새로운 참여 모델을 만들어냈다.미디어 메시지의 비판적인 수신을 육성하는 것에서 미디어 컨텐츠의 생성에 힘을 실어주는 것을 포함하는 것으로, 그에 따라 교육 전략이 변화하고 있다.[97]

미디어와 정보 사용능력 그 자체의 개념은 인터넷의 역동성에 의해 강화되어 계속 진화한다.사이버 공간에서의 정체성, 윤리, 권리의 문제를 수용하기 시작하고 있다.[98]이러한 기술 중 일부는 온라인에서 혐오 발언을 식별하고 대응할 때 특히 중요할 수 있다.

인터넷 사용자가 능동적인 디지털 시민이 될 수 있도록 정보와 실용적인 도구를 제공하는 것을 목적으로 하는 일련의 이니셔티브:

교육은 또한 혐오표현에 대항하는 도구로 보여진다.'혐오 발언 금지 운동'의 로라 게라크티는 "교육은 온라인에서 혐오 발언을 막기 위한 열쇠"라고 단언했다.온라인에 대한 경각심을 높이고 책임감 있는 방법으로 온라인에 접속할 수 있도록 하는 것이 필요하다. 하지만 온라인에서 혐오 발언을 포함한 증오 범죄를 기소할 수 있는 법적 배경과 장치가 여전히 필요하다. 그렇지 않으면 예방적인 측면은 도움이 되지 않을 것이다."[100][3]

원천

Definition of Free Cultural Works logo notext.svg 이 글에는 무료 콘텐츠 작업에서 얻은 텍스트가 포함되어 있다.CC BY SA 3.0 IGO 라이센스 문/허가에 따라 라이센스 부여.반격 온라인 혐오 발언, 73세, 다니트 갈, 티아고 알베스, 가브리엘라 마르티네즈, 유네스코 이기니오 가글리아도네에서 가져온 문자.유네스코.열려 있는 라이센스 텍스트를 위키백과 문서에 추가하는 방법에 대한 자세한 내용은 이 사용 방법 페이지를 참조하십시오. 위키백과의 텍스트 재사용에 대한 내용은 사용 약관을 참조하십시오.

참조

  1. ^ Johnson, N. F.; Leahy, R.; Johnson Restrepo, N.; Velasquez, N.; Zheng, M.; Manrique, P.; Devkota, P.; Wuchty, S. (21 August 2019). "Hidden resilience and adaptive dynamics of the global online hate ecology". Nature. Nature Research. 573 (7773): 261–265. Bibcode:2019Natur.573..261J. doi:10.1038/s41586-019-1494-7. ISSN 1476-4687. PMID 31435010. S2CID 201118236.
  2. ^ a b Powell, Anastasia; Scott, Adrian J.; Henry, Nicola (March 2020). Treiber, Kyle (ed.). "Digital harassment and abuse: Experiences of sexuality and gender minority adults". European Journal of Criminology. Los Angeles and London: SAGE Publications on behalf of the European Society of Criminology. 17 (2): 199–223. doi:10.1177/1477370818788006. ISSN 1741-2609. S2CID 149537486. A key feature of contemporary digital society is the integration of communications and other digital technologies into everyday life, such that many of us are ‘constantly connected’. Yet the entangling of the social and the digital has particular implications for interpersonal relationships. Digital harassment and abuse refers to a range of harmful interpersonal behaviours experienced via the internet, as well as via mobile phone and other electronic communication devices. These online behaviours include: offensive comments and name-calling, targeted harassment, verbal abuse and threats, as well as sexual, sexuality and gender based harassment and abuse. Sexual, sexuality and gender-based harassment and abuse refers to harmful and unwanted behaviours either of a sexual nature, or directed at a person on the basis of their sexuality or gender identity.
  3. ^ a b c d e f g h i j k l m n o p q r s t u v w x y z aa Gagliardone, Iginio; Gal, Danit; Alves, Thiago; Martinez, Gabriela (2015). Countering Online Hate Speech (PDF). Paris: UNESCO Publishing. pp. 7–15. ISBN 978-92-3-100105-5. Archived from the original on 13 March 2022. Retrieved 13 March 2022.
  4. ^ a b Waldron, Jeremy (2012). The Harm in Hate Speech. Harvard University Press. ISBN 978-0-674-06589-5. JSTOR j.ctt2jbrjd.
  5. ^ a b Izsak, Rita (2015). Report of the Special Rapporteur on minority issues, Rita Izsák. Human Rights Council.
  6. ^ 2012년 4월 15일 유럽의회, "온라인에서 혐오 발언을 반대하는 프로젝트에 대한 매핑 연구"를 참조하십시오.인터뷰 참조:크리스틴 첸 구글 공공정책 수석 매니저, 모니카 비커트 페이스북 글로벌정책관리실장, 2015년 1월 14일
  7. ^ http://www.hatebase.org/popular에서 HittBase, Hitte 스피치 통계를 참조하십시오.
  8. ^ 인터뷰:2014년 10월 31일 온라인 혐오 방지 연구소 CEO 안드레 오볼러.
  9. ^ Mathew, Binny; Dutt, Ritam; Goyal, Pawan; Mukherjee, Animesh. Spread of hate speech in online social media. ACM WebSci 2019. Boston, MA, USA: ACM. arXiv:1812.01693.
  10. ^ Citron, Danielle Keats; Norton, Helen L. (2011). "Intermediaries and Hate Speech: Fostering Digital Citizenship for Our Information Age". Boston University Law Review. Rochester, NY. 91. SSRN 1764004.
  11. ^ 인터뷰:드류 보이드, 2014년 10월 24일 대량학살 방지를 위한 센티넬 프로젝트 운영 책임자
  12. ^ Phillips, Whitney (2015). This Is Why We Can't Have Nice Things: Mapping the Relationship between Online Trolling and Mainstream Culture. MIT Press.
  13. ^ Marwick, Alice; Lewis, Rebecca (2017). Media Manipulation and Disinformation Online. Data & Society Research Institute.
  14. ^ Banks, James (Nov 2010). "Regulating hate speech online" (PDF). International Review of Law, Computers & Technology. 24 (3): 4–5. doi:10.1080/13600869.2010.522323. S2CID 61094808.
  15. ^ a b c d e "Hateful posts on Facebook and Instagram soar". Fortune. Retrieved 2020-11-21.
  16. ^ a b Gray, Mary; Suri, Siddharth (2019). GHOST WORK: How to Stop Silicon Valley from Building a New Global Underclass. New York: Houghton Mifflin Harcourt.
  17. ^ Meddaugh, Priscilla Marie; Kay, Jack (2009-10-30). "Hate Speech or "Reasonable Racism?" The Other in Stormfront". Journal of Mass Media Ethics. 24 (4): 251–268. doi:10.1080/08900520903320936. ISSN 0890-0523. S2CID 144527647.
  18. ^ a b Bowman-Grieve, Lorraine (2009-10-30). "Exploring "Stormfront": A Virtual Community of the Radical Right". Studies in Conflict & Terrorism. 32 (11): 989–1007. doi:10.1080/10576100903259951. ISSN 1057-610X. S2CID 145545836.
  19. ^ Nobata, Chikashi; Tetreault, J.; Thomas, A.; Mehdad, Yashar; Chang, Yi (2016). "Abusive Language Detection in Online User Content". WWW: 145–153. doi:10.1145/2872427.2883062. ISBN 9781450341431. S2CID 11546523.
  20. ^ a b Koster, Willem De; Houtman, Dick (2008-12-01). "Stormfront Is Like a Second Home to Me". Information, Communication & Society. 11 (8): 1155–1176. doi:10.1080/13691180802266665. ISSN 1369-118X. S2CID 142205186.
  21. ^ Cohen-Almagor, Raphael (2018). "Taking North American white supremacist groups seriously: The scope and challenge of hate speech on the Internet". The International Journal for Crime, Justice and Social Democracy. 7 (2): 38–57. doi:10.5204/ijcjsd.v7i2.517.
  22. ^ a b c d "The Universal Declaration of Human Rights". United Nations. 1948.
  23. ^ Lillich, Richard B. (April 1995). "U.N. Covenant on Civil and Political Rights. CCPR Commentary. By Manfred Nowak. Kehl, Strasbourg, Arlington VA: N. P. Engel, Publisher, 1993. Pp. xxviii, 939. Index, $176; £112;DM/sfr. 262". American Journal of International Law. 89 (2): 460–461. doi:10.2307/2204221. ISSN 0002-9300. JSTOR 2204221.
  24. ^ Leo, Leonard A.; Gaer, Felice D.; Cassidy, Elizabeth K. (2011). "Protecting Religions from Defamation: A Threat to Universal Human Rights Standards". Harvard Journal of Law & Public Policy. 34: 769.
  25. ^ 인권 위원회.제11조 제20조: 전쟁을 위한 선전 금지 및 국가, 인종 또는 종교적 증오를 선동하는 행위, 1983년 7월 29일, 제2항.위원회는 2011년 제19조 및 제20조의 규정에 대해 상호 보완하며, 제20조를 "제19조에 관하여 렉서스 특례로 볼 수 있다"고 재확인하면서 제19조와 제20조의 관계에 대한 견해를 밝혔다.인권 위원회.총평 34호, 제19조: 의견과 표현의 자유, CCPR/C/GC/34, 2011년 9월 12일, 파라다이스. 48-52.
  26. ^ ICCPR의 경우 제19조 (3)항.
  27. ^ 심지어 20조 관련 사건을 결정한 인권위원회조차 증오를 선동하는 정의는 피했다.인권 위원회.인종 및 종교적 증오를 선동하고 관용을 촉진하는 행위:인권 고등 판무관 보고서, A/HRC/2/6, 2006년 9월 20일, 36항.
  28. ^ Faurisson 대 프랑스 사건, C.Eckart Klein (concurring)이 공동 서명한 Elizabeth Evatt와 David Kretzmer의 개별 의견. 4항.
  29. ^ 인권 위원회.유엔 인권 고등 판무관 부칙 보고서, A/HRC/10/31/Add.3, 2009년 1월 16일, 1항, 1항, 1항, 1항, 국제 시민 및 정치 권리에 관한 국제규약 제19조와 20조 사이의 연계에 관한 전문가 세미나.
  30. ^ 인권고등판무관 A/HRC/2/6항 제39호
  31. ^ 인종 차별 철폐 위원회, 일반 권고안 29, 하류에 따른 차별 (Sixty-first session, 2002), 유엔 문서.A/57/18 (2002) 111 (2002)에서, 유엔 인권 조약 기구들에 의해 채택된 일반 의견 및 일반 권고의 편집에 재인쇄되었다.HRI\GEN\1\Rev.6 223(2003), 파라사 r, s 및 t
  32. ^ CEDAW 제2조
  33. ^ 「여성차별철폐에 관한 모든 형태의 차별 철폐에 관한 협약」 제2조에 따른 미국 정당들의 핵심 의무에 관한 일반 권고 제28호
  34. ^ 미국간 인권 위원회.표현의 자유에 관한 미국간 원칙 선언, 2000년 10월 20일, 7항.
  35. ^ 1985년 11월 13일, 미국간 인권 위원회, 자문 의견 OC-5/85.39
  36. ^ a b 미국간 인권 위원회, 자문 의견 OC-5/85, 1985년 11월 13일, 39항.
  37. ^ Viljoen, Frans (2007). International Human Rights Law in Africa. Oxford: Oxford University Press.
  38. ^ 아프리카 인권 위원회2002년 10월 17-23일, 제32차 회의, 반줄, 아프리카에서의 표현의 자유에 관한 원칙 선언.
  39. ^ 이슬람 협력 기구, 이슬람 공포증에 관한 제6차 OIC 전망대 보고서, 2013년 12월 31일, 기니 공화국 코나크리 제40차 외무장관회의에 상정.
  40. ^ 아랍 국가 연맹, 2004년 5월 22일 아랍 인권 헌장, 2008년 3월 15일 32항 (1) 발효
  41. ^ 아랍 국가 연맹, 2004년 5월 22일 아랍 인권 헌장은 2008년 3월 15일 32항(2)에 발효되었다.
  42. ^ 아세안 인권선언 7조
  43. ^ 유럽연합의 기본권 헌장 제54조.
  44. ^ 유럽인권협약 10조
  45. ^ Handyside 대 영국 사건, 1976년 12월 7일, 49.유럽 법원(European Court)의 더 많은 혐오 발언 사례: http://www.echr.coe.int/Documents/FS_Hate_speech_ENG.pdf 웨이백 머신(Wayback Machine) 49에 보관된 2019-10-18
  46. ^ 2000년 12월 15일 채택된 ECRI 일반 정책 권고 제6호 인터넷을 통한 인종차별주의, 외국인 혐오 및 안티제미티 자료의 배포에 관한 연구
  47. ^ 2001년 11월 23일 유럽의회 사이버범죄협약 31~34.
  48. ^ 유럽의회, 사이버 범죄에 관한 협약에 대한 추가 의정서, 컴퓨터 시스템을 통해 저질러진 인종차별적이고 외국인 혐오적 성격의 행위들의 범죄화에 관한, 2003년 1월 28일, 예술 5항 1항.
  49. ^ Mackinnon, David; Lemieux, Christopher; Beazley, Karen; Woodley, Stephen (November 2015). "Canada and Aichi Biodiversity Target 11: understanding 'other effective area-based conservation measures' in the context of the broader target". Biodiversity and Conservation. 24 (14): 3559–3581. doi:10.1007/s10531-015-1018-1. S2CID 17487707 – via ResearchGate.
  50. ^ a b United Nations (2011). Guiding Principles on Business and Human Rights. New York: Office of the New Commissioner.
  51. ^ a b c d e Perrin, Andrew (15 October 2020). "23% of users in U.S. say social media led them to change views on an issue; some cite Black Lives Matter". Pew Research Center. Retrieved 2020-11-22.
  52. ^ a b Marwick, Alice; Lewis, Rebecca (2017). Media Manipulation and Disinformation Online. Data & Society Research Institute.
  53. ^ a b c Gray, Kishonna (2012). "Intersecting Oppressions and Online Communities". Information, Communication & Society. 15 (3): 411–428. doi:10.1080/1369118X.2011.642401. S2CID 142726754 – via Taylor & Francis.
  54. ^ Seay, A. Fleming; Jerome, William J.; Lee, Kevin Sang; Kraut, Robert E. (2004-04-24). "Project massive: a study of online gaming communities". CHI '04 Extended Abstracts on Human Factors in Computing Systems. CHI EA '04. Vienna, Austria: Association for Computing Machinery: 1421–1424. doi:10.1145/985921.986080. ISBN 978-1-58113-703-3. S2CID 24091184.
  55. ^ a b Nakamura, Lisa (2002). "After Images of Identity: Gender, Technology, and Identity Politics". Reload: Rethinking Women + Cyberculture: 321–331 – via MIT Press.
  56. ^ Nakamura, Lisa (2002). Cybertypes: Race, Ethnicity, and Identity on the Internet. New York: Routledge.
  57. ^ Jeung, Russell; Popovic, Tara; Lim, Richard; Lin, Nelson (2020). "ANTI-CHINESE RHETORIC EMPLOYED BY PERPETRATORS OF ANTI-ASIAN HATE" (PDF). Asian Pacific Policy and Planning Council.
  58. ^ 네덜란드, "미얀마의 페이스북:혐오 발언 증폭?" 알 자지라, 2014년 6월 14일, http://www.aljazeera.com/indepth/features/2014/06/facebook-myanmar-rohingya-amplifying-hatespeech-2014612112834290144.html
  59. ^ a b 2014년 7월 3일 BBC, "미얀마에는 왜 집단 폭력이 있을까?"https://www.bbc.co.uk/news/worldasia-18395788
  60. ^ 2012년 6월 15일, 로이터 통신, 2012년 6월 15일, https://www.reuters.com/article/us-myanmar-rohingya-idUSBRE85E06A20120615, "특별 보고서: 미얀마의 봄을 위협하는 이슬람 소수자의 곤경"
  61. ^ 에리카 키네츠, 2013년 4월 29일 이라와디, "버마에서 증오의 새로운 숫자" http://www.irrawaddy.org/religion/new-numerology-of-hate-grows-in-burma.html네덜란드, "미얀마의 페이스북:혐오 발언 증폭?" 알 자지라, 2014년 6월 14일; 스티븐 키어슨, "버마에서 혐오 발언의 식민지 기원", 센티넬 프로젝트, 2013년 10월 28일, https://thesentinelproject.org/2013/10/28/the-colonial-origins-of-hate-speech-in-burma/,http://www.aljazeera.com/indepth/features/2014/06/facebook-myanmar-rohingya-amplifying-hate-speech-2014612112834290144.html
  62. ^ 팀 맥러플린 "페이스북은 혐오 발언과 싸우기 위한 조치를 취한다" 미얀마 타임즈 2014년 7월 25일http://www.mmtimes.com/index.php/national-news/11114-facebook-standards-marked-for-translation.html
  63. ^ 산야민 아웅, 이라와디, http://www.irrawaddy.org/interview/hate-speech-pours-poison-heart.html "버마 온라인 활동가, 혐오 발언 반대 운동을 논의하다"
  64. ^ Georg, Schomerus (13 January 2012). "Evolution of public attitudes about mental illness: a systematic review and meta‐analysis". Acta Psychiatrica Scandinavica. 125 (6): 423–504. doi:10.1111/j.1600-0447.2012.01826.x. PMID 22242976. S2CID 24546527 – via Wiley Online Library.
  65. ^ a b c d e Gilbert, David (14 September 2020). "Hate Speech on Facebook Is Pushing Ethiopia Dangerously Close to a Genocide". www.vice.com. Retrieved 2020-12-06.
  66. ^ Lashitew, Addisu (8 November 2019). "Ethiopia Will Explode if It Doesn't Move Beyond Ethnic-Based Politics". Foreign Policy. Retrieved 2020-12-06.
  67. ^ Tibebu, Israel (2021-11-03). "Report of the EHRC/OHCHR Joint Investigation into Alleged Violations of International Human Rights, Humanitarian and Refugee Law Committed by all Parties to the Conflict in the Tigray Region of the Federal Democratic Republic of Ethiopia" (PDF). EHRC, OHCHR. Archived (PDF) from the original on 2021-11-03. Retrieved 2021-11-03.
  68. ^ Dahir, Abdi Latif (2021-11-17). "Mass Detentions of Civilians Fan 'Climate of Fear' in Ethiopia". The New York Times. Archived from the original on 2021-11-17. Retrieved 2021-11-17.
  69. ^ "Help for Yahoo Account". help.yahoo.com. Retrieved 2019-06-28.
  70. ^ "Twitter starts enforcing new policies on violence, abuse, and hateful conduct". The Verge. Retrieved 2018-05-30.
  71. ^ "Hateful conduct policy". Retrieved 2018-05-30.
  72. ^ "Germany to enforce hate speech law". BBC News. 2018. Retrieved 2018-05-30.
  73. ^ a b c Munn, Luke (July 2020). "Angry by design: toxic communication and technical architectures". Humanities and Social Sciences Communications. 7: 1–11. doi:10.1057/s41599-020-00550-7. S2CID 220855380 – via ResearchGate.
  74. ^ a b c d Munger, Kevin; Phillips, Joseph (2019). A Supply and Demand Framework for YouTube Politics. University Park: Penn State Political Science. pp. 1–38.
  75. ^ "Our ongoing work to tackle hate". blog.youtube. Retrieved 2020-11-21.
  76. ^ "Hate speech policy - YouTube Help". support.google.com. Retrieved 2018-05-30.
  77. ^ "Report inappropriate content - Android - YouTube Help". support.google.com. Retrieved 2018-05-30.
  78. ^ a b "Community Standards Facebook". www.facebook.com. Retrieved 2019-06-28.
  79. ^ "Community Guidelines Instagram Help Center". www.facebook.com. Retrieved 2020-11-21.
  80. ^ Tobin, Ariana. "Facebook's Uneven Enforcement of Hate Speech Rules Allows Vile Posts to Stay Up". Propublica.
  81. ^ Tobin, Ariana. "Facebook's Uneven Enforcement of Hate Speech Rules Allows Vile Posts to Stay Up".
  82. ^ Carlsen, Audrey. "What Does Facebook Consider Hate Speech? Take Our Quiz". The New York Times.
  83. ^ "Community Standards: Objectionable Content". Facebook.
  84. ^ Mills, Chris. "This is what Facebook won't let you post".
  85. ^ a b "Community Guidelines: Objectionable Content". Facebook.
  86. ^ "Facebook Bans White Nationalism And Separatism Content From Its Platforms". NPR.org. Retrieved 2019-06-28.
  87. ^ "Facebook Bans Alex Jones, Louis Farrakhan And Other 'Dangerous' Individuals". NPR.org. Retrieved 2019-06-28.
  88. ^ "Community Standards Recent Updates Facebook". www.facebook.com. Retrieved 2020-11-21.
  89. ^ "Content Policies". msdn.microsoft.com. Retrieved 2019-06-28.
  90. ^ "Xbox Community Standards Xbox". Xbox.com. Retrieved 2019-06-28.
  91. ^ a b c d Weimann, Gabriel; Masri, Natalie (2020-06-19). "Research Note: Spreading Hate on TikTok". Studies in Conflict & Terrorism: 1–14. doi:10.1080/1057610X.2020.1780027. ISSN 1057-610X. S2CID 225776569.
  92. ^ a b c d e f Simpson, Robert Mark (2019-02-01). "'Won't Somebody Please Think of the Children?' Hate Speech, Harm, and Childhood". Law and Philosophy. 38 (1): 79–108. doi:10.1007/s10982-018-9339-3. ISSN 1573-0522. S2CID 150223892.
  93. ^ "Media and Information Literacy". UNESCO. 2016-09-01. Retrieved 2019-06-28.
  94. ^ Osler, Audrey; Starkey, Hugh (2006). "Education for Democratic Citizenship: a review of research, policy and practice 1995-2005". Research Papers in Education. 24 (4): 433–466. doi:10.1080/02671520600942438 – via ResearchGate.
  95. ^ Mathew, Binny; Saha, Punyajoy; Tharad, Hardik; Rajgaria, Shubham; Singhania, Prajwal; Goyal, Pawan; Mukherjee, Animesh. Thou shalt not hate: Countering Online Hate Speech. ICWSM 2019. Munich, Germany: AAAI. arXiv:1808.04409.
  96. ^ Mossberger, Karen; Tolbert, Caroline; McNeal, Ramona (2007). Digital Citizenship: The Internet, Society, and Participation. MIT Press.
  97. ^ Hoechsmann, Michael; Poyntz, Stuart (2012). Media Literacies: A Critical Introduction. West Sussex: Blackwell Publishing.
  98. ^ 파리 선언: 디지털 시대의 MIL에 관한 파리 선언을 참조하십시오.http://www.unesco.org/new/en/communication-andinformation/resources/news-and-in-focus-articles/in-focus-articles/2014/paris-declaration-on-mediaand-information-literacy-adopted/
  99. ^ '혐오 발언 금지 운동'은 유럽 대륙을 훨씬 넘어 50개국을 아우르는 지역 캠페인이다.캠페인은 공동의 목표를 가지고 있고 공동 전략을 개발하지만, 모든 국가에서 운영하는 특정 프로젝트와 이니셔티브는 국가 코디네이터의 책임이며, 각 국가의 역량과 자원의 대상이다.
  100. ^ 인터뷰: 2014년 11월 25일, 로라 게라크티, No Hitte Speech Movement.