억압의 알고리즘

Algorithms of Oppression
억압의 알고리즘
Algorithms of Oppression.jpg
초판
작가사피야 노블
나라미국
언어영어
제목인종차별주의, 알고리즘
장르.논픽션
출판된2018년 2월
출판사뉴욕 프레스
페이지256pp
ISBN978-1-4798-4994-9 (하드커버)

억압의 알고리즘: 검색엔진이 인종차별을 강화하는 방법은 정보과학, 머신러닝, 인간과 컴퓨터의 상호작용 분야에서 사피야 우모자 노블이 쓴 2018년 책이다.[1][2][3][4]

배경

노블은 1990년대 캘리포니아 주립대, 프레즈노에서 사회학 학사 학위를 취득한 뒤 15년 동안 광고와 마케팅 분야에서 일하다가 일리노이 대학교 어바나 샴페인 도서관 및 정보 과학 석사 학위를 받았다.[5]이 책의 첫 영감은 2011년 노블 구글이 "블랙 걸스"라는 문구를 검색하고 첫 페이지에서 포르노에 대한 결과를 봤을 때 나왔다.[5]2012년에 완성된 노블의 MLIS 논문은 "흑인 소녀를 위한 탐색:뉴미디어의 오래된 전통."[6]이때 노블은 최후의 책에 대한 '압박의 알고리즘'이라는 제목을 생각했다.[7]이 시기에 이르러 구글의 알고리즘에 대한 변경은 근본적인 편견이 여전히 영향력을 발휘하고 있지만, "블랙걸스"의 검색에 대한 가장 일반적인 결과를 바꾸었다.[8]노블은 2014년 로스앤젤레스 캘리포니아 대학의 조교수가 되었다.[9]2017년에는 '고등교육 연대기'에 검색엔진에서 인종차별주의, 성차별주의 편향에 대한 기사를 실었다.[9][10]이 책은 2018년 2월 20일에 출판되었다.[11]

개요

'압박의 알고리즘'은 구글 검색 알고리즘에 대한 6년 이상의 학술적 연구를 바탕으로 2009년부터 2015년까지 검색 결과를 살펴보는 텍스트다.[12]이 책은 검색 엔진과 차별적 편견의 관계를 다루고 있다.노블은 검색 알고리즘은 사회에 존재하는 부정적인 편견과 그것을 창조하는 사람들을 반영하기 때문에 인종차별주의적이고 사회적 문제를 영구화한다고 주장한다.[13][14][15]노블은 검색 엔진의 알고리즘이 "아시아", "히스패닉" 또는 "블랙"과 반대로 "흰색"과 같은 핵심 단어가 검색될 때 긍정적인 단서들을 묘사함으로써 검색 엔진의 알고리즘이 어떻게 흰색을 특권하는지 설명함으로써 본질적으로 중립적이라는 생각을 폐기한다.그녀의 주요 예는 "블랙걸스" 대 "화이트걸스"의 검색 결과와 그 결과에 묘사된 편견을 둘러싸고 있다.[16]이러한 알고리즘은 유색인종 여성 및 기타 소외된 모집단에 대해 부정적인 편견을 가질 수 있으며, 또한 "인종 및 성별 프로파일링, 잘못된 표현, 심지어 경제적 재조명"으로 이어짐으로써 인터넷 사용자들에게 전반적으로 영향을 미칠 수 있다.이 책은 알고리즘이 억압을 영구화하고 특히 유색인종을 차별한다고 주장한다.

노블은 구글 알고리즘이 인종과 성별에 따라 어떻게 다른 영향을 미치는지 연구하는 그녀의 연구에 블랙 교차 페미니스트 접근법을 취한다.교차 페미니즘은 억압 사회를 논할 때 서로 다른 인종과 성적 성향을 가진 여성들의 다양한 경험, 그리고 그들의 뚜렷한 배경이 그들의 투쟁에 어떤 영향을 미치는지 고려한다.또한, 노블의 주장은 어떻게 인종차별주의가 구글 알고리즘 자체에 침투하는지, 안면 인식, 의료 프로그램을 포함한 많은 코딩 시스템 전반에 걸쳐 사실인 것을 다루고 있다.[17]많은 새로운 기술 시스템이 스스로를 진보적이고 편견이 없는 것으로 홍보하고 있지만, 노블은 이 점을 반대하며 구글의 알고리즘을 포함한 많은 기술들이 "기존 불평등을 반영하고 재생산한다"고 말하고 있다."[18]

장 요약

제1장

억압의 알고리즘 1장에서 사피야 노블은 구글 검색의 자동 제안 기능이 어떻게 사기를 떨어뜨리는지를 탐구한다.2011년 9월 18일, 한 엄마가 의붓딸과 조카들을 보여주기 위한 재미있는 활동을 찾으려고 "블랙 걸스"를 구글로 검색했다.놀랍게도, 그 결과는 포르노 웹사이트와 이미지들을 포함했다.이 결과는 노블 코인이 알고리즘 억압을 하는 유색인종과 여성에 대한 데이터 실패를 포괄한다.노블은 또한 한 사회로서 "기술의 양성적 계측성에 대한 논쟁적 입장"[19]을 이해하기 위해 인종적 인식을 가진 페미니스트 렌즈를 가져야 한다고 덧붙인다.

노블은 또한 구글이 어떻게 잠재적인 인종적 비방이나 부적절한 이미지를 제거하기 위해 결과의 첫 페이지에서 인간 큐레이션을 제거할 수 있는지에 대해 논의한다.이 글에서 논의된 또 다른 예는 구글에서 '유'가 검색되었을 때 반환된 결과에 대한 공개적인 논쟁이다.그 결과 반유대주의 페이지들이 다수 포함되었고 구글은 이러한 정체성을 제공하는 방식에 대해 소유권이 거의 없다고 주장했다.대신 구글은 사람들에게 "유스"나 "유대인"을 사용하도록 권장했고 백인 우월주의 단체들의 행동은 구글의 통제에서 벗어났다고 주장했다.[16]페이지가 불법이 아닌 한, 구글은 자사의 알고리즘이 페이지를 제거하지 않고 계속 활동할 수 있도록 허용할 것이다.

노블은 구글의 광고 도구인 AdWords와 이 도구가 구글의 편견에 어떻게 더해질 수 있는지 반성한다.애드워즈는 누구나 구글의 검색 페이지에 광고를 할 수 있도록 허용하고 있으며 사용자 지정성이 매우 높다.[20]먼저, 구글은 광고에 관련된 순위를 매긴 다음, 검색 질의와 관련이 있다고 생각하는 페이지에 광고를 표시한다.광고주는 또한 광고에 쓸 수 있는 하루 최대 금액을 설정할 수 있다.광고에 돈을 많이 쓸수록 광고가 상위에 근접할 확률이 높아진다.따라서 광고주가 자신의 주제에 대해 열정적이지만 논란이 된다면 구글 검색에 가장 먼저 등장할 수도 있다.

제2장

억압의 알고리즘 제2장에서 노블은 구글이 인종차별을 악화시켰으며 이에 대한 책임을 계속 부정하고 있다고 설명한다.구글은 이 정보를 적극적으로 찾고 있는 사람들뿐만 아니라 콘텐츠를 만든 사람들에게도 책임을 전가한다.구글의 알고리즘은 블랙, 라티나, 아시아 여성에 대한 사회적 불평등과 고정관념을 유지해왔는데, 대부분 화이트와 남성을 정상화하는 구글의 디자인과 인프라 덕분이다.그녀는 구글 알고리즘이 고정관념을 악화시키는 정보를 분류하는 동시에 백인 패권주의 규범을 부추긴다고 설명한다.노블은 흑인 소녀를 검색한 후 첫 번째 검색 결과는 흑인 소녀에 대한 일반적인 고정관념, 즉 구글이 흑인 소녀에 대한 자신의 생각을 바탕으로 만든 범주라는 것을 발견했다.구글은 불평등을 영구화한다는 것이 증명된 그들의 알고리즘 뒤에 숨는다.

제3장

사피야 노블은 억압의 알고리즘 제3장에서 구글의 검색엔진이 어떻게 여러 출처를 결합해 소수민족에 대한 위협적인 서사를 만들어내는지를 논한다.그녀는 구글에서 "백인범죄에 대한 흑인"을 검색한 사례 연구를 설명한다.[21]노블은 검색 후 발견된 출처와 정보가 정보를 왜곡한 보수적인 출처를 가리킨다는 점을 강조한다.이들 정보원은 백인 우월주의 정보원의 인종차별주의적이고 반흑적인 정보를 보여주었다.궁극적으로, 그녀는 쉽게 구할 수 있는, 거짓된 정보가 대학살을 저지른 백인 우월주의자인 Dylan Roof의 행동에 기름을 부었다고 믿는다.

제4장

억압의 알고리즘 제4장에서 노블은 구글이 정체성을 억압적으로 통제하는 방식에 대해 논의함으로써 자신의 주장을 더욱 강화한다.이 장에서는 합의 여부를 떠나 포르노 산업에서의 활동으로 인해 여성들이 수치심을 당하는 여러 사례를 조명한다.그녀는 영구적인 성격 때문에 자신의 미래에 영향을 미치는 인터넷의 능력을 비판하고, 미국의 사생활 보호법을 시민들에게 "잊혀지거나 잊혀질 권리"를 제공하는 유럽연합의 법률과 비교한다.[22]구글과 같은 검색엔진을 이용할 때 이러한 사생활 침해는 여성과 유색인종에게 불균형적으로 영향을 미친다.구글은 우리가 정보를 잃어버리는 것을 막기 위해 우리의 데이터를 보호한다고 주장하지만, 당신이 당신의 데이터를 삭제하기를 원할 때 일어나는 일은 다루지 못한다.

제5장.

억압의 알고리즘 제5장에서 노블은 토론을 구글에서 벗어나 신뢰할 수 있고 중립적이라고 여겨지는 다른 정보원으로 옮긴다.노블은 의회 도서관을 포함한 저명한 도서관들이 희고 이성애자적 성향, 가부장제 및 기타 사회적 기준을 옳다고 권장하고, 그 대안들은 문제가 있다고 말한다.그녀는 다트머스대학과 의회도서관 사이에서 도서관의 용어를 '불법외국인'에서 '비법외국인' 또는 '무허가 이민자'로 바꾸기 위해 2년 동안 '학생 주도의 조직'인 이민개혁, 평등(공동화), 드림러스(DREAMers)가 싸운 사례를 논의하며 이 문제를 설명한다.[20]노블은 나중에 그녀가 문맥화의 중요성을 강제할 수 있도록 하는 잘못된 표현과 분류에서 비롯되는 문제들에 대해 논한다.노블은 단순히 구글이 아니라 사회적 구조와 차별적 편견을 강화하는 모든 디지털 검색엔진이라고 주장하며 이를 통해 기술과 사회가 얼마나 상호 연결돼 있는지를 지적한다.[23]

6장

억압의 알고리즘 6장에서 사피야 노블은 알고리즘 편향 문제에 대한 가능한 해결책을 논한다.그녀는 우선 지방정부와 연방정부가 제정한 공공정책이 구글의 '정보 독과점'을 줄이고 검색엔진이 결과를 필터링하는 방식을 규제할 것이라고 주장한다.그녀는 정부와 기업이 알고리즘 편향으로 이어지는 시스템 문제를 개혁해야 할 가장 큰 책임을 져야 한다고 주장한다.

동시에 노블은 여성과 소수민족이 소프트웨어 엔지니어로 산업계에 더 많이 진출하면 알고리즘 편견이 사라질 것이라는 일반적인 신자유주의 주장을 비난한다.그녀는 이 주장이 언론사에 비해 힘이 떨어지는 개인에게 책임을 지우고 빅 데이터 낙관주의라고 부르는 사고방식을 탐닉하기 때문에 "불만하다"고 부르거나 기관 스스로가 항상 해결하는 것이 아니라 때로는 불평등을 영속시킨다는 개념에 도전하지 못하는 것이다.이 점을 설명하기 위해, 그녀는 리뷰 사이트 옐프가 자신에게 편향된 광고 관행과 검색 전략을 사용했기 때문에 사업에 차질을 빚고 있는 블랙 헤어디자이너인 Kandy의 예를 이용한다.

그녀는 연방통신위원회(FCC)와 연방무역위원회(FTC)에 "예절을 규제하라"거나 인터넷 상에서 인종차별주의, 동성애 혐오, 편견에 찬 언사의 양을 제한하라고 요구함으로써 장을 닫는다.그녀는 대중들이 인종에 대한 "색맹" 이념을 멀리할 것을 촉구한다. 왜냐하면 그것은 역사적으로 소수 인종들이 직면한 투쟁을 지워버렸기 때문이다.마지막으로, 그녀는 빅데이터 낙관론은 빅데이터가 소수 사회에 불균형하게 입힐 수 있는 해악에 대한 논의를 배제하고 있다고 지적한다.

결론

억압의 알고리즘에서 사피야 노블은 온라인에서 구글 검색과 검색 패턴의 결과의 사회적, 정치적 함의를 탐구한다.고귀한 사람들은 인터넷이 완전히 민주적이거나 인종 이후의 환경이라는 생각에 도전한다.각 장은 검색 엔진에 의해 형성된 알고리즘 편향에 대한 다른 계층을 조사한다.책 전반에 걸쳐 결정적인 요점과 이론을 요약함으로써 '압박의 알고리즘'은 학문적 독자에만 국한되지 않는다.이것은 노블의 글이 더 넓고 더 포괄적인 청중에게 다가갈 수 있게 해준다.

임계수신호

억압의 알고리즘에 대한 비판적 수용은 대체로 긍정적이었다.로스앤젤레스 서평에서 에밀리 드라빈스키는 "이 페이지에서 나오는 것은 구글의 억압 알고리즘이 우리의 일상을 지배하는 숨겨진 인프라 중 하나일 뿐이며, 다른 것들은 노블이 탐구하는 것만큼 백인 우월주의와 여성혐오로 하드코딩되어 있을 것 같다"[24]고 쓰고 있다.팝매터스에서 한스 롤맨은 "압제의 알고리즘은 단순히 검색엔진, 특히 구글이 불완전한 기계가 아니라 서구의 권력구조를 복제하는 방식으로 인간이 설계한 시스템"이라고 쓰고 있다.e 구조물들."[1]도서목록에서, 레슬리 윌리엄스 리뷰어는 "노블의 연구는 상업적 검색 엔진에 대한 우리의 의존과 디지털 사회적 형평성에 대한 소울 탐색에 박차를 가할 것"[25]이라고 말한다.

2018년 2월 초 전기전자공학연구소의 공식 트위터 계정이 구글의 흐림에서 제시한 검색 결과가 노블의 예측과 일치하지 않는다며 책 비판의 목소리를 내면서 '압박의 알고리즘'이 언론의 주목을 받았다.IEEE의 홍보사학자 알렉산더 마군은 이후 이 책을 읽지 않았다고 밝히고 사과문을 발표했다.[14]

참고 항목

참조

  1. ^ a b "Don't Google It! How Search Engines Reinforce Racism". PopMatters. 2018-01-30. Retrieved 2018-03-24.
  2. ^ Fine, Cordelia (7 March 2018). "Coded prejudice: how algorithms fuel injustice". Financial Times. Retrieved 2018-05-10.
  3. ^ "Opinion Noah Berlatsky: How search algorithms reinforce racism and sexism". NBC News. Retrieved 2018-05-10.
  4. ^ "How search engines are making us more racist". Vox. Retrieved 2018-05-10.
  5. ^ a b Munro, Donald (2018-04-19). "When Google gets it wrong". THE MUNRO REVIEW. Retrieved 2021-10-05.
  6. ^ Jessie, Daniels; Karen, Gregory; Cottom, Tressie McMillan (2017). Digital Sociologies. Policy Press. p. 420. ISBN 978-1-4473-2901-5.
  7. ^ "In 'Algorithms of Oppression,' Safiya Noble finds old stereotypes persist in new media". annenberg.usc.edu. Retrieved 2021-10-05.
  8. ^ "a book review by Robert Fantina: Algorithms of Oppression: How Search Engines Reinforce Racism". www.nyjournalofbooks.com. Retrieved 2021-10-05.
  9. ^ a b "Safiya Umoja Noble Receives Top Honor from Fresno State UCLA GSE&IS Ampersand". 2019-02-07. Archived from the original on 2019-02-07. Retrieved 2021-10-05.
  10. ^ Noble, Safiya U. (2017-01-15). "Google and the Misinformed Public". www.chronicle.com. Archived from the original on 2020-07-23. Retrieved 2021-10-05.
  11. ^ ALGORITHMS OF OPPRESSION Kirkus Reviews.
  12. ^ Erigha, Maryann (2019-07-01). "Algorithms of Oppression: How Search Engines Reinforce Racism by Safiya Umoja Noble". American Journal of Sociology. 125 (1): 305–307. doi:10.1086/703431. ISSN 0002-9602. S2CID 198603932.
  13. ^ 노블은 아마존, 페이스북, 트위터, 워드프레스 등에 대해서도 논의하지만 구글의 알고리즘에 주안점을 두고 있다.그녀는 사용자가 보고 보지 않는 것에 대한 통제에 투자한다."검색 결과는 검색 회사들의 상업적 파트너와 광고주들의 가치와 규범을 반영하고, 우리의 가장 낮고 가장 품위 없는 신념을 반영하는 경우가 많은데, 이는 이러한 아이디어들이 너무나 자유롭고 자주 순환되어 정상화되고 매우 수익성이 높기 때문이다."(36)
  14. ^ a b "Scholar sets off Twitter furor by critiquing a book he hasn't read". Retrieved 2018-02-08.
  15. ^ "Can an algorithm be racist? Spotting systemic oppression in the age of Google". Digital Trends. 2018-03-03. Retrieved 2018-03-24.
  16. ^ a b Noble, Safiya (2018). Algorithms of oppression: How search engines reinforce racism. New York, NY, US: New York University Press. pp. Ch. 2. ISBN 978-1-4798-3364-1.
  17. ^ D’Ignazio, C.; Klein, L. (2019). Data Feminism. MIT Press. pp. The Power Chapter 1: The Power Chapter (pgs 21-47).
  18. ^ Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. Medford, MA: Polity. p. 3.
  19. ^ Noble, Safiya (2018). Algorithms of oppression: How search engines reinforce racism. New York, NY, US: New York University Press. p. 230. ISBN 978-1-4798-3364-1.
  20. ^ a b Noble, Safiya Umoja (20 February 2018). Algorithms of oppression : how search engines reinforce racism. New York. pp. 134–135. ISBN 9781479837243. OCLC 987591529.
  21. ^ Noble, Safiya Umoja (20 February 2018). Algorithms of oppression: how search engines reinforce racism. New York. p. 112. ISBN 978-1-4798-3724-3. OCLC 987591529.
  22. ^ Noble, Safiya Umoja (2018). Algorithms of oppression : how search engines reinforce racism. New York. p. 121. ISBN 978-1-4798-3364-1. OCLC 1017736697.
  23. ^ Noble, Safiya Umoja (20 February 2018). Algorithms of oppression : how search engines reinforce racism. New York. ISBN 978-1-4798-3724-3. OCLC 987591529.
  24. ^ "Ideologies of Boring Things: The Internet and Infrastructures of Race - Los Angeles Review of Books". Los Angeles Review of Books. Retrieved 2018-03-24.
  25. ^ Algorithms of Oppression: How Search Engines Reinforce Racism, by Safiya Umoja Noble Booklist Online.

외부 링크