알고리즘의 규제

Regulation of algorithms
알고리즘에 의한 규정과 혼동해서는 안 된다.

알고리즘의 규제 또는 알고리즘의 규제란 알고리즘의 촉진과 규제를 위한 법률, 규칙 및 공공 부문 정책을 만드는 것으로, 특히 인공지능과 기계 [1][2][3]학습에서 그러하다.AI 알고리즘의 서브셋에는 인공지능의 규제라는 용어가 사용된다.인공지능(AI)에 대한 규제 및 정책 지형은 유럽연합([4]EU)을 포함한 전 세계 관할구역에서 부상하고 있는 문제이다.AI의 규제는 AI를 장려하고 관련 위험을 관리하기 위해 필요한 것으로 간주되지만 어려운 [5]과제이다.또한, AI 알고리즘의 규제와 함께, 블록 체인 알고리즘의 [6]규제(스마트 계약의 사용은 규제되어야 한다)도 새롭게 대두되고 있습니다.많은 나라가 고주파 거래 규제를 제정했는데, 이는 AI [7][8]알고리즘의 기술 발전에 따라 변화하고 있다.

알고리즘의 규제 동기는 알고리즘에 대한 통제력 상실에 대한 우려이며, 알고리즘의 인간 생활에 대한 영향은 증가한다.여러 국가에서 이미 자동화된 신용 점수 계산의 경우 규정을 도입했습니다. 이러한 [9][10]알고리즘에는 설명권이 필수적입니다.형사[11] 정의에서 의료에[12] 이르는 다양한 영역에서 알고리즘의 사용과 관련하여 편견, 투명성 및 윤리에 대한 우려가 대두되고 있습니다. 많은 사람들은 인공지능이 인종, 계급, 성별 및 성차별을 따라 기존의 사회적 불평등을 복제할 수 있다고 우려합니다.

인공지능 규제

주요 기사 : 인공지능 규제

공개 토론

조이 부오람위니는 2016년 [13]예술과 연구를 통해 인공지능의 사회적 함의에 대한 인식을 높이기 위해 편향된 얼굴검출 소프트웨어를 직접 사용해 알고리즘 정의 리그를 출범시켰다.

2017년 Elon Musk는 인공지능으로 [14][15][16]인한 실존적 위험의 맥락에서 알고리즘의 규제를 주장했다.NPR에 의하면, Tesla의 CEO는, 자신의 업계에 영향을 줄 가능성이 있는 정부의 조사를 지지하고 있는 것에 「분명히 흥분하고 있지 않다」라고는 말할 수 없지만, 「통상, 규제가 확립되는 방법은, 나쁜 일이 많이 일어났을 때, 대중의 항의가 있어, 수년이 지난 후에 규제에 임하는 것입니다.그 산업을 규제하기 위해 설립된 기관입니다.시간이 오래 걸린다.그것은 과거에는 나빴지만 문명의 [14]존재에 대한 근본적인 위험을 나타내는 것은 아니었다.

이에 대해 일부 정치인들은 아직 개발 [17]중인 기술을 규제하는 것이 현명한지에 대해 회의적인 반응을 보였다.브라이언 크자니치 인텔 최고경영자(CEO)는 머스크와 2017년 2월 유럽연합(EU) 의원들이 제안한 AI와 로봇 규제에 대해 "인공지능은 아직 걸음마 단계"라며 "기술 [18]규제는 시기상조"라고 주장했다.일부 학자들은 기술 자체를 규제하는 대신 알고리즘의 테스트 요건과 투명성을 포함한 공통 규범을 개발할 것을 제안합니다.아마도 어떤 [19]형태의 보증과 조합하여요.한 가지 제안은 AI [20]개발을 규제하는 글로벌 거버넌스 위원회의 개발에 관한 것이었다.2020년 유럽연합(EU)은 AI [21]촉진 및 규제 전략서 초안을 발표했다.

알고리즘 암묵적 담합은 알고리즘에 의해 저질러진 법적으로 의심스러운 반독점 관행으로, 법원은 이를 [22]기소할 수 없다.이 위험은 EU, 미국 및 [22]그 밖의 과학자들과 규제당국들과 관련이 있다.Margrethe Bestager 유럽 집행위원은 2017년 3월 16일 "알고리즘과 담합"에 관한 연설에서 알고리즘 암묵적 담합의 초기 예를 다음과 [23]같이 언급했다.

"몇 년 전, 두 회사가 '파리 만들기'라는 교과서를 팔고 있었습니다.그 판매자 중 한 명은 본질적으로 경쟁자의 가격과 일치하는 알고리즘을 사용했다.그 경쟁자는 항상 처음보다 가격을 27% 높게 책정하는 알고리즘을 가지고 있었다.그 결과 가격이 계속 상승하다가 마침내 누군가가 상황을 알아차리고 가격을 수동으로 조정했다.그 무렵 이 책은 한 권에 2300만 달러에 팔리고 있었습니다.

네덜란드는 2018년 복지사기를 저지를 위험이 높은 시민을 감지하기 위해 알고리즘 시스템인 SyRI(Systeem Risico Indicatie)를 채택했고, 이는 수천 명의 사람들에게 조용히 조사관에게 [24]주의를 주었다.이것은 대중의 항의를 불러일으켰다.헤이그 지방법원은 유럽인권협약(ECHR)[25] 제8조를 근거로 SYRI를 폐쇄했다.

2020년, 영국의 학생들에게 시험 점수를 할당하는 알고리즘은 "Fuck the algorithm"[26]이라는 기치 아래 공개 시위를 촉발시켰다.이 항의는 성공적이었고 성적은 [27]취소되었다.

실행

AI의 법규는 자율정보시스템의 거버넌스, 시스템에 대한 책임과 책임, 사생활과 안전의 [5]세 가지 주요 주제로 나눌 수 있다.관리 그리고 AI의 규제를 위한 공공 부문 전략의 개발 점점 더 필요한 사항은, national,[28]국내외 levels[21]과 다양한 분야에서, 공공 서비스 management[29]법 enforcement,[21]금융 sector,[28]robotics,[30]은 military,[31일]적으로 국제 법적으로에서로 여겨져 왔다.[32][33]이들 [34]분야에서 AI에 대한 가시성과 모니터링이 부족하다는 우려가 많다.예를 들어 금융권에서는 소비자금융보호국이 금융기관의 비공개 [35]데이터에 대한 감사를 실시할 때 소스코드나 알고리즘을 좀 더 면밀히 검토해야 한다는 주장이 제기되어 왔다.

미국에서는 2019년 1월 7일 '인공지능에서 미국의 리더십 유지'에 관한 행정명령에 따라 백악관 과학기술정책실(Office of Science and Technology Policy)이 '인공지능 애플리케이션 규제 지침' 초안을 발표했는데, 이 초안에는 미국 기관의 10대 원칙이 포함되어 있다.AI를 [36][37]조절하는 방법.이에 대해 국가표준기술원은 입장서를,[38] 국가안전보장위원회는 중간보고서를,[39] 국방혁신위원회는 AI의 [40]윤리적 이용에 대한 권고안을 발표했다.

중국은 2016년 완전자율무기의 만일의 사태에 대처하기 위한 기존 국제법의 타당성에 의문을 제기하는 입장서를 발표하면서 유엔 안전보장이사회 상임이사국 중 처음으로 이 [32]문제를 꺼내 글로벌 [41]규제 제안을 이끌어냈다.미국에서는 보안 관련 AI를 규제하기 위한 조작이 국가 인공지능 [42]안전보장위원회에 의해 제공되고 있다.

블록체인 알고리즘의 규제

다음 항목도 참조하십시오.Bitcoin §법적 지위, 세금 및 규제, 국가 또는 지역별 Bitcoin 적법성, 분산원장 기술법, 스마트 계약

블록 체인 시스템은 투명하고 고정된 거래 기록을 제공하며, 따라서 개인에게 개인 [43][44]데이터에 대한 완전한 통제권을 부여한다는 유럽 GDPR의 목표와 배치된다.

벨로루시는 디지털 경제 발전령을 시행함으로써 스마트 계약을 합법화한 최초의 국가가 되었다.벨로루시 변호사 데니스 알레니코프는 이 [45][46][47]법령에 의해 도입된 현명한 계약법 개념의 저자로 여겨진다.기존 미국 주법이 스마트 계약의 실행 가능성에 대한 확실한 근거가 되고 있다는 강력한 주장이 있습니다. 애리조나, 네바다, 오하이오 및 테네시는 블록 체인 기반 계약의 실행 가능성을 허용하도록 특별히 법을 개정했습니다.[48]

대중문화에서

1942년 작가 아이작 아시모프는 가상의 로봇 3법칙을 소개함으로써 알고리즘의 규제를 다루었다.

  1. 로봇은 사람을 다치게 하거나, 부작위로 사람을 다치게 해서는 안 된다.
  2. 로봇은 인간의 명령에 복종해야 한다.단, 그러한 명령이 제1법칙과 상충되는 경우는 예외이다.
  3. 로봇은 그러한 보호가 제1법칙 [49]또는 제2법칙과 충돌하지 않는 한 자신의 존재를 보호해야 합니다.

규제에 대한 주요 대안은 금지이며, 알고리즘의 금지 가능성은 현재 매우 낮다.하지만 프랭크 허버트의 둔 세계에서 사고 기계는 인공지능의 총칭으로 버틀러 [50]지하드로 알려진 반란 이후 완전히 파괴되고 금지되었다.

BUTLERIAN: (대반란도 참조) B.G. 201년에 시작되어 B.G. 108년에 종료된 컴퓨터, 사고 기계 및 의식 있는 로봇에 대한 십자군.그 주요 계명은 O.C.에 남아 있다. 성경은 "[51]인간의 정신처럼 기계를 만들지 말라.

「 」를 참조해 주세요.

레퍼런스

  1. ^ "Algorithms have gotten out of control. It's time to regulate them". theweek.com. 3 April 2019. Retrieved 22 March 2020.
  2. ^ Martini, Mario. "FUNDAMENTALS OF A REGULATORY SYSTEM FOR ALGORITHM-BASED PROCESSES" (PDF). Retrieved 22 March 2020.
  3. ^ "Rise and Regulation of Algorithms". Berkeley Global Society. Retrieved 22 March 2020.
  4. ^ Law Library of Congress (U.S.). Global Legal Research Directorate, issuing body. Regulation of artificial intelligence in selected jurisdictions. OCLC 1110727808.
  5. ^ a b Wirtz, Bernd W.; Weyerer, Jan C.; Geyer, Carolin (2018-07-24). "Artificial Intelligence and the Public Sector—Applications and Challenges". International Journal of Public Administration. 42 (7): 596–615. doi:10.1080/01900692.2018.1498103. ISSN 0190-0692. S2CID 158829602.
  6. ^ Fitsilis, Fotios (2019). Imposing Regulation on Advanced Algorithms. Springer International Publishing. ISBN 978-3-030-27978-3.
  7. ^ Ganesh, Prakhar (30 June 2019). "High Frequency Trading (HFT) with AI : Simplified". Medium.
  8. ^ "Top Artificial Intelligence Algorithmic Trading Software Solutions For Serious ROI". HackerNoon.com. Retrieved 28 March 2020.
  9. ^ 소비자금융보호국, §1002.9(b)(2)
  10. ^ Edwards, Lilian; Veale, Michael (2018). "Enslaving the Algorithm: From a 'Right to an Explanation' to a 'Right to Better Decisions'?" (PDF). IEEE Security & Privacy. 16 (3): 46–54. doi:10.1109/MSP.2018.2701152. S2CID 4049746. SSRN 3052831.
  11. ^ "AI is sending people to jail—and getting it wrong". MIT Technology Review. Retrieved 2021-01-24.
  12. ^ Ledford, Heidi (2019-10-24). "Millions of black people affected by racial bias in health-care algorithms". Nature. 574 (7780): 608–609. Bibcode:2019Natur.574..608L. doi:10.1038/d41586-019-03228-6. PMID 31664201. S2CID 204943000.
  13. ^ Lufkin, Bryan. "Algorithmic justice". www.bbc.com. Retrieved 31 December 2020.
  14. ^ a b "Elon Musk Warns Governors: Artificial Intelligence Poses 'Existential Risk'". NPR.org. Retrieved 27 November 2017.
  15. ^ Gibbs, Samuel (17 July 2017). "Elon Musk: regulate AI to combat 'existential threat' before it's too late". The Guardian. Retrieved 27 November 2017.
  16. ^ Kharpal, Arjun (7 November 2017). "A.I. is in its 'infancy' and it's too early to regulate it, Intel CEO Brian Krzanich says". CNBC. Retrieved 27 November 2017.
  17. ^ Gibbs, Samuel (17 July 2017). "Elon Musk: regulate AI to combat 'existential threat' before it's too late". The Guardian. Retrieved 27 November 2017.
  18. ^ Kharpal, Arjun (7 November 2017). "A.I. is in its 'infancy' and it's too early to regulate it, Intel CEO Brian Krzanich says". CNBC. Retrieved 27 November 2017.
  19. ^ Kaplan, Andreas; Haenlein, Michael (2019). "Siri, Siri, in my hand: Who's the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence". Business Horizons. 62: 15–25. doi:10.1016/j.bushor.2018.08.004. S2CID 158433736.
  20. ^ Boyd, Matthew; Wilson, Nick (2017-11-01). "Rapid developments in Artificial Intelligence: how might the New Zealand government respond?". Policy Quarterly. 13 (4). doi:10.26686/pq.v13i4.4619. ISSN 2324-1101.
  21. ^ a b c White Paper: On Artificial Intelligence – A European approach to excellence and trust (PDF). Brussels: European Commission. 2020. p. 1.
  22. ^ a b Ezrachi, A.; Stucke, M. E. (13 March 2020). "Sustainable and unchallenged algorithmic tacit collusion". Northwestern Journal of Technology & Intellectual Property. 17 (2). ISSN 1549-8271.
  23. ^ VESTAGER, Margrethe (2017). "Algorithms and competition". European Commission. Archived from the original (Bundeskartellamt 18th Conference on Competition) on 2019-11-29. Retrieved 1 May 2021.
  24. ^ Simonite, Tom. "Europe Limits Government by Algorithm. The US, Not So Much". Wired. Retrieved 11 April 2020.
  25. ^ Haag, Rechtbank Den (6 March 2020). "ECLI:NL:RBDHA:2020:1878, Rechtbank Den Haag, C-09-550982-HA ZA 18-388 (English)". uitspraken.rechtspraak.nl (in Dutch). Retrieved 11 April 2020.
  26. ^ "Skewed Grading Algorithms Fuel Backlash Beyond the Classroom". Wired. Retrieved 26 September 2020.
  27. ^ Reuter, Markus (17 August 2020). "Fuck the Algorithm - Jugendproteste in Großbritannien gegen maschinelle Notenvergabe erfolgreich". netzpolitik.org (in German). Retrieved 3 October 2020.
  28. ^ a b Bredt, Stephan (2019-10-04). "Artificial Intelligence (AI) in the Financial Sector—Potential and Public Strategies". Frontiers in Artificial Intelligence. 2: 16. doi:10.3389/frai.2019.00016. ISSN 2624-8212. PMC 7861258. PMID 33733105.
  29. ^ Wirtz, Bernd W.; Müller, Wilhelm M. (2018-12-03). "An integrated artificial intelligence framework for public management". Public Management Review. 21 (7): 1076–1100. doi:10.1080/14719037.2018.1549268. ISSN 1471-9037. S2CID 158267709.
  30. ^ Iphofen, Ron; Kritikos, Mihalis (2019-01-03). "Regulating artificial intelligence and robotics: ethics by design in a digital society". Contemporary Social Science. 16 (2): 170–184. doi:10.1080/21582041.2018.1563803. ISSN 2158-2041. S2CID 59298502.
  31. ^ United States. Defense Innovation Board. AI principles : recommendations on the ethical use of artificial intelligence by the Department of Defense. OCLC 1126650738.
  32. ^ a b "Robots with Guns: The Rise of Autonomous Weapons Systems". Snopes.com. 21 April 2017. Retrieved 24 December 2017.
  33. ^ Bento, Lucas (2017). "No Mere Deodands: Human Responsibilities in the Use of Violent Intelligent Systems Under Public International Law". Harvard Scholarship Depository. Retrieved 2019-09-14.
  34. ^ MacCarthy, Mark (9 March 2020). "AI Needs More Regulation, Not Less". Brookings.
  35. ^ Van Loo, Rory (July 2018). "Technology Regulation by Default: Platforms, Privacy, and the CFPB". Georgetown Law Technology Review. 2 (1): 542–543.
  36. ^ "AI Update: White House Issues 10 Principles for Artificial Intelligence Regulation". Inside Tech Media. 2020-01-14. Retrieved 2020-03-25.
  37. ^ Memorandum for the Heads of Executive Departments and Agencies (PDF). Washington, D.C.: White House Office of Science and Technology Policy. 2020.
  38. ^ U.S. Leadership in AI: A Plan for Federal Engagement in Developing Technical Standards and Related Tools (PDF). National Institute of Science and Technology. 2019.
  39. ^ NSCAI Interim Report for Congress. The National Security Commission on Artificial Intelligence. 2019.
  40. ^ AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense (PDF). Washington, DC: Defense Innovation Board. 2020.
  41. ^ Baum, Seth (2018-09-30). "Countering Superintelligence Misinformation". Information. 9 (10): 244. doi:10.3390/info9100244. ISSN 2078-2489.
  42. ^ Stefanik, Elise M. (2018-05-22). "H.R.5356 – 115th Congress (2017–2018): National Security Commission Artificial Intelligence Act of 2018". www.congress.gov. Retrieved 2020-03-13.
  43. ^ "A recent report issued by the Blockchain Association of Ireland has found there are many more questions than answers when it comes to GDPR". siliconrepublic.com. 23 November 2017. Archived from the original on 5 March 2018. Retrieved 5 March 2018.
  44. ^ "Blockchain and the General Data Protection Regulation - Think Tank". www.europarl.europa.eu (in German). Retrieved 28 March 2020.
  45. ^ Makhovsky, Andrei (December 22, 2017). "Belarus adopts crypto-currency law to woo foreign investors". Reuters.
  46. ^ "Belarus Enacts Unique Legal Framework for Crypto Economy Stakeholders" (PDF). Deloitte. December 27, 2017.
  47. ^ Patricolo, Claudia (December 26, 2017). "ICT Given Huge Boost in Belarus". Emerging Europe.
  48. ^ Levi, Stuart; Lipton, Alex; Vasile, Christina (2020). "Blockchain Laws and Regulations 13 Legal issues surrounding the use of smart contracts GLI". GLI - Global Legal InsightsInternational legal business solutions. Retrieved 21 April 2020.
  49. ^ Asimov, Isaac (1950). "Runaround". I, Robot (The Isaac Asimov Collection ed.). New York City: Doubleday. p. 40. ISBN 978-0-385-42304-5. This is an exact transcription of the laws. They also appear in the front of the book, and in both places there is no "to" in the 2nd law.
  50. ^ Herbert, Frank (1969). Dune Messiah.
  51. ^ Herbert, Frank (1965). "Terminology of the Imperium: JIHAD, BUTLERIAN". Dune. Philadelphia, Chilton Books.