인공지능법

Artificial Intelligence Act
규정
유럽 연합 규정
예문
위원회 제안서2021/206

인공지능법(AI Act)은 유럽연합의 인공지능(AI)에 대한 유럽연합의 규제입니다. 2021년[1] 4월 21일 EU 집행위원회가 제안하여 2024년 3월 13일 통과된 [2]AI에 대한 공통된 규제 및 법적 프레임워크를 구축하는 것을 목표로 합니다.[3]

그 범위는 광범위한 분야의 모든 유형의 AI를 포함할 것입니다(예외로 군사, 국가 안보, 연구 및 비전문적 목적으로만[4] 사용되는 AI 시스템 포함). 제품 규제의 일환으로 개인에게 권리를 부여하는 것이 아니라 AI 시스템의 제공자와 AI를 사용하는 주체를 전문적인 맥락에서 규제할 것입니다.[5]

범용 능력이 서로 다른 지분을 제시하고 정의된 틀에 맞지 않는 ChatGPT와 같은 생성형 AI 시스템의 인기가 높아지면서 AI법이 개정되었습니다. 시스템적 영향을 미치는 강력한 생성 AI 시스템에 대해 보다 제한적인 규제가 계획되어 있습니다.[7]

제안된 EU 인공지능법은 AI 애플리케이션을 위해를 일으킬 위험성에 따라 분류하고 규제하는 것을 목표로 합니다. 이 분류에는 4개의 위험 범주("허용할 수 없음", "높음", "제한됨" 및 "최소")와 범용 AI에 대한 1개의 추가 범주가 포함됩니다. 허용되지 않는 위험을 나타내는 것으로 간주되는 응용 프로그램은 금지됩니다. 고위험자는 보안, 투명성 및 품질 의무를 준수해야 하며 적합성 평가를 받아야 합니다. 제한된 위험 AI 애플리케이션은 투명성 의무만 있고, 최소 위험을 나타내는 애플리케이션은 규제되지 않습니다. 범용 AI의 경우 특히 높은 위험을 나타낼 때 추가적이고 철저한 평가와 함께 투명성 요구 사항이 부과됩니다.[7][8]

이 법은 또한 국가 협력을 촉진하고 규정 준수를 보장하기 위해 유럽 인공 지능 위원회의 도입을 제안합니다.[9]

AI법은 경제에 미치는 영향이 클 것으로 예상됩니다. 유럽 연합의 일반 데이터 보호 규정과 마찬가지로 EU 내에 제품을 보유하고 있는 경우 EU 외부의 제공자에게 역외 적용이 가능합니다.[5]

리스크카테고리

애플리케이션 유형에 따라 다양한 위험 범주가 있으며, 범용 생성 AI 전용 위험 범주가 있습니다.

  • 허용되지 않는 위험: 이 범주에 속하는 AI 애플리케이션은 금지됩니다. 여기에는 인간의 행동을 조작하는 AI 애플리케이션, 공공 장소에서 실시간 원격 생체 인식(안면 인식 포함)을 사용하는 애플리케이션, 소셜 채점에 사용되는 애플리케이션(개인적 특성, 사회 경제적 지위 또는 행동에 따라 사람을 순위 매기는 것)이 포함됩니다.[8]
  • 고위험: 건강, 안전 또는 개인의 기본권에 중대한 위협을 가하는 AI 애플리케이션. 특히 건강, 교육, 채용, 중요 인프라 관리, 법 집행 또는 사법에 사용되는 AI 시스템. 품질, 투명성, 인간 감독 및 보안의 의무가 적용됩니다. 제품이 시장에 출시되기 전과 수명 주기 동안 평가되어야 합니다.[8] AI법 자체를 수정할 필요 없이 고위험 애플리케이션 목록을 확대할 수 있습니다.[5]
  • 범용 AI("GPAI"): 이 범주는 2023년에 추가되었으며, 특히 ChatGPT와 같은 파운데이션 모델을 포함합니다. 투명성 요구 사항이 적용됩니다. 시스템적 위험을 초래할 수 있는 영향력이 큰 범용 AI 시스템(특히 1025 FLOPS[10] 이상의 계산 기능을 사용하여 훈련된 시스템)도 철저한 평가 과정을 거쳐야 합니다.[8]
  • 제한된 위험: 이러한 시스템은 사용자에게 인공 지능 시스템과 상호 작용하고 있음을 알리고 사용자가 선택권을 행사할 수 있도록 하기 위한 투명성 의무가 적용됩니다. 이 범주에는 예를 들어 이미지, 사운드 또는 비디오(딥페이크와 같은)를 생성하거나 조작할 수 있도록 하는 AI 애플리케이션이 포함됩니다.[8] 이 범주에서는 매개 변수를 공개적으로 사용할 수 있는 자유 및 오픈 소스 모델은 일부 예외를 제외하고 규제되지 않습니다.[10][11]
  • 최소 위험: 비디오 게임이나 스팸 필터에 사용되는 AI 시스템 등이 포함됩니다. 대부분의 AI 애플리케이션이 이 범주에 속할 것으로 예상됩니다.[12] 그들은 규제를 받지 않으며, 회원국들은 최대한의 조화를 통해 그들을 더 이상 규제하는 것을 막습니다. 이러한 시스템의 설계나 사용과 관련된 기존의 국내법은 없습니다. 그러나 자발적 행동 강령이 제안됩니다.[13]

시행

이 법은 EU 내부 시장으로의 진입을 규제합니다. 이 정도까지는 1985년으로 거슬러 올라가는 새로운 접근법으로 거슬러 올라갈 수 있는 새로운 입법 프레임워크를 사용합니다. 작동 방식은 다음과 같습니다. EU 입법자는 AI-법을 만들고, 이 법은 EU 내부 시장에 접근하기를 원하는 모든 AI 시스템이 준수해야 할 가장 중요한 조항을 포함합니다. 이러한 요구 사항을 '필수 요구 사항'이라고 합니다. 새로운 입법 프레임워크에 따라 이러한 필수 요구 사항은 필수 요구 사항을 추가로 명시하는 기술 표준을 작성하는 유럽 표준화 기구에 전달됩니다.[14]

위에서 언급했듯이 이 법은 회원국이 자체 통지 기관을 설치하도록 요구합니다. 적합성 평가는 AI 시스템이 실제로 AI-법에 명시된 기준에 부합하는지 확인하기 위해 이루어져야 합니다.[15] 이 적합성 평가는 자체 평가에 의해 수행됩니다. 즉, AI 시스템의 제공자가 스스로 적합성을 확인하거나, 통지 기관이 평가를 수행한다는 것을 의미하는 제3자 적합성 평가를 통해 수행됩니다.[16] 통지 기관은 적합성 평가가 제대로 수행되는지 확인하기 위해 감사를 수행할 수 있는 가능성을 유지합니다.[17]

현재의 제안에서는 많은 고위험 AI 시스템이 제3자 적합성 평가를 요구하지 않는 경우로 보이며, 이에 대해 일부에서는 비판하고 있습니다.[17][18][19][20] 이러한 비판은 고위험 AI 시스템이 안전성을 완전히 확보하기 위해 독립적인 제3자에 의해 평가되어야 한다는 사실에 근거합니다.

타임라인

2020년 2월, 유럽 위원회는 "인공 지능에 관한 백서 – 우수성과 신뢰에 대한 유럽의 접근법"을 발간했습니다.[21] 2020년 10월, EU 지도자들 간의 논쟁이 벌어졌습니다. 2021년 4월 21일 AI법이 공식 발의되었습니다. 2022년 12월 6일, 유럽 이사회는 유럽 의회와 협상을 시작할 수 있도록 일반적인 방향을 채택했습니다. 2023년 12월 9일, 3일간의 "마라톤" 회담 후, 의회와 의회는 협정을 체결했습니다.[22]

이 법은 2024년 3월 13일 압도적 다수로 통과되었습니다. 공식 저널에[23] 게재된 지 20일 후에 발효될 예정이며, 5월 입법부가 끝날 것으로 예상됩니다.[24] 발효 후 적용 가능하기 전에 지연이 발생하며, 이는 적용 유형에 따라 다릅니다. 이번 연기는 '허용할 수 없는 위험' AI 시스템 금지 6개월, 실천강령 9개월, 범용 AI 시스템 12개월, '고위험' AI 시스템 관련 일부 의무 36개월, 기타 모든 것 24개월입니다.[25][23]

참고 항목

참고문헌

  1. ^ "EUR-Lex - 52021PC0206 - EN - EUR-Lex". eur-lex.europa.eu. Archived from the original on 23 August 2021. Retrieved 7 September 2021.
  2. ^ "World's first major act to regulate AI passed by European lawmakers". CNBC. 14 March 2024. Retrieved 13 March 2024.
  3. ^ "Proposal for a Regulation laying down harmonised rules on artificial intelligence Shaping Europe's digital future". digital-strategy.ec.europa.eu. 21 April 2021. Archived from the original on 4 January 2023. Retrieved 9 January 2023.
  4. ^ "Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world". Council of the EU. 9 December 2023. Archived from the original on 10 January 2024. Retrieved 6 January 2024.
  5. ^ a b c Mueller, Benjamin (4 May 2021). "The Artificial Intelligence Act: A Quick Explainer". Center for Data Innovation. Archived from the original on 14 October 2022. Retrieved 6 January 2024.
  6. ^ Coulter, Martin (7 December 2023). "What is the EU AI Act and when will regulation come into effect?". Reuters. Archived from the original on 10 December 2023. Retrieved 11 January 2024.
  7. ^ a b Espinoza, Javier (9 December 2023). "EU agrees landmark rules on artificial intelligence". Financial Times. Archived from the original on 29 December 2023. Retrieved 6 January 2024.
  8. ^ a b c d e "EU AI Act: first regulation on artificial intelligence". European Parliament News. Archived from the original on 10 January 2024. Retrieved 6 January 2024.
  9. ^ Propp, Mark MacCarthy and Kenneth (4 May 2021). "Machines learn that Brussels writes the rules: The EU's new AI regulation". Brookings. Archived from the original on 27 October 2022. Retrieved 7 September 2021.
  10. ^ a b Bertuzzi, Luca (7 December 2023). "AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement". Euractiv. Archived from the original on 8 January 2024. Retrieved 6 January 2024.
  11. ^ "Regulating Chatbots and Deepfakes". mhc.ie. Mason Hayes & Curran. Archived from the original on 9 January 2024. Retrieved 11 January 2024.
  12. ^ Liboreiro, Jorge (21 April 2021). "'Higher risk, stricter rules': EU's new artificial intelligence rules". Euronews. Archived from the original on 6 January 2024. Retrieved 6 January 2024.
  13. ^ Veale, Michael (2021). "Demystifying the Draft EU Artificial Intelligence Act". Computer Law Review International. 22 (4). arXiv:2107.03721. doi:10.31235/osf.io/38p5f. S2CID 241559535.
  14. ^ Tartaro, Alessio (2023). "Regulating by standards: current progress and main challenges in the standardisation of Artificial Intelligence in support of the AI Act". European Journal of Privacy Law and Technologies. 1 (1). Archived from the original on 3 December 2023. Retrieved 10 December 2023.
  15. ^ "EUR-Lex - 52021SC0084 - EN - EUR-Lex". eur-lex.europa.eu. Archived from the original on 17 April 2023. Retrieved 17 April 2023.
  16. ^ Veale, Michael; Borgesius, Frederik Zuiderveen (1 August 2021). "Demystifying the Draft EU Artificial Intelligence Act — Analysing the good, the bad, and the unclear elements of the proposed approach". Computer Law Review International. 22 (4): 97–112. arXiv:2107.03721. doi:10.9785/cri-2021-220402. ISSN 2194-4164. S2CID 235765823.
  17. ^ a b Casarosa, Federica (1 June 2022). "Cybersecurity certification of Artificial Intelligence: a missed opportunity to coordinate between the Artificial Intelligence Act and the Cybersecurity Act". International Cybersecurity Law Review. 3 (1): 115–130. doi:10.1365/s43439-021-00043-6. ISSN 2662-9739. S2CID 258697805.
  18. ^ Smuha, Nathalie A.; Ahmed-Rengers, Emma; Harkens, Adam; Li, Wenlong; MacLaren, James; Piselli, Riccardo; Yeung, Karen (5 August 2021). "How the EU Can Achieve Legally Trustworthy AI: A Response to the European Commission's Proposal for an Artificial Intelligence Act". doi:10.2139/ssrn.3899991. S2CID 239717302. SSRN 3899991.
  19. ^ Almada, Marco; Petit, Nicolas (27 October 2023). "The EU AI Act: Between Product Safety and Fundamental Rights". Robert Schuman Centre for Advanced Studies Research Paper No. 2023/59. doi:10.2139/ssrn.4308072. S2CID 255388310. SSRN 4308072. Archived from the original on 17 April 2023. Retrieved 14 March 2024.
  20. ^ Ebers, Martin; Hoch, Veronica R. S.; Rosenkranz, Frank; Ruschemeier, Hannah; Steinrötter, Björn (December 2021). "The European Commission's Proposal for an Artificial Intelligence Act—A Critical Assessment by Members of the Robotics and AI Law Society (RAILS)". J. 4 (4): 589–603. doi:10.3390/j4040043. ISSN 2571-8800.
  21. ^ "White Paper on Artificial Intelligence – a European approach to excellence and trust". European Commission. 19 February 2020. Archived from the original on 5 January 2024. Retrieved 6 January 2024.
  22. ^ "Timeline - Artificial intelligence". European Council. Archived from the original on 6 January 2024. Retrieved 6 January 2024.
  23. ^ a b David, Emilia (14 December 2023). "The EU AI Act passed — now comes the waiting". The Verge. Archived from the original on 10 January 2024. Retrieved 6 January 2024.
  24. ^ "World's first major act to regulate AI passed by European lawmakers". CNBC. 14 March 2024. Retrieved 13 March 2024.
  25. ^ "Artificial Intelligence Act: MEPs adopt landmark law". European Parliament. 13 March 2024. Retrieved 14 March 2024.

외부 링크