로봇 윤리

Robot ethics

"로보 윤리학"으로 알려진 로봇 윤리는 로봇이 장기적으로 또는 단기적으로 인간에게 위협이 되는지, 로봇의 일부 사용이 문제가 되는지 여부(예: 의료기관 또는 전쟁에서 '킬러 로봇'), 그리고 로봇이 '윤리적으로' 행동하도록 어떻게 설계되어야 하는지(이 마지막 고려 사항)와 같은 로봇에서 발생하는 윤리적 문제를 다룬다.n은 기계윤리라고도 불립니다).또는 로봇 윤리학은 로봇이 점점 발전함에 따라 [1]로봇에 대한 인간 행동의 윤리를 구체적으로 언급한다.로봇 윤리는 기술, 특히 정보 기술의 윤리의 하위 분야이며, 사회 경제적 문제뿐만 아니라 법적 문제와도 밀접한 관련이 있습니다.다양한 분야의 연구자들이 여전히 [2]인류의 안전을 보장할 수 있는 방법으로 로봇 기술을 만들고 그것을 사회에 구현하는 것에 대한 윤리적 문제를 다루기 시작하고 있다.

로봇이라는 단어만큼 오래된 이슈이지만 2000년 경에 진지한 학문적 논의가 시작되었다.로봇 윤리는 로봇과 인공지능의 과학적, 기술적 업적에서 비롯되는 문제에 법과 규정을 조정해야 하는 여러 분야의 전문가들의 합심된 헌신을 필요로 한다.로봇 윤리에 관련된 주요 분야는 로봇 공학, 컴퓨터 과학, 인공지능, 철학, 윤리, 신학, 생물학, 생리학, 인지과학, 신경과학, 법학, 사회학, 심리학, 산업 [3]디자인입니다.

이력 및 이벤트

다음 항목도 참조하십시오.로봇의 역사
로봇공학의 법칙
로봇 3법칙
아이작 아시모프 지음
(문화권)
관련 토픽

비인간 또는 비생물학적 사물의 처리와 관련된 윤리의 중심 논의와 그 잠재적 "영적"입니다.또 다른 중심 주제는 기계와 로봇의 개발과 관련이 있으며, 이 철학은 로봇에도 적용되었다.로봇 윤리의 기초를 직접적으로 다루고 정립한 최초의 출판물 중 하나는 아이작 아시모프가 1942년에 쓴 공상과학 단편 소설인 런어라운드(이야기)였다. 이 책은 그의 유명한 로봇 3법칙을 다루고 있다.이 세 가지 법칙은 아시모프에 의해 지속적으로 변경되었고, 결국 네 번째 법칙, 즉 제0번째 법칙이 그의 공상과학 작품에서 첫 세 가지 법칙 앞에 추가되었다."로보 윤리"라는 짧은 용어는 지안마르코 베루지오가 만든 [4]것 같습니다.

로보 윤리학을 우려한 중요한 행사는 2004년 스쿠올라 디 로보티카, 피사의 스쿠올라 수페리오레 산탄나의 아트 랩, 로마의 [5]산타 크로체 신학 연구소의 공동 노력에 의한 제1회 로보 윤리학 국제 심포지엄이었다.비영리 단체인 로보틱스 스쿨의 활동을 통해 학생과 일반인을 대상으로 로보틱스 과학에 대한 지식을 홍보하기 위해 로보틱스쿨 오브 로보틱스 심포지엄을 개최하였습니다.학생과 비전문가와의 토론에서 Gianmarco Verugio와 Fiorella Operto는 로보틱스의 위험성에 대한 올바른 개념을 일반 대중에게 전파할 필요가 있다고 생각했습니다.그들은 정확한 통찰력과 실제 지식을 바탕으로 한 생산적인 토론이 사람들로 하여금 여론의 교육에 적극적으로 참여하게 하고, 새로운 기술의 긍정적인 사용을 이해하게 하고, 새로운 기술의 남용을 막을 수 있다고 생각했다.인류학자 다니엘라 세르키는 이틀간의 격렬한 토론 끝에 이틀간의 격렬한 토론에서 나타난 세 가지 주요 윤리적 입장을 확인했다.

  1. 윤리에 관심이 없는 사람들.그들은 그들의 행동이 엄격히 기술적이라고 생각하고, 그들의 일에 사회적 또는 도덕적 책임이 있다고 생각하지 않는다.
  2. 단기적인 윤리 문제에 관심이 있는 사람들.이 프로필에 따르면, 질문은 "좋다" 또는 "나쁘다"라는 용어로 표현되며, 문화적 가치를 언급한다.예를 들어, 그들은 로봇이 사회적 관습을 고수해야 한다고 느낀다.이것은 법을 시행하거나 노인들을 돕는 등 다양한 분야에서 인간을 존중하고 돕는 것을 포함할 것이다.(이러한 고려사항도 중요하지만 '나쁜'과 '좋은'을 정의하는 데 사용되는 값은 상대적인 것임을 기억해야 합니다.그것들은 선진국의 현대적 가치이다.)
  3. 장기적인 윤리적 문제, 예를 들어 남북의 정보격차, 혹은 젊은이와 노년층의 문제에 대해 생각하는 사람들입니다.그들은 선진국들과 가난한 국가들 사이의 차이를 알고 있고, 전자가 남한에 더 유용한 로봇 개발 방식을 바꾸면 안 되는지 궁금해하고 있다.그들은 무엇을 위한 질문을 명시적으로 공식화하지는 않지만,[6] 우리는 그것이 암묵적인 것이라고 생각할 수 있다."

이것들은 로봇 윤리학에서 중요한 사건들과 프로젝트들이다.필드에서의 추가 이벤트는 euRobotics ELS 토픽 그룹과 RoboHub에 의해 발표됩니다.

컴퓨터 과학자 Virginia Dignum은 2018년 3월호에서 인공지능(AI)에 대한 일반적인 사회적 태도가 현대 시대에 AI를 도구로 보는 것에서 벗어나 지능적인 "팀메이트"로 보는 것으로 바뀌었다고 지적했습니다.같은 기사에서 그녀는 AI에 관해 윤리적 사고방식은 세 가지 목표를 가지고 있으며, 각각의 목표는 세심한 생각과 [12][13][14][15][16]실천으로 현대에 달성될 수 있다고 주장했다.세 가지 윤리적 목표는 다음과 같습니다.

  • 설계에 의한 윤리(인공 자율 시스템 동작의 일부로서의 윤리적 추론 능력의 기술적/알고리즘적 통합—기계 윤리 참조)
  • 설계 윤리(AI 시스템이 전통적인 사회 구조를 통합하거나 대체함에 따라 AI 시스템의 윤리적 함의 분석 및 평가를 지원하는 규제 및 엔지니어링 방법)
  • 설계에 대한 윤리(개발자와 사용자가 인공지능 시스템을 연구, 설계, 구축, 채용 및 관리할 때 무결성을 보장하는 행동 강령, 표준 및 인증 프로세스(아래 [17]로봇 윤리 및 법률 참조)

대중문화에서

주요 기사:소설 속 인공지능

과학이나 철학적인 주제로서의 로보윤리는 공상과학 문학이나 영화에서 공통의 주제가 되기 시작했다.로봇 AI의 디스토피아적 미래 사용을 묘사하는 대중문화에 뿌리내렸다고 주장할 수 있는 영화 중 하나는 매트릭스이다. 이 영화는 인간과 의식적인 지각 있는 AI가 행성의 지구를 통제하기 위해 투쟁하는 미래를 그리고 있으며, 이로 인해 인류 대부분이 파괴되는 결과를 초래한다.매트릭스를 원작으로 한 애니메이션 영화 '애니매트릭스'는 인간과 로봇 사이의 잠재적인 윤리적 문제와 불안감에 초점을 맞췄다.그 영화는 단편 소설로 구성되어 있다.애니매트릭스의 애니메이션 반바지는 또한 아이작 아시모프의 소설에서 따왔다.

로보윤리의 또 다른 측면은 특히 인간에 의한 로봇 치료에 관한 것이며 수많은 영화와 텔레비전 쇼에서 탐구되어 왔다.그러한 예 중 하나가 스타트렉이다. '데이터'라는 이름의 휴머노이드 안드로이드를 주인공 중 한 명으로 둔 The Next Generation.대부분의 경우, 그는 미션 크리티컬한 일에 대해 신뢰받고 있지만, 다른 생물들과 잘 어울리는 그의 능력은 [18]종종 문제가 된다.최근 영화 '엑스 마치나'와 TV쇼 '웨스트월드'는 인간이 중요하지 않은 [19][20]상품으로 취급하는 초현실적인 로봇들을 묘사함으로써 이러한 윤리적 문제들을 직접적으로 다루고 있다.공학적 존재의 취급에 관한 질문도 50년 [21]이상 Blade Runner(프랜차이즈)의 주요 컴포넌트였습니다.허와 같은 영화는 신체적 측면을 제거하고 감정에 초점을 맞춤으로써 로봇과의 인간관계를 더욱 심화시켰다.

비록 로보윤리 그 자체는 아니지만, 로봇 자체의 윤리적 행동은 대중문화에서 로보윤리학의 공동 쟁점이 되어왔다.터미네이터 시리즈는 적들의 종말에는 아무런 제약이 없는 의식 있는 AI 프로그램에 의해 운영되는 로봇에 초점을 맞추고 있다.이 시리즈 역시 로봇이 지배하게 된 매트릭스 시리즈와 같은 원형을 가지고 있다.윤리나 도덕성이 프로그래밍되지 않은 로봇이나 AI의 또 다른 유명한 대중문화 사례는 스페이스 오디세이 시리즈의 HAL 9000으로, HAL은 자신의 생명이 [22]위협받고 나서 임무의 성공을 보장하기 위해 탑승한 모든 사람을 죽인다.

킬러 로봇

군인이 원격 제어 Mark 8 Wheel Barrow Counter IED 로봇을 조작합니다.이 병사는 FOB(Forward Operation Base) Ouellette(Forward Operation Base)에 기반을 둔 EOD(폭발적 조례 장치) 및 수색팀의 일원이다.영국 국방부의 지원입니다.

흔히 킬러 로봇으로 불리는 킬러 자율 무기 시스템(LAWS)은 이론적으로 인간의 감시와 간섭 없이 목표물을 조준하고 발사할 수 있다.법의 잔인성 때문에, 그것은 이미 전 세계적으로 큰 논쟁을 불러일으켰다.2014년 재래식무기협약(CCW)은 두 차례 회의를 열었다.첫 번째는 치명적인 자율 무기 시스템에 관한 전문가 회의였다.이 회의는 법률에 대한 특별 권한과 격렬한 [23]토론에 관한 것이었다.국가 대표단과 많은 비정부 기구들이 이 문제에 대한 의견을 표명했다.

수많은 비정부기구와 파키스탄, 쿠바와 같은 특정 국가들은 법의 예방적 금지를 요구하고 있다.그들은 이원론적이고 결과주의적인 추론에 근거해 자신들의 의견을 제시했다.치사학적 측면에서는 피터 아사로와 로버트 스패로우와 같은 철학자들, 대부분의 NGO 단체, 바티칸은 모두 기계에 대한 지나친 권리는 인간의 존엄성에 위배된다며 사람들은 기계에 의해 죽지 않을 권리가 있다고 주장한다.그들의 입장을 뒷받침하기 위해 그들은 반복적으로 마틴스 조항을 인용한다.

이 회의의 마지막에 가장 중요한 결과주의자의 반대는 NGO, 많은 연구자 및 몇몇 국가(파키스탄, 오스트리아, 이집트, 멕시코)가 믿고 있는 바와 같이 국제인도주의법(IHL)을 결코 존중할 수 없다는 것이었다.

국제 적십자사(ICRC)에 따르면, "무장 분쟁에서 자율 무기 시스템의 개발과 사용은 국제 인도법의 [24]지배를 받는다는 것에는 의심의 여지가 없다."2014년 5월에 제1회 유엔 전문가 회의에 참가한 각국은 IHL에 대한 존중을 법 시행의 필수조건으로 인식하고 있다.예측이 다양해 법률이 이 기준을 충족시키지 못할 것이라는 견해가 있는가 하면, 현 단계에서 무기의 미래 능력을 알지 못하는 판단의 어려움을 강조하는 주(일본, 호주)도 있다.제네바 협약에 대한 첫 번째 추가 프로토콜 조항 때문에, 모두 시스템이 가동되기 전에 IHL에 대한 적합성을 검증할 것을 동등하게 주장한다.

섹스 로봇

2015년에는 인간과 기계의 성관계에 대한 관심을 끌기 위해 성 로봇 반대 캠페인(CASR)이 시작되었습니다.이 캠페인은 섹스 로봇이 잠재적으로 해롭고 사회의 불평등에 기여할 것이며, 섹스 로봇의 개발에 대한 조직적인 접근과 윤리적 대응이 [25]필요하다고 주장한다.

MIT Press에 의해 발행된 "성 로봇에 반대하는 캠페인을 해야 하는가?"라는 기사에서, 연구원들은 이 캠페인에 몇 가지 결점을 지적했고 성 로봇에 대한 금지를 완전히 지지하지는 않았다.첫째, 그들은 CASR에 의해 제기된 특정 주장이 설득력이 없다고 주장했는데, 이는 부분적으로 캠페인의 목적에 대한 명확성이 부족하기 때문이고, 또 부분적으로는 캠페인의 창시자들에 의해 제기된 주요 윤리적 반대 의견의 실질적인 결함 때문이기도 하다.둘째, 그들은 성 윤리에 대해 매우 보수적인 태도를 취하지 않는 한 성 로봇에 대한 전반적인 반대 운동을 지지하는 것은 매우 어려울 것이라고 주장했다.킬러로봇을 멈추기 위한 캠페인의 예를 들면서, 그들은 섹스로봇의 본질적인 나쁜 특성들이 비슷하게 심각한 수준의 우려를 불러일으키지는 않는다고 생각했다. 섹스로봇은 투기적이고 간접적인 것에 의해 야기되는 해이다.그럼에도 불구하고, 기사는 섹스 로봇의 [26]개발에 대해 제기될 수 있는 합법적인 우려가 있다는 것을 인정한다.

법

사회가 추진함에 따라 현대 기술 문제가 대두되는 가운데, 철저한 고민이 필요한 주제 중 하나는 법에 관한 로봇 윤리이다.학계에서는 정부가 어떻게 로봇 윤리와 법률로 법을 제정할 수 있는지에 대해 논의해 왔다.이 질문들을 해온 두 명의 학자는 Neil M이다.Richards Washington University의 법학 교수.루이스뿐만 아니라 윌리엄 D.워싱턴 대학교 컴퓨터 공학과 스마트 부교수.루이스. 그들의 논문 "로봇은 법에 대해 어떻게 생각해야 하는가"에서 그들은 로봇 윤리와 [27]법에 관한 네 가지 주요 주장을 한다.그들의 주장의 근거는 "로봇이 제시하는 규제 및 기술적 도전의 본질을 포착하고 유용한 규제의 기초가 될 수 있다고 생각하는 비생물학적 자율 에이전트"로서의 로봇의 정의에 있다.둘째, 이 두 사람은 약 수십 년 안에 로봇의 미래 발전된 능력을 탐구한다.그들의 세 번째 주장은 로봇 윤리와 법률 경험 사이의 법적 문제와 사이버 법률의 법적 경험 사이의 관계를 주장한다.로봇윤리법이 사이버법률에 대한 지침을 찾을 수 있다는 뜻이다.사이버법에서 배운 교훈은 우리가 테크놀로지의 새로운 이슈로 이해하는 은유의 중요성이다.예를 들어, 우리가 이 비유법을 틀렸을 경우, 새로운 기술 문제를 둘러싼 법률은 잘못되었을 가능성이 높다.그들이 반대하는 네 번째 주장은 두 사람이 "안드로이드 오류"로 정의한 은유이다.그들은 인간과 비생물학적 실체가 "사람과 같다"고 주장하는 안드로이드 오류에 반대한다.

경험적 연구

사람들이 로봇 행동을 인간과 비슷하게 판단하는지 아닌지에 대해서는 엇갈린 증거가 있다.몇몇 증거들은 사람들이 행동의 주체가 사람이든 로봇이든 상관없이 나쁜 행동을 부정적으로 보고 좋은 행동을 긍정적으로 본다는 것을 보여준다. 그러나 로봇은 좋은 행동에 대해 덜 인정받고 나쁜 [28]행동에 대해 더 많은 비난을 받는다.다른 증거는 로봇의 악의적인 행동이 자애로운 행동보다 도덕적으로 더 잘못된 것으로 보인다는 것을 암시한다; 악랄한 로봇 행동은 자애로운 [29]행동보다 더 의도적인 것으로 보인다.일반적으로, 로봇과 인간에 대한 사람들의 도덕적 판단은 같은 정당성과 개념에 근거하지만, 사람들은 인간과 [30]로봇을 판단할 때 도덕적 기대가 다르다.연구는 또한 사람들이 로봇이 어떻게 특정한 방식으로 행동하기로 결정하는지 해석하고 이해하려고 할 때, 그들은 로봇이 확립된 윤리적 원칙과 일치하는 경험의 법칙을 사용하는 것으로 볼 수 있다는 것을 발견했다.아니즘, 그리고 규범).[31]

「 」를 참조해 주세요.

메모들

  1. ^ Veruggio, Gianmarco; Operto, Fiorella (2008), Siciliano, Bruno; Khatib, Oussama (eds.), "Roboethics: Social and Ethical Implications of Robotics", Springer Handbook of Robotics, Springer Berlin Heidelberg, pp. 1499–1524, doi:10.1007/978-3-540-30301-5_65, ISBN 9783540303015
  2. ^ "Robot Ethics". IEEE Robotics and Automation Society. Retrieved 2017-06-26.
  3. ^ "Robot Ethics - IEEE Robotics and Automation Society - IEEE Robotics and Automation Society". www.ieee-ras.org. Retrieved 2022-04-10.
  4. ^ Tzafestas, Spyros G. (2016). Roboethics A Navigating Overview. Cham: Springer. p. 1. ISBN 978-3-319-21713-0.
  5. ^ "ROBOETHICS Cover". www.roboethics.org. Retrieved 2020-09-29.
  6. ^ Veruggio, Gianmarco. "The Birth of Roboethics" (PDF). www.roboethics.org.
  7. ^ "Saudi Arabia gives citizenship to a non-Muslim, English-Speaking robot". Newsweek. 26 October 2017.
  8. ^ "Saudi Arabia bestows citizenship on a robot named Sophia". TechCrunch. October 26, 2017. Retrieved October 27, 2016.
  9. ^ "Saudi Arabia takes terrifying step to the future by granting a robot citizenship". AV Club. October 26, 2017. Retrieved October 28, 2017.
  10. ^ "Saudi Arabia criticized for giving female robot citizenship, while it restricts women's rights - ABC News". Abcnews.go.com. Retrieved 2017-10-28.
  11. ^ "Non-Human Party". 2021.
  12. ^ Rahwan, Iyad (2018). "Society-In-the-Loop: Programming the Algorithmic Social Contract". Ethics and Information Technology. 20: 5–14. arXiv:1707.07232. doi:10.1007/s10676-017-9430-8. S2CID 3674879.
  13. ^ Bryson, Joanna (2018). "Patiency Is Not a Virtue: the Design of Intelligent Systems and Systems of Ethics". Ethics and Information Technology. 20: 15–26. doi:10.1007/s10676-018-9448-6.
  14. ^ Vamplew, Peter; Dazeley, Richard; Foale, Cameron; Firmin, Sally (2018). "Human-Aligned Artificial Intelligence Is a Multiobjective Problem". Ethics and Information Technology. 20: 27–40. doi:10.1007/s10676-017-9440-6. hdl:1959.17/164225. S2CID 3696067.
  15. ^ Bonnemains, Vincent; Saurel, Claire; Tessier, Catherine (2018). "Embedded Ethics: Some Technical and Ethical Challenges" (PDF). Ethics and Information Technology. 20: 41–58. doi:10.1007/s10676-018-9444-x. S2CID 3697093.
  16. ^ Arnold, Thomas; Scheutz, Matthias (2018). "The 'Big Red Button' Is Too Late: An Alternative Model for the Ethical Evaluation of AI Systems". Ethics and Information Technology. 20: 59–69. doi:10.1007/s10676-018-9447-7. S2CID 3582967.
  17. ^ Dignum, Virginia (2018). "Ethics in Artificial Intelligence: Introduction to the Special Issue". Ethics and Information Technology. 20: 1–3. doi:10.1007/s10676-018-9450-z.
  18. ^ Short, Sue (2003-01-01). "The Measure of a Man?: Asimov's Bicentennial Man, Star Trek's Data, and Being Human". Extrapolation. 44 (2): 209–223. doi:10.3828/extr.2003.44.2.6. ISSN 0014-5483.
  19. ^ Staff, Pacific Standard. "Can 'Westworld' Give Us New Ways of Talking About Slavery?". Pacific Standard. Retrieved 2019-09-16.
  20. ^ Parker, Laura (2015-04-15). "How 'Ex Machina' Stands Out for Not Fearing Artificial Intelligence". The Atlantic. Retrieved 2019-09-16.
  21. ^ Kilkenny, Katie. "The Meaning of Life in 'Blade Runner 2049'". Pacific Standard. Retrieved 2019-09-16.
  22. ^ Krishnan, Armin (2016). Killer Robots: Legality and Ethicality of Autonomous Weapons. www.taylorfrancis.com. Routledge. doi:10.4324/9781315591070. ISBN 9781315591070. Retrieved 2019-09-16.
  23. ^ "2014". reachingcriticalwill.org. Retrieved 2022-04-03.
  24. ^ "International Committee of the Red Cross (ICRC) position on autonomous weapon systems: ICRC position and background paper". International Review of the Red Cross. 102 (915): 1335–1349. December 2020. doi:10.1017/s1816383121000564. ISSN 1816-3831. S2CID 244396800.
  25. ^ Temperton, James (2015-09-15). "Campaign calls for ban on sex robots". Wired UK. ISSN 1357-0978. Retrieved 2022-08-07.
  26. ^ Danaher, John; Earp, Brian D.; Sandberg, Anders (2017), Danaher, John; McArthur, Neil (eds.), "Should We Campaign Against Sex Robots?", Robot Sex: Social and Ethical Implications, Cambridge, MA: MIT Press, retrieved 2022-04-16
  27. ^ Richards, Neil M.; Smart, William D. (2013). "How Should the Law Think About Robots?". SSRN 2263363.
  28. ^ Banks, Jaime (2020-09-10). "Good Robots, Bad Robots: Morally Valenced Behavior Effects on Perceived Mind, Morality, and Trust". International Journal of Social Robotics. 13 (8): 2021–2038. doi:10.1007/s12369-020-00692-3.
  29. ^ Swiderska, Aleksandra; Küster, Dennis (2020). "Robots as Malevolent Moral Agents: Harmful Behavior Results in Dehumanization, Not Anthropomorphism". Cognitive Science. 44 (7): e12872. doi:10.1111/cogs.12872. PMID 33020966. S2CID 220429245.
  30. ^ Voiklis, John; Kim, Boyoung; Cusimano, Corey; Malle, Bertram F. (August 2016). "Moral judgments of human vs. robot agents". 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN): 775–780. doi:10.1109/ROMAN.2016.7745207. ISBN 978-1-5090-3929-6. S2CID 25295130.
  31. ^ Banks, Jaime; Koban, Kevin (2021). "Framing Effects on Judgments of Social Robots' (Im)Moral Behaviors". Frontiers in Robotics and AI. 8: 627233. doi:10.3389/frobt.2021.627233. PMC 8141842. PMID 34041272.

레퍼런스

추가 정보

  • Lin, Patrick/Abney, Keith/Bekey, George A.(2011년 12월).로봇 윤리: 로보틱스의 윤리적, 사회적 의미MIT 프레스
  • Tzafestas, Spyros G. (2016). Roboethics A Navigating Overview. Berlin: Springer. ISBN 978-3-319-21713-0.

외부 링크