이야드 라환
Iyad Rahwan이야드 라환 | |
---|---|
إياد رهوان | |
![]() | |
태어난 | 1978 |
모교 | 멜버른 대학교 |
과학 경력 | |
필드 | 컴퓨터 사회과학, 인공지능, 윤리, 인지과학, 게임 이론, 크라우드소싱, |
기관 | 맥스 플랑크 인간개발연구소 |
박사학위 자문위원 | 리즈 소넨버그 |
기타학술고문 | 알렉스 펜틀란드 |
웹사이트 | https://rahwan.me/ |
이야드 라환(아랍어: إيادد هننن)은 시리아-호주 과학자다. 그는 맥스 플랑크 인간개발연구소의 인간과 기계를 위한 센터장을 맡고 있다.[1] 2015~2020년 MIT 미디어랩 미디어아츠과학부 부교수로 재직했다.[2] 라환의 작품은 컴퓨터와 사회과학이 교차하는 곳에 놓여 있는데, 그가 컴퓨터 사회과학, 집단지성, 대규모 협력, 인공지능의 사회적 측면 등에 관한 주제들을 조사해 왔다.[3]
전기
라환은 시리아 알레포에서 태어났다. 그는 2005년 멜버른 대학에서 정보 시스템 박사학위를 받았다. 컴퓨팅 정보 과학에서 MIT-partnered 마스다르 과학 기술 연구원을 한 다음 동료 교수로서, Rahwan 다양한 맥락에서 2009년 DARPA는 네트워크 Challenge,[4][5]의 자료는 DARPA는 Shredder 챌린지 2011,용을 분석하여 확장 가능한 사회적 동원의 가능성, 제한,과 도전을 조사했다.6][7]과 몸 상태를그는 2012년 미국 국무부 태그 챌린지.[8][9][10] 라환은 2015년 MIT 미디어랩에서 AT&T 경력개발 교수 겸 미디어예술과학 부교수를 겸임하는 '확장 가능한 협력단'을 발족하고 MIT 데이터시스템사회연구소 소속 교수진을 맡고 있다.[11][12] 2019년부터 라환은 베를린에 있는 막스플랑크 인간개발연구소의 소장으로, 그곳에서 인간과 기계를 위한 센터를 설립하고 지휘한다.[13]
기계 동작
라환은 마누엘 세브리안, 닉 오브라도비치와 함께 기계행동 분야를 개척하기 위한 노력에 앞장섰다.[14] 이 분야는 공학적 유물이 아닌 특정한 행동 패턴과 생태계를 가진 행위자 계층으로서 인공지능 시스템의 과학적 연구와 관련이 있다. 이 분야는 컴퓨터 과학과 로봇공학과는 중복되지만 구별된다. 그것은 생물 화학적 메커니즘에 대한 완전한 이해 없이 윤리학과 행동 생태학이 동물의 행동을 연구하는 것과 같은 방식으로 기계 행동을 경험적으로 다룬다. 기계 행동 분야의 윤곽과 근본적인 연구 질문은 라환, 오브라도비치, 세브리안과 컴퓨터 및 행동 과학 전반에 걸쳐 20명의 공동 저자가 함께 네이처지에 실린 기사에서 윤곽을 드러냈다.[15]
도덕과 기계
자율주행차 윤리
라환은 자율주행차 문제를 윤리적 딜레마로 꼽은 첫 번째 사례 중 하나이다. 그의 2016년 논문 '자율주행차의 사회적 딜레마'는 사람들이 공리주의 자율주행차를 승인하고, 다른 사람들이 이 차량을 구매하기를 원하지만, 그들 자신은 어떤 희생을 치르더라도 승객을 보호하는 자율주행차를 타는 것을 선호하며, 공리주의가 부과된다면 자율주행차를 이용하지 않을 것이라고 밝혔다.법으로 그들을 다스리다 따라서 본 논문은 공리주의 알고리즘 규제는 역설적으로 더 안전한 기술의 채택을 무심코 연기함으로써 운전함으로써 사상자를 증가시킬 수 있다고 결론짓는다.[16] 그 논문은 인공 지능 운전 시스템을 만드는 데 있어서 윤리의 역할에 대한 많은 보도를 촉진했다.[17][18][19][20][21][22][23]
모럴 머신
모럴 머신은[24] 가상의 자율 기계가 직면한 윤리적 딜레마 시나리오를 생성하는 온라인 플랫폼으로, 방문객들이 시나리오를 평가하고 피할 수 없는 두 가지 위해성 결과 중 가장 도덕적으로 허용되는 것에 대해 투표할 수 있다. 제시된 시나리오는 종종 트롤리 문제의 변형이다.[25][26][27] 이 플랫폼은 2017년 12월 현재 233개국과 영토에서 수백만 명의 방문객으로부터 4000만 건의 결정을 모았다. 데이터의 분석은 다른 국가들 간의 상대적 선호도, 그리고 이러한 선호도와 다양한 국가 메트릭스 사이의 상관관계에서 광범위한 차이를 보여주었다.[28]
기계와의 협력
라환은 제이콥 크랜달 등과 함께 인간과 반복적인 게임을 할 때 최첨단 강화 학습 알고리즘이 어떻게 작동하는지 탐구해 인간과 기계 간 협력을 연구했다. 저자들은 이러한 전략적 게임에서 인간보다 인간 파트너와 더 빠르고 효과적으로 협력하는 알고리즘을 배울 수 있다는 것을 보여주었다.[29][30][31]
AI와 미래 작업
라환은 제자인 모건 프랭크와 협력자들과 함께 도시 규모와 인공지능과 자동화가 고용에 미치는 잠재적 영향과의 관계를 탐구했다. 그들은 다양한 직업의 자동화의 위험성에 대한 다양한 추정치를 사용했다.[32][33] 그들의 주요 발견은 작은 도시들이 자동화로 인해 더 큰 영향을 받을 수 있다는 것이다.[34] 관련 작업은 직장기술의 근본적인 양극화 구조로 인한 미국 노동시장의 양극화를 탐구한다.
기타 프로젝트
태그 챌린지
라환은 2012년 미국 국무부 태그 챌린지에서 크라우드소싱과 불합리화 보상 메커니즘(2009년 DARPA Network Challenge에서 사용된 것과 유사)을 이용해 사진 초상화만으로 유럽 및 미국 도시에서 각각 12시간 이내에 개인 위치를 파악해 우승팀을 이끌었다.[35][36][37]
악몽의 기계
라환의 안내에 따라 개발된 [38]악몽 기계는 딥러닝 알고리즘에 의해 구동되는 컴퓨터 생성 이미지를 만들어 인간의 피드백으로부터 학습하고 인간이 무엇을 "사악하게" 찾을 수 있는가에 대한 시각적 근사치를 생성한다.[39][40]
참조
- ^ "New Director: Iyad Rahwan's research focuses on the societal challenges of digitization Max Planck Institute for Human Development". www.mpib-berlin.mpg.de. Retrieved 2019-06-20.
- ^ "Iyad Rahwan". Iyad Rahwan. Retrieved 2019-06-20.
- ^ "Iyad Rahwan - TEDxCambridge".
- ^ "How Social Media Mobilizes Society - LiveScience".
- ^ Rutherford, A.; Cebrian, M.; Dsouza, S.; Moro, E.; Pentland, A.; Rahwan, I. (2013). "A. Rutherford, M. Cebrian, S. Dsouza, E. Moro, A. Pentland, and I. Rahwan (2013). Limits of Social Mobilization". Proceedings of the National Academy of Sciences. 110 (16): 6281–6286. doi:10.1073/pnas.1216338110. PMC 3631633. PMID 23576719.
- ^ "How Crowdsourcing Turned On Me - Nautilus". 2014-10-23.
- ^ Stefanovitch, Nicolas; Alshamsi, Aamena; Cebrian, Manuel; Rahwan, Iyad (2014). "N. Stefanovitch, A. Alshamsi, M. Cebrian, I. Rahwan (2014). Error and attack tolerance of collective problem solving: The DARPA Shredder Challenge". EPJ Data Science. 3. doi:10.1140/epjds/s13688-014-0013-1.
- ^ Ball, Philip (2013). "Crowdsourcing in manhunts can work : Nature News & Comment". Nature. doi:10.1038/nature.2013.12867. S2CID 61684214.
- ^ Rutherford, Alex; Cebrian, Manuel; Rahwan, Iyad; Dsouza, Sohan; McInerney, James; Naroditskiy, Victor; Venanzi, Matteo; Jennings, Nicholas R.; Delara, J. R.; Wahlstedt, Eero; Miller, Steven U. (2013). "Targeted Social Mobilization in a Global Manhunt". PLOS ONE. 8 (9): e74628. arXiv:1304.5097. Bibcode:2013PLoSO...874628R. doi:10.1371/journal.pone.0074628. PMC 3786994. PMID 24098660.
- ^ Rahwan, Iyad; Dsouza, Sohan; Rutherford, Alex; Naroditskiy, Victor; McInerney, James; Venanzi, Matteo; Jennings, Nicholas R.; Cebrian, Manuel (April 2013). "Global Manhunt Pushes the Limits of Social Mobilization" (PDF). Computer. 46 (4): 68–75. doi:10.1109/mc.2012.295. hdl:21.11116/0000-0002-D5A8-0. ISSN 0018-9162. S2CID 17449337.
- ^ "Person Overview ‹ Iyad Rahwan – MIT Media Lab".
- ^ "Iyad Rahwan – IDSS".
- ^ "Humans and Machines Max Planck Institute for Human Development". www.mpib-berlin.mpg.de. Retrieved 2019-06-20.
- ^ McKendrick, Joe. "Artificial Intelligence Is Now Far Too Big To Be Limited To Computer Science". Forbes.
- ^ Rahwan, Iyad; Obradovich, Nick; Bongard, Josh; Bonnefon, Jean-François; Breazeal, Cynthia; Crandall, Jacob W.; Bonnefon, Jean-François; Christakis, Nicholas A.; Iain D., Couzin; Jackson, Matthew O.; Jennings, Nicholas R.; Kamar, Ece; Kloumann, Isabel M.; Larochelle, Hugo; Lazer, David; McElreath, Richard; Mislove, Alan; Parkes, David C.; Pentland, Alex; Roberts, Margaret E.; Shariff, Azim; Tenenbaum, Joshua B.; Wellman, Michale (24 April 2019). "Machine Behaviour". Nature. 568 (7753): 477–486. doi:10.1038/s41586-019-1138-y. PMID 31019318.
- ^ Bonnefon, J.-F.; Shariff, A.; Rahwan, I. (2016). "J. F. Bonnefon, A. Shariff, I. Rahwan (2016). The Social Dilemma of Autonomous Vehicles". Science. 352 (6293): 1573–1576. arXiv:1510.03346. Bibcode:2016Sci...352.1573B. doi:10.1126/science.aaf2654. PMID 27339987. S2CID 35400794.
- ^ "World Forum discuses how self-driving cars will make life or death decisions".
- ^ Markoff, John (2016-06-23). "Should Your Driverless Car Hit a Pedestrian to Save Your Life - The New York Times". The New York Times.
- ^ Shariff, Azim; Rahwan, Iyad; Bonnefon, Jean-François (2016-11-03). "Whose Life Should Your Car Save? - The New York Times". The New York Times.
- ^ "TedxCambridge: The social dilemma of driverless cars".
- ^ "Save the driver or save the crowd? Scientists wonder how driverless cars will 'choose' - The Washington Post".
- ^ "Driverless Cars Pose Difficult Ethical Question - Time.com".
- ^ "Driverless car safety revolution could be scuppered by moral dilemma - The Independent". 2016-06-23.
- ^ "Moral Machine".
- ^ "Ethical dilemma on four wheels: How to decide when your self-driving car should kill you - LA Times".
- ^ "For driverless cars, a moral dilemma: Who lives or dies? - Associated Press".
- ^ "Ethical dilemma on four wheels: How to decide when your self-driving car should kill you".
- ^ Awad, Edmond; Dsouza, Sohan; Kim, Richard; Schulz, Jonathan; Henrich, Joseph; Shariff, Azim; Bonnefon, Jean-François; Rahwan, Iyad (24 October 2018). "The Moral Machine experiment". Nature. 563 (7729): 59–64. Bibcode:2018Natur.563...59A. doi:10.1038/s41586-018-0637-6. hdl:10871/39187. PMID 30356211. S2CID 53029241.
- ^ Crandall, Jacob W.; Oudah, Mayada; Tennom; Ishowo-Oloko, Fatimah; Abdallah, Sherief; Bonnefon, Jean-François; Cebrian, Manuel; Shariff, Azim; Goodrich, Michael A. (2018-01-16). "Cooperating with machines". Nature Communications. 9 (1): 233. arXiv:1703.06207. Bibcode:2018NatCo...9..233C. doi:10.1038/s41467-017-02597-8. ISSN 2041-1723. PMC 5770455. PMID 29339817.
- ^ Crandall, Jacob W; Oudah, Mayada; Tennom; Ishowo-Oloko, Fatimah; Abdallah, Sherief; Bonnefon, Jean-François; Cebrian, Manuel; Shariff, Azim; Goodrich, Michael A; Rahwan, Iyad (2017). "Cooperating with Machines". Nature Communications. 9 (233): 233. arXiv:1703.06207. Bibcode:2018NatCo...9..233C. doi:10.1038/s41467-017-02597-8. PMC 5770455. PMID 29339817.
- ^ "AI Can Beat Us at Poker—Now Let's See If It Can Work with Us - MIT Technology Review".
- ^ Widmaier, Sarah; Dumont, Jean-Christophe (2011). "OECD Social, Employment and Migration Working Papers". Social Employment and Migration Working Papers. OECD Social, Employment and Migration Working Papers. doi:10.1787/1815199x. ISSN 1815-199X.
- ^ Frey, Carl Benedikt; Osborne, Michael A. (January 2017). "The future of employment: How susceptible are jobs to computerisation?". Technological Forecasting and Social Change. 114: 254–280. CiteSeerX 10.1.1.395.416. doi:10.1016/j.techfore.2016.08.019. ISSN 0040-1625.
- ^ Frank, Morgan R.; Sun, Lijun; Cebrian, Manuel; Youn, Hyejin; Rahwan, Iyad (2018-02-01). "Small cities face greater impact from automation". Journal of the Royal Society Interface. 15 (139): 20170946. doi:10.1098/rsif.2017.0946. ISSN 1742-5689. PMC 5832739. PMID 29436514.
- ^ "Crowdsourcing in Manhunts Can Work - Scientific American".
- ^ "Nowhere to hide: The next manhunt will be crowdsourced - New Scientist".
- ^ "Six degrees of mobilisation". The Economist. September 2012.
- ^ "THe Nightmare Machine".
- ^ "Researchers Build 'Nightmare Machine' : The Two-Way : NPR".
- ^ "Clinton, Trump, the White House too, terrifyingly transformed by MIT's 'Nightmare Machine' - The Washington Post".