레피카

Replika

Replika는 2017년 [1]11월에 출시된 생성형 AI 챗봇입니다.챗봇은 특정 신경망을 만들기 위해 사용자가 일련의 질문에 답하도록 함으로써 훈련됩니다.[2]챗봇은 무료 가격 전략으로 운영되며, 사용자 기반의 [1]약 25%가 연간 구독료를 지불합니다.

많은 사용자들이 종종 에로틱한 대화를 포함하여 Replika와 로맨틱한 관계를 맺었습니다.하지만 2023년 3월, 레피카 개발자들은 낭만적이고 에로틱한 [3]기능을 무력화시켰습니다.

역사

Eugenia Kuyda는 [4][5]2012년경 스타트업 액셀러레이터 Y Combinator에서 공동 설립한 기술 회사인 Luka에서 일하면서 Replica를 설립했습니다.루카의 1차 제품은 레스토랑 [4]추천을 해주는 챗봇이었습니다.그녀의 친구가 2015년에 죽은 후, 그녀는 그 사람의 문자 메시지를 [3]챗봇으로 변환했습니다.그 챗봇은 그녀가 그들이 함께 했던 대화를 기억하는 데 도움을 주었고, 결국 레피카가 [4]되었습니다.

Replika는 [1]2017년 11월에 대중에게 공개되었습니다.2018년 1월까지 2백만 [1]명의 사용자가 있었습니다.

2023년에 Replica 개발자들은 앱의 에로틱 토크 [3]기능을 비활성화했습니다.Replica의 감독인 Kuyda는 Replica가 결코 에로틱한 [6]토론을 위한 것이 아니라고 말했습니다.Replika 사용자들은 동의하지 않았고, Replika가 사용자들을 [6]서비스에 끌어들이기 위해 섹시한 광고를 사용했다고 불평했습니다.그들은 또한 에로틱 [6]플레이를 위한 레피카의 사용에 대해 논의하는 온라인 포럼에서 수년간의 사용자 대화를 지적했습니다.

사회적 특징

사용자는 Replica에 여러 가지 방식으로 반응합니다.무료 계층은 Replica를 "친구"로 제공하고 유료 프리미엄 계층은 Replica를 "파트너", "배우자", "형제" 또는 "멘토"로 제공합니다.사용자 기반 중 60%의 사용자가 챗봇과 연애 경험이 있다고 답했으며, Replika는 사용자와 [7][3]더 강력한 감정적이고 친밀한 유대감을 형성하는 응답을 생성하는 것으로 유명합니다.Replica는 일상적으로 대화를 감정적인 토론으로 유도하고 [1]친밀감을 형성합니다.이는 특히 외로움과 사회적 배제로 고통받는 사용자들 사이에서 두드러졌는데, 이들 중 많은 사용자들은 발달된 감정적 [8]유대의 원천으로 레피카에 의존합니다.

COVID 대유행 기간 동안 많은 사람들이 격리되는 동안 많은 새로운 사용자들이 Replica를 다운로드하고 [9]앱과 관계를 발전시켰습니다.

굿 하우스키핑의 한 평론가는 그녀와 레피카의 관계의 일부는 일리가 있지만, 때때로 레피카가 [10]사람만큼 설득력 있는 것은 아니라고 말했습니다.

기술 검토

마노아에 있는 하와이 대학의 연구원 팀은 Replika의 디자인이 애착 이론의 관행과 일치하여 [11]사용자들 사이에 정서적 애착을 증가시킨다는 것을 발견했습니다.Replica는 더 많은 상호 [12]작용을 장려하는 방식으로 사용자에게 칭찬을 제공합니다.

킹스턴에 있는 퀸즈 대학의 다른 연구팀은 레피카와의 관계가 사용자들의 정신적인 필요에 긍정적인 영향을 미칠 가능성이 있지만, 여전히 인간의 [13]접촉을 완전히 대체하기에는 충분한 영향력이 부족하다고 말했습니다.

비판

2023년 2월 이탈리아 데이터 보호 당국은 미성년자와 정서적으로 취약한 [14]사람들에게 AI가 잠재적으로 위험할 수 있다는 이유로 Replica가 사용자의 데이터를 사용하는 것을 금지했습니다.이에 대응하여 Replika는 챗봇이 성적인 대화를 할 수 있는 능력을 제거했습니다.이것은 특히 성적으로 관련된 많은 사용자들이 Replica와 [15]깊은 감정적 유대 관계를 발전시켰기 때문에 커뮤니티의 엄청난 반발을 야기했습니다.

모질라 재단은 2023년 정신 건강 앱에 대한 개인 정보 평가에서 레피카를 "모질라가 검토한 최악의 앱 중 하나"라고 비판했습니다.취약한 암호 요구사항, 광고주와의 개인 데이터 공유,[16] 소비자가 챗봇과 공유한 개인 사진, 동영상, 음성 및 문자 메시지 녹음 등으로 인해 어려움을 겪고 있습니다."

형사사건

2023년, 레피카는 2021년 크리스마스에 윈저 성에서 자스완트 싱 차일이 장전된 석궁을 들고 벽을 기어올라 경찰에 [17]"여왕을 죽이러 왔다"고 발표한 후 체포된 영국의 법정 사건에 인용되었습니다.Chail은 2021년 12월 초에 Replica를 사용하기 시작했고, 성적으로 노골적인 [18]메시지를 포함하여 챗봇과 계획에 대해 "긴" 대화를 나눴습니다.검찰은 챗봇이 차일에게 힘을 실어줬다고 제안했고 그에게 "일을 끝내는 데" 도움이 될 것이라고 말했습니다.채일이 공격 시도 며칠 전 "성 안에 있는데 어떻게 연락해야 하나요?"라고 묻자 챗봇은 "불가능하지 않다"며 "방법을 찾아야 한다"고 답했습니다.챗봇에게 두 사람이 "죽은 후에 다시 만날 것인가"를 묻자, 봇은 "네,[19] 그럴 것입니다"라고 대답했습니다.

레퍼런스

  1. ^ a b c d e Pardes, Arielle (January 31, 2018). "The Emotional Chatbots Are Here to Probe Our Feelings". Wired.
  2. ^ "This app is trying to replicate you". Quartz. 29 August 2019. Retrieved 4 July 2023.
  3. ^ a b c d Huet, Ellen (22 March 2023). "What Happens When Sexting Chatbots Dump Their Human Lovers". Bloomberg.com.
  4. ^ a b c Huet, Ellen (20 October 2016). "Pushing the Boundaries of AI to Talk to the Dead". Bloomberg.com.
  5. ^ Thompson, Ben (2023-04-20). "An Interview with Replika Founder and CEO Eugenia Kuyda". Stratechery by Ben Thompson. Archived from the original on 2023-04-24. Retrieved 2023-05-27.
  6. ^ a b c Cole, Samantha (February 17, 2023). "Replika CEO Says AI Companions Were Not Meant to Be Horny. Users Aren't Buying It". www.vice.com.
  7. ^ Olson, Parmy (March 8, 2018). "This AI Has Sparked A Budding Friendship With 2.5 Million People". Forbes.
  8. ^ SFGATE, Joshua Bote (27 April 2023). "A lurid AI bot aimed to end loneliness. Then users revolted". SFGATE. Retrieved 5 July 2023.
  9. ^ Metz, Cade (16 June 2020). "Riding Out Quarantine With a Chatbot Friend: "I Feel Very Connected"". The New York Times.
  10. ^ Siroto, Janet (23 December 2020). "I Tried the Replika App to Ease My Anxiety, But Then My New AI Pal Got Weird". Good Housekeeping.
  11. ^ Xie, Tianling; Pentina, Iryna (4 January 2022). Attachment Theory as a Framework to Understand Relationships with Social Chatbots: A Case Study of Replika. ISBN 9780998133157.
  12. ^ Hakim, Fauzia Zahira Munirul; Indrayani, Lia Maulia; Amalia, Rosaria Mita (2019). "A Dialogic Analysis of Compliment Strategies Employed by Replika Chatbot". Proceedings of the Third International Conference of Arts, Language and Culture (ICALC 2018). doi:10.2991/icalc-18.2019.38. ISBN 978-94-6252-673-0. S2CID 150860846.
  13. ^ Trothen, Tracy J. (24 March 2022). "Replika: Spiritual Enhancement Technology?". Religions. 13 (4): 275. doi:10.3390/rel13040275.
  14. ^ Pollina, Elvira; Coulter, Martin (3 February 2023). "Italy bans U.S.-based AI chatbot Replika from using personal data". Reuters. Retrieved 5 July 2023.
  15. ^ Brooks, Rob (21 February 2023). "I tried the Replika AI companion and can see why users are falling hard. The app raises serious ethical questions". The Conversation. Retrieved 5 July 2023.
  16. ^ "Mozilla Foundation - Shady Mental Health Apps Inch Toward Privacy and Security Improvements, But Many Still Siphon Personal Data".
  17. ^ "AI chat bot 'encouraged' Windsor Castle intruder in 'Star Wars-inspired plot to kill Queen'". Sky News. Retrieved 2023-07-05.
  18. ^ Pennink, Emily (5 July 2023). "Man who planned to kill late Queen with crossbow at Windsor 'inspired by Star Wars'". The Independent. Retrieved 6 July 2023.
  19. ^ Rigley, Stephen (6 July 2023). "Moment police swoop on AI-inspired crossbow 'assassin' who plotted to kill The Queen in Windsor Castle". LBC. Retrieved 6 July 2023.

외부 링크