AI 기술이 고인과 대화를 가능하게 하는 디지털 사후 세계의 영역에서 케임브리지 대학교 과학자들은 윤리적 경계와 잠재적인 피해에 대한 우려를 가장 먼저 제기했습니다. “데드봇” 또는 “그리프봇”이라고 불리는 이 AI 기반 챗봇은 세상을 떠난 사랑하는 사람의 언어와 성격을 모방하여 유족에게 위로를 제공하도록 설계되었습니다. 그러나 최근 연구에서는 이러한 혁신이 연구자들이 안전 표준이 부족한 “디지털 유령”이라고 묘사하는 것을 포함하여 의도하지 않은 결과를 초래할 수 있다고 경고합니다.
그러한 기술의 윤리적 의미는 Project 12월로 알려진 초기 버전의 AI 기술을 사용하여 사망한 약혼자의 디지털 복제물과 대화한 Joshua Barbeau와 같은 개인의 경험을 통해 강조되었습니다. Barbeau는 AI에 자신의 텍스트 샘플과 개인 설명을 제공함으로써 고인의 생각으로 위장한 광고 삽입을 포함하여 해당 기술의 잠재적인 오용에 대한 우려를 불러일으키는 생생한 반응을 목격했습니다.
더욱이 심리학자들은 이러한 기술이 상실을 극복하는 어린이들에게 미치는 영향을 강조하면서 고인의 존엄성과 산 자의 안녕에 대한 의문을 제기합니다. 파도바 대학 의 이네스 테스토니(Ines Testoni) 교수는 세상을 떠난 사랑하는 사람과 헤어지는 것이 어렵다는 점을 강조하고 죽음과 그 여파를 이해하는 것이 중요하다고 강조합니다. 잠재적인 위험을 설명하기 위해 Cambridge AI 윤리학자들은 그리프봇이 피해를 입힐 수 있는 세 가지 가상 시나리오를 설명합니다.
여기에는 상업용 제품을 홍보하는 사망한 개인에 대한 무단 시뮬레이션, 치유 지연으로 이어지는 비현실적인 상호 작용으로 인한 혼란, 원치 않는 수신자에게 디지털 존재를 부과하여 정서적 고통과 죄책감을 유발하는 행위가 포함됩니다. 이 연구는 옵트아웃 메커니즘과 연령 제한을 통합하여 그리프봇에 대한 동의 기반 설계 프로세스의 구현을 옹호합니다. 더욱이 이러한 기술이 애도 과정을 지연시킬 뿐인지 의문을 제기하면서 이러한 디지털 복제본을 정중하게 폐기하는 새로운 의식이 필요합니다.
연구의 공동 저자인 Katarzyna Nowaczyk-Basińska 박사는 디지털 내세에서 AI의 윤리적 복잡성을 강조하고, 고인의 존엄성을 우선시하고 데이터 기증자와 사용자 모두의 권리를 보호해야 할 필요성을 강조합니다. 디지털 사후 세계 영역에서 AI의 사용이 계속해서 발전함에 따라 이 미지의 영역을 탐색하는 데 있어 윤리적 고려 사항이 여전히 중요합니다. 중국에서는 AI로 생성된 사망한 사랑하는 사람의 복제품 산업이 급성장하면서 애도자들에게 위안을 제공하는 동시에 중요한 윤리적 문제를 제기하고 있습니다. Silicon Intelligence 와 같은 회사는 AI 기술의 발전을 활용하여 죽은 자와의 대화를 시뮬레이션하는 디지털 아바타를 만들어 돌아가신 어머니와의 관계를 유지하려는 Sun Kai와 같은 개인에게 편안함을 제공하고 있습니다.
이러한 서비스에 대한 수요는 죽은 자와 소통하는 문화적 전통을 강조하지만, 비평가들은 AI 복제본과 상호 작용하는 것이 슬픔을 처리하는 건전한 수단인지 의문을 제기합니다. 기술적 한계와 윤리적 불확실성에도 불구하고 디지털 불멸성 시장은 가격이 하락하고 접근성이 높아지면서 급성장하고 있습니다. 딥페이크와 유사한 AI 생성 아바타는 사진, 비디오, 텍스트 등의 데이터 입력을 사용하여 사망한 개인의 모습과 음성 패턴을 복제합니다. 중국의 AI 기술의 급속한 발전으로 인해 Silicon Intelligence와 같은 회사가 대화형 앱에서 태블릿 디스플레이에 이르기까지 맞춤형 옵션을 제공하면서 이러한 서비스에 대한 접근성이 더욱 높아졌습니다.
어떤 사람들은 이러한 복제물을 치료용으로 보는 반면, 다른 사람들은 상호 작용의 진정성과 동의 없이 죽은 자를 복제하는 것이 윤리적으로 미치는 영향에 대해 우려를 제기합니다. 또한 신체 움직임을 복제하고 충분한 훈련 데이터를 얻는 것과 같은 기술적 과제는 상당한 장애물을 제기합니다. AI 복제품을 둘러싼 윤리적 딜레마는 AI를 사용해 동의 없이 사망한 유명인의 동영상을 제작한 닝보 의 한 회사와 관련된 논란의 여지가 있는 사건에서 예시되었습니다. 이 사건은 대중의 항의를 촉발시켰으며 급성장하는 디지털 사후세계 기술 분야에 명확한 윤리 지침의 필요성을 강조했습니다.