Dalam alam akhirat digital, di mana teknologi AI membolehkan perbualan dengan si mati, kebimbangan tentang sempadan etika dan potensi bahaya telah diketengahkan oleh saintis Universiti Cambridge. Digelar sebagai “deadbots” atau “griefbots,” chatbots berkuasa AI ini direka bentuk untuk meniru bahasa dan personaliti orang tersayang yang telah meninggal dunia, menawarkan ketenangan kepada mereka yang berduka. Walau bagaimanapun, kajian baru-baru ini memberi amaran bahawa inovasi ini boleh membawa kepada akibat yang tidak diingini, termasuk apa yang disifatkan oleh penyelidik sebagai “hantu digital” yang tidak mempunyai standard keselamatan.
Implikasi etika teknologi sedemikian digariskan oleh pengalaman individu seperti Joshua Barbeau, yang menggunakan versi awal teknologi AI yang dikenali sebagai Project December untuk bercakap dengan replika digital tunangnya yang telah meninggal dunia. Dengan menyediakan AI dengan sampel teks dan perihalan peribadinya, Barbeau menyaksikan respons seperti hidup yang menimbulkan kebimbangan tentang potensi penyalahgunaan teknologi sedemikian, termasuk penyisipan iklan yang menyamar sebagai pemikiran si mati.
Selain itu, ahli psikologi menekankan kesan teknologi ini terhadap kanak-kanak yang menghadapi kehilangan, menimbulkan persoalan tentang maruah si mati dan kesejahteraan orang yang masih hidup. Profesor Ines Testoni dari Universiti Padova menekankan kesukaran untuk berpisah dengan orang tersayang yang telah meninggal dunia, menekankan kepentingan memahami kematian dan akibatnya. Untuk menggambarkan potensi risiko, ahli etika AI Cambridge menggariskan tiga senario hipotetikal di mana griefbots boleh mendatangkan bahaya.
Ini termasuk simulasi tanpa kebenaran individu yang meninggal dunia mempromosikan produk komersial, kekeliruan yang timbul daripada interaksi tidak realistik yang membawa kepada kelewatan dalam penyembuhan, dan pengenaan kehadiran digital ke atas penerima yang tidak mahu, menyebabkan tekanan emosi dan rasa bersalah. Kajian ini menyokong pelaksanaan proses reka bentuk berasaskan persetujuan untuk griefbots, menggabungkan mekanisme memilih keluar dan sekatan umur. Tambahan pula, ia menyeru ritual baharu untuk menghentikan replika digital ini dengan hormat, mempersoalkan sama ada teknologi sedemikian hanya melambatkan proses kesedihan.
Dr. Katarzyna Nowaczyk-Basińska, pengarang bersama kajian itu, menyerlahkan kerumitan etika AI dalam dunia akhirat digital, menekankan keperluan untuk mengutamakan maruah si mati dan melindungi hak kedua-dua penderma data dan pengguna. Memandangkan penggunaan AI dalam alam akhirat digital terus berkembang, pertimbangan etika kekal diutamakan dalam mengemudi wilayah yang belum dipetakan ini. Di China, industri replika yang dijana oleh AI bagi orang tersayang yang telah meninggal dunia memberikan ketenangan kepada mereka yang berkabung sambil menimbulkan persoalan etika yang penting. Syarikat seperti Silicon Intelligence memanfaatkan kemajuan dalam teknologi AI untuk mencipta avatar digital yang mensimulasikan perbualan dengan orang mati, menawarkan keselesaan kepada individu seperti Sun Kai, yang ingin mengekalkan hubungan dengan arwah ibunya.
Permintaan untuk perkhidmatan ini menekankan tradisi budaya berkomunikasi dengan orang mati, tetapi pengkritik mempersoalkan sama ada berinteraksi dengan replika AI adalah cara yang sihat untuk memproses kesedihan. Walaupun had teknologi dan ketidaktentuan etika, pasaran untuk keabadian digital berkembang pesat, dengan harga jatuh dan kebolehcapaian meningkat. Avatar yang dijana AI, serupa dengan deepfakes, bergantung pada input data seperti foto, video dan teks untuk meniru rupa dan corak pertuturan individu yang telah meninggal dunia. Kemajuan pesat China dalam teknologi AI telah menjadikan perkhidmatan sedemikian lebih mudah diakses, dengan syarikat seperti Silicon Intelligence menawarkan pilihan yang boleh disesuaikan daripada aplikasi interaktif kepada paparan tablet.
Walaupun sesetengah melihat replika ini sebagai terapeutik, yang lain menimbulkan kebimbangan tentang keaslian interaksi dan implikasi etika untuk mereplikasi si mati tanpa persetujuan mereka. Selain itu, cabaran teknikal seperti mereplikasi pergerakan badan dan mendapatkan data latihan yang mencukupi menimbulkan halangan yang ketara. Dilema etika yang mengelilingi replika AI ditunjukkan oleh insiden kontroversi yang melibatkan sebuah syarikat di Ningbo, yang menggunakan AI untuk mencipta video selebriti yang telah meninggal dunia tanpa kebenaran. Insiden itu mencetuskan bantahan orang ramai dan menekankan keperluan untuk garis panduan etika yang jelas dalam bidang teknologi akhirat digital yang sedang berkembang.