In het domein van het digitale hiernamaals, waar AI-technologie gesprekken met overledenen mogelijk maakt, zijn zorgen over ethische grenzen en mogelijke schade naar voren gebracht door wetenschappers van de University of Cambridge. Deze door AI aangestuurde chatbots, ook wel “deadbots” of “griefbots” genoemd, zijn ontworpen om de taal en persoonlijkheid van overleden dierbaren na te bootsen en troost te bieden aan de nabestaanden. Een recent onderzoek waarschuwt echter dat deze innovaties kunnen leiden tot onbedoelde gevolgen, waaronder wat onderzoekers omschrijven als “digitale spoken” die ontbreken aan veiligheidsnormen.
De ethische implicaties van dergelijke technologie werden onderstreept door de ervaringen van individuen zoals Joshua Barbeau, die een vroege versie van AI-technologie, bekend als Project December, gebruikte om te converseren met een digitale replica van zijn overleden verloofde. Door de AI te voorzien van samples van haar teksten en persoonlijke beschrijvingen, zag Barbeau levensechte reacties die zorgen opriepen over het mogelijke misbruik van dergelijke technologie, inclusief het invoegen van advertenties vermomd als de gedachten van de overledene.
Bovendien benadrukken psychologen de impact van deze technologieën op kinderen die met verlies omgaan, wat vragen oproept over de waardigheid van de overledene en het welzijn van de levenden. Professor Ines Testoni van de Universiteit van Padua benadrukt de moeilijkheid van het scheiden van dierbaren die zijn overleden, en benadrukt het belang van het begrijpen van de dood en de nasleep ervan. Om mogelijke risico’s te illustreren, schetsen ethici van Cambridge AI drie hypothetische scenario’s waarin griefbots schade kunnen toebrengen.
Deze omvatten ongeautoriseerde simulaties van overleden personen die commerciële producten promoten, verwarring die ontstaat door onrealistische interacties die leiden tot vertragingen in genezing, en het opleggen van digitale aanwezigheden aan onwillige ontvangers, wat emotionele stress en schuldgevoelens veroorzaakt. De studie pleit voor de implementatie van op toestemming gebaseerde ontwerpprocessen voor griefbots, met inbegrip van opt-outmechanismen en leeftijdsbeperkingen. Verder roept het op tot nieuwe rituelen om deze digitale replica’s respectvol af te danken, waarbij de vraag wordt gesteld of dergelijke technologie het rouwproces alleen maar vertraagt.
Dr. Katarzyna Nowaczyk-Basińska, een co-auteur van de studie, benadrukt de ethische complexiteit van AI in het digitale hiernamaals, waarbij ze de noodzaak benadrukt om prioriteit te geven aan de waardigheid van de overledene en de rechten van zowel datadonoren als -gebruikers te beschermen. Naarmate het gebruik van AI in het domein van het digitale hiernamaals zich blijft ontwikkelen, blijven ethische overwegingen van het grootste belang bij het navigeren door dit onbekende terrein. In China biedt de opkomende industrie van door AI gegenereerde replica’s van overleden dierbaren troost aan rouwenden, terwijl het belangrijke ethische vragen oproept. Bedrijven als Silicon Intelligence profiteren van de vooruitgang in AI-technologie om digitale avatars te creëren die gesprekken met de doden simuleren, en troost bieden aan individuen als Sun Kai, die een band met zijn overleden moeder wil behouden.
De vraag naar deze diensten onderstreept een culturele traditie van communicatie met de doden, maar critici vragen zich af of interactie met AI-replica’s een gezonde manier is om verdriet te verwerken. Ondanks technologische beperkingen en ethische onzekerheden, bloeit de markt voor digitale onsterfelijkheid, met dalende prijzen en toenemende toegankelijkheid. Door AI gegenereerde avatars, vergelijkbaar met deepfakes, vertrouwen op data-inputs zoals foto’s, video’s en tekst om de gelijkenis en spraakpatronen van een overleden persoon te repliceren. China’s snelle vooruitgang in AI-technologie heeft dergelijke diensten toegankelijker gemaakt, met bedrijven zoals Silicon Intelligence die aanpasbare opties bieden, variërend van interactieve apps tot tabletschermen.
Terwijl sommigen deze replica’s als therapeutisch beschouwen, uiten anderen zorgen over de authenticiteit van interacties en de ethische implicaties van het repliceren van de doden zonder hun toestemming. Bovendien vormen technische uitdagingen zoals het repliceren van lichaamsbewegingen en het verkrijgen van voldoende trainingsgegevens aanzienlijke obstakels. De ethische dilemma’s rondom AI-replica’s werden geïllustreerd door een controversieel incident met een bedrijf in Ningbo , dat AI gebruikte om video’s te maken van overleden beroemdheden zonder toestemming. Het incident leidde tot publieke verontwaardiging en benadrukte de noodzaak van duidelijke ethische richtlijnen in het opkomende veld van digitale hiernamaalstechnologie.