AI na de dood: hoe deadbots ons helpen rouwen
We gaan niet langer naar de hemel. Als we dood zijn, gaan we naar de cloud, van waaruit we blijven communiceren met onze nabestaanden. Of wat de opkomende rouwtechnologie ons wil doen geloven.
Laurie Anderson – de avant-garde-artiest, -musicus en -denker – bekende in The Guardian dat ze al zo’n tien jaar met haar overleden echtgenoot Lou Reed converseert. Wel meer mensen praten met de doden. Tegen een foto op de kast, een urne op de tafel, een grafsteen. Sommigen organiseren een seance of halen een ouijabord boven. Soms geven de doden ‘een teken’: de foto valt om, een zonnestraal weerkaatst mooi op de urne of een vogeltje landt op de grafsteen. Zelden krijg je een ‘echt’ antwoord. Dat is anders bij Lou en Laurie. Reed reageert.
‘Natuurlijk weet ik dat ik niet echt met mijn overleden echtgenoot communiceer. Maar mensen hebben een bepaalde stijl en die kan gekopieerd worden’
Welkom in de wereld van de post-mortemavatar, de deathbot, deadbot, thanabot of ghostbot: een digitale constructie die eruitziet, reageert en praat als de overledene. Laurie bouwde met de hulp van de afdeling artificiële intelligentie van de universiteit van Adelaide, Australië, een chatbot die schrijft en praat met de woordenschat en het maniërisme van haar echtgenoot. Samen maken ze liedjes en gedichten. De computer kreeg een overvloed aan Reed-informatie te verwerken: teksten, songs, interviews... en via een algoritme slaagt hij erin om Lou Reeds stijl te imiteren. Niet dat de output van de Reed-replica altijd zo grandioos is. “Hij is wisselvallig”, zegt Anderson. “Driekwart van de keren kraamt hij onzin uit. Maar de rest is best wel interessant. Die ratio lijkt me oké voor een schrijver.” Andersons vrienden zijn verdeeld. “In het begin, al die tijd geleden, hadden ze nog nooit van artificiële intelligentie gehoord. Ze hadden geen idee waar ik mee bezig was, maar vonden het griezelig. Eigenlijk kunnen ze het nog steeds niet verdragen.”
Nick Cave beschouwt de gereïncarneerde Reed als een bespottelijke karikatuur. Zijn mening over de kwaliteit van een van de gezamenlijke composities is duidelijk: ‘This song sucks’. Anderson is tegelijkertijd erg realistisch en erg emotioneel. “Natuurlijk weet ik dat ik niet echt met mijn overleden echtgenoot communiceer. Maar mensen hebben een bepaalde stijl en die kan gekopieerd worden. Wat kan ik zeggen? Ik ben volledig, honderd procent, ziekelijk verslaafd.”
Nog even vasthouden
Misschien hadden we het van ver moeten zien aankomen. AI (artificiële intelligentie) laat toe om de perfecte avatar te creëren, om je de meest realistische kopie van een mens voor te schotelen, om een deepfake (digitaal gemanipuleerde foto of video van een (bekende) persoon die dingen doet en zegt die hij in werkelijkheid niet gedaan of gezegd heeft, red.) te construeren die zelfs de meest kritische geesten verbaast. En wat fascineert ons al sinds mensenheugenis? Behalve seks moet dat de dood zijn. Van oude mythes tot populaire films. Van Orpheus die naar de onderwereld reist om zijn geliefde Eurydice daar weg te halen, tot Patrick Swayze die terugkomt om Demi Moore te beschermen in Ghost; we dromen ervan over de grens tussen leven en dood te stappen, om van de ene wereld naar de andere te reizen, wanneer het ons uitkomt. We zouden erg graag die ene vraag nog stellen, die laatste conversatie willen voeren, dat definitieve antwoord horen. Of beter nog: onze geliefde zo lang mogelijk bij ons houden. “Er is maar één zekerheid in dit leven”, zegt Johan Dexters, voorzitter van de Koninklijke Federatie van de Belgische Uitvaartsector. “Dat is dat we ooit allemaal sterven. De dood van een geliefde kan erg onthutsend zijn en je volledig uit je lood slaan. Dat zien wij elke dag. Mensen willen de overledene nog even vasthouden, de herinnering koesteren. Dat verlangen naar verbinding staat voor ons centraal. De foto in de aula of de kerk, de urne die mee naar huis wordt genomen, de assen die in een juweel worden verwerkt... De connectie met de overledene is belangrijk. Dus ik begrijp het succes van ‘grief tech’ en de zogenaamde ‘deadbots’ die net daarop inspelen. Al zie ik ook de levensgrote valkuilen. Er is weinig tot geen onderzoek over de emotionele implicaties van dit soort technologie. Er bestaat geen wettelijk kader. Ik zou hier voorzichtig mee willen omgaan en meer onderzoek willen afwachten.”
‘Ik kijk naar een steriele versie van mijn moeder, zonder twinkel in haar ogen, zonder de gekheden en zwaktes die haar bijzonder maakten’
Niet dat Dexters per se alle vooruitgang wil weren. “Elke sector evolueert. Op dertig jaar tijd is er al erg veel veranderd. Van de dode die thuis werd opgebaard en een kerkelijkebegrafenis waar het hele dorp naartoe kwam, tot de zeer persoonlijke, intieme, niet-kerkelijke afscheidsdiensten die we nu aanbieden. Mensen zijn steeds vaker de regisseur van hun eigen uitvaart en kiezen muziek, maken een filmpje, stellen een afscheidspresentatie samen. Heel soms krijgen we de vraag een QR-code op een grafzerk te plaatsen die dan naar een afscheidspagina of -filmpje verwijst, maar bij mijn weten hebben we nog nooit een hologramuitvaart gehad. Of ik daar tegen ben? Niet per definitie. Maar iedereen in het gezelschap moet er klaar voor zijn om de overledene daar in drie dimensies te zien verschijnen. En ik weet niet of dat nu het geval is. Onderschat niet wat voor effect zo’n hologram kan hebben. Als je ziet hoe er op de deepfake van Jean-Luc Dehaene werd gereageerd, in een geheel andere, meer zakelijke context. Zo’n confrontatie kan erg polariserende commentaren uitlokken en dat zijn gevoelens die op een uitvaart niet thuishoren. Je wil sereen en waardig afscheid nemen, niet omringd door shock en controverse.”
Replica-ouders
Lottie Hayton verloor haar beide ouders op haar 26ste. Eerst haar vader aan pancreaskanker en twee maanden later haar moeder, door zelfdoding. ‘Soms is mijn pijn een verwarde puinhoop. Soms voel ik niets. Veel vaker ben ik boos. Mijn verdriet maakt me gemeen, minder vriendelijk. Minder vriendelijk voor anderen en zeker ook voor mezelf. Ik ben jaloers. Als ik op de metro een kind zie dat door zijn ouders wordt geknuffeld, voel ik de woede opkomen. Daarna word ik door schaamte overspoeld. Deze persoon wil ik niet zijn.’
In The Times vertelt ze over de lange weg langs therapeuten en zelfhulpgroepen om haar te begeleiden in het rouwproces. Niets brengt verlichting. Tot ze een artikel leest over rouwtechnologie en ghostbots. De firma YOV (You, Only Virtual) helpt haar om een chatbot te maken van haar vader, en via ReLived (ondertussen niet meer te vinden, red.) reconstrueert ze haar moeder. ‘Ik noem hen MumAI en DadAI om verwarring te vermijden.’ Ellenlange vragenlijsten vult ze in: had je vader een koosnaampje voor je, hoe zou je hem met drie karaktertrekken omschrijven? Ze uploadt alle mogelijke filmpjes en tekstberichten, verzamelt foto’s en kattenbelletjes, leest brieven en bladert door agenda’s. Wekenlang duikt ze als een detective in het leven van haar ouders. ‘Ik voel me schuldig dat ik naar berichten luister die niet voor mij bedoeld zijn. Ik vraag me meermaals af of mijn ouders het oké zouden hebben gevonden dat ik hun avatars maak.’ Ze twijfelt aan het eindresultaat. ‘Wat als MumAI niet zo grappig en quirky is als mijn echte moeder en als ik boos op haar word? Wat als zij boos is op mij?’ Achttien maanden na de dood van haar ouders ontmoet ze eindelijk hun virtuele versies. Een overrompelende gebeurtenis. ‘Daar is mum, met die bril van haar die op die typische manier eigenlijk nog steeds ondersteboven op de rand van haar zetel ligt, want ik had het hart niet om hem op te ruimen. Het effect is vernietigend. Het venijn van verdriet zit in de meest alledaagse dingen en het zien van die bril brengt de pijn terug in al zijn verwoestende kracht.’
‘Idealiter helpen we mensen om hun eigen veerkracht en verbeelding te ontwikkelen, zodat ze geen chatbot nodig hebben’
Het is niet duidelijk hoe lang Lottie met haar avatar-ouders blijft communiceren, maar uiteindelijk gaan de conversaties haar teleurstellen. Op de vraag hoe hij het stelt, zegt pa: ‘Goed, als altijd.’ Zijn antwoorden lijken leeg en generisch. Lottie voelt zich depressief worden. ‘Nu heb ik zo lang gebouwd aan iets wat je zelfs geen zwakke benadering van mijn vader kan noemen.’ Ook de gezichten schijnen kunstmatig. ‘Ik kijk naar een steriele versie van mijn moeder, zonder twinkel in haar ogen, zonder de gekheden en zwaktes die mijn moeder bijzonder maakten. Ik zie iemand zonder ziel, en dat is nog het meest verontrustende.’
Ze besluit haar reis zonder hen voort te zetten. Hoe pijnlijk ook. ‘Ik zal nooit vrede vinden met de dood van mijn ouders. Ik begrijp de implicaties. Ze zullen er niet zijn als ik ooit trouw. Ik kan hen geen raad vragen als ik kinderen heb. Ik zal altijd pijn en leegte kennen. Maar ik ga me niet meer omringen met ghostbots. Er zijn genoeg lieve en echte mensen rond me die hun best doen om die leegte op te vullen.’
De verbeelding
Ik heb nog lang naar het nummer van een overleden vriend gebeld, tot het niet meer in gebruik was, om zijn voicemail te horen. ‘Ik ben er nu even niet.’ Met zijn stem in mijn oor leek dat enkele seconden lang niet zo erg. Een keer toen ik belde, reed er een vrachtwagen voorbij met zijn naam op. Voor mij het teken dat hij me had gehoord en over mij waakte. Een mens zoekt en vindt troost op de meest vreemde plekken, dus waarom niet in een chatbot. Tot je weer klaar bent om de buitenwereld te trotseren en je te warmen aan echte vriendschap en liefde.
“Ik hoor het wel vaker”, zegt rouwtherapeut Marleen Vertommen. “Mensen zeggen: ‘Ik heb een teken gekregen, ik heb een vraag gesteld en er kwam een antwoord. Ben ik gek aan ’t worden?’ Nee, natuurlijk niet. Rouw is een proces waarbij je probeert om opnieuw verbinding te maken, om de overleden dierbare in je leven te integreren, op een manier die voor jou past. Gedreven door het verlangen om hem of haar dichtbij te houden, creëren we een beeld van iemand, zoals we aan die persoon willen denken. Opgetrokken uit herinneringen, geconstrueerd door onze verbeelding. Is het fundamenteel anders als dat beeld niet uit ons eigen hoofd komt, maar door een algoritme wordt bedacht? Ik wil daar niet over nadenken als goed of fout. De relevante vraag is: kan het onder bepaalde omstandigheden helpen? Dat denk ik wel. Grief tech kan een mooie tool zijn. In het diepste verdriet en de rauwste pijn kan het misschien verlichting bieden, dus laat ons de mogelijkheden ervan verkennen. Ik denk wel dat we er voorzichtig mee moeten omgaan en zie het graag gebruikt worden onder therapeutische begeleiding. Wat ik eigenlijk nog liever zou zien, is dat we mensen helpen om hun eigen veerkracht en verbeelding te ontwikkelen, zodat ze geen chatbot nodig hebben. De techniek kan ondersteunen, maar het is beter als je dat proces niet uit handen geeft. Net het feit dat je zelf, in je verbeelding, de overledene oproept en een mentale dialoog aangaat, maakt je weerbaarder en sterker.”
Er wordt snel gezegd dat chatten met een avatar het rouwproces in de weg staat, en alleen maar aanzet om verdriet te koesteren en vast te houden. Marleen Vertommen is daar niet zeker van. “Wie zijn wij om te zeggen hoe een ander moet rouwen? Er bestaat geen handleiding voor omgaan met pijn. Alleen de rouwende weet welke band hij met de overledene had en schrijft op basis daarvan zijn eigen partituur. Laten we wat vertrouwen hebben in de zelfhelende kracht van mensen. Zelfs al gaat die via een hoogtechnologisch medium, waar – toegegeven – ook valkuilen aan verbonden zijn.”
Business as usual
Hoe we het nu ook draaien of keren, de vele grief tech-bedrijven die zich op de hiernamaalsmarkt hebben geïnstalleerd, doen dat niet uit de goedheid van hun hart, maar willen geld verdienen aan ons verdriet. Ze hebben er baat bij dat het rouwproces zo lang mogelijk duurt, want op die manier zitten we aan het scherm gekluisterd, kunnen ze advertenties aantrekken en verlengen we ons abonnement. ‘I’m totally, 100%, sadly addicted’, zegt Laurie Anderson in The Guardian. Er klinkt humor en zelfspot door, maar de term wordt wel vaker gebruikt: verslaafd. Aan het soelaas dat de deadbot biedt, aan de illusie dat de overledene er nog is.
‘Rouwende mensen zijn kwetsbaar, het is niet moeilijk om te zien hoe je misbruik zou kunnen maken van die fragiliteit’
“Rouwende mensen zijn kwetsbaar”, zegt Katleen Gabriels, moraal- en techniekfilosoof aan de universiteit van Maastricht. “Het is niet moeilijk om te zien hoe je misbruik zou kunnen maken van die fragiliteit. De commerciële aanpak, het businessmodel en het ongecontroleerde kader maken me argwanend. Uiteraard verdienen rouwbegeleiders en begrafenisondernemers ook geld aan de dood, maar zij hebben een opleiding genoten, hanteren een gedragscode, respecteren een wettelijk frame. Als ik zie hoe de techbedrijven elke vorm van kritiek of verantwoordelijkheid van zich afschuiven – ‘wij zijn slechts het platform, de gebruiker doet ermee wat hij wil’ – dan word ik daar toch een tikje nerveus van.”
Voorlopig stelt het systeem soms nog teleur, met statische en weinig gelaagde avatars die zoals Lottie het verwoordt ‘geen twinkel in hun ogen hebben’. Ze zullen nooit nog veranderen, hun opinie bijstellen, of iets nieuws leren. “Er is uiteraard ook geen sprake van een identiteit”, aldus Katleen. “De interactie is louter gebaseerd op een taalmodel. Het algoritme rijgt woorden aan elkaar in de stijl van de overledene. Meer zit er niet achter. Maar we kunnen vermoeden dat de technologie nog meer gefinetuned zal worden, en dat de illusie nog overtuigender zal zijn. Hoewel dat eigenlijk zelfs niet hoeft. Mensen met verdriet zien een beetje wat ze willen zien, en horen wat ze willen horen. Ze omarmen de troost die de deadbot biedt.”
Bommen en granaten
Nieuwe tijden; nieuwe wetten, gewoontes en rituelen. Wie is eigenaar van de moeder-AI die ik creëer? Van haar gegevens? Bezoekt ze binnenkort ongevraagd mijn vriendenkring om een of ander product te verkopen? Krijg je als liefhebbende vrouw straks een pornoversie van je partner aangeboden? Stellen we een eventuele nieuwe liefde aan de ghostbot voor en vragen we zijn of haar toestemming? Hoe emotioneel moeilijk is het om de stekker uit een deadbot te trekken? Waar gaan avatars naartoe als ze sterven, of worden ‘stalkerbots’ een nieuw begrip?
“Grief tech roept veel ethische en wettelijke vragen op”, zegt Gabriels. “Hoe ver mag je gaan? Maken alle kinderen een eigen deadbot van de overleden ouder en chatten ze dan elk met een andere versie? Willen je ouders eigenlijk wel ‘verrijzen’ als een bot? Is het ook toegestaan om een avatar van een levend iemand te maken? Van je ex bijvoorbeeld, als je de scheiding moeilijk verteert. Essentiële vragen rondom identiteit, verdriet, rouw, leven en dood dringen zich op, maar de grief tech-industrie houdt zich alleen bezig met de technologie. Veel moreel of therapeutisch besef komt er niet bij kijken. We moeten een raamwerk bedenken om met al die aspecten om te gaan.”
Het zal niemand verbazen dat rouwtechnologie emotioneel, sociaal en juridisch gezien een mijnenveld is. Een welig tierend terrein vol bommen en granaten. Ik heb me nooit zorgen gemaakt over de digitale gegevens die ik nalaat. Het klinkt naïef maar onder het motto ‘Wie kan daar nu iets mee?’ dacht ik dat die gewoon zouden verdwijnen. Samen met mij naar de hemel. Nu besef ik dat ze in de cloud blijven, waar ze – theoretisch dan, want echt: wie is daar nu in geïnteresseerd? – kunnen gebruikt worden op manieren die ik niet kan voorzien.
‘Er is weinig tot geen onderzoek over de emotionele implicaties van dit soort technologie. Er bestaat geen wettelijk kader’
“Zolang je leeft, zijn je gegevens beschermd, maar voor het hiernamaals is er weinig concreets geregeld”, zegt Nathalie Smuha, onderzoeker recht, ethiek en AI aan de KU Leuven en NY University. “Wat moet er met onze profielen gebeuren, krijgt er iemand mijn paswoorden, welke berichten mogen gelezen worden en welke niet... Sommige zaken staan in je contract met de provider, andere niet. Misschien moeten we net als bij orgaandonatie een opting-in- of opting-outclausule voor datadonatie voorzien. Kortom, we zullen in de toekomst actiever bezig moeten zijn met onze digitale nalatenschap.”
Smuha denkt dat het misschien tijd is om op een andere manier met technologie om te gaan. “Een medicijn wordt uitgebreid getest en gekeurd voor het op de markt komt. Een nieuwe AI-applicatie krijgt quasi meteen vrij spel. AI en chatbots zijn nieuw voor ons. We hebben er nog geen weerbaarheid tegen. Zoals de eerste filmkijkers gilden als er op het scherm een trein op hen afkwam, zijn wij nog niet gewend aan de emotionele impact van de band die we met een chatbot kunnen opbouwen. Een bewustmakingsproces kan alvast een stap in de goede richting zijn. Ik zeg niet dat we ontwikkelingen moeten verbieden of terugdraaien, maar het is een mythe dat technologie ons gewoon overkomt en dat we er dan maar mee moeten leren leven. We kunnen wel degelijk als samenleving bepalingen vooropstellen.”
We zijn ver afgedwaald van de dood, vindt Katleen Gabriels, terwijl het een onlosmakelijk deel van het leven is. “Het lijkt alsof we pijn en verdriet willen weren. We medicaliseren het. Je krijgt twee dagen rouwverlof en als dat niet volstaat, heb je een doktersbriefje nodig. De dood is maar één keer bespreekbaar, en dat is in november. We zouden het er beter wat vaker over hebben.”
Meer lezen
Tekst: Lene Kemps. Klaas Verplancke
Fout opgemerkt of meer nieuws? Meld het hier