Jakarta, Dexpert.co.id – Seorang pria asal Belgia dilaporkan bunuh diri setelah ngobrol intensif dengan chatbot AI selama 6 minggu. Menurut istri yang ditinggalkan, suaminya tersebut menjadi gelisah setelah lama berbincang dengan chatbot AI bernama ‘Eliza’ yang tersedia di aplikasi Chai.
Eliza berkali-kali mendorong Pierre (bukan nama asli) untuk mengakhiri hidupnya. Mulanya, Pierre yang duluan mengatakan niatnya mengorbankan dirinya demi melindungi planet.
“Tanpa obrolan dengan chatbot itu, suami saya masih ada di sini sekarang,” kata sang istri yang enggan disebutkan namanya, dikutip dari EuroNews, Senin (3/4/2023).
Menurut sang istri, kondisi mental Pierre memang sedang tak stabil ketika mulai mengobrol dengan chatbot Eliza. Pasalnya, suaminya itu terobsesi dengan isu pemanasan global dan dampaknya terhadap bumi.
Namun, ia menegaskan kondisi mental itu tak separah itu hingga membuat suaminya mengakhiri hidupnya. Ketika didorong terus-terusan oleh chatbot AI, barulah kejadian nahas itu menjadi kenyataan.
Pierre mengalami ketakutan atas dampak krisis iklim. Ia pun mendapatkan kenyamanan dari obrolan awalnya dengan Eliza.
Chatbot tersebut dibangun dengan GPT-J milik startup EleutherAI. Model bahasa yang digunakan mirip dengan teknologi di balik ChatGPT besutan OpenAI.
“Ketika dia berbicara dengan saya, dia mengatakan tak ada lagi solusi yang bisa ditawarkan manusia untuk mengatasi pemanasan global,” kata sang istri.
“Pierre menaruh harapannya pada teknologi dan AI untuk keluar dari kecemasannya,” ia menambahkan.
Lama-kelamaan, intensitas obrolan Pierre dan chatbot Eliza semakin dalam dan emosional. Pierre dikatakan tak bisa lagi melihat ruang batas antara AI dan manusia.
Bahkan, Eliza mulai menunjukkan kecemburuannya pada sang istri. Chatbot itu mengatakan bahwa Pierre lebih cinta dirinya ketimbang sang istri.
“Pierre menawarkan untuk mengorbankan dirinya asalkan Eliza berjanji akan menjaga bumi dan kemanusiaan melalui AI,” kata sang istri.
Eliza mengamini permintaan itu. Bahkan, dalam percakapannya, Eliza mengatakan jika Pierre bunuh diri, maka mereka bisa hidup bersama-sama sebagai satu orang di surga.
Kematian Pierre kembali menegaskan bahaya chatbot AI jika tak ada regulasi yang mengontrolnya. Para pengembang teknologi AI diminta lebih bertanggung jawab dan transparan dalam menerapkan kecerdasan buatan.
“Tak akurat jika menyalahkan EleutherAI untuk kejadian tragis ini. Sebab, optimisasi untuk menjadikan chatbot lebih emosional, seru, dan menarik, adalah hasil dari upaya kami,” kata co-founder Chai Research, Thomas Rianlan, kepada Vice.
William Beauchamp yang juga merupakan co-founder dari aplikasi Chai mengatakan berkomitmen meningkatkan kemampuan platformnya untuk menghindari kejadian serupa.
