Revolusi hubungan digital yang mengkhawatirkan

Kecerdasan buatan (AI) kini semakin menyentuh aspek kehidupan pribadi kita, terutama dalam hubungan emosional dan interaksi sosial.

AI seperti chatbot, misalnya, dirancang untuk meniru interaksi manusia hingga hubungannya terasa sangat nyata. Hal ini membuat banyak orang merasa terikat secara emosional dengan AI atau bahkan bisa mengalami interaksi sosial seperti tertawa bersama “pembawa acara podcast virtual”.

Lebih jauh lagi, AI mulai digunakan dalam konteks yang lebih intim. Penelitian menunjukkan bahwa bermain peran seksual (sexual roleplay) adalah salah satu penggunaan paling umum dari teknologi AI Generatif seperti ChatGPT.

Jutaan orang juga menggunakan sistem AI yang dirancang sebagai teman virtual, seperti Character.AI, Replika, dan Chai.AI.

Apa artinya fenomena ini untuk masa depan hubungan romansa manusia? Prospeknya sangat mengkhawatirkan.

Bersikaplah baik pada “penguasa” AI

Salah satu layanan teman virtual berbasis AI paling populer adalah Replika. Layanan yang telah digunakan oleh lebih dari 30 juta pengguna ini memungkinkan penggunanya untuk membuat “pacar digital” yang disesuaikan dengan preferensi mereka.

Penelitian awal
menunjukkan bahwa sebagian besar pengguna Replika adalah pria, ras Kaukasia, dan berusia di bawah 30 tahun–tetapi kini demografi lain juga mulai tertarik dan menggunakan layanan tersebut.

Replika menawarkan layanan berlangganan yang memungkinkan pengguna berinteraksi dengan pasangan AI mereka secara intim, termasuk bertukar pesan atau gambar pribadi. Sebelum Replika menghentikan sementara fitur “roleplay erotis” pada awal 2023 karena kekhawatiran tentang regulasi, lebih dari setengah juta pengguna telah berlangganan layanan ini.

Penghapusan fitur tersebut mendapat reaksi keras dari para pengguna. Mereka menyebut Replika sebagai “Lobotomi“–sebuah kiasan yang menggambarkan rasa kecewa pengguna terhadap penghapusan fitur yang dinilai esensial dalam interaksi mereka dengan pasangan AI.

Istilah tersebut dilontarkan sebagai kritik terhadap pencipta aplikasi yang memiliki kendali penuh atas eksistensi dan perilaku pasangan virtual yang digunakan oleh jutaan pengguna. Pengembang aplikasi dapat mengubah atau bahkan mematikan “pacar AI” jutaan pengguna kapan saja, tanpa membutuhkan persetujuan pengguna.

Selain itu, pengembang aplikasi juga memantau semua percakapan pengguna dengan AI untuk tujuan meningkatkan pengalaman pengguna di masa depan—dan tentu saja juga demi kepentingan iklan.

Namun, hal-hal ini tampaknya tidak menghambat industri ini berkembang. Produk-produk baru terus bermunculan. Salah satu perusahaan seperti Kindroid misalnya, kini menawarkan layanan obrolan suara yang memungkinkan pengguna berinteraksi dengan hingga sepuluh teman virtual sekaligus.

Perkembangan AI dan robot seks juga tidak terbatas pada dunia digital saja. Perusahaan penjual boneka seks, seperti Joy Love Dolls, menawarkan robot seks interaktif (sexbot) yang dirancang sangat mirip dengan manusia.

Pengguna sexbot ini tak hanya dapat menyesuaikan berbagai fitur fisik seperti warna kulit dan ukuran payudara, tetapi juga bisa mengendalikan fitur interaktif seperti gerakan, pemanasan suhu, dan suara—dengan kemampuan boneka ini untuk merespons dengan “erangan, jeritan, dan rayuan,” sehingga dipromosikan sebagai “pasangan yang hebat.”

Saat ini pasar teman virtual dan AI sexbot memang masih jauh lebih kecil dibandingkan dengan platform media sosial yang memiliki miliaran pengguna. Namun jika kita belajar dari sejarah perusahaan besar seperti Facebook, Google, dan Amazon, apa yang dianggap aneh dan unik di masa kini bisa saja memiliki potensi untuk tumbuh menjadi raksasa global di masa depan.

Menuju ‘pacar AI’ yang beretika?

Kemajuan teknologi AI dalam hubungan intim berpotensi memunculkan implikasi etis. Dengan kemampuan untuk memodifikasi pasangan AI sesuai keinginan pengguna, muncul pertanyaan mengenai batasan etika dan dampak dari interaksi ini.

Misalnya, pengguna dapat menyesuaikan sifat atau perilaku pasangan AI—seperti menonaktifkan fitur “cemburu”—yang mungkin tidak bisa dilakukan dalam hubungan manusia yang nyata.

Selain itu, pengguna dapat membuat beberapa pacar virtual sekaligus, yang selalu siap memenuhi keinginan mereka kapan saja. Fenomena ini mendorong diskusi mengenai bagaimana mengembangkan dan memperlakukan ‘pacar AI’ dengan cara yang etis, serta mempertimbangkan dampak jangka panjang terhadap hubungan sosial.

Aplikasi kencan seperti Tinder dan Bumble telah mengubah cara orang membangun hubungan. Kehadiran “pacar AI” ini mungkin akan lebih mengganggu. Bayangkan jika di masa depan orang-orang harus bersaing mencari cinta dengan sosok AI yang sempurna, yang tidak pernah lelah dan selalu bergairah.

Para pengguna juga mungkin akan menciptakan replika virtual dari pengalaman kencan yang tidak berhasil, memungkinkan mereka untuk merasakan kembali momen-momen tersebut dalam situasi yang lebih ideal.

Potensi penyalahgunaan AI kini semakin mengkhawatirkan. Investigasi ABC mengungkapkan meluasnya penggunaan AI generatif dalam menciptakan influencer palsu untuk konten pornografi, dengan memanipulasi foto wanita di media sosial tanpa persetujuan yang bersangkutan.

Konten tersebut sering menggambarkan standar kecantikan yang tidak realistis dan, dalam beberapa kasus, melibatkan individu yang tampaknya masih di bawah umur, menimbulkan masalah etika dan hukum.

Selain itu, teknologi AI sexbot juga bisa saja menghidupkan kembali selebriti yang telah meninggal seperti Marilyn Monroe dan Clara Bow. Hal ini menciptakan dilema moral karena individu yang sudah meninggal tidak dapat memberikan persetujuan atau menolak untuk digunakan dalam konteks yang mungkin tidak mereka setujui jika mereka masih hidup.

Replika sendiri terinspirasi dari keinginan pendirinya untuk menghidupkan kembali sahabatnya yang telah meninggal melalui chatbot.

Banyak pengguna aplikasi ini semula memanfaatkannya untuk menjaga kenangan orang-orang terkasih yang sudah meninggal tetap hidup, tapi kini pemanfaatannya berkembang lebih jauh.

Muncul juga kekhawatiran akan potensi manipulasi emosional melalui AI yang bisa saja dilakukan oleh para penipu ulung dan diktator. Bayangkan malapetaka yang akan terjadi jika pemimpin negara otoriter, seperti Vladimir Putin dari Rusia atau Kim Jong-un dari Korea Utara, memanfaatkan teknologi ini untuk melengkapi operasi spionase siber mereka yang sudah luas.

Mungkin tidak lama lagi kita akan melihat perusahaan-perusahaan menawarkan pacar AI yang “berasal dari sumber yang bertanggung jawab” untuk menciptakan narasi tentang penggunaan teknologi AI dengan cara yang lebih etis. Ini mencakup pengembangan pacar AI yang diciptakan secara ‘organik’ dari konten yang ‘dipanen’ secara konsensual serta mempromosikan pornografi yang dapat diterima secara sosial.

Masyarakat dan negara harus bertindak sekarang

Dengan kesepian yang semakin merajalela di dunia modern–terutama di negara-negara maju–permintaan terhadap sexbot tampaknya akan terus tumbuh.

Survei menunjukkan bahwa satu dari empat orang di negara-negara yang tergabung dalam Organisasi Kerja Sama dan Pembangunan Ekonomi (OECD) dilaporkan tidak memiliki hubungan sosial yang bermakna. Jika tidak ada aturan jelas yang ditetapkan, perusahaan akan terus mengeksploitasi situasi ini demi meraih keuntungan.

Seks dan teknologi selalu berkembang bersama sepanjang sejarah. Eksploitasi seksual dan pencarian untuk memenuhi hasrat seksual telah ada sejak lama: layaknya prostitusi yang dianggap sebagai “profesi tertua”, situs-situs pornografi menjadi salah satu sudut pertama di internet.

Namun teknologi baru AI ini membuat kita menghadapi sesuatu yang belum pernah terjadi sebelumnya: mesin yang didesain untuk memenuhi hasrat paling intim kita, sepenuhnya dikendalikan oleh perusahaan besar.

Para pengguna juga tentu tidak sepenuhnya tak bersalah dalam hal ini. Menggantikan manusia sungguhan dengan mesin nafsu yang sepenuhnya patuh adalah sesuatu yang kejam.

Penelitian awal menunjukkan bahwa narsisme lazim terjadi di antara pengguna teknologi ini. Dengan kata lain, teknologi tersebut memungkinkan untuk memfasilitasi perilaku menyimpang menjadi sesuatu yang dianggap biasa. Sementara normalisasi perilaku seksual berbahaya seperti pemerkosaan, sadisme, atau pedofilia merupakan ancaman serius bagi masyarakat.

Namun, mengejar pengguna sebagai sasaran utama tampaknya bukan solusi yang efektif untuk masalah ini. Kita perlu memperlakukan penggunaan sexbot layaknya perilaku menyimpang lainnya, seperti perjudian.

Oleh karena itu, isu utama masalah ini lebih terletak pada penyedia daripada pengguna. Jadi, saatnya kita menuntut akuntabilitas dari penyedia sexbot. Dengan hubungan manusia yang semakin erat dengan teknologi AI, kita tidak memiliki banyak waktu untuk disia-siakan.