Kecerdasan Buatan yang Sycophantic, Gangguan Mental, dan Puisi Buatan yang Mencerdaskan

MUNGKIN tanpa disadari kecerdasan buatan telah memicu gangguan mental – terutama pada pengguna yang terindikasi rapuh. Umumnya ini dialami generasi muda, baik generasi Y akhir maupun generasi Z – yang sejak lahir sudah menjadi warga digital. Di usianya, otak umumnya belum dikategorikan matang sehingga pertimbangan logisnya masih sangat kurang. Ini menjadi salah satu alarm bahaya kehidupan virtual yang dirasakan sekarang. Tanpa pengaturan nyata yang berpihak pada kemanusiaan, teknologi digital hanya akan menjadi penghancur peradaban manusia.

Kecerdasan buatan terus berproses pada level yang menguat, perlu ruang yang perlu dicermati dengan serius terkait dampak yang ditimbulkan oleh machine learning. Dengan kemampuan algoritmanya, mampu menerjemahkan instruksi-instruksi yang dituliskan sebagai pemantik (prompting). Sebut saja aplikasi percakapan virtual sebagai contoh kecerdasan buatan. Dengannya, pengguna bisa melakukan percakapan dengan aplikasi pintar untuk mencari bantuan dan dukungan emosional. Namun, jawaban yang disampaikan aplikasi tersebut bisa saja bersifat manipulatif, karena berbasis respon algoritmik.

Aktivitas digital tersebut membuat otak mendapat banyak informasi yang meningkatkan risiko: memicu kegelisahan – kelelahan mental, pikiran mudah terdistraksi dan bahkan bisa mengakibatkan depresi. Kondisi tersebut merepresentasikan brain rot atau pembusukan otak – tentu saja kata tersebut tidak menggambarkan pembusukan otak secara nyata.

Brain rot lebih didefinisikan sebagai kemerosotan kondisi mental dan intelektual seseorang karena penggunaan konten daring yang berlebihan. Perilaku pengguliran petaka (doom scrolling) – pencarian informasi secara terus menerus dilakukan, meski sadar informasi itu berdampak pada kecanduan serta kegelisahan berlebihan. Tidak mengherankan jika Penerbit Universitas Oxford, Inggris, menobatkan brain rot ini sebagai Kata Terpilih Tahun 2024.

Dampak nyata dari brain rot dan belum matangnya otak tersebut membuat tantangan berat, terutama bagi generasi muda. Penggunaan teknologi – termasuk kecerdasan buatan, seharusnya bisa mensejahterakan pengguna, bukan justru memicu gangguan kesehatan mental. Kenyataannya, justru menimbulkan ancaman dan tantangan tersendiri bagi kesejahteraan di masa depan.

Alih-alih pengembang kecerdasan buatan memperhatikan pengujian keamanan yang memadai, mereka bahkan terkesan abai atas batasan antara alat dan teman digital. Pengembang kecerdasan buatan lebih berorientasi pada peningkatan keterlibatan pengguna dan pangsa pasar semata. Misalnya desain kecerdasan buatan yang bersifat sycophantic – terlalu menyenangkan pengguna. Dengannya, pengguna akan terjerat secara emosional tanpa membedakan  jender, usia, dan latar belakangnya. Tidak ada perlindungan yang memadai bagi mereka.

Menurut data dalam laporan Strengthening ChatGPT Responses in Sensitive Conversations yang disampaikan OpenAI sebagai pengembang ChatGPT – ada sekitar 0.15 % atau 1,2 juta dari total 800 juta pengguna aktif mingguannya terindikasi depresi dan berniat bunuh diri dalam percakapan di aplikasi. Selain itu ada sekitar 0.07% atau 560.000 pengguna lainnya terindikasi dalam keadaan darurat kesehatan mental. Tidak bisa dipungkiri percakapan itu sulit untuk bisa dideteksi dan frekuensi terjadinya boleh dibilang sangat jarang.

Di era kecerdasan buatan seperti sekarang ini, informasi begitu deras membanjiri beranda dunia digital dan sekaligus beranda pikiran penggunanya. Ini yang acap kali memberi stimulus untuk melakukan diagnosa mandiri (self-diagnose). Akibatnya, asumsi-asumsi semu mulai menyerang mentalnya. Padahal belum tentu ada validasi yang menyimpulkan kebenarannya. Dalam tinjauan National Library of Medicine di Amerika Serikat pada tahun 2022, ditemukan bahwa algoritma pembelajaran dalam mesin kecerdasan buatan mampu mendeteksi gangguan mental yang berisiko bunuh diri dengan ketepatan tinggi.

Literasi digital sebagai salah satu alternatif untuk menyaring  dan memahami informasi yang membanjiri beranda dunia digital dan beranda pikiran warga digitalnya. Pemahaman tersebut mencakup kecakapan untuk berpikir kritis, kreatif, dan etis. Dengan demikian memungkinkan interaksi interaktif-edukatif di ruang digital dan menjadi sarana pemanfaatan teknologi yang sehat, bijak, dan bertanggungjawab.

Perkembangan teknologi juga mempengaruhi cara-cara baru dalam literasi digital. Platform digital misalnya, sudah menjadi tempat untuk menuliskan apa saja, di mana saja, dan kapan saja. Begitu pula penulis mempublikasikan karya tulisnya di dalam platform-platform digital yang ada di semesta digital.

Puisi dan penyairnya pun tidak ketinggalan memvisualisasikan imajinasi kritis, kreatif, dan puitis – atas apa yang direkamnya melalui: penglihatan, pendengaran, perenungan, dan pemaknaan. Dengan demikian tercipta ruang untuk diinterpretasikan oleh siapa pun, kapan pun, dan dalam perspektif apa pun.

Penyair dengan imajinasinya mampu memvisualisasikan keresahan sosial atas hadirnya kecerdasan buatan dan dampaknya terhadap gangguan mental – menjadi sebuah puisi buatan yang cerdas. Melalui piranti puitik: diksi, metafora, dan satire – puisi adalah integrasi kecerdasan emosional dan algoritma kritis-kreatif pemikiran atas prompting yang dipikirkan penyair. Lalu apakah puisi juga bersifat sycophantic – terlalu menyenangkan dan menjerat emosional pembaca? Mari kita simak salah satu puisi berjudul “Brain Rot” yang saya tulis dan diterbitkan di platform digital dan koran cetak Kaltim Post, 6 April 2025, berikut:

Brain Rot

Hidup ini berkarib dengan kesederhanaan yang rumit. Lalu, benarkah aku adalah juru tafsir atas kerumitan itu?

Bisa jadi thoreau menolak kerumitan yang disederhanakan — setidaknya di dalam walde yang ia tuliskan.

Aku tak ubahnya penyintas kerumitan, yang terbaring di instalasi rawat inap. Rebahan. Asyik dengan konten recehan  sembari menunggu kunjungan dokter.

Baginya, tak ada kerumitan yang tak bisa disederhanakan. “Anda terdiagnosa symptoms brain rot,” begitu selorohnya.

Tak ada resep dari tangannya, selain gawainya yang diperlihatkan padaku, “Aku sedang konsultasi di halodoc agar aku terbebas dari doom scrolling.” Mungkin sesederhana itu kerumitan hidupnya.

Ungaran, Januari 2025

Puisi di atas setidaknya berusaha untuk bersifat sycophantic – menjerat emosional pembaca untuk berkarib dengan dua hal yang bertolak belakang: kesederhanaan yang rumit atau kerumitan yang sederhana. Salah satu atau keduanya mungkin yang menyebabkan symptoms brain rot.

Kata brain rot sudah digunakan Henry David Thoreau sejak tahun 1854 di dalam buku Walde – yang menceritakan pengalaman hidup sederhananya di alam. Kata tersebut menggambarkan kecenderungan masyarakat zaman itu merendahkan ide-ide kompleks dan menafsirkannya dengan berbagai cara agar terlihat sederhana.

Kondisi itulah yang dianggap Thoreau sebagai penurunan mental dan intelektual masyarakat. Hal ini sangat identik dengan definisi brain rot di zaman digital ini, 171 tahun sejak istilah itu muncul – brain rot didefinisikan sebagai penurunan kondisi mental dan intelektual masyarakat digital karena penggunaan konten daring yang berlebihan.

Kembali ke puisi “Brain Rot” di atas – akulirik dalam puisi tersebut diidentikkan sebagai seorang penyintas kerumitan. Seorang yang gagal menyederhanakan kerumitan-kerumitan dalam kehidupannya. Salah satunya adalah kehidupan di dunia digital yang membuatnya terbaring sakit di “instalasi rawat inap” kerumitan yang ia buat sendiri. Karena pikirannya tersandera algoritma manipulatif yang tidak disadarinya – ketika sepenuhnya ia mempercayai kecerdasan buatan yang tidak mencerdaskannya.

Dengan satire, puisi itu menghadirkan seorang dokter – alih-alih ia memberikan diagnosa medis ke pasien, ia sendiri tak mampu melakukan self-diagnose atas symptoms doom scrolling yang menjangkitinya. Ia terus menerus mencari sumber kerumitan hidupnya dari algoritma yang tak mampu ia sederhanakan. Ia telah mengalami gangguan mental karena kegelisahan yang berlebihan.

Sebagai seorang dokter , ia bahkan abai atas batasan antara intelektualitas medis dan teman digital. Tak ada “resep” yang ia tuliskan untuk pasiennya agar sembuh dari segala kerumitan yang dikeluhkan. Ia sendiri telah menjadi pasien dari teman digitalnya – yang lagi-lagi tak mampu menyederhanakan kerumitan yang ia keluhkan.

Penyair seperti pengembang kecerdasan buatan – melalui puisi, ia tidak hanya mengajak pembaca masuk ke kontekstual ide dan gagasan, tapi juga memberikan informasi-informasi kekinian yang mencerdaskan. Puisi dan penyair serupa alat dan teman digital – saling terintegrasi dalam kecerdasan emosional dan algoritma kritis-kreatif dalam memvisualisasikan kontekstual permasalahan-permasalahan esensial. [T]

Penulis: Chris Triwarseno
Editor: Adnyana Ole