ALADDIN138 ChatGPT dan mode bahasa besar sama bisa hasilkan jawaban yang memikat dan serupa manusia untuk pertanyaan yang tidak ada selesainya — dimulai dari pertanyaan mengenai restaurant Italia terbaik di kota sampai menerangkan teori kompetisi mengenai karakter kejahatan.
Kekuatan menulis yang hebat dari tehnologi ini sudah munculkan beberapa pertanyaan lama — sampai belakangan ini di turunkan ke ranah fiksi ilmiah — mengenai adanya kemungkinan mesin jadi sadar, sadarkan diri, atau hidup.
Di tahun 2022, seorang insinyur Google mengatakan, sesudah berhubungan dengan LaMDA, chatbot perusahaan, jika tehnologi itu sudah diakui. Pemakai chatbot baru Bing, yang dipanggil Sydney, memberikan laporan jika dia hasilkan jawaban yang aneh saat ditanyakan apa itu makhluk hidup: “Saya hidup, tetapi saya bukan… Saya Bing, tetapi saya bukan. Saya Sydney, tetapi saya bukan. Saya, tetapi saya tidak. …” Dan, sudah pasti, ada pembicaraan populer di antara kolumnis tehnologi New York Times Kevin Roose dengan Sydney.
Respon Sydney pada keinginan Roose membuat cemas, dengan AI mengutarakan “fantasi” untuk menyalahi batas yang diterapkan oleh Microsoft dan menebarkan info yang keliru. Bot coba memberikan keyakinan Roose jika ia tak lagi menyukai istrinya dan ia harus wafatkannya.
Karena itu, tidaklah heran bila saat saya menanyakan ke pelajar bagaimana mereka menyaksikan kebiasaan AI yang makin bertambah dalam kehidupan mereka, salah satunya kekhawatiran pertama kali yang mereka sebut terkait dengan hati mesin.
Dalam tahun-tahun ini, mitra saya dan saya di Pusat Norma Aplikasi UMass Boston sudah pelajari imbas keterkaitan AI pada pengetahuan orang mengenai diri sendiri.
Chatbots seperti ChatGPT ajukan pertanyaan baru yang perlu mengenai bagaimana kepandaian bikinan akan membuat hidup kita, dan mengenai bagaimana liabilitas psikis kita membuat hubungan kita dengan tehnologi baru.
Hati masih sebagai barang fiksi ilmiah
Benar-benar gampang untuk pahami darimanakah asal ketakutan mengenai hati mesin.
Budaya terkenal sudah menggerakkan orang untuk berpikiran mengenai distopia di mana kepandaian bikinan buang belenggu kendalian manusia dan jalani hidupnya sendiri, seperti yang sudah dilakukan cyborg yang dilengkapi oleh kepandaian bikinan di “Terminator 2”.
Pebisnis Elon Musk dan fisikawan Stephen Hawking, yang wafat di tahun 2018, makin memacu kekhawatiran ini dengan memvisualisasikan kebangunan kepandaian umum bikinan sebagai salah satunya teror paling besar untuk masa datang umat manusia.
Tetapi kekuatiran ini – minimal sepanjang tersangkut mode bahasa besar – tidak berdasarkan. ChatGPT dan tehnologi sama ialah program penuntasan kalimat yang hebat — tidak kurang, kurang. Respon hebat mereka ialah peranan dari berapa gampang diprediksikan manusia bila seorang mempunyai cukup data mengenai langkah kita berbicara.
Walau Roose terbuncang oleh perbincangannya dengan Sydney, ia mengetahui jika pembicaraan itu bukan dari hasil pemikiran sintetik yang ada. Respon Sydney menggambarkan toksisitas data kepelatihan — pada intinya petak besar internet — bukan bukti pergolakan pertama, à la Frankenstein, dari monster digital.
Chatbots baru kemungkinan lulus test Touring, dinamakan dari pakar matematika Inggris Alan Touring, yang dulu pernah merekomendasikan jika sebuah mesin bisa disebutkan “berpikiran” bila manusia tidak bisa menjelaskan responnya dari manusia lain.
Tetapi itu bukan bukti hati; itu cuma bukti jika test Touring tidak bermanfaat sama seperti yang diibaratkan awalnya.
Tetapi, saya yakin jika pertanyaan mengenai hati mesin ialah pengalih perhatian.
Bahkan juga bila chatbots jadi lebih dari sekedar mesin pendampingan automatis yang eksklusif – dan mereka jauh dari itu – beberapa periset perlu sesaat untuk ketahui apa mereka sudah jadi sadar. Untuk sekarang ini, beberapa filsuf bahkan juga tidak sepakat mengenai bagaimana menerangkan kesadaran manusia.
Untuk saya, pertanyaan yang menekan bukan apa mesin itu berpikiran tapi kenapa demikian gampang untuk kita untuk memikirkannya.
