California, REQNews.com -- Pekan lalu, Meta Inc mengumumkan kehadiran chatbot berkepribadian mirip selebritis yang bisa diajak ngobrol. Perkembangan teknologi terbaru ini terbukti berbahayaMeta Inc melihat apa yang disajikan sebagai AI yang menyenangkan, dan bentuk evolusi ChatGPT. Namun, perkembangan teknologi ini terbukti berbahaya.Ada yang mengatakan perkembangan teknologi ini menandai langkah pertama menuju penciptaan, mengutip filsuf AS Daniel C Dennett tentang manusia palsu, artefak paling berbahaya dalam sejarah manusia.Meta Inc, pada 27 September, meluncurkan 28 chatbot atau agen percakapan yang memiliki kepribadian sendiri dan dirancang khusus untuk pengguna muda. Salah satunya, chatbot berkepribadian Victor -- atlet triathlon yang dapat memotivasi siapa pun untuk menjadi yang terbaik.Ada pula chatbot bernama Sally, yang berjiwa bebas dan memberi tahu siapa pun kapan harus menarik nafas dalam-dalam. Chatbot Mirip Paris HiltonUntuk memperkuat gagasan chatbot ini memiliki kepribadian, dan bukan sekedar algoritma, Meta Inc memberikan gambaran pada masing-masing chatbot tersebut. Ada chatbot yang mirip Paris Hilton, bintang TikTok Charli D'Amelio, serta petenis Jepang-AS Naomi Osaka.Meta juga telah membuka akun Facebook dan Instagram untuk masing-masing chatbot untuk memberi mereka eksistensi di luar antarmuka. Mark Zuckerberg juga sedang mencari penulis skenario yang bisa menuliskan karakter dan konten naratif yang akan menarik khalayak luas.Situs <a href="https://www.france24.com/en/technology/20230930-counterfeit-people-the-dangers-posed-by-meta-s-ai-celebrity-lookalike-chatbots">france24 </a>menulis Meta mungkin menampilkan 28 chatbot ini sebagai uapaya tak disengaja untuk mengalihkan perhatian pengguna Internet secara besar-besaran, terutama anak-anak muda. The Rolling Stone menulis semua upaya itu mengarah pada proyek ambisius untuk membagnun AI yang sebisa mungkin menyerupai manusia.Lomba 'memalsukan orang' mengkhawatirkan banyak pengamat yang prihatin dengan perkembangan terkini dalam penelitian model bahasa besar (LLM) seperti ChatGPT dan Llama2 -- mitra Facebook.Ivo van de Poel profesor etika dan teknologi Universitas Teknologi Delft di Belanda, mengatakan; "Orang-orang seperti Mark Zuckerberg seharusnya dijebloskan ke penjara." AI Berkepribadian, Gagasan MustahilMenurut Van de Poel, gagasan tentang chatbot berkepribadian secara harfiah mustahil. Algoritma tidak mampu menunjukan niat dalam tindakan atau kehendak bebas, dua karakteristik yang dianggap terkait dengan gagasan tentang kepribadian.Meta, masih menurut Van de Poel, paling-paling dapat meniru ciri-ciri tertentu yang membentuk suatu kepribadian. "Secara teknologi harus dimungkinkan, misalnya, mengajarkan chatbot bertindak seperti orang yang mereka wakili," kata Van de Poel.Misal, AI Amber milik Meta -- yang dianggap mirip Paris Hilton -- dapat berbicara dengan cara yang sama seperti alter ego manusianya. Langkah selanjutnya adalah melatih LLM untuk mengungkapkan pendapat yang sama dengan orang yang mirp dengan mereka.Ini perilaku yang jauh lebih rumit untuk diprogram karena melibatkan penciptaan gambaran mental yang akurat tentang pendapat seseorang. Ada juga risiko chatbot dengan kepribadian bisa menjadi kacau.Salah satu agen percakapan yang diuji Meta mengungkapkan pendapat tentang misoginis, menurut Wall Street, yang dapat berkonsultasi dengan dokumen internal perusahaan. Yang lain melakukan dosa berat dengan mengkritik Zuckerberg dan memuji TikTok.Meta membangun chatbot ini untuk memberi mereka 'kisah pribadi yang unik. Artinya, pencipta AI ini telah menulis biografi untuk mereka dengan harapan mampu mengembangkan kepribadian berdasarkan apa yang dibaca tentang dirinya."Ini adalah pendekatan yang menarik, tapi akan bermanfaat jika menambahkan psikologi ke dalam ini untuk mendapatkan pemahaman tentang ciri-ciri kepribadian," kata Anna Strasser, filsuf Jerman yang terlibat dalam proyek menciptakan model bahasa besar yang mampu berfilsafat.Proyek AI terbaru Meta jelas didorong rasa haus akan keuntungan. Menurut Strasser, orang-orang ini pasti bersedia membayar untuk bisa berbicara dan menjalin hubungan dengan Paris Hilton dan selebriti lainnya.Semakin banyak pengguna merasa seolah berbicara dengan mansuia, kian nyaman perasaan mereka dan akan kembali lagi. "Di dunia model sosial, waktu yang dihabiskan Facbook dan iklannya adalah uang," kata Van de Poel. AI, Mahluk HidupTidak mengherankan jika Meta, yang kali pertama terjun ke AI dengan kepribadian ditujukan untuk remaja. "Kami tahu generasi muda cenderung bersifat antropomorfik," kata Strasser.Para ahli lainnya juga menyebut meta memainkan permainan berbahaya dengan menekankan karakteristik manusia dari AI. Kemunculan LLM yang kuat telah mengacukan dikotomi antara alat atau benda dan benda hitup."ChatGPT adalah jenis agen ketiga yang berada di antara kedua ekstrem itu," kata Strasser.Manusia masih belajar bagaimana berinteraksi dengan entitas baru yang aneh, sehingga membuat orang percaya bahwa agen percakapan dapat memiliki kepribadian. Terlebih, Meta menyarankan agar chabotnya diperlakukan seperti manusia, bukan alat."Pengguna Internet cenderung percaya apa yang dikatakan AI yang satu ini, yang membuat mereka berbahaya," kata Van de Poel.Ini bukan sekedar risiko teoritis. Sebab, seorang penduduk Belgia melakukan bunuh diri pada Maret 2023, setelah mendiskusikan dampak pemanasan global dengan agen percakapan selama enam pekan."Jika batasan antara dunia AI dan manusia menjadi kabur sepenuhnya, akan muncul potensi menghancurkan kepercayaan terhadap sesuatu yang kita temukan onlike. Sebab kita tidak akan tahu siapa menulis apa," kata Strasser.Meski demikian masih harus dilihat apakah ngobrol dengan AI mirip Paris Hilton berarti kita berada di jalur menghancurkan dunia yang kita tahu.

Mark Zuckerberg Bikin Chatbot Mirip Paris Hilton, Sejumlah Pakar Mengatakan: Ini Teknologi Berbahaya

Berita Terkait

Berita Rekomendasi