London – Alat-alat kecerdasan buatan (AI) dapat memengaruhi keputusan pengguna dalam dunia komersial baru yang disebut ekonomi berbasis niat. Para peneliti dari Universitas Cambridge memperingatkan hal ini dalam makalah yang mereka terbitkan pada Senin (30/12/2024).
Penelitian ini memperkirakan bahwa pasar baru yang berpotensi menguntungkan, namun juga berisiko, akan muncul untuk memengaruhi segala hal, mulai dari pembelian tiket film hingga pemilihan kandidat politik. Prediksi, keakraban kita dengan chatbot dan alat AI lainnya akan memperkuat teknologi persuasi yang berkembang.
Manipulasi Sosial dalam Skala Industri
AI yang semakin canggih dapat menggabungkan data kebiasaan daring pengguna dengan kemampuan untuk memahami dan mengantisipasi keinginan mereka. Ini berpotensi menciptakan tingkat kepercayaan baru, namun juga membuka peluang untuk manipulasi sosial dalam skala industri. Dua penulis laporan tersebut dari Leverhulme Centre for the Future of Intelligence (LCFI) Cambridge menjelaskan risiko ini dalam makalah yang mereka terbitkan di Harvard Data Science Review
AI akan mampu memetakan perhatian, gaya komunikasi, dan pola perilaku pengguna untuk memengaruhi pilihan mereka. Hal ini dapat merusak independensi keputusan manusia, bahkan dalam hal-hal sepele seperti membeli tiket atau memilih pemimpin politik.
Bahaya Ekonomi Berbasis Niat
Penelitian ini menggambarkan ekonomi berbasis niat sebagai sektor yang baru muncul di mana untuk menganalisis dan memanipulasi tujuan dan rencana manusia hanya dengan menggunakan AI. AI akan memanfaatkan data pribadi seperti riwayat daring, jenis kelamin, usia, hingga preferensi terhadap sanjungan dan pujian. Ini bisa digunakan untuk menargetkan iklan atau memanipulasi percakapan ke platform bisnis dan politik tertentu.
Jonnie Penn, salah satu penulis penelitian, memperingatkan bahwa jika tidak ada regulasi, ekonomi ini akan memperlakukan motivasi pengguna sebagai mata uang baru. “Ini akan menjadi perburuan emas bagi mereka yang menargetkan, mengarahkan, dan menjual tujuan manusia,” tambahnya.
Pentingnya Kesadaran Publik
Penn menekankan pentingnya kesadaran publik tentang masalah ini. Sebelum kita terjebak dalam dampak buruk dari pasar semacam ini, seperti pemilihan umum yang tidak adil atau persaingan pasar yang tidak sehat, kita harus mempertimbangkan efek jangka panjangnya terhadap aspirasi manusia dan kebebasan masyarakat.
