 |
| OpenAI Luncurkan Alat Kloning Suara |
OpenAI telah memperkenalkan sebuah perangkat untuk mereplikasi suara individu dalam masyarakat, namun mereka telah memutuskan untuk menunda rilisnya kepada publik karena kekhawatiran mengenai potensi penyalahgunaan yang mungkin terjadi pada momen penting seperti pemilihan umum.
Menurut publikasi di blog OpenAI yang menunjukkan alat tersebut, Voice Engine memiliki kemampuan untuk menghasilkan suara yang serupa dengan suara seseorang menggunakan contoh audio berdurasi 15 detik.
Meskipun demikian, pembuat ChatGPT mengadopsi pendekatan yang cermat dan berpengetahuan terhadap teknologi ini dan berharap untuk memulai pembicaraan tentang "penggunaan yang bertanggung jawab" dari suara sintetis, demikian disampaikan perusahaan dalam sebuah postingan blog yang dipublikasikan pada hari Jumat.
Perusahaan rintisan yang berbasis di San Francisco tersebut mengungkapkan bahwa mereka menyadari adanya risiko serius dalam menghasilkan pidato yang mirip dengan suara masyarakat, terutama dalam menjelang tahun pemilu.
Kami berkolaborasi dengan mitra dari berbagai negara termasuk Amerika Serikat dalam banyak sektor seperti pemerintahan, media, industri hiburan, pendidikan, masyarakat sipil, dan berbagai lainnya. Tujuan kami adalah untuk memperoleh masukan dari mereka sehingga bisa kami terapkan dalam upaya kami membangun. OpenAI telah menyatakan komitmennya untuk mengambil "keputusan yang lebih akurat" mengenai penggunaan teknologi dalam skala yang luas melalui proses pengujian dan diskusi secara publik.
Perusahaan menjelaskan bahwa mereka meyakini teknologi ini harus digunakan dengan langkah-langkah yang memastikan bahwa "pembicara asli secara sadar menyumbangkan suara mereka ke layanan ini" dan menghindari "menciptakan suara yang terlalu serupa dengan tokoh terkemuka." Penggunaan yang tidak benar dari kecerdasan buatan (AI) telah menjadi keprihatinan utama di negara-negara yang mewakili sekitar 50% dari penduduk global menjelang pemilihan umum tahun ini. Pemilih dari lebih dari 80 negara, termasuk Meksiko, Afrika Selatan, dan Amerika Serikat, akan menyalurkan suara mereka pada tahun 2024.
Tahun tersebut dianggap sebagai pesta demokrasi terbesar yang pernah ada. Dalam beberapa pemilu, perhatian terhadap dampak AI pada pilihan pemilih telah diperhatikan. Mantan Perdana Menteri Pakistan, Imran Khan, memanfaatkan pidato yang dihasilkan oleh kecerdasan buatan (AI) untuk memikat dukungan para pendukungnya menjelang pemilihan parlemen negara pada bulan Februari.
Pada bulan Januari, anggota politik Dean Phillips yang mencalonkan sebagai presiden AS mengirimkan panggilan otomatis yang menyamar sebagai Joe Biden, presiden AS, yang meminta para pemilih untuk tidak memberikan suara dalam pemilihan pendahuluan Partai Demokrat di New Hampshire. OpenAI telah melaksanakan beberapa langkah keamanan untuk mitra yang menguji Voice Engine, termasuk memberikan tanda air untuk melacak sumber audio yang dihasilkan oleh Voice Engine serta secara aktif memantau cara penggunaannya.