Perusahaan yang dipimpin Sam Altman itu menyebutkan pihaknya mengambil pendekatan penuh kehati-hatian karena kompleksitas yang terlibat serta dampak yang mungkin terjadi akan lebih luas di luar OpenAI apabila alat deteksi tersebut dirilis saat ini.
Dikutip dari TechCrunch, Minggu (4/8), sebenarnya OpenAI tengah meneliti metode pemberian watermark atau tanda air pada teks yang dibuat oleh AI yang terlihat menjanjikan.
Juru Bicara OpenAI kemudian menambahkan, "Tetapi (metode watermark itu) memiliki risiko penting yang kami pertimbangkan saat kami meneliti alternatif, termasuk kerentanan terhadap pengelakan oleh pelaku jahat dan potensi untuk berdampak secara tidak proporsional pada kelompok-kelompok seperti penutur non-Inggris,".
Pendekatan ini juga diambil dan bisa dibilang berbeda karena upaya-upaya yang sebelumnya diambil untuk mendeteksi teks yang dihasilkan AI oleh industri sebagian besar dinilai tidak efektif.
Baca juga: Apple pastikan integrasi iOS 18 dan ChatGPT berlangsung akhir 2024
Baca juga: OpenAI rilis mode suara lanjutan untuk sejumlah pengguna ChatGPT Plus
OpenAI sendiri sebenarnya pernah merilis detektor teks AI pada 2023 yang berujung pada penutupan fitur karena tingkat akurasinya yang rendah.
Dengan tanda air pada teks, OpenAI akan fokus hanya pada pendeteksian tulisan dari ChatGPT, bukan dari model perusahaan lain.
Hal itu akan dilakukan dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan tanda air tak terlihat dalam tulisan yang nantinya dapat dideteksi oleh alat terpisah.
Dalam unggahan blog OpenAI di Mei 2024, perusahaan mengungkap beberapa hasil dari penelitiannya seputar pendeteksian konten yang dihasilkan AI.
Ditemukan bahwa metode pemberian tanda air pada teks yang diciptakan AI sebenarnya terbukti sangat akurat bahkan efektif terhadap bentuk-bentuk teks yang rumit seperti parafrase.
Meski begitu di sisi lain, tanda air dinilai kurang valid untuk diterapkan secara global karena memiliki banyak kerentanan.
Beberapa diantaranya mungkin saja ada teks yang dikerjakan menggunakan penerjemah sehingga tak terdeteksi, mengubah kata dengan model generatif lain, meminta model memasukkan karakter khusus di antara setiap kata sehingga akhirnya tak terdeteksi.
Apabila memang diterapkan secara global maka sistem tanda air dapat dikelabui oleh pihak yang tak bertanggung jawab.
Di samping itu, penelitian itu juga menyebutkan bahwa pemberian tanda air ternyata berpotensi menjadi stigma buruk karena dapat menstigmatisasi penggunaan AI sebagai alat tulis yang berguna bagi penutur Bahasa non-Inggris.
Baca juga: OpenAI rilis GPT-4o mini, tawarkan performa cepat dan harga murah
Baca juga: OpenAI akan blokir akses ChatGPT di China
Baca juga: OpenAI gaet majalah Time untuk melatih ChatGPT dengan publikasi berita
Penerjemah: Livia Kristianti
Editor: Zita Meirina
Copyright © ANTARA 2024
