Jakarta (ANTARA) – Perusahaan pengembang Artificial Intelligence (AI) OpenAI mengatakan model generatif GPT-4 yang dikembangkannya dapat digunakan oleh perusahaan media sosial untuk menangani moderasi konten dengan lebih efisien.
Menurut laporan Tech Crunch pada hari Rabu, fitur-fitur ini mengandalkan GPT-4 yang digerakkan oleh kebijakan untuk melakukan penilaian moderasi dan membuat kumpulan sampel konten pengujian yang mungkin melanggar atau tidak melanggar kebijakan. Penilaian tersebut kemudian diberi label oleh pakar kebijakan, yang dapat digunakan untuk menyempurnakan kebijakan mereka.
“Dengan memeriksa perbedaan antara penilaian GPT-4 dan penilaian manusia, pakar kebijakan dapat meminta GPT-4 untuk menemukan alasan di balik penetapannya, menganalisis ambiguitas dalam definisi kebijakan, mengatasi kebingungan, dan memberikan klarifikasi lebih lanjut dalam kebijakan yang sesuai.” kata OpenAI. dalam sebuah pendapat.
OpenAI mengklaim bahwa menggunakan GPT-4 dapat memangkas waktu pemrosesan moderasi konten hingga beberapa jam untuk perusahaan media sosial dan model tersebut memiliki pendekatan yang lebih baik daripada model dari pengembang lain.
Moderasi konten adalah tugas yang rumit bagi perusahaan media sosial seperti Facebook dan Instagram induk Meta, yang mempekerjakan ribuan moderator di seluruh dunia untuk memblokir konten berbahaya seperti pornografi anak dan gambar kekerasan ekstrem.
Platform moderasi konten berbasis AI bukanlah hal baru. Sebelumnya, tim Kontra Penyalahgunaan dan Teknologi Jigsaw Google membuat Perspektif tersedia untuk umum beberapa tahun yang lalu.
Selain itu, beberapa perusahaan teknologi lain juga sedang mengembangkan platform serupa seperti Spectrum Labs, Cinder, Hive, dan Oterlu.
Penerjemah: Farhan Arda Nugraha
Penerbit : Siti Zulaikha
HAK CIPTA © ANTARA 2023
