Perusahaan memiliki kewajiban hukum untuk melaporkan dugaan eksploitasi anak ke CyberTipline, di mana National Center for Missing & Exploited Children (NCMEC) menilai laporan-laporan ini dan meneruskannya ke penegak hukum untuk penyelidikan lebih lanjut. Statistik seputar laporan-laporan ini bisa kompleks, karena peningkatan mungkin mencerminkan perubahan dalam proses moderasi platform daripada peningkatan dalam insiden eksploitasi yang sebenarnya.
Juru bicara OpenAI, Gaby Raila, mencatat bahwa perusahaan telah melakukan investasi signifikan pada akhir 2024 untuk meningkatkan kapasitasnya dalam meninjau dan menindaklanjuti laporan, sebagai respons terhadap pertumbuhan pengguna. Peningkatan laporan ini bertepatan dengan pengenalan fitur produk baru yang memungkinkan unggahan gambar, yang berkontribusi pada lonjakan tersebut. Pada bulan Agustus, Nick Turley, wakil presiden ChatGPT, mengungkapkan bahwa pengguna aktif mingguan aplikasi tersebut telah meningkat empat kali lipat dibandingkan tahun sebelumnya.
Pada paruh pertama tahun 2025, OpenAI mengajukan sekitar 75.027 laporan CyberTipline, yang hampir sama dengan 74.559 konten yang terlibat. Ini menandai kontras yang mencolok dengan paruh pertama tahun 2024, ketika hanya 947 laporan yang dibuat terkait dengan 3.252 konten. Data menunjukkan eskalasi signifikan dalam baik laporan maupun konten yang terkait sepanjang tahun.
OpenAI telah menjelaskan bahwa mereka melaporkan semua kasus materi penyalahgunaan seksual anak (CSAM), termasuk unggahan dan permintaan, ke NCMEC. Perusahaan memberikan akses ke model-modelnya melalui berbagai platform, termasuk aplikasi ChatGPT, yang memungkinkan pengguna untuk mengunggah file. Namun, laporan terkait aplikasi pembuatan video yang baru diluncurkan, Sora, tidak termasuk dalam pembaruan ini, karena dirilis setelah periode pelaporan.
Peningkatan laporan ini sejalan dengan tren yang lebih luas yang diamati oleh NCMEC, yang mencatat kenaikan 1.325 persen dalam laporan yang melibatkan AI generatif antara 2023 dan 2024. Meskipun NCMEC belum menerbitkan data untuk tahun 2025, perusahaan AI besar lainnya, seperti Google, telah membagikan statistik laporan mereka tanpa merinci proporsi yang terkait dengan AI.
Pembaruan terbaru dari OpenAI datang di tengah pengawasan yang meningkat terhadap isu keselamatan anak dalam teknologi AI. Pada musim panas, 44 jaksa agung negara bagian memperingatkan perusahaan-perusahaan AI, termasuk OpenAI, tentang komitmen mereka untuk melindungi anak-anak dari eksploitasi. OpenAI telah menghadapi gugatan yang mengklaim bahwa chatbot-nya berkontribusi pada insiden tragis yang melibatkan anak-anak. Untuk mengatasi kekhawatiran ini, OpenAI telah memperkenalkan fitur keselamatan baru, termasuk kontrol orang tua untuk ChatGPT, yang memungkinkan orang tua mengelola interaksi remaja mereka dengan AI. Selain itu, OpenAI telah berkomitmen untuk terus melakukan langkah-langkah untuk mengurangi risiko yang terkait dengan pengembangan dan penerapan AI, terutama yang berkaitan dengan anak di bawah umur.