Program ini dapat menghasilkan teks yang sangat canggih dari permintaan pengguna yang sederhana, menghasilkan apa pun mulai dari esai dan lamaran kerja, hingga puisi dan juga karya fiksi.
ChatGPT adalah model bahasa besar, dilatih dengan mengunggah miliaran kata teks sehari-hari dari seluruh web ke dalam sistem. Kemudian, mengacu pada semua materi ini untuk memprediksi kata dan kalimat dalam urutan tertentu.
Namun, keakuratan tanggapannya telah dipertanyakan. Akademisi Australia, misalnya, telah menemukan contoh sistem yang membuat referensi dari situs web dan mereferensikan kutipan palsu.
Penggunaan AI dalam jurnalisme juga terbukti kontroversial. Situs web teknologi CNET dilaporkan telah menggunakan alat AI untuk menghasilkan artikel yang kemudian dipindai oleh editor manusia untuk akurasi sebelum diterbitkan.
Situs web tersebut mengakui pada bulan Januari bahwa program tersebut memiliki beberapa keterbatasan, setelah sebuah laporan dari situs berita teknologi Futurism menemukan, lebih dari separuh cerita yang dihasilkan melalui alat AI harus diedit karena kesalahan.
Dalam satu contoh, CNET terpaksa mengeluarkan koreksi besar-besaran pada artikel penjelasan tentang bunga majemuk yang berisi sejumlah kesalahan sederhana.
