AI Google Keliru, Kamera Flock Disebut Simpan Emas Rp12,5 Juta

AI Gemini milik Google. - ist/Google

Harianjogja.com, JAKARTA—Fitur Kecerdasan Buatan atau Artificial Intelligence (AI) Overviews milik Google, Gemini, memberikan informasi keliru mengenai kandungan emas pada kamera pengawas Flock Safety. Sistem AI tersebut menyebut setiap kamera Flock mengandung 1-5 gram emas dengan nilai mencapai 140-700 dolar AS atau sekitar Rp2,5 juta hingga Rp12,5 juta.

Padahal, kamera Flock memang mengandung emas dan tembaga, tetapi jumlahnya sangat sedikit. Kekeliruan informasi tersebut menjadi sorotan karena jawaban AI Google ditampilkan kepada pengguna dalam hasil pencarian.

Kamera Flock Safety sendiri merupakan perangkat pengawasan yang dilengkapi pembaca pelat nomor bertenaga AI. Produk tersebut tengah mendapat perhatian seiring meningkatnya penggunaan sistem pengawasan massal.

“Fitur Gemini AI Overviews dari Google telah memberi informasi kepada pengguna bahwa kamera Flock mengandung emas dan tembaga dalam jumlah besar. Kamera tersebut memang mengandung kedua logam tersebut, tetapi hanya dalam jumlah yang sangat sedikit,” dilansir dari laporan Futurism, Selasa (11/8/2026).

Klaim Emas Kamera Flock Berawal dari Candaan

Kekeliruan tersebut terlihat ketika pengguna menanyakan kandungan emas pada kamera Flock melalui Google. AI Overviews menjawab dengan yakin bahwa setiap unit kamera memiliki kandungan emas 1-5 gram.

Jika klaim tersebut benar, kandungan emas pada satu kamera disebut bernilai 140-700 dolar AS. Nilai itu setara dengan sekitar Rp2,5 juta hingga Rp12,5 juta.

Namun, penelusuran lebih lanjut menunjukkan bahwa informasi tersebut tidak berasal dari fakta yang dapat dipertanggungjawabkan. Klaim mengenai emas dan tembaga pada kamera Flock pada awalnya muncul sebagai candaan di komunitas privasi daring.

Candaan tersebut digunakan sebagai alasan tambahan untuk merusak kamera-kamera pengawas tersebut. Informasi yang awalnya tidak dimaksudkan sebagai fakta justru kemudian muncul dalam jawaban AI Google.

AI Google bahkan disebut mengutip informasi tersebut secara mentah. Di antara sumber yang digunakan terdapat sebuah akun Substack acak dan unggahan Instagram hasil rekayasa AI yang dinilai tidak kredibel.

Kondisi itu menunjukkan bahwa jawaban AI yang terlihat meyakinkan belum tentu didukung oleh sumber yang valid.

Studi Ungkap Masih Banyak Jawaban AI Keliru

Kasus kamera Flock bukan kejadian pertama ketika AI Overviews Google memberikan informasi yang tidak akurat.

Studi resmi Oumi terhadap lebih dari 4.000 kueri faktual menemukan hanya 39% jawaban AI Overviews yang benar-benar dapat dipercaya. Meski demikian, sebanyak 91% jawaban tersebut terlihat benar.

Temuan tersebut memperlihatkan adanya kesenjangan antara tampilan jawaban AI dan tingkat keandalannya. Jawaban yang terlihat meyakinkan belum tentu seluruh klaim di dalamnya didukung oleh sumber yang dikutip.

Studi yang sama juga menemukan sekitar sepertiga dari seluruh klaim dalam AI Overviews merupakan halusinasi. Dalam konteks AI, halusinasi merujuk pada informasi yang dibuat atau disampaikan sistem tanpa dasar dari sumber mana pun.

Pengguna Tetap Perlu Verifikasi

Kasus kesalahan informasi mengenai kamera Flock menjadi pengingat bahwa pengguna sebaiknya tidak menjadikan jawaban AI sebagai satu-satunya dasar untuk riset maupun verifikasi fakta.

Teknologi AI memang dapat menyajikan informasi secara cepat dan dalam format yang terlihat meyakinkan. Namun, kemampuan tersebut tidak otomatis menjamin setiap informasi yang disampaikan telah melalui proses pengecekan terhadap sumber yang valid.

Karena itu, informasi yang diperoleh melalui AI tetap perlu dibandingkan dengan sumber primer, sumber resmi, maupun laporan dari media dan lembaga yang kredibel, terutama ketika informasi tersebut digunakan untuk kebutuhan riset dan pengambilan keputusan.

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.

Sumber : Bisnis