123Berita – 05 April 2026 | Seorang wanita berusia lanjut yang dikenal sebagai nenek warga Jakarta menjadi korban salah tangkap akibat sistem kecerdasan buatan (AI) yang mengidentifikasi wajah secara keliru. Kasus ini menggemparkan publik karena menyoroti risiko penggunaan teknologi pengenalan wajah tanpa pengawasan yang memadai, serta menimbulkan pertanyaan serius tentang hak asasi manusia dan keadilan dalam penegakan hukum.
Penyelidikan lebih lanjut mengungkapkan bahwa algoritma pengenalan wajah yang digunakan memiliki tingkat kesalahan tinggi, terutama dalam mengenali wajah orang lanjut usia yang biasanya memiliki perubahan tekstur kulit dan bentuk wajah yang signifikan. Data pelatihan sistem tersebut didominasi oleh gambar wajah muda, sehingga kurang sensitif terhadap variasi demografis. Akibatnya, nenek itu menjadi korban false positive yang berujung pada penahanan yang tidak beralasan.
- Identifikasi AI: Sistem menandai wajah nenek sebagai tersangka utama.
- Penangkapan: Petugas tanpa verifikasi tambahan langsung menahan nenek tersebut.
- Penahanan: Nenek dipenjarakan selama hampir enam bulan.
- Pengungkapan Kesalahan: Analisis teknis mengungkapkan kelemahan algoritma pengenalan wajah.
- Tindakan Hukum: Keluarga nenek mempertimbangkan langkah hukum terhadap lembaga yang menggunakan AI.
Selama masa penahanan, nenek itu mengalami tekanan psikologis yang berat. Keluarganya melaporkan kesulitan dalam mengakses informasi mengenai proses hukum, serta kurangnya dukungan medis dan sosial yang layak bagi seorang lansia. Setelah enam bulan, nenek tersebut dibebaskan setelah pihak berwenang mengakui adanya kesalahan identifikasi. Namun, kebebasannya tidak menghilangkan dampak yang telah terjadi, baik secara fisik maupun mental.
Keluarga nenek kini mempertimbangkan untuk menuntut pihak kepolisian serta penyedia teknologi AI yang terlibat. Mereka menuntut ganti rugi atas kerugian material dan immaterial, termasuk kehilangan kebebasan, stres, serta stigma sosial yang menempel pada nama keluarga. Para ahli hukum menilai bahwa kasus ini dapat menjadi preseden penting dalam penetapan standar akuntabilitas bagi penggunaan AI dalam penegakan hukum.
Kasus ini memicu perdebatan luas di kalangan akademisi, aktivis hak asasi manusia, dan pembuat kebijakan. Beberapa pakar teknologi menekankan pentingnya audit independen terhadap sistem pengenalan wajah sebelum diimplementasikan secara luas. Mereka menyoroti perlunya regulasi yang mengatur transparansi algoritma, batasan penggunaan, serta mekanisme pelaporan kesalahan secara cepat.
Di sisi lain, otoritas kepolisian mengakui adanya kekurangan dalam prosedur verifikasi. Mereka berjanji akan memperbaiki proses internal dengan menambahkan langkah konfirmasi manual sebelum menindaklanjuti hasil AI. Selain itu, pihak kepolisian berjanji untuk bekerja sama dengan lembaga independen guna melakukan evaluasi menyeluruh terhadap sistem yang dipakai, termasuk menguji keakuratan pada populasi yang beragam.
Kasus nenek yang dipenjara selama hampir enam bulan ini menjadi peringatan bagi seluruh institusi yang mengandalkan AI dalam proses krusial. Kesalahan identifikasi tidak hanya menimbulkan kerugian individual, tetapi juga menurunkan kepercayaan publik terhadap teknologi yang seharusnya meningkatkan efisiensi. Sebagai langkah ke depan, penting bagi pembuat kebijakan untuk merumuskan regulasi yang seimbang, memastikan bahwa inovasi teknologi tidak mengorbankan hak-hak fundamental warga negara.
Kesimpulannya, kasus ini menegaskan bahwa adopsi AI dalam bidang penegakan hukum harus disertai dengan mekanisme kontrol yang ketat, transparansi yang jelas, dan perlindungan hukum yang memadai bagi korban potensial. Tanpa langkah-langkah tersebut, risiko kesalahan identifikasi dapat berujung pada pelanggaran hak asasi yang serius, seperti yang dialami oleh nenek korban dalam kasus ini.
