Persoalan utama senjata otonom bukan hanya akurasi, tetapi tanggung jawab. Jika drone atau sistem AI salah menargetkan warga sipil, siapa yang bertanggung jawab? Programmer? Komandan? Produsen? Negara? Davison, N. (2018) telah lama memperingatkan bahwa keterbatasan kontrol manusia atas senjata otonom dapat menyulitkan pertanggungjawaban dalam hukum humaniter internasional (Davison, 2018).
Dalam kasus perang modern teknologi militer semakin terdigitalisasi, seperti drone, sistem target otomatis, pengawasan satelit, dan analisis medan tempur berbasis AI. Dalam situasi perang, kecepatan algoritmik dapat mengalahkan refleksi moral. Padahal keputusan membunuh tidak boleh direduksi menjadi kalkulasi probabilitas.
Peradaban Kasih sebagai Alternatif
Konsep “Peradaban Kasih” dalam ensiklik ini bukan slogan sentimental. Ia adalah tawaran politik-etis untuk melawan budaya kekuasaan. Dalam budaya kekuasaan, AI dipakai untuk menguasai pasar, memantau warga, memenangkan perang, dan memaksimalkan profit. Dalam peradaban kasih, AI harus diarahkan untuk pendidikan, kesehatan, keadilan sosial, perdamaian, perlindungan lingkungan, dan penguatan relasi manusia.
Pandangan ini tidak anti-teknologi. Justru sebaliknya, ia menuntut teknologi yang lebih bertanggung jawab. AI dapat membantu diagnosis penyakit, memetakan bencana, mempercepat riset ilmiah, meningkatkan akses pendidikan, dan mendukung administrasi publik. Namun semua manfaat itu hanya bermakna jika manusia tetap menjadi tujuan, bukan bahan bakar sistem.
Menjadi Arsitek yang Bijaksana
Magnifica Humanitas mengingatkan bahwa krisis AI bukan terutama soal mesin yang menjadi terlalu pintar, melainkan manusia yang menjadi terlalu lalai. Bahaya terbesar bukan ketika AI menggantikan manusia secara teknis, tetapi ketika manusia menyerahkan nurani, tanggung jawab, dan penilaian moralnya kepada sistem otomatis.
Ensiklik ini relevan tidak hanya bagi umat Katolik, tetapi bagi akademisi, pembuat kebijakan, insinyur, pengusaha, jurnalis, pendidik, dan masyarakat sipil. Ia mengajak kita menjadi “arsitek yang bijaksana”, yaitu membangun teknologi dengan fondasi martabat manusia, bukan sekadar efisiensi; dengan orientasi kebaikan bersama, bukan monopoli; dengan solidaritas, bukan eksploitasi; dengan kebenaran, bukan manipulasi.
Sehingga AI akan menjadi cermin dari nilai manusia yang menciptakannya. Jika dibangun dalam logika kuasa, ia akan memperbesar ketimpangan. Jika dibangun dalam etika kasih, ia dapat menjadi alat pembebasan. Maka pertanyaan terbesar era AI bukan “apa yang dapat dilakukan mesin?”, melainkan “manusia seperti apa yang sedang kita bentuk melalui mesin itu?”
Ruben Cornelius Siagian, peneliti muda Indonesia yang memiliki minat pada kajian multidisipliner, khususnya di bidang sains, teknologi, etika, filsafat, hukum, dan kebijakan publik.
