
Juniantes Renato Apolsoy S — Mahasiswa Program Doktor Ilmu Hukum, Universitas Islam Bandung
Bayangkan seorang pegawai bank menyalin data nasabah ke sebuah aplikasi kecerdasan buatan (AI) agar pekerjaannya cepat selesai. Data itu kemudian tersimpan di server penyedia di luar negeri, ikut dipakai melatih model, dan suatu hari muncul kembali di layar orang lain. Ketika nasabah dirugikan, kepada siapa ia menuntut: pegawai, bank, atau perusahaan pembuat AI?
Skenario ini bukan khayalan. Pada Maret 2026, Telkom Indonesia mengingatkan bahwa dokumen yang diunggah ke layanan AI publik tersimpan di server penyedia dan berpotensi bocor. Seorang pejabat Kementerian Komunikasi dan Digital juga menyebut pelindungan data sebagai tanggung jawab bersama antara pengguna dan penyelenggara sistem. Ungkapan “tanggung jawab bersama” terdengar baik. Namun, dalam hukum, tanggung jawab yang dibagi kepada semua orang sering berakhir tidak dipikul oleh siapa pun.
Nilai moral sudah tertulis
Secara normatif, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) sarat dengan nilai moral. Undang-undang ini menyebut asas pertanggungjawaban dan kehati-hatian, mewajibkan pengendali data membuktikan kepatuhannya, dan memberi korban hak menggugat ganti rugi. Peraturan pelaksananya, PP Nomor 33 Tahun 2026, telah diundangkan pada Juli 2026 dan akan berlaku mulai Januari 2027.
Masalahnya, undang-undang ini disusun dengan membayangkan rantai pemrosesan yang sederhana: ada pengendali yang menentukan tujuan dan ada prosesor yang bekerja atas perintahnya. Rantai AI jauh lebih rumit. Pengembang model menentukan cara kerja sistem, penyedia platform menentukan tempat data disimpan, dan pengguna menentukan data apa yang dimasukkan. Ketika data bocor, setiap pihak dapat menunjuk pihak lain. Di sinilah nilai moral yang tertulis dalam undang-undang diuji.
Membaca dengan kacamata aksiologi
Aksiologi, cabang filsafat yang membahas nilai, menawarkan setidaknya tiga ukuran. Pertama, Immanuel Kant mengajarkan bahwa manusia harus selalu diperlakukan sebagai tujuan, tidak pernah semata-mata sebagai alat. Data pribadi adalah perpanjangan diri seseorang. Menjadikannya bahan bakar gratis untuk melatih model, tanpa sepengetahuan pemiliknya, berarti memperlakukan manusia sebagai alat.
Kedua, filsuf Hans Jonas menulis bahwa di era teknologi, tanggung jawab harus sebanding dengan kekuasaan. Semakin besar kemampuan seseorang memengaruhi kehidupan orang lain, semakin besar pula kewajibannya untuk memperkirakan dan mencegah dampaknya. Dalam rantai AI, kekuasaan terbesar ada pada pihak yang mengendalikan model dan data latihnya, bukan pada nasabah yang tidak tahu apa-apa.
Ketiga, tradisi hukum Islam memiliki kaidah al-kharaj bi al-dhaman: siapa yang menikmati hasil, dialah yang menanggung risiko. Al-Quran juga memerintahkan agar amanah disampaikan kepada yang berhak (QS An-Nisa’ [4]: 58). Data pribadi yang diserahkan kepada sebuah layanan adalah amanah. Pihak yang mengambil keuntungan dari amanah itu tidak semestinya lepas tangan ketika amanah tersebut dikhianati.
Ketiga ukuran ini mengarah pada kesimpulan yang sama: tanggung jawab seharusnya mengikuti kendali dan manfaat. Pengguna yang memasukkan data secara sembrono tetap bertanggung jawab atas kelalaiannya. Akan tetapi, penyedia yang diam-diam memakai data tersebut untuk kepentingannya sendiri tidak lagi dapat berlindung di balik status “prosesor”. UU PDP sebenarnya sudah membuka jalan ini: prosesor yang bertindak di luar perintah pengendali bertanggung jawab sendiri. Yang belum ada adalah ukuran yang jelas untuk menerapkannya pada AI.
Keberatan yang wajar
Sebagian orang akan berkata bahwa membebankan tanggung jawab berat kepada pengembang akan mematikan inovasi. Keberatan ini patut didengar. Indonesia membutuhkan investasi teknologi, dan aturan yang terlalu keras bisa membuat pelaku usaha enggan masuk.
Namun, pilihannya bukan antara inovasi dan perlindungan. Tanggung jawab dapat dibuat proporsional: pelaku usaha yang membuktikan telah menilai dampak, membuat perjanjian yang jelas, dan segera memberi tahu ketika terjadi kebocoran dapat diberi keringanan. Yang tidak boleh terjadi adalah kerugian dibiarkan jatuh kepada pihak yang paling lemah, yaitu pemilik data, hanya karena para pelaku saling melempar tanggung jawab.
Yang perlu dilakukan
Nilai moral dalam undang-undang baru bermakna jika ada yang menegakkannya. Hingga November 2026, lembaga pengawas pelindungan data pribadi belum terbentuk; Kementerian Komunikasi dan Digital menyatakan rancangan Peraturan Presidennya telah diajukan kepada Presiden. Pemerintah perlu segera menuntaskannya. Lembaga itu kemudian perlu menerbitkan pedoman untuk menentukan siapa pengendali dan siapa prosesor dalam layanan AI, termasuk bagi penyedia asing yang melayani warga Indonesia.
Teknologi boleh berubah secepat apa pun, tetapi pertanyaan moralnya tetap sama: siapa yang dipercaya, dan siapa yang harus menjaga kepercayaan itu. Hukum yang baik tidak membiarkan pertanyaan tersebut tanpa jawaban.
Landasan Aksiologis Artikel
| Teori atau Sumber Nilai | Penggunaan dalam Argumen |
| Etika deontologis Immanuel Kant (manusia sebagai tujuan) | Menilai bahwa penggunaan data pribadi untuk melatih model tanpa sepengetahuan pemiliknya memperlakukan manusia sebagai alat. |
| Etika tanggung jawab Hans Jonas | Menjadi dasar gagasan bahwa tanggung jawab harus sebanding dengan kekuasaan dan kendali atas teknologi. |
| QS An-Nisa’ (4): 58 dan kaidah al-kharaj bi al-dhaman | Menempatkan data pribadi sebagai amanah dan mengaitkan manfaat dengan kewajiban menanggung risiko. |
| Asas pertanggungjawaban dan kehati-hatian dalam UU PDP | Menunjukkan bahwa nilai moral sudah dirumuskan dalam undang-undang, tetapi belum operasional untuk rantai AI. |
| Keberatan dari sudut efisiensi ekonomi | Diajukan dan dijawab dengan gagasan tanggung jawab proporsional, untuk menjaga objektivitas argumen. |
Fakta yang Digunakan dan Sumbernya
- Peringatan Telkom Indonesia tentang risiko kebocoran data dari penggunaan AI publik: Koran Jakarta (bersumber dari ANTARA), 2 Maret 2026.
- Pernyataan pejabat Kemenkomdigi bahwa pelindungan data merupakan tanggung jawab bersama pengguna dan penyelenggara sistem: Investor Trust, 31 Oktober 2025.
- PP Nomor 33 Tahun 2026 ditetapkan dan diundangkan 16 Juli 2026, berlaku 16 Januari 2027: Katadata, 3 September 2026.
- Rancangan Perpres lembaga pengawas pelindungan data pribadi telah diajukan kepada Presiden: pernyataan Komdigi, Katadata, 5 November 2026.
Daftar Pustaka
Buku dan Artikel Ilmiah
Carlini, Nicholas, Florian Tramèr, Eric Wallace, Matthew Jagielski, Ariel Herbert-Voss, Katherine Lee, Adam Roberts, Tom Brown, Dawn Song, Úlfar Erlingsson, Alina Oprea, dan Colin Raffel. “Extracting Training Data from Large Language Models.” Dalam Proceedings of the 30th USENIX Security Symposium, 2633–2650. USENIX Association, 2021.
Hadjon, Philipus M. Perlindungan Hukum bagi Rakyat di Indonesia. Surabaya: Bina Ilmu, 1987.
Hume, David. A Treatise of Human Nature. London: John Noon, 1739.
Jonas, Hans. The Imperative of Responsibility: In Search of an Ethics for the Technological Age. Chicago: University of Chicago Press, 1984.
Kant, Immanuel. Groundwork of the Metaphysics of Morals. Terjemahan Mary Gregor. Cambridge: Cambridge University Press, 1997.
Kelsen, Hans. General Theory of Law and State. Cambridge: Harvard University Press, 1945.
Kuntowijoyo. Islam sebagai Ilmu: Epistemologi, Metodologi, dan Etika. Yogyakarta: Tiara Wacana, 2006.
Kusumaatmadja, Mochtar. Konsep-Konsep Hukum dalam Pembangunan. Bandung: Alumni, 2002.
Marzuki, Peter Mahmud. Penelitian Hukum. Jakarta: Kencana, 2021.
Matthias, Andreas. “The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata.” Ethics and Information Technology 6, no. 3 (2004): 175–183.
Soekanto, Soerjono, dan Sri Mamudji. Penelitian Hukum Normatif: Suatu Tinjauan Singkat. Jakarta: RajaGrafindo Persada, 2015.
Suriasumantri, Jujun S. Filsafat Ilmu: Sebuah Pengantar Populer. Jakarta: Pustaka Sinar Harapan, 1990.
Peraturan dan Dokumen Hukum
Undang-Undang Dasar Negara Republik Indonesia Tahun 1945.
Kitab Undang-Undang Hukum Perdata.
Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.
Peraturan Pemerintah Nomor 33 Tahun 2026 tentang Peraturan Pelaksanaan Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.
Regulation (EU) 2016/679 of the European Parliament and of the Council (General Data Protection Regulation).
Regulation (EU) 2024/1689 of the European Parliament and of the Council (Artificial Intelligence Act).
Directive (EU) 2024/2853 of the European Parliament and of the Council on Liability for Defective Products.
European Data Protection Board. Guidelines 07/2020 on the Concepts of Controller and Processor in the GDPR. Versi 2.0, 7 Juli 2021.
Sumber Daring
Investor Trust. “Jangan Terbuai Kemudahan AI, Kemenkomdigi Minta Warga Jaga Data Pribadi.” 31 Oktober 2025. https://investortrust.id/national/84119/jangan-terbuai-kemudahan-ai-kemenkomdigi-minta-warga-jaga-data-pribadi
Katadata. “Komdigi: Perpres Lembaga Pengawas PDP Masuk Tahap Final.” 5 November 2026. https://katadata.co.id/digital/teknologi/6aec368e80c97/komdigi-perpres-lembaga-pengawas-pdp-masuk-tahap-final
Katadata. “PP Pelindungan Data Pribadi Berlaku Januari 2027, Ini Aturan Baru Data Anak.” 3 September 2026. https://katadata.co.id/finansial/makro/6a9979b7c5745/pp-pelindungan-data-pribadi-berlaku-januari-2027-ini-aturan-baru-data-anak
Koran Jakarta. “Telkom Ingatkan: Pakai AI Publik Boleh, Tapi Jangan Sampai Data Bocor.” 2 Maret 2026. https://koran-jakarta.com/2026-03-02/telkom-ingatkan-pakai-ai-publik-boleh-tapi-jangan-sampai-data-bocor



