Data Governance vs AI Governance: Mengapa Masalah AI Sebenarnya Dimulai dari Data?

Jakarta, Inixindo.id – Penggunaan Artificial Intelligence (AI) di perusahaan berkembang semakin luas. AI mulai digunakan untuk membantu customer service, menganalisis data pelanggan, merangkum dokumen, mencari informasi internal, hingga mendukung pengambilan keputusan dalam berbagai proses bisnis.  Namun, semakin luas penggunaannya, perusahaan tidak lagi hanya berhadapan dengan pertanyaan apakah teknologi AI tersebut bekerja dengan baik. Organisasi juga perlu mengetahui data apa yang digunakan, siapa yang boleh mengaksesnya, apakah datanya cukup berkualitas, siapa yang memvalidasi hasil AI, dan siapa yang bertanggung jawab ketika hasil tersebut berdampak terhadap bisnis. 

Persoalan inilah yang membuat AI Governance tidak dapat dipisahkan dari Data Governance. Sebelum mengatur bagaimana AI digunakan, perusahaan perlu memastikan bahwa data yang menjadi bahan bakarnya sudah dikelola dengan aturan dan tanggung jawab yang jelas. 

1. Mengapa AI Governance Tidak Bisa Dipisahkan dari Data Governance? 

Setiap sistem AI bergantung pada data. Data tersebut dapat berasal dari database pelanggan, transaksi, dokumen perusahaan, informasi karyawan, knowledge base, hingga berbagai sistem operasional yang sebelumnya mungkin hanya digunakan untuk kebutuhan internal. 

Masalahnya, AI tidak otomatis memperbaiki persoalan data yang sudah ada. Jika perusahaan masih memiliki data ganda, kualitas yang tidak konsisten, hak akses yang terlalu luas, atau ownership yang tidak jelas, penggunaan AI justru dapat membawa persoalan tersebut ke proses bisnis yang lebih besar. 

Karena itu, pembahasan AI Governance seharusnya tidak langsung dimulai dari model, vendor, atau teknologi yang digunakan. Perusahaan terlebih dahulu perlu memahami bagaimana data dikelola, siapa yang bertanggung jawab terhadapnya, siapa yang memiliki akses, bagaimana kualitasnya, serta untuk tujuan apa data tersebut diperbolehkan untuk digunakan. 

Di sinilah Data Governance menjadi fondasi. Setelah data mulai digunakan oleh sistem AI, cakupan governance kemudian diperluas untuk mengatur use case, risiko, accountability, pengawasan manusia, dan monitoring terhadap penggunaan AI. 

2. Data Governance vs AI Governance: Apa Bedanya? 

Data Governance dan AI Governance memiliki fokus yang berbeda, tetapi keduanya tidak berdiri sebagai dua framework yang sepenuhnya terpisah. Perbedaannya terutama berada pada objek dan ruang lingkup yang dikendalikan. 

Data Governance mengatur data sebagai aset organisasi, mulai dari ownership, quality, classification, access, hingga aturan penggunaannya. Ketika data tersebut mulai diproses AI untuk menghasilkan analisis, rekomendasi, atau keputusan, muncul lapisan risiko baru yang tidak cukup diselesaikan hanya dengan Data Governance. 

AI Governance kemudian memperluas kontrol tersebut dengan melihat bagaimana AI digunakan, seberapa besar dampaknya, siapa yang bertanggung jawab, dan bagaimana hasilnya diawasi. Jadi, AI Governance bukan pengganti Data Governance, melainkan perluasan governance ketika organisasi mulai menggunakan sistem AI. 

3. Mengapa Data Governance Menjadi Fondasi AI Governance? 

Ada empat area penting dalam Data Governance yang menentukan kesiapan organisasi dalam menggunakan AI, yaitu ownership, data quality, classification, dan access. 

Ownership 
Menentukan siapa yang memiliki kewenangan terhadap penggunaan dan pengelolaan data. 

Data Quality 
Memastikan data yang digunakan akurat, konsisten, lengkap, dan dapat dipercaya. 

Classification 
Mengelompokkan data berdasarkan tingkat sensitivitas agar aturan penggunaan dan perlindungannya dapat ditentukan dengan tepat. 

Access 
Mengatur siapa yang dapat mengakses data serta untuk tujuan apa data tersebut boleh digunakan. 

Keempat area ini menjadi fondasi agar penggunaan data untuk AI tetap terkontrol dan sesuai dengan kebijakan perusahaan. 

4. AI Governance Menambahkan Apa? 

Misalnya, tim marketing menggunakan AI untuk menganalisis riwayat transaksi pelanggan dan memberikan rekomendasi produk. Data Governance memastikan data tersebut memiliki owner, berkualitas, terklasifikasi, dan memiliki aturan akses yang jelas. 

Ketika data digunakan oleh AI, ada lima area kontrol tambahan: 

Use Case: memastikan tujuan penggunaan AI jelas, yaitu memberikan rekomendasi produk. 

Risk: menilai dampaknya terhadap bisnis, pelanggan, security, privacy, dan compliance. 

Accountability: menentukan siapa yang bertanggung jawab terhadap penggunaan dan hasil AI. 

Human Oversight: memastikan manusia tetap dapat melakukan review atau override terhadap rekomendasi AI. 

Monitoring: memantau performa AI dan risiko yang muncul setelah sistem digunakan. 

Artinya, Data Governance mengatur fondasi datanya, sedangkan AI Governance memperluas kontrol hingga bagaimana AI digunakan dan dipertanggungjawabkan. 

5. Contoh Penerapannya di Perusahaan 

Customer Data untuk Sistem Rekomendasi 

Bayangkan tim marketing ingin menggunakan AI untuk menganalisis riwayat transaksi pelanggan dan memberikan rekomendasi produk. Dari sisi teknis, perusahaan mungkin sudah memiliki database, sistem integrasi, dan model yang dibutuhkan untuk menjalankan use case tersebut. 

Namun, Data Governance harus menjawab lebih dahulu siapa owner data pelanggan, apakah data cukup berkualitas, bagaimana sensitivitasnya, dan siapa yang boleh mengaksesnya. Setelah data masuk ke sistem AI, AI Governance kemudian menentukan apakah tujuan penggunaannya dapat diterima, bagaimana risikonya dinilai, siapa yang bertanggung jawab atas hasil rekomendasi, dan bagaimana penggunaannya diawasi. 

Dengan pendekatan tersebut, perusahaan tidak hanya menilai apakah AI dapat bekerja. Organisasi juga memastikan bahwa penggunaan data dan hasil AI dapat dipertanggungjawabkan. 

AI untuk HR dan Decision Making 

Situasi menjadi lebih sensitif ketika AI digunakan untuk membantu menyaring kandidat, mengevaluasi informasi karyawan, atau memberikan rekomendasi yang berkaitan dengan keputusan HR. Pada kondisi seperti ini, Data Governance tetap bertugas memastikan data dikelola dengan benar, memiliki akses terbatas, dan digunakan sesuai tujuan. 

Namun, AI Governance perlu menentukan sejauh mana rekomendasi AI boleh memengaruhi keputusan akhir. Karena dampaknya langsung terhadap individu, diperlukan accountability, proses validasi manusia, serta monitoring yang lebih kuat dibandingkan use case berisiko rendah. Prinsipnya, semakin besar dampak AI terhadap individu atau proses bisnis, semakin kuat pula governance yang dibutuhkan. 

6. Menilai Kesiapan Governance Perusahaan untuk AI 

Sebelum mengadopsi AI lebih luas, perusahaan dapat mengecek beberapa hal dasar: 

1. Apakah data penting sudah memiliki owner yang jelas? 
Pastikan ada pihak yang memiliki kewenangan menentukan bagaimana data digunakan. 

2. Apakah policy data diterapkan secara konsisten? 
Aturan akses, kualitas, keamanan, dan privacy harus berlaku konsisten antarunit. 

3. Apakah penggunaan data dapat ditelusuri? 
Perusahaan perlu mengetahui data yang digunakan AI dan dari mana sumbernya. 

4. Apakah AI use case memiliki proses penilaian risiko? 
Setiap penggunaan AI perlu memiliki kontrol sesuai tingkat dampaknya. 

5. Apakah accountability terhadap hasil AI sudah jelas? 
Harus ada pihak yang bertanggung jawab terhadap analisis, rekomendasi, atau keputusan yang dihasilkan AI. 

Jika jawaban atas beberapa pertanyaan tersebut masih belum jelas, perusahaan kemungkinan masih memiliki gap governance yang perlu diperbaiki sebelum memperluas penggunaan AI. 

7. Bagaimana Memulai Data & AI Governance? 

Perusahaan dapat membangun Data & AI Governance secara bertahap melalui empat langkah: 

1. Nilai kondisi governance saat ini 

2. Perkuat fondasi Data Governance 

3. Petakan AI use case dan risikonya 

4. Perluas governance menuju AI 

Setiap tahap membutuhkan pendekatan yang sesuai dengan kondisi, risiko, dan maturity organisasi. 

Untuk memahami bagaimana tahapan tersebut diterapkan secara lebih terstruktur, perusahaan dapat mempelajari Data Governance Framework, accountability, data quality, policy, compliance, hingga pengembangan governance menuju AI melalui kelas Strategic Data & AI Governance for Enterprises dari Inixindo. 

FAQ Data Governance dan AI Governance 

1. Apa perbedaan utama Data Governance dan AI Governance? 

2. Apakah perusahaan harus memiliki Data Governance sebelum menggunakan AI? 

3. Siapa yang bertanggung jawab terhadap AI Governance? 

4. Apakah semua penggunaan AI membutuhkan kontrol yang sama? 

5. Apa langkah pertama membangun AI Governance? 

Jika beberapa pertanyaan tersebut belum dapat dijawab dengan jelas, kemungkinan gap organisasi bukan hanya pada teknologi AI, tetapi pada governance. Pemahaman tersebut dapat diperdalam melalui kelas Strategic Data & AI Governance for Enterprises dari Inixindo.