Memahami AI Governance

Posted on8 Months ago by Trisma Juwita 527

Artificial Intelligence atau AI kini menjadi bagian tak terpisahkan dari transformasi digital di berbagai sektor. Dari otomasi proses bisnis hingga analisis data berskala besar, AI menawarkan efisiensi, kecepatan, dan kemampuan adaptif yang belum pernah ada sebelumnya.

AI system yang dirancang untuk menerima masukan (input) dan menghasilkan keluaran (output) dengan cara mencontoh ataupun menambahkan data yang telah diproses. Data masukan (input) dapat dalam bentuk format apapun seperti tabel, dokumen PDF, gambar, video, audio dan berbagai format lainnya. Data masukan tersebut kemudian akan di proses oleh AI model yang selanjutnya akan menjadi data training pada AI.

AI system akan mengamati data masukan dan memperoleh pola dari data tersebut, kemudian AI akan mempelajari cara perilaku manusia yang diharapkan dari hasil proses data tersebut. Dalam mengelola data yang tidak terbatas, tentunya ada beberapa risiko yang akan muncul karena hal ini, diantaranya:

1. Bias

Data masukan yang diproses oleh AI adalah data yang dihasilkan oleh manusia, sayangnya manusia tidak luput dari bias. Manusia akan cenderung memberikan perhatian lebih pada faktor tertentu dalam mengambil keputusan dan mengabaikan faktor lainnya. Data bias ini tidak akan terlihat dengan jelas namun bersifat laten dan tersembunyi. AI system yang memproses data ini memiliki kecenderungan untuk menangkap bias pada data tersebut. Sehingga, bisa saja keluaran dari data yang diproses oleh AI akan menjadi bias.

Contohnya, sebuah AI System digunakan oleh sebuah perusahaan teknologi besar untuk menyaring calon kandidat yang melamar pada posisi teknis. Hasilnya ternyata AI lebih sering memilih kandidat laki-laki dibandingkan dengan perempuan.

Hal ini terjadi karena data training pada AI system-nya berasal dari riwayat rekrutmen sebelumnya yang didominasi oleh laki-laki, sehingga saat AI mengamati dan memproses pola data tersebut AI memberikan keluaran bahwa laki-laki lebih cocok untuk posisi teknis.

2. Pelanggaran Privacy / Copyright Infringement

Tanpa pengawasan yang ketat pada data masukan dan data training pada AI maka data-data tersebut dapat berisi informasi rahasia, pribadi dan sensitif. Jika tidak terdapat pengawasan yang ketat dan tepat, besar kemungkinan AI System akan memberikan keluaran informasi data yang melanggar hukum maupun privacy.

Kasus yang pernah terjadi adalah perusahaan media Ziff Davis (pemilik IGN, CNET, PCMag, dll.) menggugat OpenAI karena ChatGPT diduga menggunakan konten dari situs mereka tanpa izin untuk melatih model AI. Mereka menemukan salinan lengkap artikel mereka dalam data set pelatihan dan menuduh OpenAI menghapus informasi hak cipta.

3. Lack of Transparency Breeds Distrust

Penggunaan Blackbox AI Model pada AI system membuat AI memiliki kendali lebih pada cara kerja algoritma. Hal ini membuat kita tidak mengetahui bagaimana AI Model tersebut mengambil keputusan tertentu dan tidak dapat memberikan penjelasan. Sehingga AI memiliki risiko tidak adanya transparansi dan mempengaruhi kepercayaan.

Contohnya dalam sektor kesehatan, AI digunakan untuk membantu diagnosis penyakit pasien. Namun, jika sistem memberikan hasil tanpa penjelasan atau logika yang bisa dipahami oleh dokter, maka kepercayaan terhadap sistem tersebut menurun. Dokter tidak bisa memverifikasi apakah diagnosis tersebut valid.

4. Lack of Continuously Monitoring

Dalam menggunakan AI, pengguna pasti ingin selalu mendapatkan data keluaran (output) yang high quality, namun AI model tidak dapat melakukan hal tersebut secara terus menerus. AI akan mengalami penurunan kualitas keluaran (output) karena masukan (input) data sangat berbeda dengan data training atau AI memproses data yang terlalu luas. Sehingga tidak jarang keluaran (output) tidak sesuai dengan keinginan pengguna.

Contohnya, saat menggunakan Chatbot layanan pelanggan yang awalnya responsif, tapi lama-lama memberikan jawaban yang tidak sesuai karena tidak ada evaluasi berkala terhadap kualitas output-nya.

Karena risiko – risiko diatas, maka dibutuhkan peraturan dan pedoman yang mengatur AI System disinilah peran AI Governance menjadi krusial. AI Governance adalah kerangka kerja yang memastikan bahwa pengembangan dan penerapan AI dilakukan secara bertanggung jawab, aman, dan sesuai dengan nilai serta regulasi yang berlaku.

AI Governance yang efektif mencakup mekanisme pengawasan sekaligus mendorong inovasi dan membangun kepercayaan. Pendekatan etis yang berpusat pada AI dan AI Governance membutuhkan keterlibatan beragam pemangku kepentingan, termasuk pengembang, pengguna, pembuat kebijakan, dan ahli etika AI, untuk memastikan bahwa sistem terkait AI dikembangkan dan digunakan selaras dengan nilai-nilai masyarakat.

AI Governance mencakup berbagai kebijakan, kerangka kerja, dan praktik yang diterapkan oleh organisasi dan pemerintah untuk membantu memastikan penggunaan teknologi AI yang bertanggung jawab, contohnya antara lain:

1. ISO/IEC 42001:2023 Information Technology — Artificial intelligence — Management system
2. The NIST AI Risk Management Framework (AI RMF)

Untuk menghadapi tantangan dan memaksimalkan potensi AI, organisasi perlu:

Menyusun kebijakan dan standar internal terkait penggunaan AI secara bertanggung jawab;
Membentuk komite atau tim tata kelola AI lintas fungsi (legal, IT, compliance, operasional);
Melakukan penilaian risiko dan audit berkala terhadap sistem berbasis AI;
Meningkatkan literasi AI di seluruh level organisasi, termasuk pelatihan etika dan keamanan;
Memastikan transparansi dalam proses pengambilan keputusan yang melibatkan AI;

AI Governance bukan sekadar kepatuhan tapi juga fondasi untuk membangun kepercayaan, inovasi berkelanjutan, dan ketahanan digital jangka panjang.

Sebagai bagian dari komitmen kami dalam mendukung transformasi digital yang aman dan beretika, NaradaCode menyediakan layanan dan solusi yang dirancang khusus untuk membantu organisasi menerapkan AI Governance secara efektif.

Kita perlu mempersiapkan diri untuk mengelola AI. Untuk itu, kami menghadirkan Program Pelatihan AI Management System berbasis ISO 42001:2023 — Standar Internasional terbaru yang dirancang khusus untuk tata kelola AI yang aman, transparan, dan berkelanjutan.

Program ini dirancang untuk membantu organisasi memahami prinsip-prinsip AI governance, menyusun kebijakan internal, dan membangun sistem manajemen AI yang selaras dengan nilai bisnis dan kepatuhan global.

Previous article Next article