AI Bukan Lagi Sekadar Inovasi — Ini Soal Tata Kelola
Mr. Ingo Unger memaparkan beberapa kasus nyata di mana AI justru menciptakan risiko lebih besar dari manfaatnya, di antaranya:
- Kecelakaan kendaraan otonom Uber (2018) di Tempe, Arizona, akibat kesalahan klasifikasi objek oleh AI.
- Sistem rekrutmen Amazon yang terbukti bias terhadap perempuan karena data pelatihan yang tidak representatif.
- Sistem pengenalan wajah yang secara signifikan lebih sering salah mengidentifikasi perempuan dan orang kulit berwarna, bahkan berujung pada penangkapan yang tidak sah.
Kasus-kasus ini menjadi pengingat kuat: penggunaan AI tanpa kerangka tata kelola yang memadai membawa risiko hukum, etika, dan reputasi yang nyata.
Lanskap Risiko Baru yang Dibawa AI
Mr. Ingo juga menjelaskan bahwa AI tidak sekadar meningkatkan risiko siber yang sudah ada. AI mengubah sifat risiko itu sendiri. Tiga dimensi risiko baru yang muncul mencakup:
- Skala dan kecepatan: penyerang kini menggunakan AI untuk mengotomatisasi serangan siber yang sebelumnya membutuhkan waktu berminggu-minggu, kini bisa terjadi dalam hitungan menit.
- Vektor serangan baru: data poisoning, manipulasi model, prompt injection, dan pencurian model adalah ancaman yang belum ada sebelumnya.
- Hilangnya kendali dan kemampuan penjelasan: ketika pengambilan keputusan semakin otomatis, organisasi bisa kehilangan pemahaman tentang mengapa sistem berperilaku dengan cara tertentu.
“Risiko AI yang tidak dikelola dengan cepat menjadi risiko siber yang tidak terkelola — dengan konsekuensi regulasi, finansial, dan reputasi.”
Apa Itu ISO/IEC 42001 dan Mengapa Penting?
Mr. Ingo Unger memperkenalkan sertifikasi ISO/IEC 42001 sebagai standar internasional pertama yang menetapkan persyaratan untuk membangun, menerapkan, memelihara, dan terus meningkatkan Sistem Manajemen AI (AIMS) di organisasi mana pun yang menggunakan atau mengembangkan AI.
Konsep inti ISO 42001 meliputi:
- Pendekatan berbasis risiko untuk mengidentifikasi dan mengelola risiko AI
- Tata kelola dan akuntabilitas atas sistem AI yang digunakan
- Manajemen data dan model yang bertanggung jawab
- Transparansi dan kemampuan penjelasan hasil AI
- Pengawasan manusia dan pemantauan pasca-penerapan secara berkelanjutan
Standar ini selaras dengan regulasi global seperti EU AI Act dan NIST AI Risk Management Framework dari AS, serta dirancang untuk melengkapi ISO 27001 yang sudah banyak diterapkan organisasi.
Tingkatan Risiko AI Menurut EU AI Act
Webinar juga membahas kerangka regulasi EU AI Act yang mengklasifikasikan sistem AI ke dalam empat tingkat risiko, mulai dari risiko minimal (seperti video game dan filter spam) hingga risiko tidak dapat diterima yang akan dilarang sepenuhnya, seperti pengawasan biometrik real-time di ruang publik. Untuk sistem risiko tinggi di bidang rekrutmen, keuangan, dan diagnostik medis, berlaku persyaratan ketat berupa conformity assessment dan audit oleh pihak ketiga.
Poin penting yang ditekankan pembicara: ketidakpatuhan terhadap EU AI Act dapat dikenai denda administratif hingga €20 juta, atau 4% dari total omzet tahunan global perusahaan — mana yang lebih tinggi.
Peta Jalan Implementasi ISO/IEC 42001
Mr. Ingo Unger memaparkan implementasi sertifikasi ISO 42001 melalui empat fase yang terstruktur:
- Fase 1: Membangun Fondasi: Analisis kesenjangan (gap analysis), pengembangan kebijakan AI, dan penyiapan sumber daya.
- Fase 2: Eksekusi Rencana Kepatuhan: Penerapan kontrol, pelatihan karyawan, dan pemantauan kinerja sistem AI.
- Fase 3: Pre-Audit ISO 42001: Evaluasi kesiapan sistem, review tata kelola, dan penyelesaian kesenjangan kepatuhan.
- Fase 4: Sertifikasi: Audit formal oleh badan sertifikasi terakreditasi, penanganan ketidaksesuaian, dan pencapaian sertifikasi.
ISO 27001 dan ISO 42001: Kerangka yang Saling Melengkapi
Salah satu poin paling menarik dari webinar ini adalah penjelasan tentang bagaimana sertifikasi ISO 27001 (keamanan informasi) dan sertifikasi ISO 42001 (manajemen AI) saling melengkapi, bukan bersaing. Keduanya berbagi struktur Annex SL yang sama, pendekatan berbasis risiko, dan siklus PDCA (Plan-Do-Check-Act). Sementara ISO 27001 berfokus pada perlindungan kerahasiaan, integritas, dan ketersediaan data, ISO 42001 memperluas tata kelola ke dimensi yang lebih luas: keadilan, transparansi, keselamatan, dan tanggung jawab etika atas sistem AI.
Bagi organisasi yang sudah tersertifikasi ISO 27001, adopsi ISO 42001 menjadi langkah strategis yang lebih mudah karena fondasi manajemen sistem sudah ada. Kombinasi keduanya memberikan landasan yang kokoh untuk transformasi digital yang aman dan bertanggung jawab.
Yang Diperoleh Para Peserta
Dalam 90 menit sesi, para peserta mendapatkan:
- Pemahaman solid tentang prinsip-prinsip sistem manajemen AI berdasarkan ISO 42001
- Peta jalan sertifikasi yang realistis dan dapat disesuaikan dengan kebutuhan organisasi
- Esensi tata kelola yang dapat langsung diimplementasikan
- Quick wins yang dapat menunjukkan nilai bisnis segera
- ISO 42001 Readiness Checklist Whitepaper — eksklusif untuk peserta terdaftar
Hasil Survei Pasca-Webinar: Tantangan Implementasi ISO 42001 di Indonesia
Sebagai bagian dari upaya peningkatan berkelanjutan, DQS Indonesia melakukan survei pasca-webinar terhadap para peserta yang berasal dari beragam sektor industri, mencakup perbankan, manufaktur, penerbangan, teknologi, konsultansi hukum, hingga institusi pendidikan tinggi. Survei ini bertujuan untuk memahami tingkat kesiapan dan tantangan nyata yang dihadapi organisasi di Indonesia dalam mengadopsi ISO/IEC 42001.
Temuan utama survei mengindikasikan bahwa kurangnya awareness terhadap ISO 42001 merupakan tantangan utama yang paling banyak diidentifikasi oleh peserta. Sebagian besar responden mengakui bahwa sebelum mengikuti webinar ini, mereka belum memiliki pemahaman yang memadai mengenai keberadaan, cakupan, maupun urgensi penerapan standar manajemen AI tersebut di lingkungan organisasi mereka.
Kondisi ini mencerminkan kesenjangan yang signifikan antara laju adopsi teknologi AI di berbagai sektor dengan kesiapan tata kelola yang menyertainya. Banyak organisasi yang telah memanfaatkan solusi berbasis AI dalam operasional sehari-hari — mulai dari otomatisasi proses, analitik data, hingga layanan pelanggan berbasis kecerdasan buatan — namun belum memiliki kerangka kebijakan, dokumentasi, maupun struktur akuntabilitas yang diperlukan untuk mengelola risiko yang ditimbulkan secara sistematis.
Rendahnya tingkat awareness ini juga berimplikasi pada aspek kepatuhan regulasi. Seiring dengan semakin ketatnya regulasi AI di tingkat global — khususnya EU AI Act yang mulai diberlakukan secara bertahap — organisasi-organisasi yang beroperasi di atau memiliki keterkaitan dengan pasar internasional menghadapi tekanan yang semakin besar untuk membuktikan bahwa sistem AI mereka dikelola secara bertanggung jawab dan terverifikasi secara independen. Tanpa pemahaman yang cukup mengenai standar seperti ISO/IEC 42001, organisasi berisiko menghadapi ketidakpatuhan yang berpotensi menimbulkan konsekuensi hukum dan reputasional yang serius.
Tata Kelola AI: Bukan Pilihan, Melainkan Keharusan
Webinar ini ditutup dengan pesan yang kuat: jika AI adalah bagian dari strategi digital organisasi Anda, maka tata kelola AI — yang didukung oleh kerangka seperti ISO 42001 — harus menjadi bagian dari strategi risiko siber Anda. AI tidak memperkenalkan prinsip tata kelola baru; AI hanya mengungkap di mana tata kelola selama ini tidak ada.
DQS Indonesia berkomitmen untuk terus mendukung organisasi di kawasan APAC dalam perjalanan menuju pengelolaan AI yang bertanggung jawab, aman, dan berkelanjutan.
Nantikan webinar dan e-forum DQS Indonesia berikutnya!
