Itulah yang terjadi pada D*loitte Australia. Firma tersebut harus mengembalikan sebagian dari pembayaran senilai AUD 440.000 (sekitar 4,5 miliar) kepada Departemen Ketenagakerjaan dan Hubungan Kerja Australia / Department of Employment and Workplace Relations (DEWR) setelah laporan yang mereka kerjakan terbukti berisi kesalahan yang diduga dihasilkan oleh AI, termasuk kutipan palsu dari putusan pengadilan federal dan referensi ke makalah akademik yang sama sekali tidak ada.

Kesalahan ini pertama kali terendus oleh seorang peneliti hukum kesejahteraan dari Universitas Sydney, Chris Rudge, yang menemukan laporan tersebut penuh dengan referensi yang dipalsukan. Salah satu temuannya bahkan lebih ekstrem: laporan mengklaim mengutip artikel dengan judul, nama penulis, dan tahun terbit yang lengkap, padahal artikel itu tidak pernah ada sama sekali.

Setelah ditelusuri, D*loitte mengonfirmasi bahwa mereka memang menggunakan large language model generatif (Azure OpenAI GPT-4o) yang dilisensikan oleh DEWR sendiri dalam proses penyusunan laporan. Dengan kata lain: bukan AI-nya yang sepenuhnya salah, tapi tata kelola penggunaannya yang bolong, tidak ada proses verifikasi berlapis sebelum keluaran AI dianggap sebagai fakta final.

Ini Bukan Insiden Sekali Jadi. Ini Sinyal Bahwa Industri Harus Lebih Detail 

Kasus D*loitte bukan kejadian terisolasi. Ia hanyalah contoh paling terkenal dari pola yang lebih besar:

• Kasus serupa pernah terjadi di ranah hukum, ketika pengacara mengajukan berkas berisi rujukan kasus fiktif buatan AI.
• Perusahaan teknologi besar pun pernah menghentikan sementara fitur AI mereka karena menghasilkan ringkasan berita yang keliru.
• Regulator akuntansi di Inggris bahkan sempat mengingatkan bahwa firma-firma besar belum cukup ketat mengawasi bagaimana AI memengaruhi kualitas audit mereka.

Pesannya jelas: AI generatif itu powerful, tapi bukan pencari kebenaran. AI adalah alat yang menghasilkan jawaban yang "terdengar pas" dengan pertanyaan yang diberikan. Tanpa kerangka tata kelola yang jelas, organisasi mana pun, sebesar dan setepercaya apa pun, bisa mengalami hal yang sama seperti D*loitte: kerugian finansial, reputasi tercoreng, dan hilangnya kepercayaan klien maupun publik.

Pertanyaannya bukan lagi "apakah organisasi kita memakai AI?"  hampir semua sudah atau akan memakainya. Pertanyaan yang lebih penting adalah:

Kenalkan AIMS: AI Management System (ISO/IEC 42001)

Di sinilah AIMS (Artificial Intelligence Management System) sebagai kerangka kerja yang distandardisasi melalui ISO/IEC 42001 hadir sebagai jawaban.

Sederhananya, AIMS adalah sistem manajemen terstruktur yang mengatur bagaimana sebuah organisasi:

1. Merancang dan mengembangkan sistem AI secara bertanggung jawab
2. Menerapkan AI dalam proses bisnis dengan kontrol risiko yang jelas
3. Memantau keluaran AI secara berkelanjutan (termasuk mendeteksi halusinasi atau bias)
4. Mendokumentasikan setiap keputusan terkait AI agar bisa diaudit
5. Meningkatkan sistem tersebut secara berkelanjutan berdasarkan insiden dan pembelajaran

Sama seperti ISO 27001 menjadi standar emas untuk keamanan informasi, ISO/IEC 42001 diposisikan menjadi standar emas untuk tata kelola AI.

Kalau D*loitte Sudah Menerapkan AIMS, Apa yang Berbeda?

Berikut adalah beberapa kontrol khas dalam AIMS yang, jika diterapkan konsisten, kemungkinan besar akan menangkap masalah semacam ini sebelum laporan dikirim ke klien:  

Kenapa Implementasi dan Sertifikasi) AIMS Penting bagi Bisnis Anda?

Bagi organisasi, baik konsultan, firma hukum, institusi keuangan, healthtech, hingga pemerintah, mengimplementasikan dan mensertifikasi AIMS memberi beberapa keunggulan konkret:

• Melindungi Reputasi dan Hubungan Klien Insiden seperti D*loitte menunjukkan bahwa satu laporan bermasalah bisa merusak kepercayaan yang dibangun bertahun-tahun. AIMS memberi bukti yang bisa ditunjukkan ke klien: "Kami punya sistem, bukan cuma niat baik."
• Diferensiasi Kompetitif dalam Tender dan Proposal Semakin banyak klien korporat maupun instansi pemerintah mensyaratkan bukti tata kelola AI dalam proses pengadaan. Sertifikasi ISO/IEC 42001 menjadi nilai jual yang membedakan Anda dari kompetitor yang "hanya pakai AI tanpa kontrol".
• Kesiapan Regulasi Regulasi AI di berbagai yurisdiksi (termasuk pendekatan berbasis risiko seperti EU AI Act) semakin menuntut akuntabilitas. AIMS memberi fondasi tata kelola yang selaras dengan arah regulasi global, sehingga organisasi tidak kelabakan saat aturan baru berlaku.
• Mitigasi Risiko Finansial dan Hukum Kasus D*loitte berujung pada pengembalian dana dan sorotan publik yang tidak murah, secara finansial maupun reputasi. Sistem manajemen risiko AI yang matang membantu mendeteksi masalah sebelum keluar ke publik atau klien, bukan setelah viral.
• Kepercayaan Internal yang Lebih Tinggi Tim yang bekerja dengan panduan jelas kapan boleh mengandalkan AI, kapan harus verifikasi manual, dan bagaimana mengeskalasi kekhawatiran, akan bekerja lebih percaya diri dan konsisten.

Langkah Praktis Menuju Implementasi dan Sertifikasi AIMS

Bagi organisasi yang ingin memulai perjalanan menuju AIMS, berikut tahapan umum yang biasa dilalui:

1. Gap Assessment: memetakan praktik penggunaan AI saat ini terhadap persyaratan ISO/IEC 42001
2. Penetapan Kebijakan & Ruang Lingkup AI : menentukan sistem AI mana saja yang masuk cakupan tata kelola
3. Manajemen Risiko AI: mengidentifikasi risiko spesifik (bias, halusinasi, kebocoran data, dsb.) dan mitigasinya
4. Membangun Kontrol Operasional: proses review manusia, dokumentasi, pelatihan tim, hingga mekanisme pelaporan insiden
5. Audit Internal & Tinjauan Manajemen: memastikan sistem berjalan sesuai desain sebelum audit eksternal
6. Sertifikasi oleh Badan Sertifikasi Independen: validasi resmi bahwa AIMS organisasi Anda memenuhi standar ISO/IEC 42001

Proses ini membutuhkan komitmen, namun jauh lebih ringan dibandingkan biaya reputasi dan finansial yang harus ditanggung ketika insiden seperti D*loitte terjadi.

Jangan Tunggu Menjadi "D*loitte Berikutnya"

Kasus D*loitte adalah pengingat keras bahwa adopsi AI tanpa tata kelola yang matang adalah bom waktu. Di sisi lain, ia juga menjadi momentum bagi organisasi yang serius untuk membuktikan diri sebagai pemain yang bertanggung jawab di era AI.

Implementasi dan sertifikasi AIMS (ISO/IEC 42001) bukan sekadar dokumen kepatuhan di atas kertas. Sertifikasi ini adalah investasi kepercayaan: kepercayaan klien, kepercayaan regulator, dan kepercayaan publik terhadap cara organisasi Anda memanfaatkan salah satu teknologi paling transformatif di zaman ini.

Namun, sertifikasi hanya bernilai jika dikeluarkan oleh badan yang kredibel dan diakui secara global, bukan sekadar "stempel" di atas kertas.

DQS Hadir Sebagai Mitra Audit dan Sertifikasi Perusahaan Kamu!

DQS hadir sebagai mitra sertifikasi yang tepat untuk perjalanan ini. Sebagai salah satu badan sertifikasi terkemuka dengan pengalaman puluhan tahun di berbagai standar manajemen internasional 

DQS memahami bahwa setiap organisasi punya konteks risiko AI yang berbeda — bukan pendekatan generik yang sama untuk semua klien. Tim auditor DQS membantu organisasi Anda:

• Melakukan gap assessment yang objektif terhadap kesiapan tata kelola AI saat ini
• Mendapatkan pendampingan menuju sertifikasi ISO/IEC 42001 yang diakui secara internasional
• Membangun kredibilitas di mata klien, regulator, dan mitra bisnis melalui audit yang independen dan tepercaya

Jangan tunggu sampai organisasi Anda menjadi headline berikutnya karena insiden AI yang sebenarnya bisa dicegah. Mulailah langkah pertama menuju tata kelola AI yang matang bersama DQS — mitra sertifikasi yang memastikan AI di organisasi Anda bekerja untuk Anda, bukan melawan Anda.