Implementasi ISO IEC 42005:2025 di Korporasi dan Sektor Publik

Keputusan memakai AI membawa tanggung jawab yang melampaui keberhasilan proyek teknologi. Di perusahaan, hasilnya dapat memengaruhi pelayanan kepada nasabah dan perlakuan terhadap karyawan. Pada instansi publik, rekomendasi sistem ikut menentukan akses warga terhadap layanan. Penghematan biaya dan kecepatan proses hanya sebagian dari pertimbangan kelayakan. Sebelum AI digunakan, pimpinan perlu memahami siapa yang menerima manfaat, pihak mana yang berpotensi dirugikan, serta cara memperbaiki keputusan yang keliru.

ISO/IEC 42005:2025 memberi panduan untuk menjawab persoalan tersebut melalui penilaian dampak sistem AI. Berlaku bagi organisasi yang mengembangkan, menyediakan, atau menggunakan AI, standar ini mencakup manfaat dan potensi kerugian bagi individu, kelompok, serta masyarakat. Penilaiannya memperhatikan dampak yang sudah terjadi maupun yang secara wajar dapat diperkirakan sepanjang siklus hidup sistem.

ISO/IEC 42005 merupakan panduan penilaian dampak, bukan standar persyaratan sertifikasi sistem manajemen. Penerapannya dapat mendukung penilaian dampak dalam ISO/IEC 42001 dan memperkaya pengelolaan risiko AI. Penilaian dimulai dari pengalaman pihak yang terdampak, kemudian menghubungkannya dengan risiko organisasi.

Mulailah dengan satu penggunaan AI yang konsekuensinya penting. Tetapkan tujuan, batas penggunaan, data yang dipakai, dan pihak yang terdampak, termasuk mereka yang tidak berinteraksi langsung dengan sistem. Periksa pula kegagalan dan penyalahgunaan yang dapat diperkirakan. Pemilik proses memimpin penilaian bersama fungsi teknologi, risiko, kepatuhan, dan tenaga ahli yang relevan. Pelanggan, petugas layanan, atau perwakilan kelompok rentan perlu dilibatkan sesuai konteks. Pengalaman mereka dapat mengungkap masalah yang luput dari pengujian teknis.

Organisasi kemudian menilai manfaat dan kerugian menurut konteksnya: akses layanan, kewajaran perlakuan, privasi, keselamatan, serta dampak lingkungan. Besaran dan kemungkinan dampak perlu diperiksa. Akurasi rata-rata yang tinggi dapat menyembunyikan kesalahan pada kelompok tertentu. Bukti pengujian harus cukup untuk menjelaskan kelompok mana yang lebih sering dirugikan dan penyebabnya. Keuntungan finansial organisasi tidak otomatis membenarkan kerugian serius pada kelompok kecil.

Sebelum penerapan, tetapkan ambang untuk penggunaan sensitif, penggunaan yang dibatasi, serta skala dampak. Dokumentasikan alasan persetujuan dan pengendalian yang diperlukan. Organisasi dapat memilih uji coba terbatas, menambah pemeriksaan manusia, atau menunda penggunaan sampai masalah diperbaiki. Penanggung jawab dan kewenangan menghentikan sistem harus jelas. Laporan penilaian menjadi dasar keputusan manajemen yang dapat diperiksa kembali.

Sebagai ilustrasi, perusahaan asuransi menggunakan AI untuk memprioritaskan pemeriksaan klaim. Manfaatnya ialah mempercepat layanan dan membantu mendeteksi kecurangan. Penilaian dampak memeriksa apakah klaim sah dari kelompok tertentu lebih sering ditandai mencurigakan, lalu menilai akibat penundaan pembayaran bagi nasabah. Salah satu pengendalian yang layak ialah menjadikan tanda AI sebagai pemicu pemeriksaan petugas, dengan bukti tambahan sebelum mengambil keputusan yang merugikan nasabah. Alasan keputusan perlu dapat dijelaskan dan tersedia saluran keberatan.

Dalam ilustrasi sektor publik, AI membantu menyusun prioritas penerima bantuan. Penilaian perlu memeriksa apakah warga dengan rekam data terbatas tersisih, bagaimana kesalahan memengaruhi kebutuhan dasar mereka, dan apakah proses koreksi mudah dijangkau. Instansi dapat menyediakan verifikasi lapangan dan jalur layanan langsung. Petugas memerlukan kewenangan memperbaiki rekomendasi berdasarkan bukti. Pelibatan warga membantu memastikan ukuran keberhasilan mencakup ketepatan sasaran dan akses yang adil.

Penilaian tidak selesai ketika sistem mulai digunakan. Pembaruan model, perubahan data, perluasan penggunaan, dan keluhan menjadi bahan peninjauan. Untuk kedua ilustrasi tersebut, pemantauan dapat mencakup keputusan keliru per kelompok, waktu penyelesaian keberatan, serta efektivitas koreksi. Informasi dari penyedia AI perlu diminta sesuai kebutuhan; keterbatasan informasi dicatat dalam pertimbangan persetujuan. Hasil pemantauan dihubungkan dengan pengendalian dan proses risiko yang sudah ada.

ISO/IEC 42005:2025 membantu organisasi menimbang manfaat AI bersama konsekuensinya bagi manusia. Nilainya terlihat ketika temuan penilaian benar-benar mengubah cara sistem dirancang, digunakan, dan diawasi. Di korporasi maupun sektor publik, pimpinan mempunyai akuntabilitas memastikan keputusan yang dibantu AI memiliki dasar yang dapat dijelaskan dan jalan pemulihan bagi pihak yang dirugikan. Kepercayaan tumbuh ketika organisasi bersedia memeriksa hasil keputusan dan memperbaikinya.

ISO/IEC 42005:2025, Klausul 5–6 dan Lampiran A.