Panduan Praktis Tata Kelola AI dengan COBIT Menurut ISACA

Di era bisnis yang bergerak cepat seperti sekarang, perusahaan harus mampu beradaptasi dan terus berinovasi agar tetap kompetitif. Salah satu cara untuk mencapai hal ini adalah dengan mengadopsi teknologi terbaru, salah satunya adalah Artificial Intelligence atau AI. 

ISACA membagikan panduan praktis untuk tata kelola IT organisasi. Panduan yang ditulis oleh Chasserae Coyne, CISM, CSM, CAL tersebut diterbitkan di website resmi ISACA dan membahas bagaimana tata kelola AI yang baik untuk sebuah organisasi dengan menggunakan kerangka kerja COBIT.

Manfaat AI sangatlah beragam mulai dari mengurangi biaya operasional, mempercepat alur kerja, hingga meningkatkan kepuasan pelanggan. Namun, dalam proses penerapannya, banyak organisasi yang sering melewatkan satu elemen penting yaitu tata kelola atau governance.

Tata kelola mungkin tidak sejelas manajemen risiko atau kepatuhan (compliance), tetapi merupakan dasar utama dalam mencapai tujuan dan strategi perusahaan. Sebelum melompat untuk menerapkan teknologi terbaru, penting bagi bisnis untuk berhenti sejenak dan menjawab pertanyaan-pertanyaan krusial, misalnya:

• Mengapa kita mengintegrasikan teknologi ini?
• Masalah apa yang hendak dipecahkan oleh teknologi tersebut?
• Bagaimana kita mengatur dan mengawasi penerapannya?
• Bagaimana kita memastikan data yang digunakan tetap aman?
• Risiko atau kelemahan apa saja yang mungkin muncul?

Seringkali, perusahaan menerapkan teknologi tanpa memahami strategi atau tujuan yang mendasarinya. Mereka juga tidak merencanakan tata kelola atau menyiapkan rencana implementasi yang bertanggung jawab dan efektif.

Studi Kasus: Pelajaran dari Air Canada

Pada tahun 2024, sebuah kasus di Air Canada menjadi contoh nyata dari pentingnya tata kelola AI. Sebuah chatbot AI yang mereka gunakan memberikan informasi yang salah kepada seorang pelanggan mengenai tarif duka cita (bereavement fare). Akibatnya, ketika pelanggan tersebut mengikuti saran dari chatbot, Air Canada awalnya menolak untuk memenuhi informasi yang diberikan. Perusahaan bahkan mencoba membela diri dengan alasan bahwa chatbot tersebut merupakan entitas hukum yang terpisah. Namun, pengadilan di Kanada memutuskan sebaliknya dan memaksa Air Canada untuk memberikan kompensasi kepada pelanggan tersebut.

Kasus ini menjadi contoh nyata bagaimana kurangnya tata kelola AI dapat menimbulkan masalah hukum dan reputasi bagi perusahaan. Hal ini mengungkap beberapa kelemahan kritis dalam tata kelola AI Air Canada, antara lain:

1. Akurasi Informasi: Informasi yang dihasilkan oleh AI harus akurat dan dapat dipercaya.
2. Akuntabilitas: Siapa yang bertanggung jawab jika terjadi kesalahan atau kerugian akibat output AI?
3. Pengawasan dan Verifikasi: Harus ada proses yang tepat untuk mengawasi dan memverifikasi hasil yang dihasilkan oleh sistem AI.

Mengapa COBIT?

AI yang dikembangkan secara internal maupun mengintegrasikan sistem AI yang dikembangkan oleh pihak eksternal, framework COBIT bisa menjadi panduan yang tepat. Misalnya, dalam industri keuangan, COBIT dapat membantu memastikan kepatuhan terhadap regulasi terkait data dan keamanan saat menggunakan AI untuk analisis risiko kredit. 

Di sektor kesehatan, COBIT bisa diterapkan untuk mengelola tata kelola data pasien yang digunakan dalam model AI guna meningkatkan diagnosis dan perawatan pasien. COBIT memberikan kerangka kerja komprehensif untuk membangun sistem tata kelola yang efektif bagi AI. Melalui framework ini, perusahaan dapat memastikan bahwa penerapan AI dilakukan secara bertanggung jawab dan sesuai dengan tujuan bisnis.

Dalam white paper berjudul Leveraging COBIT for Effective AI System Governance, ISACA menjelaskan bagaimana COBIT membantu organisasi menerapkan tata kelola yang efektif untuk pengembangan, implementasi, dan pemeliharaan sistem AI. Berikut adalah lima poin utama yang diambil dari panduan tersebut:

1. Mulai dengan Penyelarasan Strategis

Saat mengimplementasikan sistem AI, pastikan bahwa teknologi tersebut selaras dengan tujuan strategis organisasi. Dengan demikian, keputusan teknologi akan didorong oleh kebutuhan bisnis, bukan sebaliknya.

2. Kelola Risiko dengan Seksama

Penting untuk memahami risiko yang terkait dengan sistem AI. Ini dimulai dengan mengenali elemen-elemen yang membuat AI dapat dipercaya, serta melakukan penilaian dan mitigasi risiko sehingga selaras dengan tingkat toleransi dan nafsu risiko perusahaan.

3. Ukur Kinerja Secara Jelas

Bagaimana Anda mengetahui bahwa implementasi AI telah sukses? Ukurlah kinerjanya dengan menetapkan target dan metrik yang jelas. Evaluasi secara berkala sangat penting untuk memastikan bahwa sistem berjalan sesuai rencana.

4. Terapkan Protokol Keamanan yang Kuat

Keamanan data dan perlindungan terhadap kekayaan intelektual adalah hal yang tidak bisa diabaikan. Terapkan langkah-langkah keamanan yang komprehensif untuk mencegah kebocoran data dan memastikan integritas serta ketersediaan sistem AI.

5. Tetapkan Akuntabilitas Sejak Awal

Definisikan peran dan tanggung jawab dengan jelas untuk setiap komponen dalam sistem AI. Dengan menetapkan siapa yang bertanggung jawab, Anda bisa dengan cepat mengatasi masalah yang muncul dan memastikan kepatuhan terhadap regulasi yang berlaku.

Kesimpulan

AI memiliki potensi besar untuk mentransformasi cara operasional bisnis. Misalnya, di industri manufaktur, AI digunakan untuk meningkatkan efisiensi produksi melalui predictive maintenance, yang dapat mengurangi downtime mesin. 

Sementara itu, di sektor ritel, AI membantu dalam analisis perilaku pelanggan untuk memberikan rekomendasi produk yang lebih personal dan meningkatkan pengalaman belanja. 

Namun, keberhasilannya sangat bergantung pada bagaimana teknologi ini diterapkan secara bertanggung jawab. 

Dalam upaya untuk mendapatkan “quick win”, beberapa organisasi cenderung melewatkan tahapan penting dalam membangun tata kelola, sehingga mereka justru membuka diri terhadap risiko yang tidak perlu.

Meluangkan waktu untuk mengembangkan strategi tata kelola yang menyeluruh tidak hanya akan mengurangi risiko, tetapi juga membangun fondasi yang kokoh untuk pertumbuhan jangka panjang dan keberhasilan bisnis