Temuan ketiga menekankan perlunya kerangka tata kelola yang kuat untuk menjamin penggunaan AI secara etis dan akuntabel. Organisasi perlu menetapkan kebijakan yang jelas tentang siapa yang bertanggung jawab atas penggunaan AI, bagaimana proses pengawasan dilakukan, dan sejauh mana keputusan yang dihasilkan dapat dijelaskan secara terbuka (explainable AI). Tanpa tata kelola dan audit internal yang memadai, AI dapat menjadi “kotak hitam” yang sulit dipertanggungjawabkan. Oleh karena itu, sistem pengawasan manusia (human oversight) dan transparansi algoritma menjadi prinsip utama dalam memastikan bahwa teknologi tidak berjalan di luar kendali moral organisasi.

Temuan keempat menegaskan bahwa etika harus menjadi fondasi utama dalam pengembangan dan penerapan AI di masa depan. Pendekatan yang disebut ethics by design, yakni integrasi nilai-nilai etika sejak tahap perancangan sistem. Hal ini dianggap sebagai langkah penting untuk memastikan AI bekerja secara adil, transparan, dan bertanggung jawab. Etika tidak boleh dianggap sebagai hambatan inovasi, melainkan sebagai kompas yang memastikan kemajuan teknologi tetap berpihak pada nilai kemanusiaan dan kepercayaan publik.

Secara keseluruhan, keempat temuan tersebut menunjukkan bahwa keberhasilan penerapan AI dalam profesi keuangan bukan semata ditentukan oleh kecanggihan teknologi, tetapi oleh sejauh mana manusia mampu memadukan kompetensi teknis dengan integritas moral. Dengan pendekatan yang bertanggung jawab, AI dapat menjadi alat yang memperkuat profesionalisme dan kredibilitas, bukan mengancamnya. ACCA dan CISI menutup laporan ini dengan pesan yang jelas: masa depan profesi keuangan akan sangat bergantung pada kemampuan mengelola hubungan antara teknologi dan etika secara seimbang dan berkelanjutan.

Referensi:

  • ACCA. (2025). AI Monitor: Shining a light on AI’s ethical threats for finance professionals. https://www.accaglobal.com/content/dam/ACCA_Global/professional-insights/ai-monitor-shining-a-light-on-ethical-threats/ai-monitor-shining-a-light-on-ethical-threats.pdf