Penggunaan LLM dalam konteks audit belum terlalu lazim didiskusikan dalam konteks penelitian dengan munculnya topik tersebut dari tahun 2023 atau 2024. Muncul berbagai jenis aplikasi yang bertujuan membantu analisa laporan keuangan untuk melaksanakan audit yang lebih efisien dan lebih efektif. LLM dianggap bisa menjadi salah satu instrumen yang digunakan untuk memeriksa keselarasan dengan standar, bisa menjadi asisten yang mendampingi para auditor dalam mencari informasi yang mungkin tidak terlihat pada permukaan, atau bahkan untuk kolaborasi dan menciptakan sinergi dalam menghasilkan opini auditor yang akurat. Meskipun dengan berbagai jenis keuntungan yang dapat dilihat dalam menggunakan LLM dalam konteks audit, tetap saja terdapat beberapa tantangan yang perlu dipertimbangkan supaya profesi audit tidak tertantang posisinya baik secara kemampuan maupun secara nilai moral.

Lazimnya seperti Generative AI yang lain, di antaranya ada ChatGPT, Perplexity, DeepSeek, Gemini, dan lain-lain, model-model tersebut menggunakan informasi yang diberikan untuk kemudian diolah dan melatih model tersebut sehingga menampung lebih banyak informasi. Meskiipun model tersebut akan berkembang, bagian tersebut menantang prinsip “confidentiality” di mana data yang kita berikan telah masuk ke pihak ketiga tanpa seizin dari klien. Hal tersebut bisa saja terjadi terutama apabila auditor tidak mengetahui bahwa informasi yang diberikan akan digunakan dan bisa saja bocor kepada pihak lain yang menggunakan model yang sama. Mungkin auditor hanya ingin memeriksa apabila terdapat typo di dalam dokumen laporan yang dikumpulkan, namun ternyata auditor tersebut tidak mematikan setelan “Gunakan data saya untuk meningkatkan model”, maka di sana terdapat kebocoran data yang tidak disengajakan.

Menggunakan sentiment analysis, konsep ini memungkinkan bahasa komputer yang memahami “1” dan “0” untuk kemudian melihat apakah suatu kalimat memiliki konteks yang negatif, netral, atau positif. Keduanya menggunakan machine learning, sehingga model dibentuk dari data dan informasi yang telah diberikan. Namun dengan metode tersebut, terdapat kemungkinan terjadinya bias meskipun itu tidak secara sengaja. Dengan alokasi data yang tepat, sebuah model kemudian baru dapat mengidentifikasi apakah suatu pernyataan dianggap sebagai negatif, netral, atau positif.

Oleh karena itu perlu mempelajari topik tersebut dengan hati-hati untuk tidak melanggar nilai etika dan moral yang berlaku. Penyebaran dari data bisa saja terjadi tanpa dimaksud, sehingga perlu dipahami penggunaannya. Akuntabilitas dari auditor harus dijaga bersama dengan confidentiality tadi supaya dapat dipastikan bahwa audit dilaksanakan dengan efektif.

Referensi:

  • Ma, W., Wu, D., Sun, Y., Wang, T., Liu, S., Zhang, J., Xue, Y., & Liu, Y. (2025). Combining Fine-Tuning and LLM-Based Agents for Intuitive Smart Contract Auditing with Justifications. In IEEE/ACM 47th International Conference on Software Engineering 2025 (pp. 1742–1754). IEEE. https://doi.org/10.1109/icse55347.2025.00027
  • Mökander, J., Schuett, J., Kirk, H. R., & Floridi, L. (2023). Auditing large language models: a three-layered approach. AI And Ethics, 4(4), 1085–1115. https://doi.org/10.1007/s43681-023-00289-2
  • Rastogi, C., Ribeiro, M. T., King, N., Nori, H., & Amershi, S. (2023). Supporting Human-AI Collaboration in Auditing LLMs with LLMs. In AIES ’23: Proceedings of the 2023 AAAI/ACM Conference on AI, Ethics, and Society (pp. 913–926). ACM. https://doi.org/10.1145/3600211.3604712