AI Hallucination: Dampaknya Terhadap Kehidupan dan Pengambilan Keputusan
Artificial Intelligence (AI) telah mengalami perkembangan pesat yang mendorong para pelaku bisnis dan individu untuk menggunakan AI dalam menyelesaikan pekerjaan sehari-hari dan tidak menutup kemungkinan sebagai tools yang membantu dalam pengambilan keputusan. Kindzeka, (2023) mengungkapkan AI telah membawa perubahan pada sektor Akuntansi dan Auditing, mulai dari pengumpulan data, pengelolaan data, hingga menginterpretasikan informasi pergerakan keuangan yang secara otomatis mampu mengidentifikasi anomaly serta memberikan rekomendasi terkait dengan tindakan di masa mendatang yang dapat di eksekusi dengan baik. Hal tersebut juga menunjukan bagaimana pertumbuhan AI memberikan dampak besar terhadap kehidupan manusia yang tidak hanya sepenuhnya fokus pada otomatisasi dan validasi data, melainkan kemampuan untuk berpikir layaknya manusia dalam membaca pola, pengalaman, hingga pergerakan data di masa lalu untuk dikemas sebagai strategi yang efektif di masa mendatang.
Namun, (Chan & Lee, 2023; Monteith et al., 2024) menjelaskan semakin canggihnya kemajuan AI menimbulkan AI Gap Generation yang berdampak pada generasi muda untuk lebih tergantung dengan penggunaan AI seperti hadirnya ChatGPT, Deepseek, Gemini, dan Generative AI lainnya yang menjadi teman mengobrol dalam menyelesaikan tugas. Kehadiran Gen AI memberikan warna dan gejala baru di kehidupan dengan membuat banyak manusia yang menuntut untuk serba instant dan cepat dalam menemukan informasi, tetapi disisi lain apabila tidak waspada pada informasi yang diterima oleh AI berpotensi menimbulkan kerugian akibat salah dalam pengambilan keputusan (Monteith et al., 2024). Hal tersebut telah dibuktikan pada studi Christensen et al. (2025) bahwa aplikasi AI yang sembarang dan memanfaatkan informasi dengan berlandaskan pada data yang kurang lengkap / relevan menimbulkan penurunan pada kecerdasan manusia dalam memproses dan menerima suatu informasi hingga mengambil keputusan yang berdampak pada seluruh pemangku kepentingan (Pelanggan, karyawan, vendor/supplier, dan sebagainya).
Maka, penting bagi para pengguna AI di perkantoran maupun di dunia Pendidikan untuk lebih berhati-hati dalam mengakses AI serta melihat darimana sumber informasi yang diberikan oleh AI tersebut saat melakukan searching di ChatGPT, yang dengan demikian mendorong critical thinking dan kemampuan untuk melihat secara komprehensif serta skeptis agar tidak mudah mengakses data informasi yang tidak tepat. Manusia terus mengalami perkembangan dan kehadiran AI merupakan tools yang membantu manusia dalam menjalani kehidupan, bukan menjadi hal yang diperbudak dan mengarah pada penurunan daya kritis dan pemikiran manusia saat bertindak.
REFERENSI
- Chan, C. K. Y., & Lee, K. K. W. (2023). The AI generation gap: Are Gen Z students more interested in adopting generative AI such as ChatGPT in teaching and learning than their Gen X and millennial generation teachers? Smart Learning Environments, 10(1). https://doi.org/10.1186/s40561-023-00269-3
- Christensen, J., Hansen, J. M., & Wilson, P. (2025). Understanding the role and impact of Generative Artificial Intelligence (AI) hallucination within consumers’ tourism decision-making processes. Current Issues in Tourism, 28(4), 545–560. https://doi.org/10.1080/13683500.2023.2300032
- Collins Kindzeka, K. (2023). Impact of Artificial Intelligence on Accounting, Auditing and Financial Reporting. American Journal of Computing and Engineering, 6(1). https://doi.org/10.47672/ajce.1433
- Monteith, S., Glenn, T., Geddes, J. R., Whybrow, P. C., Achtyes, E., & Bauer, M. (2024). Artificial intelligence and increasing misinformation. British Journal of Psychiatry, 224(2), 33–35. https://doi.org/10.1192/bjp.2023.136
Comments :