22.1 Saat AI Memberi Jawaban yang Terlalu Rapi
Bayangkan Anda sedang merancang sistem baru. Anda minta AI assistant untuk memberikan usulan arsitektur. Dalam beberapa detik, keluarlah sebuah dokumen yang rapi: ada diagram, ada penjelasan komponen, ada alur data, bahkan ada rekomendasi teknologi. Semuanya tersusun dalam bahasa yang meyakinkan. Paragrafnya mengalir, istilah teknisnya tepat, dan strukturnya seperti yang diharapkan dari seorang arsitek senior.
Anda merasa puas. Bahkan mungkin sedikit lega.
Tapi coba berhenti sejenak. Apakah Anda benar-benar yakin isinya tepat? Atau Anda hanya percaya karena tampilannya meyakinkan?
Inilah tantangan pertama yang akan dihadapi siapa pun yang memakai AI dalam pekerjaan arsitektur. AI menghasilkan output yang terlihat rapi, lengkap, dan percaya diri — bahkan ketika isinya salah, tidak lengkap, atau tidak sesuai konteks. Masalahnya bukan pada AI-nya. Masalahnya pada kita: manusia cenderung mempercayai sesuatu yang terlihat profesional.
Fenomena ini sering disebut false keyakinan. Anda merasa yakin karena outputnya tersusun baik, padahal keyakinan itu tidak didasarkan pada kebenaran, melainkan pada kemasan.
Dalam pekerjaan arsitektur, false keyakinan berbahaya. Seorang arsitek tidak hanya bertanggung jawab pada kode yang ditulis, tetapi pada keputusan struktural yang memengaruhi banyak tim, banyak sistem, dan banyak pengguna selama bertahun-tahun. Keputusan yang salah di level arsitektur bisa berarti ulang tahun proyek, biaya tambahan, atau bahkan kegagalan sistem di produksi.
AI tidak akan menanggung konsekuensi itu. Anda yang akan.
Maka pertanyaan kuncinya bukanlah "apakah AI bisa memberi jawaban yang benar?", melainkan "apakah aku bisa membedakan jawaban yang benar dari jawaban yang hanya terlihat benar?" Kemampuan membedakan inilah yang disebut judgment. Dan judgment tidak bisa didelegasikan ke AI.
Situasi ini mirip dengan saat Anda menerima dokumen dari konsultan eksternal. Dokumen itu tebal, berisi grafik dan tabel, serta ditulis dengan bahasa yang sangat formal. Tapi setelah dibaca lebih dalam, Anda sadar ada asumsi yang keliru, data yang tidak cocok, atau rekomendasi yang tidak relevan dengan kondisi perusahaan. Konsultan yang baik tidak akan marah kalau Anda mempertanyakan. Justru mereka akan senang karena Anda membaca dengan kritis.
AI tidak punya perasaan. Tapi kebiasaan membaca dengan kritis harus tetap Anda bawa.
Berikut diagram alur sederhana untuk melatih kebiasaan verifikasi sebelum mempercayai output AI.
Sayangnya, banyak orang kehilangan kebiasaan ini saat berhadapan dengan AI. Mungkin karena prosesnya terlalu cepat. Atau karena outputnya terlalu rapi. Atau karena kita sudah lelah dan ingin segera selesai. Apapun alasannya, hasilnya sama: kita menerima tanpa memeriksa.
Subbab ini sengaja diletakkan paling awal karena fondasi dari semua teknik selanjutnya adalah kesadaran bahwa output AI tidak otomatis benar. Sebelum Anda belajar memakai AI untuk mempercepat pekerjaan, Anda harus belajar satu hal: jangan percaya hanya karena rapi.
Di subbab berikutnya, kita akan membahas bagaimana cara memakai AI dalam mode yang tepat — bukan sebagai mesin jawaban, tetapi sebagai alat latihan yang justru memperkuat judgment Anda. Tapi sebelum sampai ke sana, pastikan Anda sudah memiliki sikap dasar ini: curiga yang sehat terhadap setiap output yang terlalu rapi.
