15.5 Evidence: Apa yang Membuat Keputusan Bisa Dipertanggungjawabkan
Setelah opsi dibandingkan, manusia perlu memutuskan. Tapi keputusan itu harus didasarkan pada evidence, bukan sekadar opini.
Seorang kepala teknologi yang saya kenal pernah hampir mengambil keputusan besar hanya karena rekomendasi AI terlihat meyakinkan. Ia meminta AI membandingkan tiga framework untuk platform data perusahaan. AI memberikan tabel perbandingan yang rapi: performa, skalabilitas, biaya, kemudahan maintenance. Semuanya tampak lengkap. Ia hampir memutuskan memilih framework yang mendapat skor tertinggi.
Untungnya, seorang arsitek di timnya bertanya, “Data dari mana?” AI tidak menyertakan sumber. Tidak ada hasil pengujian. Tidak ada referensi ke kasus serupa. Tidak ada bukti bahwa perbandingan itu valid untuk konteks perusahaan mereka. Tabel itu rapi, tapi tidak bisa dipertanggungjawabkan.
Di sinilah evidence masuk sebagai komponen kritis dalam pengambilan keputusan berbantuan AI. Evidence adalah data, hasil pengujian, pengalaman, atau referensi terverifikasi yang mendukung suatu rekomendasi. Tanpa evidence, rekomendasi AI hanyalah opini yang dikemas rapi.
Berikut adalah alur yang menunjukkan bagaimana evidence menjadi penentu dalam setiap keputusan berbantuan AI.
Mengumpulkan evidence tidak harus rumit. Dalam praktiknya, ada beberapa sumber yang bisa digunakan. Pertama, data internal organisasi. Jika AI merekomendasikan arsitektur tertentu, tanyakan: apakah ada sistem serupa yang sudah berjalan? Berapa latensi yang tercatat? Bagaimana pola kegagalannya? Data operasional adalah evidence paling kuat karena berasal dari lingkungan nyata.
Kedua, pengujian terbatas. Sebelum mengambil keputusan besar, lakukan proof of concept atau pilot. Jalankan skenario kecil dengan data dan kondisi yang mendekati produksi. Hasil pengujian ini menjadi evidence yang jauh lebih meyakinkan daripada sekadar perbandingan teoretis.
Ketiga, referensi dari sumber terpercaya. Dokumentasi resmi, laporan teknis dari vendor, studi kasus dari organisasi serupa, atau pengalaman tim sendiri bisa menjadi evidence. Yang penting, sumbernya harus bisa diverifikasi, bukan sekadar pernyataan tanpa dasar.
Menilai evidence juga perlu keterampilan. Tidak semua data layak dijadikan dasar keputusan. Evidence yang baik memiliki beberapa ciri: relevan dengan konteks, berasal dari sumber yang bisa dipercaya, cukup mutakhir, dan dikumpulkan dengan metode yang jelas. Evidence yang berasal dari satu sumber perlu diuji dengan sumber lain. Evidence yang hanya mendukung satu sisi perlu diimbangi dengan data yang menunjukkan kelemahan.
Proses verifikasi ini adalah area di mana judgment manusia tetap tak tergantikan. AI bisa mengumpulkan dan menyajikan evidence, tapi manusia yang menilai apakah evidence itu cukup, apakah ada yang terlewat, dan apakah kesimpulan yang ditarik sudah tepat.
Dalam organisasi yang matang, evidence tidak hanya dikumpulkan untuk keputusan besar. Setiap keputusan arsitektural—pemilihan teknologi, desain sistem, alokasi sumber daya—idealnya didukung oleh evidence yang terdokumentasi. Inilah yang kemudian membentuk audit trail keputusan: jejak yang menunjukkan mengapa suatu keputusan diambil, data apa yang mendukungnya, dan siapa yang memverifikasinya.
Ketika keputusan sudah didukung evidence, manusia bisa mengambil langkah selanjutnya dengan percaya diri. Tapi evidence tidak akan berguna jika tidak didokumentasikan dengan baik. Di sinilah dokumentasi menjadi jembatan antara manusia dan AI—topik yang akan kita bahas selanjutnya.