15.7 Keputusan Tetap di Tangan Manusia
Seorang kepala operasi pernah bercerita tentang pengalamannya menggunakan AI untuk membantu memilih vendor logistik. Ia sudah memberikan konteks lengkap: volume pengiriman harian, wilayah cakupan, anggaran, dan target service level. AI membandingkan tiga vendor dengan rapi. Keluaran AI menunjukkan Vendor B unggul di hampir semua metrik: harga lebih murah, waktu tempuh lebih cepat, dan skor kepuasan pelanggan lebih tinggi.
Tapi kepala operasi itu ragu. Ia tahu sesuatu yang tidak diketahui AI. Vendor B memang unggul di atas kertas, tetapi timnya pernah mengalami masalah komunikasi dengan vendor itu di proyek sebelumnya. Ada janji yang tidak ditepati, respons yang lambat saat terjadi krisis, dan klausul kontrak yang sulit dinegosiasi. Semua itu tidak tercatat di data yang ia berikan ke AI.
Ia memutuskan tetap memilih Vendor A, meskipun skornya lebih rendah. Keputusan itu tidak populer di tim. Beberapa anggota tim protes karena data jelas menunjukkan Vendor B lebih baik. Tapi tiga bulan kemudian, Vendor A terbukti tepat. Komunikasi berjalan lancar, tidak ada sengketa kontrak, dan ketika ada lonjakan pengiriman di hari libur, Vendor A merespons cepat tanpa biaya tambahan.
Kisah ini menunjukkan satu hal: AI bisa memperjelas pilihan, tetapi keputusan akhir tetap membutuhkan judgment manusia. Judgment yang dimaksud bukan sekadar feeling atau intuisi tanpa dasar. Judgment adalah kemampuan mempertimbangkan hal-hal yang tidak bisa diangkakan: kepercayaan, risiko reputasi, dinamika tim, konsekuensi politik organisasi, dan nilai-nilai yang dipegang perusahaan.
Ada area-area tertentu yang tidak boleh diserahkan sepenuhnya ke AI. Keputusan yang menyentuh nasib orang, seperti restrukturisasi tim atau pemutusan hubungan kerja. Keputusan yang menyangkut uang dalam jumlah besar, terutama jika dampaknya jangka panjang. Keputusan tentang data pengguna, terutama data sensitif yang dilindungi regulasi. Keputusan tentang kepatuhan dan compliance, di mana kesalahan interpretasi bisa berakibat denda atau sanksi. Keputusan tentang reputasi merek, di mana satu langkah salah bisa mengguncang kepercayaan publik.
Di sinilah konsep persetujuan manusia menjadi penting. AI boleh memberikan rekomendasi, menyusun opsi, bahkan menghitung probabilitas. Tapi manusia tetap berada di dalam lingkaran pengambilan keputusan, bukan di luar sebagai penonton. Manusia yang memeriksa kembali evidence, menimbang faktor-faktor yang tidak terukur, dan pada akhirnya berkata "ya" atau "tidak".
Berikut diagram alur yang merangkum proses pengambilan keputusan setelah AI memberikan rekomendasi.
Area kritis meliputi: nasib orang, etika, risiko reputasi, uang besar, data sensitif, dan politik organisasi.
Akuntabilitas keputusan juga tidak bisa dialihkan ke AI. Ketika sebuah keputusan ternyata keliru, tidak ada gunanya berkata, "Ini rekomendasi AI." Organisasi, regulator, dan publik akan tetap menunjuk manusia sebagai penanggung jawab. Karena itu, setiap keputusan penting harus memiliki jejak yang jelas: siapa yang menyediakan konteks, siapa yang menetapkan constraint, evidence apa yang digunakan, dan siapa yang mengambil keputusan akhir.
Dengan dokumentasi yang rapi, kita bisa membangun lingkungan kerja di mana AI dan manusia saling melengkapi. AI membantu memperluas kapasitas berpikir, menyajikan informasi, dan mempercepat analisis. Manusia tetap memegang kendali atas arah, nilai, dan tanggung jawab. Seperti kata seorang arsitek senior yang saya temui, "AI membuat saya lebih cepat sampai ke persimpangan. Tapi saya tetap yang memutuskan jalan mana yang ditempuh."