CEO Microsoft, Satya Nadella, menjadi salah satu eksekutif teknologi terbaru yang menyampaikan pandangannya mengenai pentingnya meningkatkan keselamatan dan kepercayaan terhadap kecerdasan buatan (AI). Dalam unggahan di platform X pada Sabtu pagi, Nadella menekankan perlunya mengevaluasi kembali pendekatan yang digunakan dalam membangun dan mengembangkan sistem AI, terutama ketika teknologi tersebut semakin canggih dan berpengaruh terhadap berbagai aspek kehidupan manusia. Nadella menyampaikan bahwa industri teknologi perlu mengambil langkah mundur untuk meninjau kembali apa yang ia sebut sebagai arsitektur kepercayaan dalam pengembangan AI. Menurut pandangan yang disampaikannya, pendekatan terhadap keselamatan AI tidak cukup hanya mengandalkan mekanisme menerima atau menolak hasil yang dihasilkan oleh model kecerdasan buatan. Ia juga menyoroti konsep superintelligence, istilah yang digunakan untuk menggambarkan sistem AI dengan kemampuan yang sangat maju. Dalam pandangannya, sistem semacam ini tidak seharusnya diperlakukan sebagai kumpulan kotak hitam yang saling bertumpuk, ketika setiap rekomendasi, jawaban, atau tindakan hanya dinilai berdasarkan keputusan sederhana untuk menerima atau menolaknya. Pernyataan tersebut menyoroti salah satu tantangan mendasar dalam pengembangan AI modern, yaitu bagaimana memastikan bahwa sistem yang semakin kompleks tetap dapat dipahami, diawasi, dan dikendalikan secara memadai. Pentingnya Membangun Kepercayaan terhadap AI Seiring meningkatnya penggunaan AI dalam berbagai sektor, mulai dari bisnis, pendidikan, kesehatan, hingga layanan digital, persoalan kepercayaan menjadi semakin penting. Sistem AI kini tidak hanya digunakan untuk menghasilkan teks atau menjawab pertanyaan, tetapi juga membantu menganalisis informasi, menyusun rekomendasi, menjalankan alur kerja, dan mendukung proses pengambilan keputusan. Dalam konteks tersebut, keselamatan AI tidak hanya berkaitan dengan kemampuan model menghasilkan jawaban yang benar. Faktor lain yang juga perlu diperhatikan mencakup transparansi, konsistensi, keamanan, kemampuan mendeteksi kesalahan, serta mekanisme pengawasan terhadap tindakan yang dilakukan oleh sistem. Gagasan tentang arsitektur kepercayaan dapat dipahami sebagai kebutuhan untuk membangun sistem pengamanan secara menyeluruh, bukan sekadar menambahkan satu lapisan pemeriksaan pada akhir proses. Pendekatan ini dapat mencakup pengujian model, pembatasan akses, pemantauan aktivitas, evaluasi risiko, serta mekanisme untuk menghentikan tindakan yang berpotensi menimbulkan dampak negatif. Meski demikian, pernyataan Nadella tersebut tidak dengan sendirinya menjelaskan rancangan teknis tertentu. Arsitektur yang dimaksud perlu dipahami sesuai dengan konteks pernyataan lengkapnya dan bukan sebagai spesifikasi sistem yang sudah diterapkan.