Kecerdasan yang kita bangun tidak buatan. Itu tidak pernah terjadi. Chief Scientific Officer Microsoft Eric Horvitz baru saja membingkai ulang seluruh fondasi perlombaan senjata AI dengan satu kalimat. Industri teknologi menyebutnya Kecerdasan Buatan. Kata itu salah. Horvitz: "Saya sebenarnya tidak suka istilah kecerdasan buatan. Saya berharap bidang ini disebut kecerdasan komputasi karena saya pikir itu berlaku untuk sistem saraf biologis serta mesin, dan bersama-sama kita bisa melangkah jauh." Kami tidak membangun tiruan digital dari otak manusia. Kami menskalakan fisika komputasi yang sama persis yang menciptakan kesadaran biologis dan mentransfernya ke dalam silikon. Pikiran Anda dan pusat data AI besar berjalan pada aturan dasar yang sama. Transisi tidak buatan. Ini universal. Dan di sinilah itu menjadi sangat meresahkan. Optimis teknologi selalu kembali pada kenyamanan yang sama. Manusia memegang setir. Nilai-nilai kami memandu mesin. ...