Implementasi kecerdasan buatan telah membawa kemajuan besar ke industri teknologi. Namun, dalam beberapa tahun terakhir, beberapa nama terkemuka di segmen ini telah berbagi pandangan mereka mengenai pengembangan teknologi “agresif”. Sejalan dengan itu, Eric Schmidt, mantan CEO Google, memperingatkan, bersama dengan para ahli lainnya, tentang risiko mengejar “proyek Manhattan” untuk AGIS.
Mantan CEO Google dan para ahli lainnya berbagi visi mereka tentang proyek US Manhattan untuk AGI
Eric Schmidt, Alexandr Wang – CEO skala AI – dan Dan Hendrycks – Pusat untuk Direktur Keselamatan AI – menandatangani makalah kebijakan di mana mereka memperingatkan tentang kemungkinan pembalasan terhadap Amerika Serikat dalam skenario di mana mereka mencoba memimpin teknologi AGIS (agen AI). Menurut koran “Strategi Superintelligence”Negara-negara yang kuat secara teknologi seperti Cina dapat menanggapi Amerika Serikat dalam bentuk serangan cyber potensial. Situasi ini akan mengarah pada destabilisasi hubungan internasional dan peningkatan konflik.
“[A] Proyek Manhattan [for AGI] mengasumsikan bahwa saingan akan menyetujui ketidakseimbangan yang bertahan lama atau omnicide daripada bergerak untuk mencegahnya”Membaca koran. “Apa yang dimulai sebagai dorongan untuk risiko superweapon dan kontrol global yang mendorong penanggulangan yang bermusuhan dan meningkatnya ketegangan, sehingga merusak stabilitas strategi yang dimaksudkan untuk diamankan.“
Makalah ini tampaknya merujuk pada inisiatif Amerika yang menyarankan semacam “proyek Manhattan” untuk pengembangan AGIS. Program ini akan mirip dengan yang menyebabkan penciptaan bom atom beberapa dekade yang lalu. Energy Chris Wright, Sekretaris Energi AS, baru-baru ini menyatakan gagasan itu bersama dengan Greg Brockman, co-founder Openai, di situs superkomputer.
Ini bukan pertama kalinya Eric Schmidt memperingatkan tentang risiko AI di dunia saat ini. Mantan CEO Google menyuarakan keprihatinannya pada pertengahan Februari mengenai potensi penggunaan platform AI untuk serangan teroris berbasis senjata biologis.
Kertas menunjukkan sikap defensif dengan menonaktifkan “mengancam proyek AI”Melalui serangan siber
Makalah ini menunjukkan bahwa AS harus mengambil sikap defensif tentang AGIS. Artinya, perhatikan pengembangan teknologi oleh negara -negara saingan. Penandatangan bersama menyarankan agar AS harus menonaktifkan “Mengancam proyek AI” jika terdeteksi. Mereka mengatakan bahwa negara itu harus “memperluas [its] Arsenal of Cybertacks”Untuk mempersiapkan situasi seperti itu. Mereka juga mendukung AS yang membatasi akses ke chip AI canggih dan model AI open-source-nya.
Pandangannya agak fatalistik tetapi sejalan dengan apa yang diungkapkan Schmidt baru -baru ini. Namun, makalah ini bertentangan dengan beberapa saran mantan CEO Google. Sebelumnya, ia mengadvokasi AS untuk secara aktif bersaing untuk mendominasi di bidang AI. Tetapi ketika berbicara tentang AGIS, Eric Schmidt tampaknya menganjurkan sikap yang lebih defensif daripada agresif.
