“Perkembangan AGI saat ini kita sedang beralih dari fase risiko sedang ke risiko tinggi. Ketika perkembangan AGI menjadi kritis dan tidak terkendali, itu akan menjadi musibah bagi umat manusia. Risikonya serius, tetapi belum terlambat untuk bertindak,” jelas Wade melalui laporan resminya.
Wade menambahkan bahwa regulasi yang efektif dan terpadu dapat membatasi risiko terburuk dari perkembangan teknologi ini tanpa mengurangi manfaat yang ada. "Kami menyerukan kepada pelaku internasional dan perusahaan teknologi besar untuk melakukan pencegahan demi kebaikan kita semua,” tegasnya.
Ketika perkembangan AGI tidak lagi bisa dikendalikan, ini bisa menjadi bencana bagi dunia. Misalnya, ketika AI mengambil alih dan mengendalikan persenjataan konvensional seperti senjata nuklir, biologi, atau kimia.
Saat ini, Tiongkok sedang mempercepat komersialisasi robot humanoid, termasuk penerapannya dalam infrastruktur sensitif seperti jaringan listrik dan pembangkit listrik tenaga nuklir. AI juga digunakan untuk memanipulasi atau mengganggu pasar keuangan serta infrastruktur penting seperti energi, transportasi, dan komunikasi, yang dapat menimbulkan ancaman langsung terhadap nyawa manusia.
Tim dari IMD menjelaskan bahwa ada dua perkembangan AI yang mendorong peningkatan risiko dari sedang menjadi tinggi, yaitu AI multimodal dan AI agen. AI multimodal dapat memproses dan mengintegrasikan berbagai jenis input (seperti teks, gambar, dan audio) untuk menyelesaikan tugas yang lebih kompleks, contohnya GPT-4o, Gemini Ultra, dan Pixtral 12B.
