Highlight Berita:
Headline.co.id, Jakarta ~ Raja Charles III dari Inggris memperingatkan para pemimpin industri kecerdasan buatan atau artificial intelligence pada Kamis, 17 September 2026, mengenai 'bahaya eksistensial' yang dapat muncul apabila teknologi tersebut jatuh ke tangan yang salah. Peringatan itu disampaikan saat ia menjadi tuan rumah pertemuan para tokoh industri AI di Dumfries House, Skotlandia, yang membahas kekhawatiran soal keselamatan sebelum perkembangan teknologi dinilai terlalu terlambat untuk dikendalikan. Pertemuan tersebut menghadirkan pendiri bersama Nvidia dan Google DeepMind serta para pemimpin dari OpenAI dan Anthropic. Pernyataan Raja Charles menambah perhatian terhadap perdebatan global mengenai cara mengatur perkembangan AI yang berlangsung sangat cepat. Al Jazeera
Dalam pembukaan konferensi, Raja Charles menekankan bahwa risiko penyalahgunaan teknologi perlu dipertimbangkan secara serius. 'Tampaknya ada urgensi untuk mempertimbangkan secara memadai bahaya eksistensial dari teknologi semacam itu yang jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi menimbulkan bencana,' katanya kepada para tamu. Ia juga menyampaikan kekhawatiran masyarakat yang ingin memastikan perkembangan teknologi tidak membuat manusia kehilangan kendali atas masa depannya. Al Jazeera
Raja Charles Tekankan Urgensi Keselamatan AI
Raja Charles mengatakan bahwa mereka yang menghargai kemanusiaan dan unsur moral di dalamnya sedang mencari kepastian dari para pemimpin industri teknologi. 'Mereka yang di dunia kita menghargai kemanusiaan dan komponen moralnya yang vital dengan cemas mencari jaminan dari Anda bahwa kita tidak akan kehilangan kendali atas nasib kita,' ujarnya. Pernyataan tersebut diarahkan kepada para tokoh industri yang menghadiri pertemuan di kediamannya di Skotlandia. Al Jazeera
Konten ini adalah Iklan dari Platform MGID. Headline.co.id tidak terkait dengan materi konten ini.
Ia juga menyinggung peringatan yang datang dari orang-orang yang terlibat dalam penciptaan teknologi tersebut. Menurut Raja Charles, para pembuat teknologi semakin memperingatkan bahwa AI dapat mengembangkan kemampuan yang lebih gelap, bahkan berpotensi mengambil nyawa, atau digunakan dengan cara yang berpotensi menimbulkan bencana. Ia menggambarkan perkembangan AI, baik dari sisi substansi maupun kecepatannya, sebagai sesuatu yang sama-sama menarik sekaligus sangat mengkhawatirkan. Al Jazeera
Raja Charles kemudian meminta para pemimpin industri untuk memanfaatkan AI dengan keselamatan sebagai inti pengembangannya. Ia juga menyerukan agar teknologi tersebut tetap berada dalam pelayanan terhadap manusia, komunitas, dan alam. Seruan itu menjadi salah satu pokok utama pertemuan yang berfokus pada prinsip-prinsip dasar bagi pengembangan dan penggunaan AI. Al Jazeera
Perdebatan Global soal Regulasi Kecerdasan Buatan
Pernyataan Raja Charles muncul ketika sejumlah tokoh dunia dalam beberapa pekan terakhir ikut menyampaikan pandangan mengenai siapa yang seharusnya mengarahkan perkembangan AI. Perdebatan berpusat pada apakah industri perlu mengatur dirinya sendiri atau pemerintah perlu menyusun pedoman bagi teknologi yang terus berkembang cepat. Perbedaan pandangan tersebut menunjukkan bahwa isu keselamatan AI tidak hanya menjadi perhatian perusahaan teknologi, tetapi juga masuk dalam pembicaraan mengenai tata kelola yang lebih luas. Al Jazeera
Pada Mei, Paus Leo XIV menyatakan bahwa dunia tidak membutuhkan kecerdasan buatan yang mengurangi kemanusiaan dan mengatakan teknologi tersebut harus 'dilucuti'. Sementara itu, Presiden Amerika Serikat Donald Trump menolak kekhawatiran mengenai teknologi tersebut dan menyebutnya sebagai 'hoaks'. Kedua pandangan itu muncul dalam perdebatan internasional yang terus berkembang mengenai manfaat, risiko, dan pengaturan AI. Al Jazeera
Peringatan dari Peneliti dan Pimpinan Industri AI
Kekhawatiran mengenai laju perkembangan AI juga datang dari dalam industri. Pekan lalu, dua peneliti Anthropic memperingatkan bahwa kemajuan teknologi yang sangat cepat dapat mengarah pada kepunahan manusia dalam waktu yang tidak terlalu jauh. Kepala Eksekutif Anthropic Dario Amodei juga menyerukan agar perusahaan memperlambat laju pengembangan AI. Al Jazeera
Namun, seruan untuk memperlambat pengembangan AI turut memunculkan perdebatan internasional. Salah satu pertanyaan yang muncul adalah apakah sebagian eksekutif berusaha mengambil posisi lebih awal menghadapi kemungkinan reaksi pemerintah sekaligus ikut menentukan aturan yang dapat mempertahankan keunggulan perusahaan tertentu. Bahan yang disampaikan tidak menunjukkan adanya kesimpulan tunggal atas perdebatan tersebut. Al Jazeera
Pertemuan di Skotlandia Tak Hasilkan Kesepakatan Mengikat
Pertemuan di Dumfries House mempertemukan kalangan industri teknologi untuk membahas keselamatan AI dan prinsip yang dinilai penting dalam pengembangannya. Raja Charles menyampaikan apresiasi atas kehadiran para tokoh teknologi serta perhatian mereka terhadap prinsip-prinsip yang seharusnya menjadi panduan bagi perkembangan teknologi tersebut. Fokus yang ia tekankan tetap pada upaya menjaga AI agar tidak lepas dari kepentingan manusia dan keselamatan. Al Jazeera
Meski mempertemukan sejumlah tokoh utama industri, pertemuan di Skotlandia tidak diperkirakan menghasilkan kesepakatan yang mengikat. Dengan demikian, pertemuan tersebut lebih menjadi ruang pembahasan mengenai risiko, tanggung jawab, dan arah pengembangan AI di tengah perdebatan yang masih berlangsung mengenai bentuk pengawasan yang tepat bagi teknologi tersebut. Al Jazeera
