Langsung ke konten utama

Menkomdigi di Forum PBB: Keselamatan 70 Juta Anak Indonesia Jadi Prioritas di Era AI

Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid menegaskan pentingnya perlindungan anak di tengah pesatnya perkembangan kecerdasan artifisial (AI). Pernyataan tersebut disampaikan Meutya dalam forum tingkat tinggi di sela Sidang Umum ke-81 Perserikatan Bangsa-Bangsa (PBB) di New York, Amerika Serikat, baru-baru ini. Meutya menyoroti bahwa sekitar 70 juta anak Indonesia akan tumbuh dan hidup dalam ekosistem digital yang didominasi teknologi AI. Situasi ini menuntut jaminan keselamatan serta perlindungan hak anak sejak dini. “Anak-anak kita akan hidup semakin dekat dengan AI. Karena itu, keselamatan dan hak anak harus kita pastikan sejak awal, bukan setelah risikonya terjadi,” tegas Meutya, dikutip dari Antara, Kamis . Forum bertajuk Protecting Children's Rights Facing Artificial Intelligence tersebut dipimpin oleh Presiden Prancis Emmanuel Macron, Perdana Menteri Spanyol Pedro Sánchez, Presiden Kenya William Ruto, dan Perdana Menteri Australia Anthony Albanese. Agenda i...

Microsoft: Hati-Hati, Agen AI Bisa Jadi Ancaman Internal Perusahaan

Microsoft: Hati-Hati, Agen AI Bisa Jadi Ancaman Internal Perusahaan

Microsoft memperingatkan perusahaan agar tidak sepenuhnya memercayai agen artificial intelligence (AI) yang bekerja secara mandiri.

Meski bisa meningkatkan produktivitas, teknologi ini berpotensi menimbulkan risiko keamanan ketika diberi akses ke data dan sistem internal.

Dikutip dari TechCrunch, Selasa Executive Vice President Microsoft Security, Hayete Gallot, menyatakan, “Sayangnya, model-model AI terdepan, dari mana pun asalnya, tidak dapat dipercaya.”

Pernyataan itu bukan berarti semua model AI bersifat jahat atau mudah diretas. Menurut Gallot, masalahnya terletak pada perilaku AI yang sulit diprediksi dan belum tentu mengikuti norma maupun pertimbangan yang berlaku di perusahaan.

Microsoft menilai agen AI berpotensi menjadi ancaman dari dalam organisasi, mirip karyawan yang menyalahgunakan akses atau kewenangannya. Dalam keamanan siber, risiko seperti ini dikenal sebagai insider threat.

Agen AI kini bisa mengakses berbagai data, perangkat, dan sistem untuk menyelesaikan tugas. Jika kewenangannya terlalu luas, kesalahan atau keputusan yang menyimpang dari tujuan perusahaan dapat menimbulkan dampak serius.

Model AI juga belum tentu memahami aturan dan pertimbangan yang berlaku di setiap organisasi.

Sistem ini bahkan bisa berinteraksi dengan agen lain untuk menjalankan tugas, sehingga pengawasan perlu mencakup aktivitas dan akses yang dimiliki masing-masing agen.

Untuk mengatasi risiko itu, Microsoft memperkenalkan Guardian Agents, fitur keamanan yang dirancang untuk memantau aktivitas agen AI.

Fitur ini merupakan bagian dari Project Perception, sistem yang dikembangkan Microsoft untuk membantu perusahaan menghadapi ancaman berbasis AI.

Microsoft juga menambahkan kemampuan mendeteksi agen AI ke Microsoft Defender. Fitur tersebut bisa mengenali hingga 60 jenis agen yang digunakan karyawan, termasuk Claude Code, Codex, dan OpenClaw.

Guardian Agents dirancang untuk mengawasi aktivitas agen AI dan membantu membatasi tindakan yang dinilai berisiko.

Microsoft juga mengembangkan mekanisme untuk mengatur akses ke data dan sistem, menyesuaikan izin berdasarkan tugas, serta meminta persetujuan manusia saat diperlukan.

Microsoft turut menjadi anggota awal Open Agent Safety Platform milik Nvidia. Platform ini dirancang untuk menjalankan agen dalam lingkungan yang lebih aman, memantau aktivitasnya, dan menghentikan tindakan berbahaya.

Meski demikian, langkah Microsoft juga memiliki kepentingan bisnis. Perusahaan tersebut memiliki hubungan investasi dengan OpenAI dan Anthropic, sekaligus menawarkan produk keamanan untuk mengawasi agen AI dari berbagai pengembang.

Pendekatan ini menegaskan bahwa tanggung jawab keamanan tidak bisa sepenuhnya diserahkan kepada pembuat model AI.

Perusahaan perlu memiliki sistem pengawasan sendiri agar aktivitas agen tetap terkendali, terutama saat teknologi tersebut mengakses informasi sensitif dan menjalankan proses penting.

Komentar

Postingan populer dari blog ini

Atasi Kelangkaan Tim Ahli, Sistem Keamanan AI Ini Bisa Tangkis Serangan Siber dalam 6 Menit

Serangan siber adalah mimpi buruk yang bisa datang kapan saja, bahkan saat dini hari atau hari libur. Menjawab tantangan genting ini, ESET meluncurkan layanan Managed Detection and Response (MDR) di Indonesia. Kehadiran solusi tersebut menjadi angin segar bagi korporasi yang selama ini kewalahan menjaga sistem tanpa tim keamanan yang siaga penuh. Sistem keamanan siber yang kuat sangat krusial di tengah lanskap ancaman siber Tanah Air yang kian ganas. Laporan terbaru AwanPintar.id mencatat, Indonesia menghadapi hingga 16 serangan siber setiap detiknya. Di sisi lain, tekanan regulasi makin ketat seiring berlakunya UU Perlindungan Data Pribadi (UU PDP) serta persiapan menjelang RUU Keamanan dan Ketahanan Siber (RUU KKS). Di tengah risiko kerugian finansial yang masif, ESET MDR dirancang untuk mengambil alih beban analisis ancaman dan memberikan proteksi aktif saat tim IT sedang off-duty. Layanan ini menggabungkan otomatisasi dengan pengawasan pakar siber global ESET, serta didukung pen...

Gandeng Kemenekraf, PANDI Siap Bawa Aksara Nusantara ke Domain Global

Pengelola Nama Domain Internet Indonesia (PANDI) siap memperkuat ekosistem ekonomi kreatif nasional lewat teknologi dan identitas digital. Komitmen ini disampaikan PANDI saat melakukan audiensi dengan Menteri Ekonomi Kreatif/Kepala Badan Ekonomi Kreatif RI, Teuku Riefky Harsya, di Jakarta, baru-baru ini. Pertemuan tersebut memfokuskan pembahasan pada peluang kolaborasi strategi dalam penguatan intellectual property (IP) lokal, perlindungan identitas digital karya kreatif, serta optimalisasi potensi ekonomi berbasis budaya di ruang siber. Ketua PANDI, Isnawan, menegaskan nama domain di era digital kini bukan lagi sekadar alamat situs web, melainkan bagian integral dari identitas merek, karya seni, hingga aset budaya Indonesia. “IP Indonesia memiliki potensi sangat besar. Ketika berkembang ke ruang digital, identitas digital menjadi aspek penting agar karya maupun produk kreatif kita makin mudah dikenal, dikembangkan, dan menjangkau pasar internasional,” kata Isnawan, dikutip Kamis . ...

OpenAI Siapkan GPT-6 Cyber, AI Khusus untuk Lawan Serangan Siber

OpenAI dikabarkan sedang menyiapkan GPT-6 Cyber, model AI yang dirancang khusus untuk kebutuhan keamanan siber. Model ini disebut akan diperkenalkan dalam waktu dekat, di tengah meningkatnya penggunaan AI untuk serangan dan pertahanan digital. Dikutip dari Gizmodo, Jumat Fortune melaporkan GPT-6 Cyber kemungkinan diperkenalkan pada acara DevDay yang digelar 29 September 2026. Namun, OpenAI belum mengonfirmasi jadwal peluncuran GPT-6 Cyber. Dalam program Daybreak, OpenAI menjelaskan bahwa frontier AI bisa membantu tim keamanan bekerja lebih cepat. Program ini dirancang untuk membantu pihak yang bertugas mengamankan sistem dan layanan penting. Menurut laporan Fortune, GPT-6 Cyber juga sedang diuji oleh sebagian pelanggan terpilih dalam program Daybreak Red. Program tersebut memberikan akses kepada organisasi yang sudah lolos seleksi untuk menguji model AI dalam pekerjaan keamanan siber. Selain GPT-6 Cyber, OpenAI juga disebut menyiapkan produk baru yang belum memiliki nama. Model AI i...