Fungsi kecerdasan buatan atau Artificial Intelligence (AI) dikenali sebagai Grok di aplikasi media sosial X disekat sementara oleh Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) sejak 11 Januari lalu.
Sekatan ini hanya akan ditarik balik sekiranya isu penghasilan kandungan yang dianggap memudaratkan atau online harm berjaya diselesaikan sepenuhnya oleh pihak X.
Tindakan tegas ini diambil selepas teknologi Grok dipercayai disalahgunakan oleh pengguna tidak bertanggungjawab bagi menjana kandungan foto dan video berunsur lucah serta eksplisit secara berulang kali.
Lebih membimbangkan, Grok juga dilaporkan berupaya menghasilkan imej manipulasi tanpa persetujuan melibatkan lelaki, wanita dan kanak-kanak.
Isu berkaitan Grok X disekat MCMC bukan sekadar kebimbangan di peringkat tempatan. Beberapa negara lain termasuk Indonesia serta negara-negara Eropah turut menyuarakan keresahan yang sama terhadap penggunaan teknologi AI tanpa kawalan ketat.
Penyebaran kandungan palsu, manipulasi visual dan eksploitasi imej individu tanpa kebenaran menjadi antara cabaran utama yang dihadapi oleh pengawal selia komunikasi di seluruh dunia. Perkembangan pesat AI tanpa garis panduan jelas boleh membuka ruang kepada jenayah siber dan pelanggaran privasi yang serius.
Mengulas lanjut, Menteri Komunikasi Datuk Fahmi Fadzil berkata pihaknya mengambil maklum laporan bahawa pihak X telah menyahaktifkan beberapa jenis prompt yang menghasilkan imej memudaratkan menerusi fungsi Grok.
Namun, MCMC memaklumkan tindakan tersebut masih belum menyeluruh. Keadaan ini membolehkan pengguna tertentu terus menyalahgunakan Grok untuk tujuan jenayah siber, termasuk penghasilan bahan tidak bermoral serta kandungan yang melanggar undang-undang.
Berikutan itu, Fahmi menegaskan pihak X perlu membuktikan secara menyeluruh bahawa kandungan sedemikian tidak lagi boleh dihasilkan sebelum kerajaan menghentikan sekatan sementara ke atas fungsi tersebut.
Menurut beliau lagi, kerajaan tidak mempunyai niat untuk menyekat mana-mana platform media sosial secara menyeluruh termasuk X.
Fokus utama kerajaan adalah memastikan platform digital boleh digunakan dengan selamat, beretika dan tidak memudaratkan, terutamanya kepada kanak-kanak serta institusi kekeluargaan.
Isu kandungan AI yang tidak terkawal boleh memberi kesan jangka panjang terhadap perkembangan mental kanak-kanak, selain merosakkan kepercayaan masyarakat terhadap teknologi digital.
Dalam perkembangan berkaitan, MCMC mengesahkan bahawa pihaknya telah berhubung secara langsung dengan pengurusan X. Satu pertemuan rasmi dijadualkan berlangsung pada minggu hadapan bagi membincangkan langkah penambahbaikan, mekanisme kawalan serta komitmen jangka panjang platform tersebut.
Pertemuan ini dijangka menjadi penentu sama ada sekatan ke atas Grok akan diteruskan atau ditarik balik, bergantung kepada tahap pematuhan dan kesediaan pihak X dalam menangani isu kandungan memudaratkan secara serius.
Update terkini tentang isu semasa, dunia hiburan, kecantikan, fesyen dan gaya hidup? Ikuti Telegram, Instagram dan TikTok rasmi Remaja untuk lebih banyak info dan juga peraduan menarik.
