NEW YORK / RankWire.AI / – Pertubuhan Bangsa-Bangsa Bersatu menggesa perlindungan yang lebih kukuh untuk kanak-kanak dan golongan muda tatkala platform digital membentuk semula cara mereka menerima maklumat. Satu ringkasan isu PBB yang baharu mengetengahkan risiko daripada maklumat salah, ucapan kebencian, gangguan, kecerdasan buatan dan sistem dalam talian yang didorong oleh perhatian. Ia juga menunjukkan kebimbangan yang melibatkan data peribadi, pengiklanan tingkah laku dan pengedaran algoritma. Laporan itu mengatakan pengguna yang lebih muda memerlukan perlindungan yang lebih kukuh sambil mengekalkan akses kepada pendidikan, komunikasi dan penyertaan awam dalam talian.
Jabatan Komunikasi Global mengeluarkan ringkasan tersebut menjelang Hari Belia Antarabangsa pada 12 Ogos. Lebih 82% orang berumur 15 hingga 24 tahun menggunakan internet di seluruh dunia, menurut laporan itu. Akses digital boleh meluaskan peluang untuk pembelajaran, penglibatan sivik dan penyertaan ekonomi. Pada masa yang sama, pengguna muda mungkin menghadapi bahan berbahaya sambil masih membangunkan kemahiran untuk menilai maklumat. Ringkasan tersebut menyatakan risiko dalam talian boleh menjejaskan perkembangan kognitif, emosi dan sosial.
Laporan itu membahagikan risiko tersebut kepada tiga bidang yang luas. Ancaman berkaitan teknologi termasuk penyalahgunaan kecerdasan buatan dan alat digital lain. Risiko pengedaran termasuk algoritma dan akses yang tidak sama rata kepada maklumat yang boleh dipercayai. Risiko kandungan termasuk maklumat salah, gangguan dan ucapan kebencian. PBB mengatakan masalah ini boleh berinteraksi kerana sistem digital mempengaruhi apa yang dilihat pengguna dan sejauh mana kandungan tersebar. Khalayak yang lebih muda boleh menghadapi beberapa risiko sekaligus apabila platform menggabungkan cadangan automatik, pengumpulan data dan kandungan yang diperibadikan.
Reka bentuk platform menarik perhatian yang lebih dekat
Ringkasan ini juga mengkaji model perniagaan yang bergantung pada perhatian pengguna, data peribadi dan pengiklanan yang disasarkan. Ia mengatakan sistem yang berfokus pada penglibatan boleh mendedahkan kanak-kanak kepada bahan dan ciri ekstrem yang menggalakkan penggunaan berulang. Pemasaran yang diperibadikan boleh menambah satu lagi lapisan risiko untuk khalayak yang lebih muda. Laporan itu menyeru syarikat teknologi dan pembangun AI untuk meletakkan hak dan keselamatan kanak-kanak dalam reka bentuk produk. Ia juga menggesa akauntabiliti yang lebih besar di sekitar sistem yang membentuk apa yang dilihat oleh golongan muda dalam talian.
Sekatan umur telah menjadi sebahagian daripada perdebatan yang lebih luas mengenai media sosial dan keselamatan kanak-kanak. PBB mengatakan had umur sahaja tidak dapat menangani pelbagai risiko maklumat dalam talian. Ruang digital juga boleh menyediakan pendidikan, hubungan sosial dan sokongan emosi. Golongan muda menggunakannya untuk mencipta kandungan, menganjurkan kempen dan mengambil bahagian dalam perdebatan awam. Ringkas itu mengatakan perlindungan harus melindungi kanak-kanak tanpa menghapuskan akses berguna kepada perkhidmatan digital yang menyokong pembelajaran, komunikasi dan penyertaan.
Keselamatan AI menjadi sebahagian daripada usaha perlindungan kanak-kanak
Kecerdasan buatan menambah kebimbangan baharu kepada persekitaran dalam talian. Setiausaha Agung António Guterres telah menyeru Ikrar Keselamatan Kanak-kanak AI yang meliputi sistem yang boleh diakses oleh kanak-kanak. Pendekatan yang dicadangkan termasuk ujian keselamatan khusus kanak-kanak dan pengawasan yang lebih ketat sebelum penggunaan. Ia juga meminta tindakan tegas terhadap imej seksual yang dihasilkan oleh AI yang melibatkan kanak-kanak. Usaha PBB yang lebih luas menyeru pembangun untuk mengenal pasti, melaporkan dan mengalih keluar bahan tersebut sambil membina perlindungan keselamatan kanak-kanak ke dalam sistem AI yang boleh diakses.
Laporan itu mengatakan bahawa kerajaan, syarikat teknologi, pengiklan, penyelidik, pendidik dan masyarakat sivil semuanya memainkan peranan dalam mengurangkan bahaya digital. Ia juga menyeru kanak-kanak dan golongan muda untuk mengambil bahagian dalam keputusan yang membentuk ruang dalam talian. Ringkasan ini mengaplikasikan Prinsip Global PBB untuk Integriti Maklumat kepada isu-isu yang mempengaruhi pengguna yang lebih muda. Mesej utamanya ialah keselamatan kanak-kanak, integriti maklumat dan penyertaan digital harus maju bersama apabila platform dalam talian dan sistem AI menjadi lebih penting dalam kehidupan seharian.
Siaran PBB memberi amaran tentang peningkatan risiko maklumat dalam talian untuk kanak-kanak muncul pertama kali di UAE Gazette: Rekod perubahan harian UAE.