هشدار جدی به مدارس استرالیا: اپلیکیشن‌های 'برهنه‌ساز' هوش مصنوعی کودکان را تهدید می‌کنند
مدارس استرالیا در مواجهه با تهدید فزاینده اپلیکیشن‌های "برهنه‌ساز" مبتنی بر هوش مصنوعی، هشدارهای جدی دریافت کرده‌اند.
به گزارش رادیونشاط، این هشدارها در پی افزایش چشمگیر گزارش‌های مربوط به تصاویر دیجیتالی دست‌کاری‌شده از افراد زیر ۱۸ سال صادر شده است که عمدتاً دختران نوجوان را هدف قرار می‌دهند.
بر اساس گزارش کمیسیون امنیت فضای مجازی استرالیا شمار گزارش‌های مربوط به سوءاستفاده از تصاویر دست‌کاری‌شده کودکان و نوجوانان در ۱۸ ماه گذشته بیش از دو برابر شده است. نکته نگران‌کننده اینکه، در چهار پنجم این گزارش‌ها دختران نوجوان هدف قرار گرفته‌اند.
در واکنش به این وضعیت، رئیس سازمان امنیت فضای مجازی با ارسال نامه‌ای به وزرای آموزش ایالت‌ها و قلمروهای استرالیا، از آن‌ها خواسته است تا از پایبندی مدارس به قوانین حمایت از کودکان و الزامات گزارش‌دهی اطمینان حاصل کنند. در این نامه همچنین از مدارس خواسته شده است که به دلیل افزایش سریع اپلیکیشن‌های موسوم به "نادیفای" (برهنه‌ساز)، هرگونه رویداد مرتبط با دیپ‌فیک را به مراجع ذی‌ربط گزارش دهند.
مدارس و مسئولان آموزشی تأکید می‌کنند که اپلیکیشن‌های "نادیفای" به راحتی در محیط مدرسه قابل دسترس هستند. فناوری دیپ‌فیک با بهره‌گیری از هوش مصنوعی، امکان دست‌کاری سریع و آسان تصاویر و ویدئوها را فراهم می‌آورد و می‌تواند آسیب‌های جدی روانی، اجتماعی و حتی مالی به قربانیان وارد کند. این اپلیکیشن‌ها قادرند تنها با یک عکس، تصویری برهنه از فرد بسازند. از این تصاویر معمولا برای تحقیر، زورگیری و اخاذی جنسی از کودکان، و حتی خرید و فروش در میان دانش‌آموزان سوءاستفاده می‌شود.
در استرالیا، ایجاد یا انتشار هرگونه تصویر جنسی از افراد زیر ۱۸ سال، حتی با استفاده از ابزارهای هوش مصنوعی، جرم محسوب می‌شود و می‌تواند منجر به پیگرد کیفری شود. والدین و مراقبان نیز وظیفه دارند کودکان را نسبت به پیامدهای مخرب این رفتار آگاه سازند.
کمیسیون امنیت فضای مجازی برای کمک به مدارس، جعبه‌ابزاری جدید منتشر کرده که شامل راهنمای گام‌به‌گام برای مدیریت حوادث دیپ‌فیک و توصیه‌هایی برای حمایت از دانش‌آموزان و کارکنان می‌باشد. این راهنما تأکید می‌کند که هرگونه تخلف احتمالی در این خصوص باید به پلیس محلی گزارش شود و مدارس باید سیاست‌های ایمنی آنلاین خود را به طور شفاف اطلاع‌رسانی کنند.
استانداردهای جدید ایمنی آنلاین استرالیا از اول جولای لازم‌الاجرا می‌شود و براین اساس شرکت‌های فناوری و توسعه‌دهندگان اپلیکیشن‌ها ملزم هستند، تدابیر جدی برای جلوگیری از سوءاستفاده، به‌ویژه علیه کودکان، اتخاذ ی‌کنند. جریمه نقض این استانداردها تا سقف ۴۹.۵ میلیون دلار تعیین شده است.