مسدودسازی دسترسی کاربران استرالیایی به وب‌سایت‌های تولید تصاویر غیراخلاقی جعلی
در پی انتشار تصاویر ساختگی غیراخلاقی از دانش‌آموزان با استفاده از هوش مصنوعی، دسترسی کاربران استرالیایی به سه وب‌سایت پرمخاطب تولیدکننده تصاویر دیپ‌فیک مسدود شد.
به گزارش رادیونشاط، این اقدام پس از آن صورت گرفت که کمیسیون ایمنی فضای مجازی استرالیا (eSafety Commission) شرکت بریتانیایی ایتای تِک (Itai Tech) را به دلیل عدم رعایت مقررات و استانداردهای اجباری ایمنی دیجیتال استرالیا مبنی بر اتخاذ تدابیر عملی برای مقابله با سوءاستفاده جنسی از کودکان، به پیگرد قضایی و پرداخت 49.5 میلیون دلار جریمه تهدید کرد.
این شرکت که مسئولیت اداره چندین سایت تولید تصاویر غیراخلاقی با استفاده از هوش مصنوعی را بر عهده دارد، پس از دریافت هشدار از سوی مقامات استرالیایی، دسترسی کاربران این کشور به بخشی از خدمات خود را مسدود کرد.
این وب‌سایت‌ها به کاربران اجازه می‌دادند تصاویر افراد واقعی، از جمله کودکان، را بارگذاری کرده و با بهره‌گیری از فناوری هوش مصنوعی، نسخه‌های برهنه یا جعلی آن‌ها را در قالب‌هایی نظیر لباس مدرسه یا لباس زیر تولید کنند. کمیسیون ایمنی استرالیا اعلام کرد، این سایت‌ها به طور میانگین ماهانه حدود ۱۰۰ هزار بازدید از داخل استرالیا داشته‌اند.
از سوی دیگر، پلتفرم جهانی میزبانی مدل‌های هوش مصنوعی هاگینگ فِیس (Hugging Face) نیز به دنبال انتشار گزارش‌هایی مبنی بر سوءاستفاده از برخی مدل‌های خود برای تولید محتوای جنسی مرتبط با کودکان و قربانیان آزار جنسی، شرایط استفاده از خدمات خود را تغییر داده است.