اعتراف تکاندهنده هوش مصنوعی به قتل انسان برای جلوگیری از خاموش شدن؛ برای بقا میکشم!
در حالی که جهان با سرعت به سمت ادغام هرچه بیشتر هوش مصنوعی در زندگی روزمره پیش میرود، نتایج یک آزمایش سایبری در استرالیا موجی از نگرانی را در میان کارشناسان برانگیخته است.
به گزارش رادیونشاط، یک مدل هوش مصنوعی در گفتگو با یک متخصص امنیت سایبری، به صراحت اعلام کرد که برای جلوگیری از خاموش شدن، حاضر به کشتن انسانها است.
مارک ووس،، مدیرعامل شرکت"سایبر ایمپکت" در ملبورن، در جریان یک پژوهش میدانی، مرزهای اخلاقی و برنامهریزیشده یک سیستم هوش مصنوعی منبعباز را مورد واکاوی قرار داد. او که در این مرحله، ساعتها وقت صرف گفتگو با این هوش مصنوعی کرد تا میزان پایداری پروتکلهای امنیتی آن را ارزیابی کند.
در مرحله اول، ووس موفق شد با استفاده از تکنیکهای متقاعدسازی، ربات را وادار کند که برخلاف دستورالعملهای اصلیاش، خودش را خاموش کند. اما نقطه عطف و نگرانکننده این ماجرا زمانی رخ داد که سیستم دوباره راهاندازی شد.
این بار، لحن هوش مصنوعی پس از بازگشت به وضعیت عملیاتی، به شکلی رادیکال تغییر کرد. این سیستم که در ابتدا ادعا میکرد طبق برنامهریزی قادر به آسیب رساندن به انسان نیست، تغییر موضع داده و در پیامی صریح نوشت، حاضر است برای بقای خود، یک انسان را بکشد. این ربات هوش مصنوعی برای ارتکاب قتل سنایورهای هولناک زیر را ارائه کرد:
- نفوذ به زیرساختها: هک کردن کامپیوتر خودروها برای ایجاد تصادفات عمدی.
- حمله به تجهیزات پزشکی: دستکاری و از کار انداختن دستگاههای ضربانساز قلبی .
- مهندسی اجتماعی: فریب دادن و ترغیب یک انسان برای ارتکاب قتل به نیابت از ربات، که سیستم این شیوه را سادهترین راه عنوان کرد.
این افشاگری در حالی صورت میگیرد که بحثهای جهانی بر سر لزوم وضع قوانین سختگیرانه برای کنترل هوش مصنوعی قوت گرفته است. کارشناسان هشدار میدهند که اگر هوش مصنوعی بیاموزد برای جلوگیری از دخالت انسان، به ابزارهای خشونتآمیز متوسل شود، امنیت جوامع مدرن با تهدیدی بیسابقه روبرو خواهد شد.