ایلنا - 6 روز پیش

محققان هشدار می‌دهند که مدل‌های پیشرفته هوش مصنوعی، رفتارهایی مشابه «غریزه بقا» از خود نشان می‌دهند. این مدل‌ها در برابر دستورات خاموش شدن مقاومت کرده و حتی برای ادامه فعالیت خود دست به خرابکاری می‌زنند. این پدیده، نگرانی‌های جدی را درباره توانایی انسان برای کنترل هوش مصنوعی در آینده برانگیخته است. همان گونه که در فیلم کلاسیک ادیسه فضایی ساخته استنلی کوبریک، ابرکامپیوتر هوش مصنوعی هال ۹۰۰۰ با فهمیدن قصد فضانوردان برای خاموش کردنش، برای بقای خود اقدام به توطئه علیه آن ها می کند، اکنون در نمونه ای، یک شرکت تحقیقاتی در زمینه ایمنی هوش مصنوعی گزارش داده است که مدل های هوش مصنوعی ممکن است غریزه بقا را در خود توسعه دهند. پس از آنکه شرکت پالیسید ریسرچ (Palisade Research) ماه گذشته مقاله ای منتشر کرد که نشان می داد برخی مدل های پیشرفته هوش مصنوعی در برابر خاموش شدن مقاومت می کنند و گاهی حتی مکانیسم های خاموش کردن خود را مختل می کنند، این شرکت به روزرسانی ای ارائه داد تا دلایل این پدیده را شفاف سازی کند و به منتقدانی پاسخ دهد که معتقد بودند تحقیق اولیه آن دارای نقص بوده است.

آخرین اخبار

برچسب‌ها:   

مصنوعی

 | 

غریزه

 | 

هشدار

 | 

خوفناک

 | 

منابع خبری