استیون هاوکینگ درباره‌ی ترس‌اش از هوش مصنوعی توضیح می‌دهد

هوش مصنوعی ماهر و توانا یکی از دغدغه‌های مهم استیون هاوکینگ است و مهارت بالای آن‌ها خطر اصلی برای انسان محسوب می‌شود.

“خطر اصلی هوش مصنوعی شرارت و بدجنسی نیست، بلکه مهارت و توانایی است.”

استیون هاوکینگ چند ماه پیش کاربران وب‌سایت «ردیت» Reddit را به یک جلسه‌ی پرسش و پاسخ Ask Me Anything دعوت کرده بود. موضوع اصلی که در این AMA مورد بحث قرار گرفت به هوش مصنوعی مربوط می‌شد. حالا این جلسه‌ی پرسش و پاسخ از سوی ردیت منتشر شده که هاوکینگ در آن موضع‌اش را در مقابل خطر هوش مصنوعی شفاف‌سازی می‌کند. او در پاسخ به معلمی که از بحث درباره‌ی ترمیناتور با دانش‌آموزان‌اش خسته شده بود، گفت: “خطر اصلی هوش مصنوعی شرارت و بدجنسی نیست، بلکه مهارت و توانایی است.” او توضیح داد که روبات‌های قاتل یا پلید خطر اصلی نیستند. “یک هوش مصنوعی بسیار باهوش در انجام کارها و دستیابی به اهداف‌اش مهارت خارق‌العاده‌ای دارد و اگر آن اهداف با خواسته‌های ما هماهنگی نداشته باشد، به دردسر خواهیم افتاد.” هاوکینگ قبلا هم اشاره کرده بود که “هوش مصنوعی می‌تواند پایان نسل بشر را رقم بزند” و همراه با ایلان ماسک و دیگر افراد سرشناس در عرصه‌ی فناوری، نامه‌ای را برای تحریم سلاح‌های مستقل امضا کرده بود.

البته استدلال استیون هاوکینگ به هیچ وجه دلگرم‌کننده نیست؛ یک ایراد نرم‌افزاری در هوش مصنوعی می‌تواند تبعات خطرناکی برای جهان داشته باشد. هاوکینگ اضافه کرد: “مثلا شما از مورچه بدتان نمی‌آید و از روی عمد و بدخواهی پای‌تان را روی آن نمی‌گذارید. اما اگر مسوول یک پروژه‌ی انرژی سبز هیدروالکتریک باشید، برای‌تان فرقی نمی‌کند که لونه‌ی مورچه در مسیر آب قرار داشته باشد. ما نباید اجازه بدهیم که بشر در جایگاه آن مورچه‌ها قرار بگیرد.” به همین دلیل است که هاوکینگ و دیگران اصرار دارند که انسان‌ها باید هوش مصنوعی را تحت کنترل داشته باشند.

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌

منبع: Reddit