با فشار دادن دکمه قرمز ربات را متوقف کنید

با توجه به گزارشی در وب سایت موسسه ماشین آلات هوشمند؛ متخصصین آزمایشگاه DeepMind ، وابسته به کمپانی گوگل به همراه متخصصانی از دانشگاه آکسفورد، در صدد ساخت سیستم خودکار برای خاموش کردن اضطراری ربات ها هستند . این کار به منظور جلوگیری از تهدیدات و خطرات احتمالی است که ممکن است از جانب ربات ایجاد شود و منجر به عواقب جبران ناپذیری شود. 

"دکمه قرمز بزرگ" نامی است که این متخصصان بر روی این پروژه گذاشته اند. این دکمه برای غیر فعال کردن اضطراری عملکرد ربات ساخته می شود و در زمان ساخت پروژه اگر ربات در حال آسیب به خود با شخص دیگری باشد نزدیک ترین فرد با فشلر دادن دکمه او را از کار باز می دارد، تا از هرگونه آسیبرسانی توسط هوش مصنوعی چه به خودش و چه به مسئولان آن یا سایر افراد جلوگیری شود.
سازندگان ربات ها فرضیه، " زمانی فرا خواهد رسید که هوش مصنوعی بتوانند با استفاده از آموزش ها و گسترش آن ها به خودی خود تمام گزینه های حفاظتی را دور بزند" را انکار نمی کنند.
در نتیجه با پیشرفت تکنولوؤی، ربات، قادر به پیدا کردن راهی برای چشم پوشی از دستور فرمانده خود خواهد بود و توسعه دهندگان با این کار قصد دارند برای حیطه عملکردی او چارچوبی را ایجاد نمایند که اجازه سرپیچی از دستور را به او ندهد.
این ابزار در مرحله اول برای ربات ها ساخته خواهد شد تا کارفرمایان بتوانند با فشار دادن دکمه توقف حاضرین در محل را از خطر حفظ نمایند.
علاوه بر این بیشتر دانشمندان نیز بر این عقیده هستند که آزادی عمل هوش مصنوعی باید محدود شود. استفان هاوکینگ نیز در مورد غلبه هوش مصنوعی بر انسانها، برای آینده بشر ابراز نگرانی کرده است.  زیرا از لحاظ تئوریک هنگامی که هوش مصنوعی به تکامل برسد می تواند سیستمی برای نابودی بشر ایجاد کند.
البته زیاد نگران نباشید، ابزار جدید، برای از بین بردن این احتمالات است.