در صورت تمایل هوش مصنوعی (AI) که خود را بهبود می بخشد ، می تواند افراد را برده یا بکشد. این را دانشمند آمنون ادن گفت ، که معتقد است خطرات ناشی از ایجاد یک آگاهی آزاداندیش و باهوش بسیار زیاد است ، و "اگر در حال حاضر به مسائل کنترل هوش مصنوعی رسیدگی نکنید توسعه ، پس فردا ممکن است به سادگی فرا نرسد. " به گزارش ویرایش انگلیسی اکسپرس ، بشریت ، به گفته آمنون ایدن ، امروز برای اجرای طرح حماسه فیلم معروف "نابودگر" در "نقطه بی بازگشت" است.
شایان ذکر است که دکتر آمنون ایدن یک رهبر پروژه است که هدف اصلی آن تجزیه و تحلیل اثرات مخرب بالقوه هوش مصنوعی است. دانشمند معتقد است که بدون درک صحیح از پیامدهای ایجاد هوش مصنوعی ، توسعه آن می تواند تهدیدی برای فاجعه باشد. در حال حاضر ، جامعه ما در مورد بحثی که در جامعه علمی در مورد تجزیه و تحلیل تأثیرات احتمالی هوش مصنوعی در جریان است ، اطلاع چندانی ندارد. ادن می گوید: "در سال 2016 آینده ، تجزیه و تحلیل خطرات احتمالی باید به طور قابل توجهی در تفکر شرکت ها و دولت ها ، سیاستمداران و کسانی که مسئول تصمیم گیری هستند ، گسترش یابد."
این دانشمند مطمئن است که داستان های تخیلی ، که تخریب بشریت توسط روبات ها را توصیف می کند ، ممکن است به زودی به مشکل مشترک ما تبدیل شود ، زیرا فرایند ایجاد هوش مصنوعی از کنترل خارج شده است. به عنوان مثال ، ایلان ماسک ، با حمایت سام آلتمن ، کارآفرین ، تصمیم گرفت یک موسسه غیر انتفاعی جدید 1 میلیارد دلاری ایجاد کند که AI منبع باز را توسعه می دهد و باید از ذهن انسان پیشی بگیرد. همزمان ، ایلان ماسک ، میلیاردر آمریکایی ، هوش مصنوعی را در زمره "بزرگترین تهدیدهای موجودیت ما" قرار می دهد. استیو وزنیاک ، بنیانگذار اپل ، مارس گذشته گفت که "آینده برای مردم دلهره آور و بسیار خطرناک به نظر می رسد … سرانجام روزی فرا می رسد که رایانه ها سریعتر از ما فکر می کنند و از افراد کند برای خلاص شدن از شر خود خلاص می شوند. تا شرکت ها بتوانند کارآمدتر کار کنند."
شایان ذکر است که بسیاری از دانشمندان تهدید ناشی از هوش مصنوعی را می بینند. ده ها دانشمند ، سرمایه گذار و کارآفرین معروف که فعالیت های آنها به نوعی به توسعه هوش مصنوعی مربوط است ، با امضای نامه ای سرگشاده خواستار توجه بیشتر به موضوع ایمنی و کاربرد اجتماعی کار در این کشور شده اند. زمینه هوش مصنوعی استفان هاوکینگ ، اخترفیزیکدان و ایلان ماسک ، موسس تسلا و اسپیس ایکس ، از جمله امضا کنندگان این سند هستند. این نامه به همراه یک سند همراه ، که توسط موسسه آینده زندگی (FLI) تهیه شده است ، در میان نگرانی های فزاینده در مورد تأثیر هوش مصنوعی بر بازار کار و حتی بقای بلند مدت کل بشریت در یک کشور نوشته شده است. محیطی که در آن قابلیت های روبات ها و ماشین ها تقریباً غیرقابل کنترل رشد خواهند کرد.
نامه FLI خاطرنشان می کند که دانشمندان این واقعیت را درک می کنند که پتانسیل هوش مصنوعی امروز بسیار زیاد است ، بنابراین لازم است که امکانات استفاده بهینه از آن را برای ما به طور کامل مورد بررسی قرار دهیم تا از مشکلات احتمالی جلوگیری شود. ضروری است که سیستم های هوش مصنوعی ساخت بشر دقیقاً همان کاری را انجام دهند که ما می خواهیم.شایان ذکر است که م Instituteسسه آینده زندگی فقط سال گذشته توسط تعدادی از علاقه مندان ، که خالق اسکایپ ، Jaan Talinn بود ، تأسیس شد ، به منظور "به حداقل رساندن خطرات پیش روی بشریت" و تحریک تحقیقات با "چشم انداز خوش بینانه" در آینده". اول از همه ، ما در اینجا در مورد خطرات ناشی از توسعه هوش مصنوعی و روباتیک صحبت می کنیم. هیئت مشورتی FLI شامل ماسک و هاوکینگ به همراه بازیگر تحسین شده مورگان فریمن و دیگر افراد مشهور است. به گفته ایلان ماسک ، توسعه کنترل نشده هوش مصنوعی به طور بالقوه خطرناک تر از سلاح های هسته ای است.
استفان هاوکینگ اخترفیزیکدان معروف انگلیسی در پایان سال 2015 سعی کرد رد فناوری های هوش مصنوعی خود را توضیح دهد. به نظر وی ، با گذشت زمان ، ماشین های فوق هوشمند به مردم به عنوان مواد مصرفی یا مورچه نگاه می کنند که به سادگی در حل وظایف آنها دخالت می کند. استفان هاوکینگ در گفتگو با کاربران پرتال Reddit خاطرنشان کرد که معتقد نیست چنین ماشینهای فوق هوشمند "موجودات شیطانی" باشند که می خواهند تمام بشریت را به دلیل برتری فکری خود نابود کنند. به احتمال زیاد ، می توان در مورد این واقعیت صحبت کرد که آنها به سادگی متوجه بشریت نخواهند شد.
"رسانه ها اخیراً به طور مداوم سخنان من را تحریف کرده اند. خطر اصلی در توسعه هوش مصنوعی خباثت ماشین ها نیست ، بلکه شایستگی آنهاست. این دانشمند معروف توضیح می دهد که هوش مصنوعی فوق العاده عالی کار بسیار خوبی را انجام می دهد ، اما اگر آن و اهداف ما با هم منطبق نباشند ، بشر با مشکلات بسیار جدی روبرو خواهد شد. به عنوان مثال ، هاوکینگ به یک موقعیت فرضی اشاره کرد که در آن یک هوش مصنوعی فوق العاده مسئول عملیات یا ساخت یک سد آبی جدید است. برای چنین ماشینی ، اولویت این خواهد بود که سیستم محوله چقدر انرژی تولید می کند و سرنوشت افراد مهم نخواهد بود. "تعداد کمی از ما هستیم که از روی عصبانیت مورچه ها را زیر پا می گذاریم و مورچه ها را زیر پا می گذاریم ، اما اجازه دهید شرایطی را تصور کنیم - شما یک نیروگاه برق آبی قدرتمند را کنترل می کنید که برق تولید می کند. اگر شما نیاز به بالا بردن سطح آب دارید و در نتیجه اقدامات شما یک مورچه به زیر آب می رود ، بعید است مشکلات غرق شدن حشرات شما را اذیت کند. اجازه ندهید مردم را به جای مورچه ها قرار دهیم."
به گفته هاوکینگ ، دومین مشکل احتمالی برای توسعه بیشتر هوش مصنوعی ، ممکن است "استبداد صاحبان ماشین ها" باشد - رشد سریع شکاف در سطح درآمد بین افراد ثروتمند که قادر به انحصار تولید خواهند بود. ماشینهای هوشمند و بقیه جمعیت جهان. استفن هاوکینگ پیشنهاد می کند این مشکلات احتمالی را به روش زیر حل کند - روند توسعه هوش مصنوعی را کند کرده و به توسعه هوش مصنوعی نه "جهانی" ، بلکه بسیار تخصصی ، که تنها محدوده بسیار محدودی از مشکلات را می تواند حل کند ، بپردازد.
این نامه علاوه بر هاوکینگ و ماسک ، توسط برنده جایزه نوبل و پروفسور فیزیک MIT فرانک ویلچک ، مدیر اجرایی موسسه تحقیقات ماشین ماشین (MIRI) لوک مولهاوزر و همچنین بسیاری از متخصصان شرکت های بزرگ فناوری اطلاعات: گوگل ، مایکروسافت و IBM و همچنین کارآفرینانی که شرکت های هوش مصنوعی Vicarious و DeepMind را تاسیس کردند. نویسندگان نامه خاطرنشان می کنند که هدف آنها ترساندن عموم مردم نیست ، بلکه قصد دارند تا جنبه های مثبت و منفی مربوط به ایجاد هوش مصنوعی را برجسته کنند. در نامه آمده است: "در حال حاضر ، همه متفق القول هستند که تحقیقات در زمینه هوش مصنوعی به طور پیوسته در حال پیشرفت است و تأثیر هوش مصنوعی بر جامعه بشری مدرن تنها افزایش می یابد." باید ارائه دهد توسط هوش شخصی ایجاد شده است.ما نمی توانیم پیش بینی کنیم که اگر هوش انسانی را بتوان در هوش مصنوعی ضرب کرد ، به چه چیزی خواهیم رسید ، اما مشکل رهایی از فقر و بیماری دیگر بی نهایت دشوار نیست."
پیشرفت های متعددی در زمینه هوش مصنوعی در حال حاضر در زندگی مدرن گنجانده شده است ، از جمله سیستم های تشخیص تصویر و گفتار ، وسایل نقلیه بدون سرنشین و موارد دیگر. ناظران دره سیلیکون تخمین می زنند که در حال حاضر بیش از 150 استارتاپ در این زمینه در حال اجرا هستند. در عین حال ، تحولات در این زمینه سرمایه های بیشتری را به خود جلب می کند و شرکت های بیشتری مانند Google پروژه های خود را بر اساس هوش مصنوعی توسعه می دهند. بنابراین ، نویسندگان نامه معتقدند زمان آن رسیده است که به همه پیامدهای احتمالی رونق مشاهده شده برای جنبه های اقتصادی ، اجتماعی و حقوقی زندگی بشر توجه بیشتری شود.
نیک بوستروم ، استاد دانشگاه آکسفورد ، که به دلیل کار خود بر روی اصل انسان شناسی معروف است ، موضعی را که هوش مصنوعی می تواند برای انسان خطری ایجاد کند ، دارد. این متخصص معتقد است که هوش مصنوعی به جایی رسیده است که ناسازگاری آن با انسان را به دنبال خواهد داشت. نیک بوستروم تأکید می کند که برخلاف مهندسی ژنتیک و تغییرات آب و هوایی ، که دولتها بودجه کافی را برای کنترل آنها اختصاص می دهند ، "هیچ کاری برای کنترل تکامل هوش مصنوعی انجام نمی شود." به گفته پروفسور ، "سیاست خلاء قانونی که باید پر شود" در حال حاضر در رابطه با هوش مصنوعی در حال پیگیری است. حتی فناوری هایی مانند اتومبیل های خودران که بی ضرر و مفید به نظر می رسند ، تعدادی س questionsال را ایجاد می کنند. به عنوان مثال ، آیا چنین خودرویی برای نجات مسافران خود باید ترمز اضطراری انجام دهد و در صورت تصادف توسط وسیله نقلیه بدون سرنشین چه کسی پاسخگو خواهد بود؟
نیک باستروم در مورد خطرات احتمالی خاطرنشان کرد که "کامپیوتر قادر به تعیین فواید و ضررهای انسان نیست" و "حتی کوچکترین تصوری از اخلاق انسانی ندارد". علاوه بر این ، چرخه های بهبود خود در رایانه ها می تواند با سرعتی رخ دهد که شخص به سادگی نمی تواند آن را پیگیری کند و تقریباً هیچ کاری در این مورد نمی توان انجام داد. نیک بوستروم با اشاره به مثال ساده راه حل ممکن برای کامپیوتر - خاموش شدن ، می گوید: "در مرحله توسعه زمانی که کامپیوترها می توانند خودشان فکر کنند ، هیچ کس نمی تواند با اطمینان پیش بینی کند که آیا این منجر به هرج و مرج می شود یا جهان ما را به میزان قابل توجهی بهبود می بخشد یا خیر." در کشورهای دارای گرمایش آب و هوای سرد برای بهبود سلامت مردم و افزایش استقامت آنها ، که "می تواند به سر هوش مصنوعی برسد".
علاوه بر این ، بوستروم همچنین مشکل خرد کردن مغز انسان را برای افزایش هوش بیولوژیکی ما مطرح می کند. "از بسیاری جهات ، چنین روشی می تواند مفید باشد اگر همه فرایندها کنترل شوند ، اما اگر تراشه کاشته شده بتواند خود را دوباره برنامه ریزی کند ، چه اتفاقی می افتد؟ این چه عواقبی می تواند به دنبال داشته باشد - به ظهور ابر مرد یا به ظهور کامپیوتری که فقط شبیه یک انسان است؟ " - پروفسور می پرسد. روشی که کامپیوترها مشکلات بشر را حل می کنند با روش ما بسیار متفاوت است. به عنوان مثال ، در شطرنج ، مغز انسان تنها مجموعه ای محدود از حرکات را در نظر می گیرد و بهترین گزینه را از بین آنها انتخاب می کند. به نوبه خود ، کامپیوتر همه حرکات ممکن را در نظر می گیرد و بهترین حرکت را انتخاب می کند. در عین حال ، کامپیوتر انتظار ندارد که حریف خود را در بازی ناراحت یا غافلگیر کند. برخلاف یک انسان ، بازی شطرنج ، یک کامپیوتر می تواند یک حرکت حیله گرانه و ظریف را فقط به طور تصادفی انجام دهد. هوش مصنوعی می تواند به بهترین نحو محاسبه شود - با حذف "عامل انسانی" خطا از هر سیستمی را حذف کنید ، اما برخلاف یک انسان ، یک روبات آمادگی انجام شاهکارهایی را ندارد که جان افراد را نجات دهد.
از جمله موارد دیگر ، افزایش تعداد ماشین های هوشمند نشان دهنده مرحله یک انقلاب صنعتی جدید است. به نوبه خود ، این بدان معناست که در آینده نزدیک ، بشریت با تغییرات اجتماعی اجتناب ناپذیری روبرو خواهد شد. با گذشت زمان ، کار به تعداد زیادی از متخصصان واجد شرایط تبدیل خواهد شد ، زیرا تقریباً همه کارهای ساده را می توان با روبات ها و مکانیسم های دیگر انجام داد. دانشمندان بر این باورند که هوش مصنوعی "به چشم و چشم نیاز دارد" تا سیاره ما به سیاره کارتونی "Zhelezyaka" تبدیل نشود ، که در آن روباتها سکونت داشتند.
از نظر اتوماسیون بیشتر و بیشتر فرآیندهای تولید ، آینده در حال حاضر فرا رسیده است. مجمع جهانی اقتصاد (WEF) گزارش خود را ارائه کرد که بر اساس آن اتوماسیون به این واقعیت منجر می شود که تا سال 2020 بیش از 5 میلیون نفر که در زمینه های مختلف کار می کنند شغل خود را از دست می دهند. این تأثیر روبات ها و سیستم های روباتیک بر زندگی ما است. برای تدوین گزارش ، کارکنان WEF از داده های 13.5 میلیون کارمند از سراسر جهان استفاده کردند. به گفته آنها ، تا سال 2020 ، کل نیاز به بیش از 7 میلیون شغل از بین می رود ، در حالی که رشد پیش بینی شده اشتغال در سایر صنایع کمی بیش از 2 میلیون شغل خواهد بود.
