قبل از شما قسمت دوم مقاله ای از مجموعه "صبر کنید ، چگونه همه اینها می تواند واقعی باشد ، چرا هنوز در هر گوشه ای در مورد آن صحبت نمی شود" است. در سری های قبلی ، مشخص شد که انفجار هوش به تدریج به سراغ مردم سیاره زمین می رود ، در تلاش است تا از هوش بسیار محدود به جهانی و در نهایت ابر هوش مصنوعی تبدیل شود.
شاید ما با یک مشکل بسیار دشوار روبرو هستیم و معلوم نیست چقدر زمان برای حل آن در نظر گرفته شده است ، اما آینده بشریت ممکن است به راه حل آن بستگی داشته باشد. - نیک بستروم.
قسمت اول مقاله به اندازه کافی معصومانه شروع شد. ما درباره هوش مصنوعی (هوش مصنوعی ، که در حل یک مشکل خاص مانند تعیین مسیر یا بازی شطرنج تخصص دارد) بحث کردیم ، بسیاری از آن در جهان ما وجود دارد. سپس آنها تجزیه و تحلیل کردند که چرا رشد هوش مصنوعی عمومی بسیار دشوار است (AGI یا AI ، که از نظر قابلیت های فکری ، می تواند با انسان در حل هر مشکلی مقایسه شود) ، بسیار دشوار است. ما نتیجه گرفتیم که نرخ نمایی پیشرفت فناوری نشان می دهد که AGI ممکن است به زودی در گوشه و کنار باشد. در نهایت ، ما تصمیم گرفتیم که به محض رسیدن ماشین ها به هوش انسان ، موارد زیر بلافاصله اتفاق می افتد:
طبق معمول ، ما به صفحه نگاه می کنیم ، باور نمی کنیم که هوش مصنوعی (ISI ، که بسیار باهوش تر از هر شخص دیگری است) می تواند در طول زندگی ما ظاهر شود و احساساتی را انتخاب می کنیم که نظر ما را در این مورد به بهترین وجه نشان دهد.
قبل از اینکه به ویژگی های ISI بپردازیم ، بیایید به خود یادآوری کنیم که یک ماشین فوق هوشمند به چه معناست.
تفاوت اصلی بین فوق هوشمندی سریع و فوق هوشمندی با کیفیت است. اغلب ، اولین چیزی که هنگام فکر کردن در مورد یک رایانه فوق هوشمند به ذهن می رسد این است که می تواند بسیار سریعتر از یک فرد فکر کند - میلیون ها بار سریعتر ، و در پنج دقیقه درک می کند که یک فرد ده سال به چه زمانی نیاز دارد. ("من کونگ فو می شناسم!")
به نظر می رسد چشمگیر است ، و ISI واقعاً باید سریعتر از همه افراد فکر کند - اما ویژگی اصلی جداکننده آن کیفیت هوش آن است که کاملاً متفاوت است. انسانها بسیار باهوش تر از میمونها هستند ، نه به این دلیل که سریعتر فکر می کنند ، بلکه به این دلیل که مغز آنها دارای تعدادی ماژول شناختی مبتکرانه است که بازنمایی های زبانی پیچیده ، برنامه ریزی طولانی مدت ، تفکر انتزاعی را انجام می دهند ، که میمونها قادر به انجام آنها نیستند. اگر مغز میمون را هزار بار شتاب دهید ، از ما باهوش تر نمی شود - حتی پس از ده سال نمی تواند سازنده ای را مطابق دستورالعمل جمع آوری کند ، که حداکثر دو ساعت طول می کشد. چیزهایی وجود دارد که یک میمون هیچ وقت یاد نمی گیرد ، مهم نیست چند ساعت وقت بگذراند یا چقدر سریع مغزش کار کند.
علاوه بر این ، میمون نمی داند چگونه انسانی است ، زیرا مغز آن به سادگی قادر به درک وجود جهان های دیگر نیست - میمون ممکن است بداند که شخص چیست و آسمانخراش چیست ، اما هرگز نمی فهمد که آسمان خراش توسط مردم. در دنیای او ، همه چیز متعلق به طبیعت است و ماکاک نه تنها نمی تواند یک آسمان خراش بسازد ، بلکه می فهمد که هرکسی می تواند آن را بسازد. و این نتیجه تفاوت کمی در کیفیت هوش است.
در طرح کلی هوش که ما در مورد آن صحبت می کنیم یا صرفاً بر اساس معیارهای موجودات بیولوژیکی ، تفاوت کیفیت هوش بین انسان و میمون بسیار کوچک است.در مقاله قبلی ، ما توانایی های شناختی بیولوژیکی را روی نردبان قرار دادیم:
برای درک اینکه یک ماشین فوق هوشمند چقدر جدی خواهد بود ، آن را دو پله بالاتر از فرد روی نردبان قرار دهید. این دستگاه ممکن است کمی فوق العاده هوشمند باشد ، اما برتری آن بر توانایی های شناختی ما مانند ما - بر میمون ها خواهد بود. و همانطور که یک شامپانزه هرگز نمی فهمد که یک آسمان خراش می تواند ساخته شود ، ما هرگز نمی توانیم بفهمیم که دستگاهی که چند پله بالاتر از آن است ، حتی اگر دستگاه بخواهد آن را برای ما توضیح دهد. اما این فقط چند مرحله است. ماشین هوشمندتر مورچه ها را در ما می بیند - سالها ساده ترین چیزها را از موقعیت خود به ما می آموزد و این تلاشها کاملاً ناامید کننده خواهد بود.
نوع فوق هوشمندی که امروز در مورد آن صحبت خواهیم کرد بسیار فراتر از این نردبان است. این یک انفجار هوش است - وقتی ماشین هوشمندتر شود ، سریعتر می تواند هوش خود را افزایش داده و به تدریج شتاب را افزایش دهد. ممکن است سالها طول بکشد تا دستگاهی مانند این از نظر هوش از شامپانزه ها پیشی بگیرد ، اما شاید چند ساعت طول بکشد تا چند درجه از ما پیشی بگیرد. از آن لحظه به بعد ، ماشین می تواند در هر ثانیه بیش از چهار پله بپرد. به همین دلیل است که ما باید درک کنیم که خیلی زود پس از ظاهر شدن اولین خبر مبنی بر رسیدن دستگاه به سطح هوش انسانی ، ممکن است با واقعیت همزیستی روی زمین با چیزی روبرو شویم که در این نردبان بسیار بالاتر از ما خواهد بود (یا شاید ، و میلیونها بار بالاتر):
و از آنجا که ما ثابت کرده ایم که تلاش برای درک قدرت یک ماشین که تنها دو مرحله بالاتر از ما است ، بی فایده است ، بیایید یکبار برای همیشه تعریف کنیم که راهی برای درک آنچه ISI انجام می دهد و پیامدهای آن چیست این برای ما خواهد بود هرکسی که بر خلاف آن ادعا می کند ، به سادگی نمی فهمد منظور از هوش فوق العاده چیست.
تکامل به تدریج و به تدریج در طول صدها میلیون سال مغز بیولوژیکی را تکامل داده است ، و اگر انسانها یک ماشین فوق هوشمند بسازند ، به یک معنا از تکامل فراتر خواهیم رفت. یا بخشی از تکامل خواهد بود - شاید تکامل به گونه ای عمل کند که هوش به تدریج توسعه یابد تا به نقطه عطفی برسد که آینده ای جدید برای همه موجودات زنده را نوید می دهد:
به دلایلی که بعداً در مورد آنها صحبت خواهیم کرد ، بخش عظیمی از جامعه علمی معتقدند که سوال این نیست که آیا ما به این نقطه عطف خواهیم رسید ، بلکه چه زمانی است.
بعد از این به کجا می رسیم؟
من فکر می کنم هیچ کس در این دنیا ، نه من و نه شما ، نمی توانند بگویند وقتی به نقطه اوج برسیم چه اتفاقی می افتد. نیک باستروم ، فیلسوف آکسفورد و نظریه پرداز برجسته هوش مصنوعی معتقد است که ما می توانیم همه نتایج احتمالی را به دو دسته گسترده تقسیم کنیم.
ابتدا ، با نگاهی به تاریخ ، موارد زیر را در مورد زندگی می دانیم: گونه ها ظاهر می شوند ، برای مدت معینی وجود دارند ، و سپس به ناچار از پرتوی تعادل خارج شده و می میرند.
"همه گونه ها از بین می روند" به عنوان یک قاعده قابل اعتماد در تاریخ مانند "همه مردم روزی می میرند" بوده است. 99.9 species از گونه ها از یک سیاهه حیات سقوط کرده اند و کاملاً واضح است که اگر گونه ای برای مدت طولانی روی این چوب آویزان شود ، باد شدید طبیعی یا یک سیارک ناگهانی کنده را وارونه می کند. بوستروم انقراض را حالت جاذبه می نامد - مکانی که همه گونه ها در آن تعادل دارند تا در جایی سقوط نکنند که هنوز هیچ گونه گونه ای بازنگشته است.
و اگرچه اکثر دانشمندان اعتراف می کنند که ISI توانایی نابودی مردم را خواهد داشت ، اما بسیاری معتقدند که استفاده از قابلیت های ISI به افراد (و گونه ها به طور کلی) اجازه می دهد تا به حالت دوم جاذبه - جاودانگی گونه ها - دست یابند. بوستروم معتقد است که جاودانگی یک گونه به همان اندازه جاذبه دارد که انقراض یک گونه ، یعنی اگر به این امر برسیم محکوم به وجود ابدی هستیم. بنابراین ، حتی اگر همه گونه ها تا کنون از این چوب به گرداب انقراض سقوط کرده باشند ، بوستروم معتقد است که چوب دو طرف دارد ، و به سادگی چنین هوشی در زمین ظاهر نشده است که نحوه سقوط به طرف دیگر را درک کند.
اگر بوستروم و دیگران درست می گویند و با توجه به اطلاعاتی که در اختیار داریم ، ممکن است چنین باشند ، ما باید دو واقعیت بسیار تکان دهنده را بپذیریم:
ظهور ISI برای اولین بار در تاریخ راه را برای دستیابی به گونه ای جاودانگی باز می کند و از چرخه کشنده انقراض خارج می شود.
ظهور ISI چنان تأثیر غیرقابل تصوری عظیمی خواهد داشت که به احتمال زیاد ، بشریت را از این جهت در یک جهت یا آن سوی دیگر بیرون خواهد راند.
ممکن است وقتی تکامل به چنین نقطه عطفی می رسد ، همیشه به رابطه مردم با جریان زندگی پایان می دهد و دنیایی جدید ایجاد می کند ، با یا بدون مردم.
این منجر به یک س interestingال جالب می شود که فقط یک آدم تلخ نمی پرسد: کی به این نقطه عطف می رسیم و ما را کجا قرار می دهد؟ هیچ کس در جهان پاسخ این س doubleال دوگانه را نمی داند ، اما بسیاری از افراد باهوش دهه ها تلاش کرده اند تا آن را دریابند. برای بقیه مقاله ، خواهیم فهمید که آنها از کجا آمده اند.
* * *
بیایید با قسمت اول این س startال شروع کنیم: چه زمانی باید به نقطه اوج برسیم؟ به عبارت دیگر: چقدر زمان باقی مانده است تا اولین ماشین به هوش فوق العاده برسد؟
نظرات در مورد مورد متفاوت است. بسیاری ، از جمله پروفسور ورنور وینگه ، دانشمند بن هرزل ، بنیانگذار Sun Microsystems بیل جوی ، آینده نگر ری کورزویل ، هنگام ارائه نمودار زیر در TED Talk با جرمی هوارد ، متخصص یادگیری ماشین موافقت کردند:
این افراد بر این عقیده اند که ISI به زودی در راه است - این رشد نمایی ، که امروز برای ما کند به نظر می رسد ، به معنای واقعی کلمه در چند دهه آینده منفجر می شود.
برخی دیگر ، مانند پل آلن ، بنیانگذار مایکروسافت ، گری مارکوس ، روانشناس تحقیقاتی ، ارنست دیویس ، متخصص کامپیوتر و میچ کاپور ، کارآفرین فناوری ، معتقدند که متفکرانی مانند کورزویل به طور جدی بزرگی این مشکل را دست کم می گیرند و فکر می کنند ما به این اندازه نزدیک نیستیم. نقطه اوج.
اردوگاه کورزویل استدلال می کند که تنها دست کم گرفتن ، نادیده گرفتن رشد نمایی است و تردیدکنندگان را می توان با کسانی مقایسه کرد که در سال 1985 به سرعت در حال رشد اینترنت بودند و استدلال کردند که در آینده ای نزدیک هیچ تاثیری بر جهان نخواهد داشت.
تردیدکنندگان ممکن است تصور کنند که پیشرفت در هر مرحله بعدی در مورد توسعه نمایی هوش ، که ماهیت نمایی معمولی پیشرفت فناوری را خنثی می کند ، دشوارتر است. و غیره.
اردوگاه سوم ، که نیک بستروم در آن است ، با اولی یا دومی مخالف است و استدلال می کند که الف) همه اینها مطلقاً می تواند در آینده نزدیک اتفاق بیفتد. و ب) هیچ تضمینی وجود ندارد که این اتفاق بیفتد یا بیشتر طول بکشد.
دیگران ، مانند فیلسوف هوبرت دریفوس ، معتقدند که هر سه گروه ساده لوحانه معتقدند که نقطه عطفی وجود خواهد داشت و ما به احتمال زیاد هرگز به ISI نخواهیم رسید.
وقتی همه این نظرات را کنار هم بگذاریم چه اتفاقی می افتد؟
در سال 2013 ، بوستروم یک نظرسنجی انجام داد که در آن با صدها متخصص هوش مصنوعی در مجموعه ای از کنفرانس ها با موضوع زیر مصاحبه کرد: "پیش بینی شما برای دستیابی به AGI در سطح انسانی چیست؟" و از ما خواست یک سال خوش بینانه (که در آن AGI با 10 درصد شانس خواهیم داشت) ، یک فرض واقع بینانه (سالی که در آن AGI با احتمال 50 درصد خواهیم داشت) و یک فرض مطمئن (اولین سالی که در آن AGI از 90 به احتمال درصد ظاهر می شود). در اینجا نتایج:
* میانگین سال خوش بین (10٪): 2022
* میانگین سال واقعی (50)): 2040
* میانگین سال بدبینانه (90٪): 2075
میانگین پاسخ دهندگان بر این باورند که در 25 سال آینده ما AGI خواهیم داشت نه اینکه. 90 درصد احتمال بروز AGI تا سال 2075 به این معنی است که اگر شما هنوز کاملاً جوان هستید ، به احتمال زیاد در طول عمر شما اتفاق می افتد.
یک مطالعه جداگانه که اخیراً توسط جیمز بارت (نویسنده کتاب تحسین شده و بسیار خوب جدیدترین اختراع ما ، گزیده ای از به اطلاع خوانندگان رساندم Hi-News.ru) و بن هرتزل در کنفرانس AGI ، کنفرانس سالانه AGI ، به سادگی نظرات مردم را در مورد سالی که به AGI می رسیم نشان دادند: 2030 ، 2050 ، 2100 ، دیر یا هرگز. در اینجا نتایج:
* 2030: 42 درصد از پاسخ دهندگان
* 2050: 25%
* 2100: 20%
پس از 2100: 10
هرگز: 2
مشابه نتایج بوستروم. در نظرسنجی بارات ، بیش از دو سوم شرکت کنندگان در نظرسنجی معتقدند AGI تا سال 2050 اینجا خواهد بود و کمتر از نیمی از آنها معتقدند AGI در 15 سال آینده ظاهر می شود. همچنین قابل توجه است که تنها 2 درصد از پاسخ دهندگان ، در اصل ، AGI را در آینده ما نمی بینند.
اما AGI نقطه عطفی مانند ISI نیست. به گفته کارشناسان ، چه زمانی ISI خواهیم داشت؟
بوستروم از متخصصان پرسید که چه زمانی به ASI می رسیم: الف) دو سال پس از رسیدن به AGI (یعنی تقریباً بلافاصله به دلیل انفجار هوش) ؛ ب) پس از 30 سال نتایج؟
نظر متوسط این است که انتقال سریع از AGI به ISI با 10٪ احتمال رخ می دهد ، اما در 30 سال یا کمتر با 75٪ احتمال رخ می دهد.
از این داده ها ، ما نمی دانیم پاسخ دهندگان چه تاریخی را 50 درصد احتمال ASI می نامند ، اما بر اساس دو پاسخ بالا ، فرض می کنیم 20 سال است. یعنی کارشناسان برجسته هوش مصنوعی جهان بر این باورند که نقطه عطف در سال 2060 خواهد رسید (AGI در سال 2040 ظاهر می شود + 20 سال طول می کشد تا از AGI به ISI منتقل شود).
البته ، همه آمارهای فوق حدس و گمان است و به سادگی بیان کننده نظرات متخصصان در زمینه هوش مصنوعی است ، اما آنها همچنین نشان می دهند که اکثر افراد علاقمند موافقند که تا سال 2060 ، احتمالاً هوش مصنوعی از راه می رسد. فقط در 45 سال
بریم سراغ سوال دوم. وقتی به نقطه عطف می رسیم ، کدام طرف انتخاب کشنده ما را تعیین می کند؟
ابر هوشمند قوی ترین قدرت را خواهد داشت و سوال مهم برای ما این خواهد بود:
چه کسی یا چه کسی این قدرت را کنترل می کند و انگیزه آنها چه خواهد بود؟
پاسخ به این س onال بستگی به این دارد که آیا ISI دارای یک توسعه فوق العاده قدرتمند ، یک توسعه بی اندازه وحشتناک ، یا چیزی در این بین باشد.
البته جامعه متخصصین سعی می کنند به این سوالات نیز پاسخ دهند. نظرسنجی بوستروم احتمال پیامدهای احتمالی تأثیر AGI بر بشریت را مورد تجزیه و تحلیل قرار داد و مشخص شد که با 52 درصد احتمال همه چیز بسیار خوب پیش می رود و با احتمال 31 درصد همه چیز بد یا بسیار بد پیش می رود. نظرسنجی ضمیمه شده در انتهای قسمت قبلی این مبحث ، که بین شما خوانندگان عزیز سلام نیوز انجام شد ، نتایج مشابهی را نشان داد. برای نتیجه نسبتاً خنثی ، احتمال فقط 17 بود. به عبارت دیگر ، همه ما معتقدیم که AGI یک معامله بزرگ خواهد بود. همچنین شایان ذکر است که این نظرسنجی مربوط به ظهور AGI است - در مورد ISI ، درصد بی طرفی کمتر خواهد بود.
قبل از اینکه عمیق تر در مورد جنبه های خوب و بد سوال فکر کنیم ، بیایید هر دو طرف س combineال را با هم ترکیب کنیم - "کی این اتفاق می افتد؟" و "آیا این خوب است یا بد؟" در جدولی که نظرات اکثر کارشناسان را پوشش می دهد.
ما در مورد اردوی اصلی در یک دقیقه صحبت خواهیم کرد ، اما ابتدا در مورد موقعیت خود تصمیم بگیرید. به احتمال زیاد ، شما در همان مکانی هستید که من قبل از شروع کار روی این موضوع بودم. دلایل متعددی وجود دارد که مردم اصلاً به این موضوع فکر نمی کنند:
* همانطور که در قسمت اول ذکر شد ، فیلم ها مردم و حقایق را به طور جدی اشتباه گرفته اند و سناریوهای غیرواقعی با هوش مصنوعی ارائه می دهند ، که منجر به این واقعیت شد که ما اصلا نباید هوش مصنوعی را جدی بگیریم. جیمز بارات این وضعیت را با صدور هشدار جدی در مورد خون آشام ها در آینده ما از سوی مرکز کنترل بیماری (CDC) مقایسه کرده است.
* به دلیل سوگیری های به اصطلاح شناختی ، باور این که چیزی واقعی است تا زمانی که اثبات نداشته باشیم برای ما بسیار دشوار است. با اطمینان می توان تصور کرد که دانشمندان کامپیوتر در سال 1988 مرتباً در مورد پیامدهای گسترده اینترنت و آنچه می تواند باشد بحث می کنند ، اما مردم به سختی معتقد بودند که زندگی آنها تا زمانی که واقعاً اتفاق نیفتد تغییر می کند. فقط کامپیوترها نمی دانستند چگونه این کار را در سال 1988 انجام دهند و مردم فقط به رایانه های خود نگاه کردند و فکر کردند: "واقعاً؟ آیا این چیزی است که جهان را تغییر خواهد داد؟ " تصورات آنها با چیزهایی که از تجربه شخصی آموخته بودند محدود بود ، آنها می دانستند کامپیوتر چیست و تصور اینکه کامپیوتر در آینده قادر به انجام چه چیزی است دشوار بود.همین امر در حال حاضر در مورد AI اتفاق می افتد. ما شنیده ایم که یک امر جدی خواهد شد ، اما از آنجایی که ما هنوز به صورت رو در رو با آن برخورد نکرده ایم و به طور کلی ، ما در دنیای مدرن خود جلوه های ضعیف هوش مصنوعی را مشاهده می کنیم ، باور اینکه این امر بطور اساسی انجام خواهد شد برای ما بسیار دشوار است. زندگی ما را تغییر دهد برخلاف این پیش داوری ها است که بسیاری از کارشناسان از همه اردوگاه ها و افراد علاقه مند با تلاش برای جلب توجه ما از طریق سر و صدای خودخواهی جمعی روزمره مخالف هستند.
* حتی اگر ما به همه اینها اعتقاد داشتیم - امروز چند بار به این موضوع فکر کرده اید که بقیه ابدیت را در نیستی سپری خواهید کرد؟ کمی ، موافق حتی اگر این واقعیت بسیار مهمتر از هر کاری باشد که روزانه انجام می دهید. این امر به این دلیل است که مغز ما معمولاً روی چیزهای کوچک و روزمره متمرکز است ، مهم نیست که چقدر در موقعیت درازمدت دچار توهم می شویم. فقط این است که ما ساخته شده ایم.
یکی از اهداف این مقاله این است که شما را از اردوگاه "من دوست دارم به چیزهای دیگر فکر کنم" بیرون بیاورد و شما را در اردوگاه متخصصان قرار دهد ، حتی اگر فقط در چهارراه بین دو خط نقطه در میدان ایستاده اید. در بالا ، کاملاً بلاتکلیف
در جریان تحقیقات ، آشکار می شود که نظرات اکثر مردم به سرعت به سمت "اردوگاه اصلی" می رود و سه چهارم کارشناسان در دو اردوگاه فرعی در اردوگاه اصلی قرار می گیرند.
ما به طور کامل از هر دو کمپ دیدن خواهیم کرد. بیایید با تفریح شروع کنیم.
چرا آینده می تواند بزرگترین رویای ما باشد؟
وقتی دنیای هوش مصنوعی را کاوش می کنیم ، به طرز شگفت آوری افراد زیادی را در منطقه راحتی خود می یابیم. مردم در میدان بالا سمت راست از هیجان وزوز می زنند. آنها معتقدند که ما از طرف خوب چوب سقوط می کنیم و همچنین معتقدند که ما ناگزیر به این امر خواهیم رسید. برای آنها ، آینده تنها بهترین چیزی است که فقط می توان رویای آن را داشت.
نکته ای که این افراد را از دیگر متفکران متمایز می کند این نیست که آنها می خواهند در طرف شاد باشند - بلکه این است که آنها مطمئن هستند که او منتظر ما است.
این اعتماد به نفس از مناقشه ناشی می شود. منتقدان معتقدند این ناشی از یک هیجان خیره کننده است که جنبه های منفی احتمالی را تحت الشعاع قرار می دهد. اما طرفداران می گویند پیش بینی های تیره همیشه ساده لوحانه هستند. تکنولوژی همچنان ادامه دارد و همیشه بیش از آسیب رساندن به ما به ما کمک خواهد کرد.
شما می توانید هر یک از این نظرات را انتخاب کنید ، اما شک و تردید را کنار بگذارید و به خوبی به جنبه شادی پرتوی تعادل نگاه کنید و سعی کنید این واقعیت را بپذیرید که هر چیزی که درباره آن می خوانید ممکن است قبلاً اتفاق افتاده باشد. اگر دنیای راحتی ، فناوری و فراوانی بی پایان ما را به شکارچیان جمع آوری می کردید ، برای آنها یک داستان جادویی به نظر می رسید - و ما کاملاً متواضعانه رفتار می کنیم ، نمی توانیم اعتراف کنیم که همان تحول نامفهوم در آینده در انتظار ما است.
نیک بوستروم سه مسیری را که یک سیستم هوش مصنوعی فوق هوشمند می تواند طی کند شرح می دهد:
* معجزه ای که می تواند به هر س exactال دقیق ، از جمله س difficultالات دشواری که انسان نمی تواند به آنها پاسخ دهد ، پاسخ دهد - به عنوان مثال ، "چگونه می توان موتور خودرو را کارآمدتر کرد؟" گوگل یک نوع اولیه از "اوراکل" است.
* جن که هر فرمان سطح بالا را اجرا می کند - با استفاده از مونتاژ مولکولی برای ایجاد یک نسخه جدید و کارآمدتر از موتور خودرو - و منتظر فرمان بعدی خواهد بود.
* حاکمی که دسترسی وسیع و توانایی عملکرد آزادانه در جهان را داشته باشد ، تصمیمات خود را بگیرد و روند را بهبود بخشد. او راهی ارزان تر ، سریعتر و ایمن تر برای حمل و نقل شخصی نسبت به ماشین ابداع خواهد کرد.
این سوالات و وظایف ، که برای ما دشوار به نظر می رسند ، در سیستم فوق هوشمند به نظر می رسد مانند این که فردی بخواهد وضعیت را بهبود بخشد "مداد من از روی میز افتاد" ، که در آن شما به سادگی آن را برداشته و دوباره قرار می دهید.
الیزر یودکوفسکی ، متخصص آمریکایی در هوش مصنوعی ، به خوبی بیان کرد:
"هیچ مشکل سختی وجود ندارد ، فقط مشکلاتی است که برای سطح خاصی از هوش سخت است.یک قدم بالاتر بروید (از نظر هوش) ، و برخی مشکلات ناگهان از دسته "غیرممکن" به اردوگاه "بدیهی" منتقل می شوند. یک پله بالاتر - و همه آنها آشکار خواهند شد."
بسیاری از دانشمندان ، مخترعان و کارآفرینان بی حوصله هستند که منطقه ای از آرامش مطمئن را از روی میز ما انتخاب کرده اند ، اما ما فقط به یک راهنما نیاز داریم تا بتوانیم در این بهترین جهان قدم بزنیم.
ری کورزویل مبهم است. برخی ایده های او را بت پرست می دانند ، برخی او را تحقیر می کنند. برخی در وسط می مانند - داگلاس هافستادتر ، در مورد ایده های کتابهای کورزویل ، با شیوایی خاطرنشان کرد که "گویی غذای خوب زیاد و مدفوع سگ کوچک خورده اید ، و سپس همه چیز را طوری مخلوط کرده اید که درک آن غیر ممکن است. چه خوب است و چه بد."
ایده های او را دوست دارید یا نه ، بدون سایه ای از علاقه نمی توانید از آنها بگذرید. او در نوجوانی شروع به اختراع چیزها کرد و در سالهای بعد چندین چیز مهم را اختراع کرد ، از جمله اولین اسکنر تخت ، اولین اسکنر تبدیل متن به گفتار ، سینت سایزر معروف موسیقی Kurzweil (اولین پیانوی الکتریکی واقعی) ، و اولین تشخیص تجاری موفق تجاری. او همچنین نویسنده پنج کتاب پر شور است. کورزویل برای پیش بینی های جسورانه خود قدردانی می شود و سابقه وی کاملاً خوب است - در اواخر دهه 80 ، هنگامی که اینترنت هنوز در مراحل اولیه خود بود ، او پیش بینی کرد که در دهه 2000 وب به یک پدیده جهانی تبدیل خواهد شد. وال استریت ژورنال کورزویل را یک "نابغه بی قرار" ، فوربس را "ماشین تفکر جهانی" ، Inc. مجله - "وارث حقیقی ادیسون" ، بیل گیتس - "بهترین کسانی که آینده هوش مصنوعی را پیش بینی می کنند". در سال 2012 ، لری پیج ، بنیانگذار گوگل ، کورزویل را به پست CTO دعوت کرد. در سال 2011 ، او دانشگاه Singularity را تأسیس کرد ، که توسط ناسا میزبانی می شود و بخشی از آن توسط Google حمایت می شود.
زندگی نامه او اهمیت دارد. وقتی کورزویل درباره چشم انداز خود در مورد آینده صحبت می کند ، به نظر می رسد دیوانه وار است ، اما واقعاً دیوانه کننده این است که او از دیوانه فاصله دارد - او فوق العاده باهوش ، تحصیل کرده و عاقل است. ممکن است فکر کنید که او در پیش بینی های خود اشتباه می کند ، اما او یک احمق نیست. بسیاری از کارشناسان منطقه راحتی ، پیتر دیاماندیس و بن هرزل ، پیش بینی های کورزویل را به اشتراک می گذارند. این چیزی است که او فکر می کند اتفاق می افتد.
گاهشماری
کورزویل معتقد است که رایانه ها تا سال 2029 به سطح هوش مصنوعی عمومی (AGI) می رسند و تا سال 2045 ما نه تنها دارای هوش مصنوعی فوق العاده ، بلکه دنیایی کاملاً جدید - زمان اصطلاحاً تکینگی - خواهیم داشت. زمان بندی هوش مصنوعی آن هنوز مبالغه آمیز تلقی می شود ، اما در 15 سال گذشته ، توسعه سریع سیستم های هوش مصنوعی (AI) بسیار متمرکز بسیاری از متخصصان را مجبور به حمایت از کورزویل کرده است. پیش بینی های او هنوز بلندپروازانه تر از پیش بینی های بوستروم است (AGI تا سال 2040 ، ISI تا 2060) ، اما نه چندان زیاد.
به گفته کورزویل ، تکینگی 2045 توسط سه انقلاب همزمان در بیوتکنولوژی ، فناوری نانو و مهمتر از آن هوش مصنوعی هدایت می شود. اما قبل از اینکه - و فناوری نانو هوش مصنوعی را از نزدیک دنبال می کند - بیایید لحظه ای به فناوری نانو اختصاص دهیم.
چند کلمه در مورد فناوری نانو
ما معمولاً فناوری های نانو را می نامیم که با دستکاری ماده در محدوده 1 تا 100 نانومتر سروکار دارند. نانومتر یک میلیاردم متر یا یک میلیونیم میلی متر است. در محدوده 1 تا 100 نانومتر ، ویروس ها (قطر 100 نانومتر) ، DNA (عرض 10 نانومتر) ، مولکول های هموگلوبین (5 نانومتر) ، گلوکز (1 نانومتر) و سایر موارد را می توان در خود جای داد. اگر فناوری نانو تابع ما شود ، گام بعدی این است که اتم های جداگانه ای را که کمتر از یک مرتبه قدر (~ ، 1 نانومتر) هستند ، دستکاری کنیم.
برای درک اینکه انسانها در تلاش برای دستکاری ماده در چنین مقیاسی با چه مشکلاتی مواجه می شوند ، بیایید به مقیاسی بزرگتر بپردازیم. ایستگاه فضایی بین المللی 481 کیلومتر بالاتر از زمین است.اگر انسانهای غول پیکر بودند و با سر خود به ایستگاه فضایی بین المللی ضربه می زدند ، 250 هزار برابر بزرگتر از حال حاضر می شدند. اگر چیزی را از 1 تا 100 نانومتر 250.000 بار بزرگ کنید ، 2.5 سانتی متر به دست می آورید. فناوری نانو معادل انسانی است که در مدار ISS می چرخد و سعی می کند چیزهایی به اندازه یک دانه شن یا کره چشم را دستکاری کند. برای رسیدن به سطح بعدی - کنترل تک اتم ها - غول باید اجسام با قطر 1/40 میلی متر را با دقت قرار دهد. افراد عادی برای مشاهده آنها به میکروسکوپ نیاز دارند.
ریچارد فاینمن برای اولین بار در سال 1959 در مورد فناوری نانو صحبت کرد. سپس گفت: "اصول فیزیک ، تا آنجا که من می توانم بگویم ، مخالف امکان کنترل اشیاء به اتم نیست. در اصل ، یک فیزیکدان می تواند هر ماده شیمیایی را که یک شیمیدان نوشته است ، سنتز کند. چگونه؟ با قرار دادن اتمها در جایی که شیمیدان می گوید این ماده را دریافت کنید. " این تمام سادگی است. اگر می دانید چگونه مولکول ها یا اتم ها را جابجا کنید ، تقریباً می توانید هر کاری را انجام دهید.
فناوری نانو در سال 1986 هنگامی که مهندس اریک درکسلر در کتاب اصلی خود ماشین های آفرینش پایه های خود را ارائه داد ، تبدیل به یک حوزه علمی جدی شد ، اما خود درکسلر معتقد است کسانی که می خواهند در مورد ایده های مدرن در فناوری نانو بیشتر بیاموزند باید کتاب 2013 او را بخوانند. فراوانی کامل (رادیکال فراوانی).
چند کلمه در مورد "خاکستری خاکستری"
ما عمیقاً وارد فناوری نانو می شویم. به طور خاص ، موضوع "go خاکستری" یکی از موضوعات نه چندان خوشایند در زمینه فناوری نانو است که نمی توان از آن چشم پوشی کرد. نسخه های قدیمی تر نظریه فناوری نانو یک روش مونتاژ نانو را پیشنهاد می کردند که شامل ایجاد تریلیون ها نانوروبات کوچک می شد که با هم برای ایجاد چیزی همکاری می کردند. یکی از راههای ایجاد تریلیونها نانوروربات ، ایجاد روشی است که قابلیت تکرار خود را دارد ، یعنی از یک تا دو ، از دو تا چهار و غیره. چندین تریلیون نانوروبوت در یک روز ظاهر می شود. این قدرت رشد نمایی است. خنده دار است ، اینطور نیست؟
خنده دار است ، اما دقیقاً تا زمانی که منجر به آخرالزمان شود. مشکل این است که قدرت رشد نمایی ، که آن را به راهی بسیار راحت برای ایجاد سریع تریلیون نانوبوت تبدیل می کند ، تکرار خود را در دراز مدت به چیزی ترسناک تبدیل می کند. اگر سیستم خراب شود و به جای متوقف کردن تکثیر برای چند تریلیون ، نانوبوت ها به تکثیر خود ادامه دهند؟ اگر کل این فرآیند به کربن بستگی داشته باشد چه؟ زیست توده زمین حاوی 10 ^ 45 اتم کربن است. یک نانوبات باید در حد 10 ^ 6 اتم کربن باشد ، بنابراین 10 ^ 39 نانوبوت تمام زندگی روی زمین را تنها در 130 تکرار می بلعد. اقیانوسی از نانورباتها ("go خاکستری") سیاره را طغیان می کند. دانشمندان تصور می کنند که نانوربات ها می توانند در 100 ثانیه تکثیر شوند ، این بدان معناست که یک اشتباه ساده می تواند تمام زندگی روی کره زمین را تنها در 3.5 ساعت از بین ببرد.
اگر تروریست ها و متخصصان نامطلوب به دست فناوری نانو برسند ، می تواند بدتر باشد. آنها می توانند چندین تریلیون نانوبوت ایجاد کرده و برنامه ریزی کنند که طی چند هفته بی سر و صدا در سراسر جهان پخش شوند. سپس ، با لمس یک دکمه ، فقط در 90 دقیقه آنها همه چیز را بدون هیچ شانسی می خورند.
در حالی که این داستان ترسناک سالهاست به طور گسترده مورد بحث قرار گرفته است ، خبر خوب این است که این فقط یک داستان ترسناک است. اریک درکسلر ، که اصطلاح "خاکستری خاکستری" را به کار برد ، اخیراً موارد زیر را گفت: "مردم عاشق داستان های ترسناک هستند و این یکی از داستان های ترسناک زامبی ها است. این ایده به خودی خود در حال خوردن مغز است."
هنگامی که به نانوتکنولوژی رسیدیم ، می توانیم از آن برای ایجاد دستگاه های فنی ، پوشاک ، غذا ، محصولات بیولوژیکی - سلول های خونی ، مبارزه با ویروس و سرطان ، بافت ماهیچه ای و غیره - به هر شکل استفاده کنیم. و در دنیایی که از فناوری نانو استفاده می کند ، هزینه یک ماده دیگر به کمیابی یا پیچیدگی فرآیند تولید آن بستگی ندارد ، بلکه به پیچیدگی ساختار اتمی آن بستگی دارد. در دنیای فناوری نانو ، یک الماس می تواند ارزان تر از یک پاک کن باشد.
ما هنوز آنجا نزدیک نیستیمو کاملاً مشخص نیست که آیا پیچیدگی این مسیر را دست کم می گیریم یا برآورد می کنیم. با این حال ، همه چیز به جایی می رسد که فناوری نانو دور از دسترس نیست. کورزویل تصور می کند که تا سال 2020 آنها را خواهیم داشت. کشورهای جهان می دانند که فناوری نانو می تواند نوید آینده ای عالی را بدهد و بنابراین آنها میلیاردها سرمایه گذاری روی آنها انجام می دهند.
فقط تصور کنید یک کامپیوتر فوق هوشمند در صورت دسترسی به یک مونتاژ کننده مقیاس نانو قابل اطمینان چه امکاناتی را به دست خواهد آورد. اما فناوری نانو ایده ما است و ما سعی می کنیم سوار آن شویم ، برای ما دشوار است. اگر آنها فقط یک شوخی برای سیستم ISI باشند و خود ISI فناوری هایی را ارائه دهد که چندین برابر بیشتر از هر چیزی که ما اصولاً می توانیم تصور کنیم ، وجود دارد؟ ما توافق کردیم: هیچ کس نمی تواند تصور کند که ابر هوش مصنوعی قادر به انجام چه کاری است؟ اعتقاد بر این است که مغز ما قادر به پیش بینی حداقل آنچه اتفاق می افتد نیست.
هوش مصنوعی چه کاری می تواند برای ما انجام دهد؟
مجهز به فوق هوش و تمام فناوری هایی که ابر هوشمند می تواند ایجاد کند ، احتمالاً ISI قادر خواهد بود تمام مشکلات بشریت را حل کند. گرمایش زمین؟ ISI ابتدا با اختراع روشهای کارآمد برای تولید انرژی که مربوط به سوختهای فسیلی نیست ، انتشار کربن را متوقف می کند. سپس او راهی م effectiveثر و خلاقانه برای حذف CO2 اضافی از جو ارائه می دهد. سرطان و بیماریهای دیگر؟ مشکلی نیست - مراقبت های بهداشتی و پزشکی به طریقی غیرقابل تصور تغییر خواهند کرد. گرسنگی جهانی؟ ISI از فناوری نانو برای ایجاد گوشتی مشابه گوشت طبیعی استفاده می کند.
فناوری نانو قادر خواهد بود یک توده زباله را به گودال گوشت تازه یا غذای دیگر تبدیل کند (نه لزوما حتی در شکل معمول آن - یک مکعب سیب غول پیکر را تصور کنید) و همه این مواد غذایی را با استفاده از سیستم های حمل و نقل پیشرفته در سراسر جهان توزیع کند. البته ، این برای حیواناتی که دیگر مجبور نیستند برای غذا بمیرند عالی خواهد بود. ISI همچنین می تواند بسیاری از کارهای دیگر را انجام دهد ، مانند حفظ گونه های در معرض خطر ، یا حتی بازگرداندن گونه های منقرض شده از DNA ذخیره شده. ISI می تواند سخت ترین مشکلات اقتصاد کلان ما را حل کند - سخت ترین بحث های اقتصادی ما ، مسائل اخلاقی و فلسفی ، تجارت جهانی - همه اینها برای ISI دردناک واضح خواهد بود.
اما چیز بسیار خاصی وجود دارد که ISI می تواند برای ما انجام دهد. جذاب و فریبنده که همه چیز را تغییر می دهد: ISI می تواند به ما در مقابله با مرگ و میر کمک کند … با درک تدریجی قابلیت های هوش مصنوعی ، شاید همه ایده های خود را در مورد مرگ تجدید نظر کنید.
هیچ دلیلی وجود نداشت که تکامل طول عمر ما را بیشتر از زمان کنونی افزایش دهد. اگر ما آنقدر زنده بمانیم که بچه به دنیا بیاوریم و بچه ها را تا حدی بزرگ کنیم که بتوانند از پس خود برآیند ، تکامل کافی است. از نظر تکاملی ، 30+ سال برای توسعه کافی است و هیچ دلیلی برای جهش ها برای افزایش عمر و کاهش ارزش انتخاب طبیعی وجود ندارد. ویلیام باتلر ییتس گونه ما را "روحی متصل به حیوان در حال مرگ" نامید. زیاد سرگرم کننده نیست.
و از آنجا که همه ما روزی می میریم ، با این ایده زندگی می کنیم که مرگ اجتناب ناپذیر است. ما به پیری در گذر زمان فکر می کنیم - ادامه دادن به جلو و عدم توانایی متوقف کردن این روند. اما تصور مرگ خائنانه است: در اسارت آن ، ما زندگی را فراموش می کنیم. ریچارد فاینمن نوشت:
"یک چیز فوق العاده در زیست شناسی وجود دارد: هیچ چیزی در این علم وجود ندارد که از ضرورت مرگ صحبت کند. اگر بخواهیم یک ماشین حرکت دائمی ایجاد کنیم ، متوجه می شویم که به اندازه کافی قوانین در فیزیک پیدا کرده ایم که یا عدم امکان این کار را نشان می دهد ، یا قوانین اشتباه است. اما هیچ چیز در زیست شناسی وجود ندارد که نشان دهنده اجتناب ناپذیری مرگ باشد. این من را به این باور می رساند که این امر چندان اجتناب ناپذیر نیست و تنها یک زمان است که زیست شناسان علت این مشکل ، این بیماری وحشتناک جهانی را کشف کنند ، درمان خواهد شد."
واقعیت این است که پیری ربطی به زمان ندارد.افزایش سن زمانی است که مواد فیزیکی بدن فرسوده می شوند. قطعات خودرو نیز خراب می شوند - اما آیا پیری اجتناب ناپذیر است؟ اگر ماشین خود را با فرسوده شدن قطعات تعمیر کنید ، برای همیشه دوام می آورد. بدن انسان متفاوت نیست - فقط پیچیده تر است.
کورزویل در مورد نانوبات های هوشمند و متصل به Wi-Fi در جریان خون صحبت می کند که می تواند کارهای بی شماری را برای سلامتی انسان انجام دهد ، از جمله ترمیم یا تعویض منظم سلول های فرسوده در هر نقطه از بدن. بهبود این فرآیند (یا یافتن جایگزینی که توسط ASI هوشمندتر پیشنهاد می شود) نه تنها بدن را سالم نگه می دارد ، بلکه می تواند پیری را نیز معکوس کند. تفاوت بین بدن یک فرد 60 ساله و یک فرد 30 ساله در تعداد انگشت شماری از مسائل جسمانی است که با فناوری مناسب قابل اصلاح است. ISI می تواند خودرویی بسازد که فرد در 60 سالگی سوار آن شود و در 30 سالگی آن را ترک کند.
حتی یک مغز تخریب شده نیز می تواند تجدید شود. ISI مطمئناً می داند چگونه این کار را بدون تأثیر بر داده های مغز (شخصیت ، خاطرات و غیره) انجام دهد. پیرمردی 90 ساله که از تخریب کامل مغز رنج می برد ، می تواند تحت آموزش مجدد ، تجدید و بازگشت به آغاز زندگی خود قرار گیرد. ممکن است پوچ به نظر برسد ، اما بدن مشتی اتم است و ISI مطمئناً می تواند به راحتی آنها ، هر ساختار اتمی را دستکاری کند. آنقدرها هم پوچ نیست
کورزویل همچنین معتقد است که مواد مصنوعی با گذشت زمان بیشتر و بیشتر در بدن ادغام می شوند. برای شروع ، اندام ها را می توان با نسخه های ماشینی فوق پیشرفته جایگزین کرد که برای همیشه دوام می آورد و هرگز شکست نمی خورد. سپس ما می توانیم یک طراحی مجدد کامل بدن انجام دهیم و گلبول های قرمز را با نانو روبات های کاملی که خود به خود حرکت می کنند جایگزین کنیم و نیازی به قلب را به طور کامل از بین ببریم. ما همچنین می توانیم توانایی های شناختی خود را بهبود ببخشیم ، میلیاردها بار سریعتر فکر کنیم و از طریق ابر به تمام اطلاعاتی که در دسترس بشریت است دسترسی پیدا کنیم.
امکانات درک افق های جدید واقعاً بی پایان خواهد بود. افراد توانسته اند رابطه جنسی را با هدف جدیدی به ارمغان بیاورند ، آنها این کار را برای لذت انجام می دهند ، نه فقط برای تولید مثل. کورزویل معتقد است که ما می توانیم همین کار را با غذا انجام دهیم. نانوبات ها می توانند تغذیه ایده آل را مستقیماً به سلول های بدن رسانده و به مواد ناسالم اجازه دهند از بدن عبور کنند. روبرت فریتاس ، نظریه پرداز فناوری نانو ، قبلاً جایگزینی برای سلول های خونی ایجاد کرده است ، که وقتی در بدن انسان اجرا شود ، می تواند به او اجازه دهد تا 15 دقیقه نفس نکشد - و این توسط شخصی اختراع شد. تصور کنید ISI چه زمانی قدرت می گیرد.
به هر حال ، کورزویل معتقد است که انسانها به مرحله ای می رسند که کاملاً مصنوعی می شوند. زمانی که ما به مواد بیولوژیکی نگاه می کنیم و به این فکر می کنیم که آنها چقدر اولیه بودند. زمانی که ما در مورد مراحل اولیه تاریخ بشر می خوانیم ، شگفت زده می شویم که چگونه میکروب ها ، تصادفات ، بیماری ها ، یا به سادگی کهولت سن می تواند یک فرد را بر خلاف میل او بکشد. در نهایت ، انسانها زیست شناسی خود را شکست می دهند و جاودانه می شوند - این مسیری است که به طرف خوشبختی پرتو تعادل می رسد که ما از همان ابتدا در مورد آن صحبت می کردیم. و افرادی که به این امر اعتقاد دارند نیز مطمئن هستند که چنین آینده ای در انتظار ما است ، خیلی زود.
احتمالاً تعجب نخواهید کرد که ایده های کورزویل انتقادات شدیدی را به دنبال داشته است. ویژگی منحصر به فرد آن در سال 2045 و زندگی ابدی متعاقب آن برای مردم "صعود عصبانی ها" یا "ایجاد هوشمندانه افراد با بهره هوشی 140" نامیده شد. دیگران محدوده زمانی خوش بینانه ، درک بدن و مغز انسان را زیر سوال بردند و قانون مور را یادآوری کردند ، که هنوز از بین نرفته است. برای هر متخصصی که به ایده های کورزویل اعتقاد دارد ، سه نفر هستند که فکر می کنند او در اشتباه است.
اما جالب ترین نکته در این مورد این است که اکثر کارشناسانی که با وی مخالف هستند ، در کل نمی گویند که این غیرممکن است.آنها به جای گفتن "مزخرف ، این هرگز اتفاق نمی افتد" ، چیزی شبیه به "همه اینها اتفاق می افتد اگر به ISI برسیم ، اما این مشکل است". بوستروم ، یکی از کارشناسان تحسین شده هوش مصنوعی که درباره خطرات هوش مصنوعی هشدار می دهد ، نیز اعتراف می کند:
"به سختی مشکلی باقی می ماند که ابر هوش نتواند آن را حل کند یا حتی به ما در حل آن کمک کند. بیماری ، فقر ، تخریب محیط زیست ، رنج های مختلف - همه این هوش فوق العاده با کمک فناوری نانو می تواند در یک لحظه حل شود. فوق هوش همچنین می تواند با توقف و معکوس کردن روند پیری با استفاده از نانوپزشکی یا قابلیت بارگذاری ما بر روی ابر ، طول عمر نامحدودی به ما بدهد. هوش فوق العاده همچنین می تواند فرصت هایی را برای افزایش بی پایان توانایی های فکری و احساسی ایجاد کند. او می تواند به ما کمک کند دنیایی را ایجاد کنیم که در آن با شادی و درک زندگی کنیم ، به آرمان های خود نزدیک شویم و به طور مرتب رویاهایمان را محقق کنیم."
این به نقل از یکی از منتقدان کورزویل است ، با این حال ، او اذعان می کند که همه اینها امکان پذیر است اگر بتوانیم ASI امن ایجاد کنیم. کورزویل به سادگی تعریف کرد که در صورت امکان ابر هوش مصنوعی باید به چه چیزی تبدیل شود. و اگر او خدای خوبی است.
واضح ترین انتقاد از طرفداران منطقه راحتی این است که وقتی آینده ISI را ارزیابی می کنند ، ممکن است اشتباه کنند. کورزویل در کتاب The Singularity ، 20 صفحه از 700 تهدید احتمالی ISI را اختصاص داده است. سوال این نیست که وقتی به ISI می رسیم ، سوال این است که انگیزه آن چه خواهد بود. کورزویل با احتیاط به این س answersال پاسخ می دهد: "ISI ناشی از تلاش های مختلف است و عمیقاً در زیرساخت های تمدن ما ادغام خواهد شد. در حقیقت ، این ماده در بدن و مغز ما بسیار نزدیک خواهد شد. او ارزش های ما را منعکس می کند زیرا با ما یکی خواهد بود."
اما اگر پاسخ این است ، چرا بسیاری از افراد باهوش در این جهان نگران آینده هوش مصنوعی هستند؟ چرا استفان هاوکینگ می گوید توسعه ISI "می تواند به معنای پایان نژاد بشر باشد"؟ بیل گیتس می گوید "افرادی را که ناراحت نیستند" در این مورد درک نمی کند. ایلان ماسک می ترسد که ما "دیو را احضار می کنیم". چرا بسیاری از کارشناسان ISI را بزرگترین تهدید برای بشریت می دانند؟
دفعه بعد در این مورد صحبت خواهیم کرد.
