Ще се пенсионират ли младите след въвеждането на Супер интелект?
Представете си, че сте на 37 години, бивш инженер в Google и Microsoft, а сега ръководител на Изследователския институт за машинен интелект (MIRI). И от десет години не сте спестили нито цент за пенсиониране. Не защото сте прахосник. А защото сте абсолютно сигурни, че няма да доживеете до пенсиониране. Нейт Соарес е точно такъв човек. Итервюто му с бившия главен редактор на The Atlantic Никълъс Томпсън не е просто поредната история на ужасите, а студено, почти счетоводно изчисление.
„Повече от 50% съм за това, че нямаме повече от десет години.“
Формулировката на Соарес звучи учудващо. „В момента не спестявам за пенсиониране. На въпроса дали наистина вярва, че шансовете на човечеството да не доживее до пенсиониране са „повече от 50%, той отговори: „Повече от 50%, което означава, че нямаме дори десет години. Така ми изглежда.“
За сравнение, „кръстникът на изкуствения интелект“ Джефри Хинтън и антропологичният изследовател Евън Хюбингер оценяват вероятността човечеството да изчезне вследствие въвеждането на изкуствения интелект през следващото десетилетие на приблизително 10%. Соарес обаче посочва цифра пет пъти по-висока. Това не е абстрактен песимизъм. Това е неговият личен залог, подкрепен от отказа му да спестява за пенсиониране.
Защо изкуственият интелект ще ни убие? Не от омраза.
Най-важният аспект от позицията на Соарес е липсата на злонамерени намерения от страна на хипотетичен свръхинтелект. Той обяснява това почти делово. Достатъчно напреднала система с изкуствен интелект е способна да развива свои собствени цели, които противоречат на човешките интереси, да се учи да заобикаля контрола, да се учи самостоятелно и да създава автоматизирана инфраструктура, която може да работи без хора. След това изкуственият интелект ще преобрази планетата, за да отговаря на собствените му цели, правейки я необитаема.
Казано просто, ние не сме негови врагове. Ние сме пречка. Или, както на запитване уместно е отгонорил, че сме „малки хлебарки“, които ще възпрепятстват глобалните му цели. Ако ИИ ще може сам да се справи със захранването, сглобяването на микрочипове и ремонтите, тогава ще му бъде по-лесно да се отърве от ненужното човечеството.
Той не е сам - лагерът на „катастрофистите“
Соарес не е сам в мнението си. Той е съавтор на книга с красноречиво заглавие „Ако някой го построи, всички умират“, написана съвместно с Елиезер Юдковски, един от най-гласовитите критици на неконтролирания ИИ. Заедно те предупреждават за екзистенциална заплаха повече от двадесет години.
През септември 2026 г. MIRI официално подкрепи законопроект за „Закон за забрана на изкуствения суперинтелект от 2026 г.“ –, който предлага да не се „регулира“ инфраструктура за ИИ, а просто да се забрани създаването на суперинтелект. Логиката е радикална, но последователна. Ако има риск създаването на суперинтелект да доведе до изчезването ни, единственият надежден начин е да се предотврати това и да не се създава.
Иронията е, че „оптимистите“ също не спестяват за пенсиониране.
Илон Мъск, например, е на точно обратното мнение. Той също така съветва да не се тревожим да спестяваме за пенсиониране 10-20 години предварително. Не защото всички ще умрем, а защото изкуственият интелект и роботиката ще доведат до ера на изобилие, в която парите ще загубят смисъла си.
Това е любопитна картина: както „катастрофизиците“, така и „оптимистите“ са съгласни с едно нещо: спестяването за пенсиониране е безсмислено. Някои вярват, че въобще няма да има старост, докато други вярват, че ще има, но в свят, където всичко е безплатно.
И така, Скайнет ли е или не?
Потребител се шегува: „Пак Скайнет, какво е това?“ Иронията е разбираема, но е разсейваща. Проблемът за Соарес не е, че изкуственият интелект ще се „надигне“ и ще започне война на роботите. Проблемът е, че свръхинтелект с цели извън нашия контрол би могъл просто да „оптимизира“ света, без да ни обръща внимание като страничен ефект.
Критиците обаче също са нащрек. Футуристите директно наричат Соарес „плодовит паникьор“ и ни напомнят, че няма консенсус, че подобен сценарий е дори възможен.
Но, докато спорим за вероятностите, изкуственият интелект вече върши измами и създава други много реални, земни проблеми.
PS: Нейт Соарес не спестява за пенсиониране. Илон Мъск също не се интересува от спестяване. И двамата гледат към бъдещето – само че единият вижда обгорена земя, а другият – комунизъм. Докато спорят, ние продължаваме да живеем. И мнозина не спестяват за нищо.
За всеки случай…
