С ИЗКУСТВЕНИЯ ИНТЕЛЕКТ СТАВА ВСЕ ПО-СТРАШНО!
В последните месеци зачестилите пробиви в сигурността с големи модели Изкуствен интелект вдигнаха по тревога хиляди хора по света. За тях говорят широк кръг нотабили - от технологичните милиардери до фрау фон дер Лайен.
Точката на технологична сингулярност, според небезизвестния Сам Алтман. вече е дошла. Самосъздал се е изкуствен свръхинтелект, който е по-умен от хората.
Разработчик на Anthropic - една от най-напредналите компании за ИИ, наскоро заяви, че вече има над 10 процента вероятност изкуственият интелект да убие всички хора през следващото десетилетие.
У нас излезе прекрасната книга на Елиезер Юдковски и Нейт Соарес "Ако някой го развие, всички ще умрем". В нея, разбира се, пак иде реч за опасностите от ИИ.
Моя скромност от години пише по темата. Голяма част от книгата ми “Трансхуманизмът - програмираната еволюция на homo sapiens" също е посветена на това.
Впоследствие тук приканих колкото се може повече българи да подкрепим петицията за замразяване на изследванията в сферата на ИИ на "Института за бъдещето на живота".
У нас, обаче, и в тази сфера сме много много назад. По темата и досега срещам най-често или пълно неразбиране или подигравки от имащи се за гении ИТ специалисти, на които няма как да се обясни, че проблемът не е технически, а е етичен.
За какво иде реч - написано разбираемо за всички - имаме три вида ИИ - слаб, силен и свръхинтелект. Според Ник Бостром, се диференцират и три вида свръхинтелект – бърз, колективен и качествен.
Свръхинтелектът има безкрайна способност за самоусъвършенстване. Той се учи от нас - от хората. И тук е най-голямата опасност, защото ИИ се учи от най-успешните човеци, а те много рядко са най-човечни, да не кажем никога.
Затова и от ИИ трудно можем да очакваме доброта и човеколюбие, както не можем да ги очакваме от мултимилиардерите.
Смъртоносната заплаха е свързана с това, че в цялата история на човечеството при сблъсък на представител на нашия вид, Homo sapiens, и на всеки друг, обитаващ нашата планета, побеждава този, който е по-умен. Досега бяхме най-умните, но нямаме гаранции, че това ще продължи завинаги. Нямаме никакви гаранции, че свръхмощния ИИ няма да подходи към нас така, както ние подходихме към дивите животни по същата логика, по-която още древните наши предци унищожиха дивите хищници не само защото им бяха конкурент в добиването на храна и защото бяха заплаха за тях, а просто защото по-високия интелект им позволи това.
В някаква степен ситуацията може да се повтори скоро, като този път, пак по същата причина, ние ще сме на мястото на дивите животни. Сблъсък е възможен както до края на 21 век, така и в близките няколко години. Припомням, че свръхинтелекта се учи от най-успешните, тоест - учи се на социален дарвинизъм, на “по-силния мачка по-слабия". И това е наистина много страшно.
Още едно разяснение - тук не говорим, че ИИ ще направи армия от роботи и дронове, с която ще водим война, както е в Терминатора или Матрицата. Има много "по-лесни" начини - например, ИИ да хакне системите за контрол на ядрените оръжия и да предизвика глобално ядрено унищожение. Никак не е невъзможно.
Злокобно послание отправя нискобюджетният филм на младия режисьор Робърт Куба Сингуларност (Singularity) . Джон Кюсак е в ролята на Елиас ван Дорн –милиардер, приел върху себе си „тежестта“ да реши проблемите на планетата. Ван Дорн създава изкуствен свръхинтелект, наречен Кронос. Само секунди след включването си в мрежата, Кронос започва унищожение на цялото човечество. Разбира се, милиардерът преди това е слял съзнанието си с Кронос и му е даунлоуднал думите си: човешките същества са злокачествен тумор върху лицето на земята и трябва да бъдат напълно унищожени!
Надявам се повече да започнат да разбират…дори и ИТ специалистите.
Иван Спирдонов
