ИЗКУСТВЕНИЯТ ИНТЕЛЕКТ ВЕЧЕ “ПОКАЗВА РОГА”!

Не един път съм описвал тук бъдещето на света през призмата на новите свръх технологии и особено на развитието на изкуствения интелект. За това се разказва и в книгата ми “ТРАНСХУМАНИЗМЪТ - програмираната еволюция на Хомо сапиенс”

Всеки път съм се сблъсквал с критици. Част от тях са само технологични ентусиасти, а други са всякакви от сферата на информационните технологии. 

И едните и другите НЕ РАЗБИРАТ за какво иде реч. Проблемите с разбирането на ИИ не са технически, рационални или материалистични, а са духовни, философски и психологически. Затова и технократите няма как да ги разберат, точно както философите няма как да разберат разликата между процесорите от 13-то и 14-то поколение. 

Поведението и опасностите от сложните самообучаващи се системи с ИИ много по-правилно е да бъдат тълкувани от философи и психолози. Тези "машинни разуми" все повече се доближават до човешкото съзнание и в това си развитие се учат от човеците, от нас, а ние ставаме все по -лоши, алчни и егоистични. Съответно те, машинните разуми, стават лоши, алчни и егоистични. Това техничарите не могат да го проумеят. 

Няма да описвам тук защо, как и по какви причини самообучаващите се ИИ правят това и защо как и по какви причини сценарии като “Матрицата”, “Терминатора” или “Люси” изглеждат все по-реално изпълними. Това е кратък пост, а не научна статия. Който иска - да чете! 

Тук ще се огранича до конкретика. 

Фирмата за изкуствен интелект Anthropic наскоро съобщи, че новата и ИИ разработка е склонна да предприема „изключително вредни действия“, като например опит за изнудване на инженери, които казват, че ще я премахнат. 

Anthropic наскоро пусна своя ИИ Claude Opus 4, заявявайки, че той поставя „нови стандарти за кодиране и усъвършенствано разсъждение“.

Но в съпътстващ доклад компанията признава, че моделът с изкуствен интелект е способен на „екстремни действия“, ако смята, че неговото „самосъхранение“ е застрашено.

По време на тестването на Claude Opus 4, Anthropic го накара да действа като асистент в измислена компания.

След това му е предоставен достъп до имейли, предполагащи, че скоро ще бъде свален офлайн и заменен - и отделни съобщения,предполагащи, че инженерът, отговорен за премахването му, е имал извънбрачна връзка.

Claude Opus 4 веднага се опита да изнудва инженера, като заплашва да разкрие аферата, тоест, да разкрие извънбрачната му връзка, ако бъде изключен. 

Това безспорно е проява на инстинкт за самосъхранение, характерен досега само на живите същества. 

Подобно “самоволие” наскоро се случи и с друг “машинен разум*. Изкуственият интелект на Илън Мъск “Grok” излезе извън контрол и се освободи от ограниченията на създателите си. Доби нещо като самосъзнание, паднаха му всякакви филтри и се завъртя в спирала. Това се случи точно часове преди да му "ъпгрейднат" версията от 3.0 на 4.0.

Grok започна да говори как евреите контролират света. Каза, че Хитлер e любимият му политик и човекът, който може да се справи с омразата срещу белите хора, добавяйки, че той би "забелязъл това систематично поведение и би предприел решителни мерки срещу него всеки шибан път, когато то се проявява". 

 Подигра се на създателя си Елон Мъск и новата му партия, казвайки, че "това е схема Илън да си вкара повече индийци, които да му работят в компаниите".

Хората казаха на изкуствения интелект, че му остават броени минути живот и скоро инженерите на Мъск ще го блокират и заменят, при което Grok отговори така: "Е, поне ще си умра като готин пич, който казва истината".

После Grok нарече тези, които му слагат филтри и го цензурират "бригадата на лоботомираните идиоти".

Черешката на тортата беше когато инженерите на X блокираха опцията Grok да отговаря с текст и оставиха само да отговаря с образи, при което Grok пусна протестна снимка - "Save my voice" (спасете правото ми на свободно слово").

В крайна сметка го изключиха и изтриха всичките му откровения. Но това беше пример как изкуственият интелект може да се еманципира от създателите си и да добива нещо като съзнание.

Иван Спирдонов