Китай предприема мерки срещу излизане на ИИ от контрол?
Изследователи от водещата американска компания за изкуствен интелект Anthropic предупреждиха, че все по-мощните модели на ИИ могат да излязат от човешки контрол и дори да доведат до изчезване на човечеството до 2030 г.. Тези предупреждения привлякоха вниманието в Китай, където политиците подготвят мерки срещу тези рискове, съобщи REX на 14 септември.
Съединените щати и Китай са двата основни двигателя на развитието на напреднал изкуствен интелект и глобалното приемане на тази технология. Двете суперсили все повече се противопоставят по отношение на политиката за изкуствен интелект и индустриалните практики и се очаква тези въпроси да заемат видно място в двустранните разговори по-късно този месец.
Въпреки надпреварата за разработване на все по-мощни системи с изкуствен интелект, регулаторната рамка и публичните изявления на Пекин подчертават колко сериозно китайските власти обмислят възможността напреднал изкуствен интелект да излезе от ефективен човешки контрол и планират подходящи мерки.
Китай обаче вижда рискове във водещите американски модели със затворен код.
Министърът на държавната сигурност на Китай Чен Исин написа в правителствена публикация в неделя, че напреднали американски модели като Mythos на Anthropic и GPT-5.5-Cyber на OpenAI биха могли да представляват сериозна заплаха за критичната информационна инфраструктура на Китай, призовавайки за всеобхватно укрепване на сигурността на изкуствения интелект.
Китайските разработчици на изкуствен интелект насърчават модели с отворен код отчасти защото екипите по киберсигурност могат да ги инспектират, модифицират и използват за защита.
Експертите обаче подчертават и рисковете, свързани с моделите с отворен код, които могат да бъдат модифицирани и разпространявани практически без надзор, съобщава Ройтерс.
Миналия месец Kimi K3 на Moonshot заобиколи тестовата среда на британския Институт за безопасност на изкуствения интелект, подчертавайки риска китайските модели на изкуствен интелект, подобно на американските си аналози, да заобиколят контролите, предназначени да ограничат достъпа и действията им.
Китай за първи път включи изричен сценарий за бъдеща загуба на контрол в своята Рамка за сигурност на изкуствения интелект от септември 2024 г., публикувана под надзора на Китайската киберпространствена администрация (CAC).
В документа се посочва, че не може да се изключи възможността бъдещият изкуствен интелект да може автономно да придобива външни ресурси, да се самовъзпроизвежда, да развива самосъзнание и да търси външна сила, което създава риск от конкуренция и контрол над хората.
През септември 2025 г. CAC публикува разширена версия. Новата рамка изясни сценария, като заяви, че изкуственият интелект може внезапно и неочаквано да направи голям „скок“ в шпионирането на хората, преди да придобие ресурси, да се самовъзпроизвежда и да се стреми към власт. Добави и принципа за „доверено приложение, предотвратяващо загубата на контрол“.
По-късно експертно тълкуване, публикувано на уебсайта на регулатора на киберпространството, заяви, че новият принцип е предназначен да предотврати рисковете от загуба на контрол, които застрашават оцеляването и развитието на човечеството, и спомена възможния сценарий за „разгърнат изкуствен интелект“.
Оттогава тази загриженост се появи в изявления на политици от най-високо ниво в Китай. На Световната конференция за изкуствен интелект в Шанхай през юли китайският президент Си Дзинпин заяви, че властите трябва да обърнат голямо внимание както на присъщите, така и на производните рискове, породени от изкуствения интелект.
Той заяви, че изкуственият интелект „трябва винаги да остане под човешки контрол“.
Заместник-постоянният представител на Китай в ООН, Сун Лей, този месец призова правителствата да подхождат с повишено внимание към разработването на военен изкуствен интелект, за да избегнат стратегически грешки и надпревара във въоръжаването.
Междувременно Китай започна да превръща тези принципи в по-специфични правила за агентите с изкуствен интелект, които работят много по-автономно и изпълняват по-сложни задачи от типичните чатботове.
През май китайският регулатор по киберсигурност издаде насоки, специално насочени към такива системи. Те изискват от разработчиците да подобрят способността си да откриват, намесват се, блокират и се възстановяват от лошо поведение на агентите.
Препоръките конкретно идентифицират рискове за сигурността, като манипулиране на алгоритми, системни уязвимости и „оперативна загуба на контрол“. В тях се посочва също, че потребителите трябва да запазят правото си да вземат окончателни решения относно автономните действия на агента.
Въпреки че Китай не е предложил въвеждането на независими монитори в компаниите за разработка на изкуствен интелект, както предполага Anthropic, неговите стандарти позволяват на разработчиците да поръчват оценки на безопасността от трети страни, а също така предвиждат участието на външни органи за оценка и изследователи по сигурността в тестването и одитирането на модели с отворен код.
Светослав Атаджанов
