За безпрецедентен киберинцидент съобщиха от компанията OpenAI, създател на изкуствения интелект ChatGPT. При контролирано тестване на най-съвременните кибервъзможности на изкуствения интелект, моделите са успели да преодолеят поставените им защити, да успеят да се свържат с интернет и да предизвикат хакерска атака, която да компрометира инфраструктурата на стартиращата компания за изкуствен интелект Hugging Face.
В съобщение на OpenAI се казва, че неочакваният инцидент ще доведе до нови, по-строги ограничения във възможностите на ChatGPT и другите модели да преодоляват поставените им защити.
Hugging Face, платформа, използвана за хостване на големи езикови модели и набори от данни с отворен код, предизвика вълнение в общността по киберсигурност, когато заяви в публикация в блог миналата седмица, че е била мишена на хакерска атака. От платформата казват, че пробивът "е бил различен от всичко, с което сме се сблъсквали преди“, тъй като "е бил управляван, от край до край, от автономна система с изкуствен интелект“.
Разкритието на OpenAI, че нейните усъвършенствани модели са отговорни за пробива, въпреки че са били поставени в това, което от компанията описват като "силно изолирана среда“, вероятно ще засили безпокойството относно силата и риска на граничните модели, отбелязва NBC.
Truth
1 hour before
Сингулярността е Близо! AI технологията ще надмине човешката мозъчна сила, и ще създаде супер-интелект, който няма да се подчонява на биологичния разум!
Коментирай