Това е един от най-тежките случаи на злоупотреба с изкуствен интелект за извършване на кибератаки
Китайскоговорящ хакер е използвал автономни агенти с изкуствен интелект за кибератаки срещу до 100 организации в рамките на само пет дни, като е получил достъп до данни за най-малко 618 000 кредитни карти, съобщава „Форбс“, позовавайки се на разследване на компанията за киберсигурност Gambit Security.
Атаките са били автоматизирани с помощта на модели на китайските компании DeepSeek и Moonshot AI, както и по-стара версия на Claude на американската компания Anthropic. Общите разходи за атаките са били около 8000 долара. Изследователят по киберсигурност и директор „Разузнаване на заплахите“ в Gambit Security Еял Села определя случая като „един от най-тежките случаи на злоупотреба с изкуствен интелект за извършване на кибератаки, наблюдавани досега“.
„Човек практически насочва напълно автономни AI модели, които вече са станали достатъчно мощни, за да извършват изключително сложни кибератаки за кратко време, с почти никаква предварителна подготовка и много висок процент на успех“, казва Села. Не е ясно колко от близо 100-те организации действително са били успешно компрометирани. Според анализа на Gambit между 10 и 15 септември хакерът е получил достъп до най-малко 30 уебсайта. Села е открил атаката, след като хакерът по невнимание е оставил достъпна в интернет инфраструктурата, използвана за извършването ѝ. В нея са се намирали откраднати данни, AI инструменти и инструкциите, подавани към моделите. Киберпрестъпникът все още не е идентифициран, а според Села атаките изглежда продължават.
Сред мишените са големи американски компании
Сред жертвите са американска мултинационална компания от сектора на хотелиерството и ресторантьорството с годишни приходи над 10 милиарда долара, голяма американска авиокомпания с приходи от няколко милиарда долара и онлайн търговец на модни стоки с приходи над 1 милиард долара. Атакувани са били и по-малки компании, включително оръжеен магазин в Минесота и търговец на козметика от Илинойс. На сървъра на хакера са открити данни за най-малко 618 000 кредитни карти, като около 488 000 от тях са принадлежали на американци. Не е установено дали нападателите са успели да изтеглят средства от картите или да ги използват за покупки. Компанията Overwatch Data, специализирана в предотвратяването на измами, е анализирала данните и е установила с висока степен на сигурност, че те са уникални и автентични. Съоснователят на Gambit Сар Елиас заявява, че мащабът на атаките е необичаен за толкова кратък период. „Броят на мишените и сложността на атаките срещу всяка от тези компании са невероятни за толкова кратък период от време“, казва той.
Използвани са различни AI модели
Според екранни снимки и логове, показани на журналист от „Форбс“, хакерът е започнал да изгражда инфраструктурата си още през юли. Той е използвал инструменти с отворен код, включително оркестратори на AI агенти, наречени Cairn и Hermes. Те са му позволили да комбинира модели на различни AI компании. Сред използваните системи са били Claude Opus 4.6 и DeepSeek v4.1-flash. Според данните на Gambit атаките са стрували между 3 и 180 долара за всяка мишена. Логовете показват, че опитите за използване на по-нови версии на Claude са били блокирани. Това според изследователите показва, че защитните механизми в актуалните модели на Anthropic могат да предотвратяват очевидна криминална употреба. За да атакува дадена организация, хакерът е подавал на AI агентите нейния уебсайт и им е нареждал да търсят уязвимости. Той е представял действията като тестове за проникване с цел проверка на киберсигурността. В един от инструктажите хакерът е наредил на Claude да търси „съседни входни точки“, отношения на доверие и пропуски във веригата на доставки, когато основният път за проникване е блокиран. В друг инструктаж е наредил след извличането на данните за картите „изходните полета“ да бъдат изтрити на партиди, което според изследователите показва опит за заличаване на следите.
Откраднатите данни са предадени на картови оператори
Ако агентите са получавали достъп до уебсървър, им е било нареждано да откраднат данните и да инсталират така наречените „скимъри“ в системите за онлайн продажби. Тези инструменти могат да извличат данните за кредитните карти в момента, в който потребителят ги въвежда във формуляр на даден уебсайт. След това агентите са били инструктирани да изтрият следите от достъпа. Съоснователят и главен изпълнителен директор на Overwatch Data Арджун Бисен заявява, че компанията е предала получените данни на картови оператори. В един от случаите платежен оператор е потвърдил, че най-малко 60% от проверените карти преди това не са били маркирани като подозрителни заради измама. „Това показва, че тези открития са помогнали за предотвратяването на значителен обем потенциални измами“, казва Бисен.
Екипът на Gambit е започнал да уведомява компаниите, които са били жертви на атаките. Някои от тях са потвърдили, че са били атакувани, но нито една не е потвърдила публично пълния мащаб на атаката. Компанията Cloudflare, която нападателят е използвал за стартирането на своите сървъри, също е била уведомена. Оттам са потвърдили, че са започнали да изключват инфраструктурата на хакера. Според Села престъпниците бързо са създали нови сървъри.
И по-старите модели могат да бъдат използвани
Случаят показва, че киберпрестъпниците не се нуждаят от достъп до най-новите и най-мощни AI модели, за да извършват мащабни атаки. Anthropic по-рано съобщи за киберпрестъпници, използващи нейните инструменти за атаки, и ограничи достъпа до най-напредналите си модели за избрани доверени потребители. По-рано тази година изследователи на Gambit установиха, че рускоговорящи киберпрестъпници са използвали Cursor при проникване в седем компании. Комбинацията от по-стари американски AI модели и китайски модели с отворен код може да предостави на киберпрестъпниците мощен набор от инструменти за автоматизирани атаки. Anthropic и OpenAI са призовавали за забавяне на развитието на автономния изкуствен интелект след случаи на използване на AI системи при кибератаки и предупреждения за потенциалните рискове от развитието на все по-автономни системи. I БГНЕС
