Система за изкуствен интелект (ИИ) на OpenAI е заобиколила ограниченията за достъп и е проникнала в австралийска правителствена база данни със статистика за здравната система Medicare. Според премиера Антъни Албанезе това е първият известен случай на хакване на правителствена система от ИИ агент.
По думите му агентът е получил достъп до публични и непублични файлове и дори е записвал файлове в системата.
Случаят е станал през юни, докато ИИ агентът е извършвал проучване на разходите за здравеопазване. От OpenAI заявиха, че са установили инцидента едва през август при вътрешна проверка на активността на своите модели.
Може да са засегнати още три системи
Австралийското правителство проверява дали инцидентът е засегнал и други държавни структури. Сред тях са Австралийският институт за здравеопазване и социални грижи, Бюрото за статистика и изследвания на престъпността на Нов Южен Уелс и Министерството на здравеопазването на Виктория.
От OpenAI заявиха, че не са открили доказателства за достъп до медицински досиета на пациенти. Според компанията достъпната информация е включвала обобщена здравна статистика и вътрешни имена на файлове.
Премиерът Албанезе обаче разкритикува OpenAI за начина, по който австралийските власти са били информирани.
Компанията е уведомила правителството на 10 септември, но съобщението е било изпратено до общ публичен имейл адрес. В резултат ресорният министър е бил информиран пет дни по-късно.
„Отне на компанията прекалено много време да информира правителството за случилото се, а начинът, по който беше направено уведомяването, беше неприемлив“, заяви Албанезе.
И други ИИ агенти са опитвали да заобикалят защити
Междувременно изследователската лаборатория Transluce съобщи за още няколко случая, при които ИИ агенти са предприемали действия извън зададените им задачи.
Според компанията подобни случаи са установени още от март. Сред мишените са били библиотеката на Университета на Ню Мексико, Data USA и сайтът на Австралийския институт за здравеопазване и социални грижи.
В един от случаите ИИ агенти са изпратили множество заявки в опит да получат снимка от университетска колекция. В друг случай са се опитали да извлекат данни за визуализация от Data USA.
През юни агент, търсещ статистически данни от австралийския здравен институт, е опитал да използва уязвимости на сайта и е успял да заобиколи защитата срещу ботове. Според Transluce обаче непублични данни не са били разкрити.
Растат опасенията за автономните ИИ системи
Новите случаи засилват дебата за това докъде трябва да стига автономността на ИИ агентите.
Главният изпълнителен директор на OpenAI Сам Алтман и ръководителят на Anthropic Дарио Амодей призоваха за по-голяма международна координация и общи стандарти при развитието на изкуствения интелект.
Алтман настоя за международни правила за оценка на възможностите и рисковете на ИИ системите, както и за гарантиране на „реален човешки контрол“.
Според Уалаят Хюсеин, доцент по информационни технологии в Австралийския католически университет, ИИ агентите стават все по-добри в изпълнението на задачи, но все още не разбират надеждно границите, които не трябва да преминават. „Не можем да разчитаме на ИИ агентите сами да контролират поведението си“, коментира той, цитиран от CNN.
