Anthropic обяви, че е хванала учени да използват нейните модели за изкуствен интелект за изследвания, които биха могли да се използват за разработването на биологически оръжия, включително за изследвания, целящи да направят опасните патогени още по-опасни и заразни.
Американската технологична компания е осуетила няколко опита за използване на нейните модели за изкуствен интелект за такива цели.
Anthropic изброи случаите в доклад, публикуван на сайта й, в който се очертава злоупотребата с нейните модели, включително чатбота Claude, през последните осем месеца.
Anthropic заяви, че не може да определи категорично дали изследванията са легитимни или злонамерени, тъй като например изследване, което цели създаване на ваксина, може да се използва и за създаване на опасни патогени. Компанията заяви, че е проявила предпазливост.
В един случай през май, учен е използвал изкуствен интелект за кандидатстване за грант за създаване на мутации в чикунгуня – вирус, пренасян от комари, подобен на маларията – за да го направи по-опасен в живи животни.
Anthropic заяви, че случаят е обезпокоителен отчасти защото може да се предположи, че работата е била предназначена за военен изследователски институт. Компанията е забранила съответните акаунти.
Друг учен е използвал Claude, докато е изследвал изключително опасен щам на птичи грип и начини, по които вирусът може да се адаптира към бозайници. Други случаи включват работа върху вируси, свързани с едра шарка, и преработване на опасни токсини.
Anthropic съобщи, че някои от изследователите са положили значителни усилия, за да заобиколят ограниченията на Claude, включително скриване на самоличността си, насочване на трафика през други държави и използване на услуги, предназначени да заобикалят контрола за безопасност.
„Това, което не знаем, е дали изследването е било предназначено да бъде използвано като оръжие“, каза пред The New York Times Джейкъб Клайн, ръководител на отдела за разузнаване на заплахите в Anthropic.
Андрю Вебер от Съвета по стратегически рискове, който е прегледал доклада на Anthropic преди публикуването му, заяви пред вестника, че достъпът до подобни модели трябва да бъде ограничен до доверени изследователи.
Anthropic заяви, че оценките на по-старите й модели през миналата година са установили, че те не могат да подпомогнат смислено опасни биологични изследвания, но по-новите модели могат да извършат сложна научна работа.
В същия доклад се посочват предложения за използване на Клод за ракетни проекти и шпионаж.
Два дни преди публикуването на доклада, изследовател напусна Anthropic, като заяви, че надпреварата за разработване на изкуствен интелект може да унищожи човечеството. Евън Хюбингер публично съобщи, че според неговите изчисления има над 10% шанс изкуственият интелект да „убие всички хора“ през следващото десетилетие, добавяйки, че компанията все още няма ясен план за безопасен контрол на изкуствения интелект.
