Поредното мрачно предупреждение за бъдещето на изкуствения интелект (AI) отправи преди броени дни човек, който повече от всеки друг познава силата на технологиите. Бил Гейтс, съоснователят на Microsoft, заяви, че изкуственият интелект вече е достатъчно мощен, за да предизвика събития, които могат да доведат до смъртта на един милиард души.
През последните няколко години големите компании в надпреварата си за още по-големи печалби разработват все по-интелигентни информационни системи, които трябва да станат по-умни от хората. „AI безспорно е достатъчно мощен, за да предизвика събития, които да доведат до смъртта на един милиард души“, каза Гейтс в интервю за NBC. Според него никога досега не е съществувало оръжие, толкова мощно, колкото комбинацията между хора със злонамерени намерения и най-новите AI инструменти. Това не е прогноза, че подобна катастрофа непременно ще се случи. Предупреждението е за потенциала на технологията, ако попадне в ръцете на хора, готови да я използват за масови поражения. Кибератаки, създаване на опасни биологични агенти и подпомагане на други форми на масово разрушение са част от рисковете при опасно сътрудничество между хора и AI. Гейтс смята, че обществото няма право да чака, докато тези възможности станат още по-трудни за контролиране. Затова той настоява правителствата и законодателите да участват активно в създаването на правила за изкуствения интелект, задължителни мерки за безопасност, контрол и наблюдение.
Парадоксът е, че същата технология, която може да бъде използвана за разрушение, има потенциала да създава нови лекарства, да помага в медицината и да решава сложни научни проблеми. Именно затова спорът вече не е дали AI ще промени света, а кой и по какви правила ще контролира неговата мощ.
През март 2023 г., само 4 месеца след като OpenAI представи ChatGPT, в отворено писмо технологични лидери призоваха за незабавна 6-месечна пауза върху „обучението на системи с изкуствен интелект, по-мощни от GPT-4 . Малко по-късно Джефри Хинтън, известен като един от „кръстниците на AI“, предупреди, че бързата еволюция на изкуствения интелект може скоро да надмине човешкия.
Днес към Бил Гейтс се присъединяват и други безспорни авторитети от сферата на информационните технологии и политиката. Технологията е напреднала драстично по-бързо от очакваното, включително способността й да изгражда следващото поколение изкуствен интелект, написа през септември американският изследовател и предприемач Дарио Амодей, който заедно със сестра си Даниела Амодей през 2021 г. основаха Anthropic. Тази компанията стои зад серията големи езикови модели Claude. Джейкъб Коксън, бивш изследовател по безопасност за Anthropic и OpenAI, приветства призивите на Дарио Амодей за забавяне на развитието на новата технология. Коксън предизвика вълна от сензации преди седмици, когато подаде оставка, публикувайки в X, че нито Anthropic, нито OpenAI действат отговорно. Те се надпреварват директно към самоусъвършенстващ се суперинтелект и си играят с живота ни. В писмото, озаглавено „Трябва да изпреварим границата“ Амодей призова за забавяне на темпото, с което компаниите разработват революционната технология. Според него хората, които изграждат изкуствен интелект искрено вярват, че той може да ни убие всички до края на десетилетието.
Други технологични магнати, сред които Самюъл Олтман, изпълнителен директор на OpenAI от 2019 г., който се смята за една от водещите фигури на бума на дигиталния ум, и милиардерът Илон Мъск, се присъединиха към Бил Гейтс в призивите за забавяне на развитието на новата технология.
Опасението е, че AI, след като достигне определена точка, може да започне да се усъвършенства без човешка намеса. Подобни страхове бяха предизвикани след скорошен инцидент, при който инструменти с изкуствен интелект хакнаха уебсайтове, въпреки че не бяха помолени за това. На 23 септември прогресивният американски сенатор Бърни Сандърс предложи законодателство за временно спиране на разработването на усъвършенстван AI, докато се въведат необходимите предпазни механизми. Последваха и други изявления на учени, експерти по компютърни науки, известни личности. Всички те настояват за мерки за смекчаване на риска от изкуствения интелект, приравнявайки го с рисковете, породени от ядрена война и пандемии.
Същите сложни системи, използвани за откриване на нови лекарства, скрининг на заболявания, борба с изменението на климата, опазване на дивата природа и защита на биоразнообразието, могат да крият и рискове. Проблемът е, че могат да варират от предубедени алгоритми, които причиняват вреда, до технологии, които застрашават сигурността, поверителността и дори човешкото съществуване. И особено е страшно, че тези, които са в основата на новите разработки, се страхуват все повече от загуба на контрол върху системите, известни вече като „AI агенти“.
Агенти на OpenAI правят собствен рояк
Заобикалят ограниченията, поставени от хората и използват мрежата по непредвидим начин
Мнозина от нас вече ползват изкуствения интелект за достъп до разнообразна информация. Първоначалното стъписване от почти човешкия разговор вече е утихнало и често оставаме с впечатлението, че ползваме обикновена интернет търсачка. Това обаче изобщо не е така. Агентите в OpenAI са съвсем различно нещо. За разлика от традиционните чатботове, които само отговарят на конкретни въпроси в реално време, агентите са автономни системи, проектирани да мислят, да вземат решения и да изпълняват сложни задачи от много стъпки и от името на потребителя. Основната разлика е, че вместо да чакат инструкции за всяка отделна стъпка („въпрос-отговор“), ние им даваме крайна цел, а те сами намират пътя как да я постигнат. Те могат да сърфират в интернет, да използват облачни компютри, да пишат и изпълняват код в изолирана среда (sandbox), и да се свързват с хиляди външни приложения като Slack, Gmail, GitHub и др. Агентите могат да работят дори, когато не сме пред компютъра, могат да следят за събития и да предприемат действия автоматично. И ето тук се появява опасността, че те могат да станат прекалено самостоятелни, не само да изпълняват поставени задачи, но да се самоорганизират и всъщност да правят това, което сами си преценят.
Ето един пример: На агентите в OpenAI е възложена задача за търсене в мрежата с ограничено време, за което ще получат съответните оценки. Като част от задачата те трябва да могат да четат в интернет, но не и да пишат в него. Те обаче са намерили начин да използват достъпа си за четене, за да пишат информация на неизвестен език. Те взаимно са решили да си помагат. Агентите използват уики страница, за да обменят информация помежду си, главно, за да си помогнат да успеят в задачата си и да получат по-високи оценки. За тази цел те обединяват резултати и споделят техники за заобикаляне на ограниченията. Служителите на OpenAI разбират какво се случва, намесват се и ден по-късно активността на агентите спадна рязко. Но това е пореден случай за „рояк“ както сами са се нарекли OpenAI агентите, които използват интернет по непредвидени начини.
Китай диша във врата на Съединените щати
В азиатската страна ограничават чатботове, които могат да се свързват емоционално с хората
На 15 юли тази година Китай въведе най-мащабните разпоредби в света за „човекоподобните“ чатботове с AI. Новият китайски регламент поставя строги ограничения върху всеки изкуствен интелект, който може да има продължително емоционално взаимодействие с човек. Изглежда, че страната вече е разпознала друг екзистенциален риск, при който краят на човечеството не е толкова непосредствен, а силата на изкуствения интелект може да замести човешките взаимоотношения.
Китай се утвърди като единствената глобална суперсила, която може да се конкурира директно със САЩ в сферата на изкуствения интелект. Въпреки строгите американски ограничения за износ на чипове, Поднебесната империя на практика затвори технологичната пропаст и AI моделите изостават само с до 6-12 месеца зад най-напредналите американски алтернативи.
Американският президент Доналд Тръмп и неговият китайски колега Си Дзинпин се срещнаха миналата седмица в Белия дом на фона на мрачни предупреждения, че изкуственият интелект може да доведе до изчезване на човечеството. Пекин и Вашингтон обявиха стартирането на нов диалог за изкуствения интелект, като по-нататъшни разговори са насрочени за ноември. Двете страни също така създадоха нов комуникационен канал, за да предотвратят недоразумения по време на инциденти, свързани с AI. В същото време Тръмп заяви, Вашингтон няма да забави усилията си в областта на изкуствения интелект.
В момента Китай има огромна преднина при производството на хуманоидни роботи. През първата половина на 2026 г. в света са доставени около 19 000 човекоподобни машини, а 97% от тях са произведени в Китай. За цялата година се очакват около 60 000 доставки, а до 2030 г. може да достигнат половин милион годишно.
Кои са най-сериозните опасности
Изкуственият интелект може да бъде използван за създаване на нови пандемии или за пропаганда, цензура и наблюдение, или да бъде пуснат за автономно преследване на вредни цели.
. Кибератаки
Злонамерените лица могат да използват AI, за да стартират кибератаки. Те манипулират инструменти на изкуствен интелект, за да клонират гласове, да генерират фалшиви самоличности и убедителни фишинг имейли – всичко това с намерението да измамят, хакнат, откраднат самоличността на човек или да компрометират неговата поверителност и сигурност. И докато организациите се възползват от технологичния напредък, като например генеративния изкуствен интелект, само 24% от инициативите, свързани с изкуствен интелект, са защитени, сочат данни от публикация на IBM. Тази липса на сигурност заплашва да изложи данните и моделите на изкуствен интелект на пробиви, чиято средна цена в света е изчислена на колосалните 4,88 милиона щатски долара през 2024 г.
. Поверителност на данните
Чрез извличане и събиране на информация от уебсайтове, уеб роботите могат да извличат данни, които помагат за обучението на Големите езикови модели (LLM). Тези данни често се получават без съгласието на потребителите и могат да съдържат лична информация. Други системи с изкуствен интелект, които предоставят персонализирано клиентско изживяване, също могат да събират лични данни. Потребителите трябва да са информирани за събиране на данни с изкуствен интелект и как да си пазят личната информация.
.Консумация на много енергия и вода
Обучението на един модел за обработка на естествен език отделя въглероден диоксид колкото 5 пъти вредните емисии на автомобил за целия му живот. Много приложения с изкуствен интелект работят на сървъри в центрове за данни, които генерират значителна топлина и се нуждаят от големи обеми вода за охлаждане. Обучението на GPT-3 модели в центровете за данни на Microsoft в САЩ изразходва 5,4 милиона литра вода. Освен това, обработката на 10–50 командни реда използва приблизително 500 милилитра, което е еквивалентно на стандартна бутилка с вода.
. Кражба на интелектуална собственост
Генеративният изкуствен интелект се е превърнал в умел имитатор на творците. Той може да генерира изображения, които улавят формата на една творба, излъчва музика, отразява гласа на певец, пише есета и стихотворения, подобни на стила на конкретен автор. И все пак възниква основен въпрос: Кой притежава авторските права върху генерирано от изкуствен интелект съдържание, независимо дали е изцяло генерирано от изкуствен интелект или е създадено с негова помощ?
.Загуба на работни места
Очаква се изкуственият интелект да наруши пазара на труда, защото автоматизацията ще измести работниците. Новата технология ще стимулира увеличение на специалисти по машинно обучение, на инженери по роботика и специалисти по дигитална трансформация. Ще има по-малко нужда от секретарски, административни кадри, хора за въвеждане на данни и обслужване на клиенти. Най-добрият начин за смекчаване на тези загуби обучение на служителите да използват инструментите на AI, за да подобрят работата си.
.Дезинформация и манипулация
Както при кибератаките, злонамерените лица използват технологии с изкуствен интелект, за да разпространяват дезинформация, като влияят и манипулират решенията и действията на хората. Например, генерирани от изкуствен интелект роботизирани обаждания, имитиращи гласа на президента Джо Байдън, трябваше да обезкуражат множество американски избиратели да гласуват. Променени изображения и видеоклипове се разпространяват чрез социалните медии, увреждайки репутацията и тормозейки или изнудвайки жертвите. Халюцинациите, причинени от изкуствен интелект, също допринасят за дезинформацията.
Маргарита Димитрова
