Законът влезе в сила от 2 август на територията на ЕС
Санкцията за доставчика е 35 000 000 евро
Изкуственият интелект все повече навлиза в ежедневието ни, а мненията все още са разделени на „за“ и „против“. В социалните мрежи потребители го използват за шегички, но и за влияние, създавайки фалшиви новини. На 2 август със закон на Европейския съюз влезе в сила задължението всяко съдържание, генерирано от изкуствен интелект, да има обозначение. Глобите за нарушението му са огромни. Дали това ще помогне хората да се ориентират в цифровата джунгла, питаме главен асистент д-р Калина Георгиева.
- Г-жо Георгиева, какви нови правила за използването на изкуствения интелект прие Европейския съюз, които вече са в сила и в България?
- На практика от 2 август 2026 г. се прилагат 3 по-големи и по-важни групи правила, които засягат задълженията на доставчици и внедрители на системи с изкуствен интелект (ИИ), на държавите-членки на ЕС и на самия ЕС в лицето на Европейската комисия. От тази дата се прилагат така наречените „задължения за прозрачност“ на доставчиците и внедрителите на определени системи за изкуствен интелект. Под определени системи се разбират тези, класифицирани по акта за ИИ с ограничен риск за основните права на потребителите, които се обобщават в задълженията за информираност на потребителите за факта, че те взаимодействат със системи с ИИ. Това правило за информираност и прозрачност има едно по-общо изключение, което дава възможност за по-олекотен режим от гледна точка на доставчиците и внедрителите, освен, ако за потребителя не е очевидно, че взаимодейства с такава система. Разбира се, това също в един момент подлежи на тълкуване. Доставчиците и внедрителите трябва да са наясно, че при разработването на системи с изкуствен интелект трябва да заложат всички необходими маркировки, така че още на входа на системата, която взаимодейства с потребителите от ЕС, те да са наясно, че става дума за ИИ. Важно е да си дадем сметка, че тук самият регламент задава няколко насоки за конкретните типове съобщения, при разработването на които трябва да бъдат спазени изискванията на регламента. На първо място това са организациите, които използват системите на изкуствения интелект за разпознаване на емоции или биометрично категоризирани. Това е отнасяне на физически лица към конкретни категории въз основа на техните биометрични данни. Много популярна става категорията „убедителен фалшификат“. При създаването на такива системи трябва да се обозначи много ясно, че съдържанието е резултат от употреба на изкуствен интелект и е изкуствено генерирано и обработено. „Убедителните фалшификати“ се характеризират със следното - те наподобяват съществуващи лица, места, събития, като в същото време създават погрешно впечатление, че това съдържание е автентично, достоверно, че това е реална ситуация, случка.
- Това как може да се контролира?
- По автоматизиран начин от други машини. Тази маркировка, която се поставя към съдържанието, което е резултат от използването на такива системи, би могла да бъде разпозната и така да има ясно информация за това, че изискванията са спазени. В България за момента има прието едно решение от 18 юни 2025 г., като от тази дата са определени така наречените - органи по защита на основните права, което е задължение на всяка национална държава. Тези органи са омбудсманът, Централната избирателна комисия, Комисията за защита от дискриминация, Комисията за защита на личните данни, Комисията за защита на потребителите, Държавна агенция за закрила на детето, Изпълнителната агенция „Главна инспекция по труда“. Това са националните органи по защита на основните права. Останалата група от функции, които трябва да бъдат изпълнявани от националните компетентни органи на ниво държави-членки, са така наречените - органи за надзор на пазара. Те трябва да определят и единно звено за контакт, което трябва да има координационна роля. И не на последно място е третия тип орган - модифициращ, който дава възможност на различни организации на национално ниво да бъдат модифицирани пред ЕС и съответно те да могат да извършват оценка на съответствието с изискването на регламента, когато към тях се обърне доставчик, разработил система с изкуствен интелект. Националните органи за контрол трябва да бъдат определени на национално ниво в България, а това още не се е случило.
- Какви ще бъдат санкциите към доставчиците, ако нарушат правилата?
- След определянето на тези органи, за които споменахме - за надзор на пазара и за защита на основните права при взаимодействието помежду им, ще бъдат създадени контролните механизми, които да могат да реализират санкциите, описани по регламент. Това са норми, базирани на рисково ориентирания подход, по който е създадено законодателството за изкуствения интелект. Определят се няколко нива на санкциите, като най-високият размер е 35 000 000 евро или 7% от общия годишен световен оборот на компаниите и ще се прилага в случай на нарушаване на забранените практики. По отношение на високо рисковите санкцията ще бъде 15 000 000 евро или 3% от общия годишен оборот. Но за да бъдат приложени тези санкции на национално ниво, се изисква да бъдат определени националните компетентни органи, да бъде създадено нормативното основание, на базата на което да могат да търсят отговорност от доставчици и внедрители на изкуствен интелект. Доставчик е лице, което разработва и е отговорно за дизайна и архитектурата на системата с изкуствен интелект, а внедрителят е понятие, което седи зад лицето, под чийто контрол се използва тя.
- Ако не доставчик, а физическо лице използва изкуствен интелект за създаването на фалшиви новини или определени внушения, как ще бъде открито?
- Тук говорим за така наречените забранени практики, сред тях влизат и политическите внушения, както и други подобни. Доставчикът е този, който разработва, доставя системата и именно те могат да бъдат санкционирани. Тези дейност, която вие описвате, може да бъде погледната по няколко различни начина от гледна точка на друг тип законодателство - за защита на личните данни или възможността да се защитим срещу обида и клевета. В една дейност биха могли да участват системи за изкуствен интелект, но правният аспект не е базиран само на нея. Всяко нарушение се разглежда съвкупно и се прилага цялото законодателство.
- Ще се сблъскаме ли в някакъв момент с невъзможност за контролираме изкуствения интелект?
- Подходът, който избира европейското законодателство да нормира една такава система, каквато е изкуственият интелект, на практика е базиран на рисковете, създавани от употребата ù, доколкото се нарушават други права. Ние трябва във всяка една ситуация да предприемем такива мерки, че да намерим този риск и да предприемем коригиращи действия при неговото нарастване. Този подход означава, че тази дейност трябва да бъде извършвана преди внедряването на изкуствения интелект, при внедряването и на годишна база след това, както и при промяна на средата, в която системата взаимодейства. Много характерно за този законодателен акт е, че регламентът не нормира обществени отношения, а типове технология. Ще ви дам следния пример - счита се, че един модел на изкуствен интелект с общо предназначение би дал висока степен на риск, ако е изпълнена една количествена метрика, по-голяма от 10 на 25-та степен. И именно дълбокото познаване на тези технологии, освен рисково ориентирания подход, е второто голямо предизвикателство при прилагането на законодателния акт. И не на последно място - общото ниво на запознатост с него, със системите, влизащи в графата грамотност по отношение на ИИ, също ще създаде голяма трудност при прилагането на акта от всички, които ще извършват надзор на пазара.
- А възможно ли е той сам да генерира информация, която не е заложена?
- Една от характеристиките на изкуствения интелект е качеството системата сама да се адаптира и да се самообучава. Тоест веднъж зададени методите, по които да търсят информация, би трябвало да се самообучават на база на тази информация, която са обработили. Допълнителен въпрос към това е достъпът да информация защита на правата на хората. За изкуствения интелект е характерно и нещо друго - ако водите постоянно разговори с една система и питате няколко пъти едно и също нещо, отговорите, които ви дава, много често се различават. Или ако се обърнете с текстово задание 2-3 пъти, отговорите също биха могли да варират. Ако въведете едно и също указание в различни системи с изкуствен интелект на база на тези, които са ни познати и генерират текстови отговори, също ще получите различни отговори. Така че системите се адаптира и самообучават, а степента на човешкото участие от страна на разработчиците е различно.
- Това означава ли, че доставчикът трябва да контролира изкуствения интелект?
- Това се прави именно с оглед на риска, защото системата променя своите характеристики, участието ù в други процеси би могло също да промени начина, по който тя предлага отговори. Това е в основата на законодателния акт за изкуствения интелект - да се прави непрекъсната оценка на риска и да има непрекъсната отговорност отпреди внедряването на системата, а после до действието ù с потребители. Тази отговорност е за доставчика или за внедрителя.
- Има вече няколко случая на самоубили се тийнейджъри след контакт с изкуствен интелект. Как може да бъде предотвратено това в бъдеще?
- Идеята на Акта за изкуствения интелект е да нормира как тези системи се програмират. Тук по линия на една предварителна оценка би следвало изобщо да не се стига до ситуации, в които това да се случва. Това обаче доста трудно се постига, предвид начина, по който системите към момента функционират. За лицата, които взаимодействат с тях от решаващо значение е именно познаването на спецификата на тази технология. Ако общуваме по-тясно с такива системи, те започват да се нагаждат към нашия начин на мислене, към нашия изказ и това трябва да бъде много добре обяснено на подрастващите, които активно взаимодействат непрофесионално с тях.
- Доколко изкуственият интелект подпомага информационна война, която сега се вихри с пълна сила в света?
- Изкуственият интелект е мощно средство за обработването и споделянето на информация. Тази, която той генерира обаче, пряко зависи от това, какво му се подава. Така че би могъл да бъде проводник на редица влияния, свързани дори с кибер сигурността и информационната сигурност.
- А как ние сами може да усетим, че се сблъскваме с изкуствен интелект, а не с реална информация или видео?
- Има различни признаци, но ежедневната непрофесионална употреба би могла да въведе хората в заблуждения. Именно затова се въвеждат тези изисквания към доставчиците - те да обозначават, че съдържанието е генерирано от изкуствен интелект. Така че трябва да придобием бърз навик да търсим такава маркировка. Виждаме една снимка в социалната мрежа и оглеждаме внимателно кой е нейният автор, има ли воден знак или марка, че е генерирана изкуствено.
- Повече ползи или повече рискове крие изкуственият интелект?
- Сега, когато постепенно законодателството за изкуственият интелект влиза в сила, в Европа си казваме, че повече трябва да са позитивите, тъй като това дава възможност нашата работа да се оптимизира и подобри, експертната работа да се ускори. Разбира се обаче, след като тези системи действително бъдат внедрени в съответствие с акта, може да бъде даден категоричен отговор, тъй като те ще могат да бъдат проследявани, контролирани и ще има надзор на пазара на ниво национална държава. Не малка е ролята на създадените в ЕС органи, но тази дейност трябва да мине един пълен цикъл на действие - от внедряване, през контрол до някакъв вид коригиращи действия, за да може да се каже, че действително моделът на нашия изкуствен интелект е изцяло работещ.
Нашият гост
Главен асистент д-р Калина Георгиева е преподавател по информационно право в Юридическия факултет на СУ „Св. Климент Охридски“ и Факултета но математика и информатика. Завършила е право в СУ и „Политически науки“ в НБУ. Защитава дисертация на тема „Повторно използване на информация от обществения сектор“. Има дългогодишен опит като юрист-консулт в сферата на електронното управление.
Автор: Ирен Делчева
trud.bg
