Технологичните гиганти са принудени да разкриват AI съдържанието
Европейският съюз въведе нови изисквания за прозрачност при използването на изкуствен интелект, които могат съществено да променят начина, по който потребителите разпознават и възприемат изображения, видеоматериали, аудио и текст, генерирани или манипулирани от системи с изкуствен интелект.
Правилата по член 50 от европейския Закон за изкуствения интелект (AI Act) започнаха да се прилагат на 2 август. Те задължават доставчиците на определени генеративни системи да гарантират, че генерираното или манипулираното съдържание може да бъде установено чрез машинно четими обозначения. В определени случаи потребителите трябва изрично да бъдат информирани, че взаимодействат със система с изкуствен интелект или че са изложени на съдържание, създадено или променено от ИИ.
Новите изисквания идват на фона на нарастващите опасения, че бързото разпространение на генеративния изкуствен интелект може да подкопае т.нар. „фотографска истина“ — разбирането, че видяното изображение или видеозапис по подразбиране представлява достоверно свидетелство за реално събитие.
До този момент водещите компании в сектора предприемаха основно доброволни мерки за установяване на произхода на съдържанието, генерирано от техните модели. Сега европейското законодателство превръща прозрачността в регулаторно изискване за системите, попадащи в обхвата на закона.
„Не мисля, че хората осъзнават мащаба на промяната“, заяви Ашли Касован, управляващ директор на център за управление на изкуствения интелект към Международната асоциация на специалистите по защита на личните данни (IAPP). По думите ѝ се преминава от среда, в която потребителите трябва сами да правят „информирана преценка“ дали дадено съдържание е създадено от ИИ, към среда, в която то може да бъде придружено от проверим знак или обозначение.
Нов етап в регулирането на ИИ
Макар Европейският съюз да не разполага с водеща глобална платформа за генеративен изкуствен интелект, регулаторният му подход постепенно оказва влияние върху начина, по който технологията се внедрява и използва в световен мащаб. Законът за изкуствения интелект на ЕС поставя изисквания към най-големите технологични компании по редица въпроси — от безопасността на системите до прозрачността на генерираното съдържание. Това затвърждава ролята на Брюксел като един от водещите световни регулатори на големите технологични компании. Подобна роля ЕС вече изигра чрез Общия регламент относно защитата на данните (GDPR), както и при регулирането на начина, по който онлайн платформите обработват потенциално вредно съдържание.
От 2 август доставчиците на системи с генеративен изкуствен интелект, попадащи в обхвата на член 50, трябва да изпълняват съответните изисквания за прозрачност. Те включват задължение за обозначаване на съдържание, генерирано или манипулирано от ИИ, както и възможност то да бъде откривано чрез технически средства. „Задълженията за прозрачност са основният фокус в момента по отношение на това, за което всички говорят“, коментира Франческа Поул, адвокат по въпросите на данните, личната неприкосновеност и киберсигурността в международната правна кантора DLA Piper.
От „невидимия“ воден знак към видимия етикет
Най-големите компании в сектора вече започнаха да въвеждат технически решения в съответствие с новата регулаторна среда. Европейската комисия посочва, че доставчиците трябва да използват технически средства, които са ефективни, оперативно съвместими, устойчиви и надеждни, доколкото това е технически възможно. OpenAI заяви в края на юли, че потребителите трябва да разполагат с по-добър контекст за съдържанието, което виждат онлайн, включително информация дали то е създадено или редактирано с помощта на изкуствен интелект. Компанията използва SynthID — технология за водни знаци, разработена от звеното за изкуствен интелект на Google DeepMind — за поставяне на невидимо обозначение върху изображения, генерирани от ИИ. По-късно технологията беше разширена и за аудиосъдържание.
Anthropic също обяви, че моделите Claude, пуснати след 2 август, ще използват вградени водни знаци в генерирания текст. Според компанията обозначението е интегрирано в самия текст, без да променя неговия смисъл, качество или четливост, и остава част от съдържанието при копиране и поставяне на друго място. Компаниите подкрепят и техническия стандарт C2PA — коалиция, разработваща механизми за установяване на произхода и автентичността на цифровото съдържание. Целта е да се съхраняват и пренасят метаданни, свързани с произхода и начина на създаване или редактиране на даден материал.
Как потребителите ще разпознават съдържанието
Поставянето на воден знак обаче е само първата стъпка. Следващото предизвикателство е тези обозначения да бъдат разпознавани от платформите и представяни по разбираем начин на потребителите. „Генерирате нещо с Claude, качвате го в социална платформа и когато сте на път да публикувате, интерфейсът може да разполага с инструменти, които откриват водния знак“, обяснява Уолтър Паскуарели, изследовател на синтетичното съдържание от Университета в Кеймбридж и съветник на Организацията за икономическо сътрудничество и развитие (ОИСР).
Според него последиците от новия подход могат да бъдат значителни. Данните за поведението на потребителите показват, че когато те знаят, че дадено медийно съдържание е генерирано от изкуствен интелект, ангажираността им с него може съществено да намалее.
Това може да засегне и т.нар. „AI slop“ — масово произвеждано, нискокачествено цифрово съдържание, генерирано автоматизирано и разпространявано в интернет в големи количества. Онлайн платформите вече реагират на тенденцията. LinkedIn например въведе възможност потребителите да сигнализират за публикации, които според тях изглеждат като „AI slop“.
Според Паскуарели това показва и по-широка промяна в обществения дебат — от първоначалния фокус върху съдържанието, генерирано с измамна цел, към все по-широко обсъждане на самото AI-генерирано съдържание.
Европейската комисия подчертава, че новите правила имат за цел да ограничат рисковете от измама и манипулация и да подпомогнат гражданите да разпознават кога взаимодействат с изкуствен интелект или са изложени на съдържание, създадено или променено от него. Правилата предвиждат особено ясно обозначаване на т.нар. „дийпфейкове“ — изображения, аудио или видео, генерирани или манипулирани от ИИ, които могат да бъдат възприети като автентични — както и на определени текстове, генерирани от ИИ по въпроси от обществен интерес, когато не са преминали през човешка проверка или редакционен контрол.
Европейската регулация по този начин поставя началото на нов етап в отношенията между потребителите, технологичните компании и цифровото съдържание — етап, в който произходът на информацията и начинът, по който тя е създадена, все по-често ще бъдат част от самото съдържание. I БГНЕС
----------------
Коментарът на Питър Хаек е публикуван в "Политико"
