От неделя, 2 август, компаниите, които предлагат системи с изкуствен интелект в Европейския съюз, ще трябва ясно да уведомяват потребителите, когато разговарят с чатбот или друг интерактивен AI инструмент. Генерираните изображения, аудио, видео и текст трябва да съдържат и техническа маркировка, чрез която да могат да бъдат разпознати като създадени или манипулирани от изкуствен интелект, предава France 24.

Видимо обозначение за потребителите ще бъде задължително при deepfake съдържание, както и при генерирани от AI текстове по въпроси от обществен интерес, когато те са публикувани без реален човешки преглед и редакционна отговорност. Новите изисквания са част от член 50 на европейския Законодателен акт за изкуствения интелект, който влиза в действие поетапно.

Практическото изпълнение на правилата е описано в новия Кодекс за поведение относно прозрачността на съдържанието, генерирано от AI. Окончателният му текст беше публикуван от Европейската комисия на 10 юни, а през юли Комисията и Европейският съвет по изкуствен интелект го оцениха като подходящ инструмент за изпълнение на законовите задължения.

Има обаче важна разлика: присъединяването към кодекса е доброволно, но спазването на правилата в Законодателния акт за AI е задължително. Компаниите, които не подпишат кодекса, ще трябва сами да докажат пред националните надзорни органи, че използваните от тях решения осигуряват равностойна прозрачност.

По информация на France 24 целта на ЕС е да ограничи риска от масово разпространение на манипулирано съдържание. Цитираният от медията европейски представител предупреждава, че генеративният AI позволява дезинформацията да бъде създавана в невиждан досега мащаб, приспособявана към конкретни аудитории и разпространявана с изключителна скорост.

Какво точно трябва да бъде обозначавано?

Задълженията са различни за компаниите, които създават и предлагат AI системите, и за организациите, които ги използват професионално. Доставчиците на чатботове, AI агенти и виртуални асистенти трябва да проектират системите така, че човекът да разбира, че общува с изкуствен интелект. Изключение е възможно, когато това е очевидно за нормално информиран и наблюдателен потребител според конкретния контекст.

Системите, които генерират изображения, видео, аудио или текст, трябва да вграждат в съдържанието машиночетима маркировка. Това може да бъде воден знак, информация за произхода на файла или друга техническа следа, позволяваща съдържанието да бъде установено като изцяло или частично създадено с AI.

Решенията трябва да бъдат ефективни, съвместими с други технологии, устойчиви и надеждни, доколкото това е технически възможно. Задължението не се прилага, когато AI се използва само за стандартна помощна редакция и не променя съществено първоначалните данни или смисъла им.

Отделно от скритата техническа маркировка, организациите, които публикуват съдържанието, трябва да поставят ясен и видим етикет при: изображения, видео или аудио, представляващи deepfake; AI текстове, предназначени да информират обществото по въпроси от обществен интерес, когато липсват човешки преглед и редакционна отговорност.

Това означава, че не всяка снимка, редактирана с AI, и не всеки текст, при който е използван AI инструмент, автоматично трябва да получи видим етикет. От значение са характерът на съдържанието, степента на намесата и рискът то да бъде възприето като автентично.

Какво означава това за медиите?

При публикации по политически, икономически, финансови, научни, здравни, културни и други теми от обществен интерес обозначението няма да е задължително, ако текстът е преминал през същински човешки редакционен контрол и физическо или юридическо лице носи редакционната отговорност за него.

Европейската комисия уточнява, че проверка само на правописа, граматиката или форматирането не е достатъчна. Човешкият преглед трябва да включва оценка на съдържанието, фактологична проверка, преценка на източниците и възможност текстът да бъде променен или отхвърлен.

Така например медия, която използва AI за подготовка на чернова, резюме или превод, но журналист и редактор проверяват фактите, източниците и окончателния текст и поемат отговорност за него, попада в предвиденото изключение.

Личните публикации остават извън обхвата

Правилата за видимото обозначаване се отнасят до професионалното използване на AI. Физическо лице, което използва система изцяло за лични и непрофесионални цели, не се смята за „внедрител“ по смисъла на акта. Това важи дори когато човек създаде съдържание и го публикува в личен профил в социална мрежа. Ако обаче дейността носи редовна икономическа полза или е част от бизнес, професионална, търговска или свободна практика, тя вече може да попадне в обхвата на правилата.

Това изключение не освобождава самия доставчик на генеративната система от задължението да вгражда машинночетима маркировка в създаваното съдържание.

За явно художествени, творчески, сатирични и измислени произведения също е предвиден по-лек режим. При тях трябва да бъде оповестено използването на AI, но по начин, който не пречи на възприемането или представянето на произведението.

ЕС предлага три вида икони

За да уеднакви обозначенията, Европейската комисия разработи три икони:

• общ символ за съдържание, при чието създаване е използван AI;
• знак за изцяло генерирано от AI съдържание;
• знак за съществуващо съдържание, което е частично променено с AI.

Използването на европейските икони е доброволно. Самото обозначаване в предвидените от закона случаи обаче е задължително. Иконата трябва да бъде видима още при първото показване на съдържанието и по възможност да се запазва при изтегляне или споделяне.

Срокове и глоби

Основните задължения започват да се прилагат на 2 август. За генеративните AI системи, които вече са били пуснати на европейския пазар преди тази дата, е предвиден ограничен преходен период до 2 декември 2026 г.

Този срок се отнася само до техническото маркиране и разпознаването на генерираното съдържание. Той не представлява общо отлагане на всички изисквания за чатботове, deepfake съдържание и текстови публикации. Съдържание, което е било генерирано и публикувано преди 2 август, няма да трябва да бъде обозначавано със задна дата, въпреки че Комисията насърчава доброволното му маркиране.

Контролът ще бъде основно в ръцете на националните органи за надзор на пазара. Службата на ЕС по изкуствен интелект ще има по-ограничена роля – например при системи, базирани на модели с общо предназначение, или когато те са интегрирани в много големи онлайн платформи и търсачки.

При нарушение санкцията може да достигне 15 млн. евро или 3% от общия световен годишен оборот на компанията, като се прилага по-високият от двата размера. За малките и средните предприятия е предвиден по-благоприятен и пропорционален режим.

По информация на France 24 големите технологични компании вече въвеждат собствени обозначения. TikTok изисква създателите да маркират генерирани с AI изображения, аудио и видео, а Meta използва обозначението „AI Info“ във Facebook и Instagram. Google също работи с други технологични компании по инструменти за цифрово проследяване на произхода на съдържанието. Бизнесът обаче предупреждава, че наслагването на различни европейски, национални и платформени етикети може да има обратен ефект. Представителят на Google Карън Масин, цитирана от France 24, посочва, че ако онлайн съдържанието бъде залято от припокриващи се обозначения и правни предупреждения, потребителите могат по-трудно да откриват действително необходимия им контекст.

Публикувано съгласно указанията на Economic.bg