Как компаниите да се подготвят за новите регулации – Мария Абаджиева, адвокат в „Пенков, Марков и партньори“, разяснява пред Economy.bg
Преди дни Европейският парламент гласува Закона за изкуствения интелект. Той ще се превърне в най-изчерпателната регулаторна рамка в света за AI. България също трябва да прилага одобрените регулации по силата на членството си в ЕС.
Какво регламентира новият закон, покрити ли са всички рискове, какво ще е забранено и какво – не, какво ще е въздействието на закона върху бизнеса и как компаниите да се подготвят, за да отговорят на новите изисквания, какви санкции са предвидени, стимул или пречка за иновациите в ЕС ще са регулациите, ще се наложат ли европейските правила като глобален стандарт по примера на GDPR или с тях ЕС рискува да изостане в надпреварата за ИИ, какви са рисковете от възникване на различни юрисдикции по света – тези и други въпроси коментирахме с Мария Абаджиева, адвокат в адвокатско дружество „Пенков, Марков и партньори“.
Мария Абаджиева е завършила образованието си в Хайделберг, Германия, и е член на адвокатската колегия във Франкфурт на Майн. Има опит в сферите на трудовото право и европейските регулации. Изготвяла е становища и е предоставяла консултации в различни правни области. Осъществявала е активно процесуално представителство в казуси, свързани с правото на Европейския съюз.
Мария, преди дни Европейският парламент одобри първия в света всеобхватен закон за изкуствения интелект. Какво конкретно регламентира той и какво остана извън обсега му? Обхванати ли са всички рискове?
Да, това е огромна крачка за европейското законодателство, защото от 2021 се работи върху регламента за изкуствен интелект, докато през цялото това време ИИ непрестанно се развиваше. Чрез този законодателен акт се внесе яснота по доста въпроси относно защитата на гражданските права. Регламентът обаче още не е влязъл в сила. След като текстът бъде окончателно одобрен и от Европейския съвет, регламентът ще бъде публикуван в Официален вестник на ЕС и ще влезе в сила 20 дни след неговото публикуване. Това се очаква да се случи преди юни 2024. В зависимост от вида на ИИ, който се разработва или пуска на пазара, е предвиден различен срок организациите да приведат дейността си в съответствие с регулациите, като ще разполагат с между 6 и 36 месеца за това.
В обхвата на регламента влизат различни лица, изброени по- конкретно в чл.2. Фокусът се поставя върху правата и задълженията на всички производители и ползватели на ИИ системи, намиращи се на територията на Европейския съюз, както и доставчиците и дистрибуторите, които внасят на територията на Съюза.
Tова, което не е обхванато от регламента, е използването на системи с ИИ за лични цели. Това означава, че например ползването на известното приложение ChatGPT за лични цели не подлежи на специалните предпазни мерки, гарантирани от регламента. Следователно регламентът не обхваща ситуацията, в която при използването на приложения се създават манипулирани изображения за лични цели (случая с разсъблечените непълнолетни момичета). В тази област ще трябва на този етап да продължаваме да разчитаме на други способи за защита, като например на Общия регламент за защита на личните данни или на националните регулации.
Освен това регламентът няма да се прилага за системи, които се използват за военни или отбранителни цели. Изключени са и системите за изкуствен интелект, които се използват за научни изследвания и иновации.
Освен тези аспекти считам, че повечето рискове, които крие изкуственият интелект, свързани с гражданските права, са в обсега му. Финалната версия на регламента се различава доста от първоначалната от 2021, като впоследствие са добавени допълнителни забранени практики. Това означава, че по този проект се е работило активно с цел по-добра защита на гражданските права.
Кои приложения на ИИ ще бъдат абсолютно забранени и кои допустими?
Регламентът разделя системите с изкуствения интелект в няколко категории на риск: "забранени практики", "високорискови системи" и "невисокорискови системи".
Към "забранените практики" принадлежат например системи за биометрична категоризация, използващи чувствителни данни, за да се направи заключение за раса, политически възгледи, членство в синдикални организации, религиозни или философски убеждения или сексуална ориентация; дистанционна биометрична идентификация на лица в реално време на публични места; системи за социален рейтинг, за разпознаване на емоционално състояние на работното място и в училище; извличане („scraping“) на изображения на лица от интернет или от камери за видеонаблюдение, чиято цел е създаване на бази данни с предназначение за разпознаване на лица и др. Регламентът предвижда изключения от някои от посочените практики в случаите, в които забранените системи са строго необходими за целите на правоприлагането, при спазване на строги гаранции по отношение на защитата на основните права и свободи на гражданите.
Високорисковите системи като следваща категория ще трябва да отговарят на строги изисквания, например да оценяват и намаляват риска, да поддържат регистри за употреба, да поддържат прозрачна и ясна информация, да имат човешки надзор и високо ниво на надеждност и киберсигурност. Примери за високорискови системи са такива, предназначени да се използват за наблюдение и разпознаване на забранено поведение на студентите по време на изпити, както и такива системи с ИИ за набиране, оценяване и подбор на персонал за работа.
За невисокорискови системи с ИИ като видеоигри с ИИ или спам филтри се налагат само много ограничени задължения за прозрачност например по отношение на предоставянето на информация, от която трябва да става ясно защо системата е невисокорискова.
Ще бъдат ли пречка регулациите пред използването на ИИ от бизнеса?
Регулациите представляват пречка само за определени сфери, тези, които попадат в графата "забранени практики". За останалите има просто допълнителни изисквания, които ще създадат повече работа на организациите, използващи изкуствен интелект, но и в същото време тези изисквания осигуряват ясна и устойчива правна рамка. Напротив, аз дори считам, че дават възможност за разрастване на бизнеса! Европейската комисия предвижда нов пакет от финансови мерки за стимулирането на инвестиции и развитие при разработването на надежден ИИ. Тези мерки включват и предоставяне на привилегирован достъп до суперкомпютри, което допринася за разширяването на използването на ИИ за голям брой публични и частни ползватели, както и създаване на условия за разработването на различни нововъзникнали приложения с ИИ. Също така Европейската комисия предвижда финансова подкрепа чрез програмите ,,Хоризонт Европа“ и ,,Цифрова Европа“. Предвидените финансови средства ще позволят публични и частни инвестиции в размер до 4 милиарда евро в рамките на сроковете на програмите (2021 – 2027). Също така се предлагат нови инициативи по програмите ,,Ускорител“ на ЕСИ и InvestЕU, които представляват допълнително капиталово насърчаване на публичния и частния сектор в сферата на ИИ.
Как бизнесът трябва да се подготви за промените, произтичащи от новия закон?
Освен гореспоменатата финансова подкрепа, за която съветвам предприятията да се информират обстойно, трябва същите да се напаснат на новите регулации.
Смятам, че ИТ отделите трябва да работят в тясно сътрудничество с правните отдели или външни адвокати. Пълният потенциал на изкуствения интелект може да се използва само ако се гарантира, че се спазват правните разпоредби и се минимизират рисковете от отговорност. Компаниите трябва активно да оценяват всяко отделно приложение за ИИ и да го интегрират в структурата си съгласно новите изисквания. Дружествата, които използват системи за изкуствен интелект, предоставени от други фирми, трябва да направят преглед на тези системи като първа стъпка. След това те следва да оценят своята роля в този контекст и съответните задължения. Съветвам всичко това да минава през обстойна юридическа проверка. Дори да звучи банално, в крайна сметка оцеляват тези, които се адаптират към промените, а те вече настъпват.
Какви санкции са предвидени?
Според регламента за нарушения срещу ,,забранените практики“ са предвидени санкции в размер до 35 млн. евро или ако нарушителят е дружество до 7% от общия му годишен световен оборот за преходната финансова година в зависимост от това коя от двете суми е по-висока. При предоставяне на невярна информация на властите могат да бъдат наложени глоби в размер до 7,5 млн. евро или 1% от годишния оборот също в зависимост от това коя от двете суми е по-висока. Този начин на изчисляване на глобите следва модела на вече успешно прилагащия се Общ регламент за защита на личните данни с разликата, че в регламента за изкуствен интелект санкциите са дори по-високи.
Как ще се реши въпросът с авторските права?
Новият регламент съдържа няколко текста, отнасящи се за авторските права, като той не измества правилата в тази област, предвидени от други европейски актове, а ги допълва. Считам, че авторските права са по-добре защитени от новите регулации. Например при разработването и обучението на ИИ системи с голямо количество данни всяко използване на съдържание, защитено с авторско право, изисква разрешението на съответния притежател на правата, освен ако не се прилагат съответните изключения, предвидени и в други Европейски актове като Директивата (ЕС) 2019/790.
Също така при генерирането на снимки, видео или аудио чрез ИИ, трябва да се информира, че тези продукти са създадени от изкуствен интелект, тоест трябва да бъдат отбелязани като манипулирани (deep fake). Зрителят на генерираното от изкуствен интелект изображение трябва да може да разпознае, че то е манипулирано, а не истинска снимка. Същото важи и за текстове, публикувани с цел информиране на обществеността по въпроси от обществен интерес. Предвидени са изключения, като например, когато става въпрос за разкриване и предотвратяване на престъпления.
Дали по този начин авторите ще получат пълна правна защита, не може да се каже със сигурност, на теория и практика нещата понякога са различни. Сигурно е едно – нарушаването на авторското право определено е една от съществените опасности, които крие изкуственият интелект и заради която могат да бъдат генерирани огромни разходи за компаниите. Пример е небезизвестният случая на американския вестник The New York Times, който съди OpenAI и Microsoft за милиарди за нарушаване на авторските права. Вестникът обвинява двете компании, че са използвали знания от милиони статии на вестника, за да обучават ChatGPT и по този начин да развиват бизнес за сметка на изданието.
Кой и как ще следи дали законът се спазва?
Съгласно регламента всяка държава членка на ЕС трябва да назначи национални надзорни органи, които да следят за прилагането и изпълнението на регламента, като те трябва да се състоят от поне един нотифициращ орган и орган за надзор на пазара. В България все още не е известно кой ще заеме тези длъжности.
Освен това в рамките на Европейската комисия е създаден Европейски съвет по изкуствен интелект, който се състои от по един представител от всяка държава членка и който също ще има за задача да следи за прилагането на регламента. Към задачите му спадат и издаването на препоръки и писмени становища; той също така ще допринася за ефективното сътрудничество с компетентните органи на трети държави и с международни организации.
Има ли риск от възникване на различни законодателни актове по света и това, което е забранено в ЕС, да е позволено в други страни?
Да и този риск вече е факт. Към днешна дата 176 различни нормативни акта, свързани с ИИ, са станали правно обвързващи в световен мащаб. Съществен пример за това, че в различните страни различни практики са позволени/забранени, е Китай. Китайската социална кредитна система е всеобхватна рамка, въведена от китайското правителство за оценка на поведението и надеждността на физически лица, компании и организации в различни области на живота. Чрез система от стимули и санкции тази система има за цел да наблюдава, оценява и контролира финансовото, социалното, моралното и евентуално политическото поведение на китайските граждани и компании. Например, ако като предприятие показваш отговорност за околната среда, това би довело до положителни точки и ще получиш привилегии. Ако обаче си ненадежден според тази система, това може да доведе до големи ограничения, като например ограничения на стопанската дейност, на достъпа до държавни поръчки или субсидии, ограничени възможности за пътуване и др. Такъв тип social scoring е забранен от Европейския регламент. Това е пример за разликите в регулациите относно изкуствения интелект по света. Считам, че поради различните разбирания, ценности и традиции, типични за различните континенти, от които също се влияят и законовите норми, е почти невъзможно на световно ниво да се постигне единодушие относно каквато и да е правна рамка.
Ще се наложат ли европейските правила като глобален стандарт по примера на GDPR, или с тях ЕС рискува да изостане в надпреварата за ИИ?
Разбира се, всяка една нова регулация е свързана и с някакъв вид забрана. В примера с Китай става ясно, че в ЕС няма да могат да бъдат разработени и използвани определени приложения, докато други държави ще могат да извличат икономическа полза от тях. Но въпреки това считам, че новият регламент оставя голямо ,,поле за изява“ в създаването и разпространението на системи, свързани с ИИ. Също така поради големия му обхват, структурираните и ясно формулирани права и задължения, както и предвидените изключения регламентът може да служи за пример и на други демократични държави извън Европейския съюз и да се превърне в глобален стандарт. В крайна сметка не става въпрос само за това Европейският съюз да е първи в надпреварата за създаването и разпространението на най- много на брой различни ИИ системи. По-важно е да има баланс между надпреварата за иновации в дигиталния свят и поддържането на устойчива правна рамка, защитаваща и гарантираща правата на гражданите. Само по този начин може да бъде запазено демократичното общество, в което аз лично, а и предполагам повечето европейски граждани искаме да живеем.
