ЕП: Изкуственият интелект в здравеопазването и правосъдието не трябва да замества човешкия контакт

Комисията на Европейския парламент по правни въпроси прие насоки за използването на изкуствен интелект (ИИ) за военни цели и в секторите на здравеопазването и правосъдието. Евродепутатите отново призовават за въвеждането на правна рамка на ЕС с точни дефиниции и етични принципи.

Тези правила трябва да гарантират, че човешкото достойнство и човешките права се зачитат и че системите за изкуствен интелект (ИИ) подлежат на солиден човешки контрол, давайки възможност на хората да ги коригират или деактивират в случай на непредвидено поведение. Следователно хората, които работят с ИИ, трябва да могат да бъдат идентифицирани и в крайна сметка да бъдат държани отговорни.

Употреба за военни цели и човешки надзор
Евродепутатите се обединиха около позицията, че смъртоносните автономни оръжейни системи (LAWS) трябва да бъдат използвани само в краен случай и да се считат за законни, единствено ако са под човешки контрол, тъй като хората са тези, които трябва да решават между живота и смъртта. Текстът призовава ЕС да поеме водеща роля в насърчаването на глобална рамка за употребата на ИИ за военни цели, заедно с ООН и международната общност.

Употреба на ИИ в здравеопазването и правосъдието
Увеличеното използване на системите за изкуствен интелект в обществените услуги, особено в здравеопазването и правосъдието, не трябва да замества човешкия контакт или да води до дискриминация, настояват евродепутатите. Когато ИИ се използва в сферата на общественото здраве (напр. роботизирана хирургия, интелигентни протези, прогнозна медицина), личните данни на пациентите трябва да бъдат защитени и да се зачита принципът на равното третиране.

Съдиите все повече използват технологии с изкуствен интелект при вземането на решения и за ускоряване на съдебните производства. Заедно с това се налага да бъдат въведени предпазни мерки за защита на интересите на гражданите. Хората винаги трябва да бъдат информирани, ако са обект на съдебно решение, което е взето с помощта на ИИ и да имат право да се свържат с държавен служител. Изкуственият интелект не може да замени хората при издаването на присъди. Окончателните съдебни решения трябва да се вземат от хора, да бъдат стриктно проверявани от отговорно лице и да подлежат на надлежен съдебен процес.

Евродепутатите също така предупреждават за заплахи за основните човешки права, произтичащи от използването на технологии с изкуствен интелект за масово наблюдение, както в гражданската, така и във военната сфера. Те призовават публичните власти да забранят използването на „мобилни приложения за социално оценяване с висока степен на вмешателство в личния живот“ (за наблюдение и оценка на гражданите).

Проектът на резолюция беше приет с 16 гласа „за“ и 4 гласа „против“.

ЕП вече е приел широк спектър от резолюции в областта на изкуствения интелект и наскоро одобри три доклада относно ИИ в областта на етиката, гражданската отговорност и интелектуалната собственост. Преди представянето на законодателното предложение на Европейската комисията относно изкуствения интелект, което се очаква в началото на 2021, Парламентът учреди също така специална комисия по изкуствен интелект в цифрова ера (AIDA).