Банкеръ Daily

Евродепутати предупреждават:

Полицията може да използва изкуствен интелект за масово наблюдение

Евродепутатите се притесняват, че използването на системи за изкуствен интелект в полицията може потенциално да доведе до масово наблюдение, нарушавайки ключовите принципи на ЕС за пропорционалност и необходимост.

Използването на изкуствен интелект в правоприлагащите органи и съдебната система трябва да бъде обект на строги предпазни мерки и човешки надзор, казва комисията за граждански свободи в Европейския парламент.

В проектодоклад, приет с 36 гласа „за“, 24 гласа „против“ и 6 гласа „въздържал се“, членовете на ЕП подчертават необходимостта от демократични гаранции и отчетност за използването на изкуствен интелект  в правоприлагането.

Мерки срещу дискриминацията

Евродепутатите се притесняват, че използването на системи за изкуствен интелект в полицията може потенциално да доведе до масово наблюдение, нарушавайки ключовите принципи на ЕС за пропорционалност и необходимост. Комисията предупреждава, че в противен случай законните приложения за ИИ могат да бъдат преназначени за масово наблюдение.

Проектът за резолюция подчертава потенциала за пристрастия и дискриминация в алгоритмите, на които се базират изкуственият интелект и системите за машинно обучение. Понастоящем системите за идентификация, базирани на изкуствен интелект, са неточни и могат погрешно да идентифицират малцинствени етнически групи, ЛБГТИ  хора, възрастни хора и жени, наред с други групи. Освен това прогнозите, задвижвани от ИИ, могат да засилят съществуващата дискриминация, което е проблем в контекста на правоприлагането и съдебната власт.

Използване на разпознаване на лица и други биометрични данни от полицията и съдебната власт

Като визира специфични техники, достъпни за полицията и съдебната власт, комисията отбелязва, че ИИ не трябва да се използва за прогнозиране на поведение въз основа на минали действия или групови характеристики. Що се отнася до разпознаването на лица, евродепутатите отбелязват, че различните системи имат различни последици. Те изискват постоянна забрана за използване на биометрични детайли като походка, пръстови отпечатъци, ДНК или глас, за да разпознават хората в публично достъпни пространства.

Комисията иска да забрани на правоприлагащите органи да използват частни бази данни за разпознаване на лица, като вече използвания Clearview AI. Депутатите също така искат забрана за определяне на оценки на граждани въз основа на изкуствен интелект, като подчертават, че това би накърнило човешкото достойнство. И накрая, разпознаването на лица не трябва да се използва за идентификация, докато такива системи не отговарят на основните права, посочват евродепутатите.

Използването на биометрични данни за отдалечена идентификация е от особено значение за членовете на Европейския парламент. Например автоматизираните портали за граничен контрол на базата на признаване и проектът iBorderCtrl („интелигентна система за откриване на лъжа“ за влизане на пътници в ЕС) са проблематични и трябва да бъдат прекратени, казват евродепутатите, които настояват Комисията да открие процедури за нарушение срещу член посочва, ако е необходимо.

Докладчикът Петър Витанов каза: "Използването на изкуствен интелект нараства експоненциално и нещата, които сме смятали за възможни само в научно-фантастични книги и филми - предсказуема полиция, масово наблюдение с помощта на биометрични данни - са реалност в някои страни. Доволен съм, че мнозинството от Комисията за граждански свободи признава  опасността от подобни практики за нашата демокрация. Техническият прогрес никога не трябва да става за сметка на основните права на хората."

Facebook logo
Бъдете с нас и във