Банкеръ Daily

Свят

Брюксел разработва нормативна уредба за изкуствения интелект

Технологиите, свързани с изкуствения интелект и използвани в публичния сектор, трябва да бъдат регулирани и чрез  високи стандарти. Европейските институции отчитат, че изкуственият интелект и автоматизираното вземане на решения могат да направят някои неща по-сложни за потребителите. От друга страна е необходима прозрачност и строг контрол, за да не допусне злоупотреба с данните на потребителите. Това означава, че може да се изисква от компаниите да предлагат повече информация за алгоритмите, с които управляват ИИ технологиите, както и за потоците от данни, които се обработват и разпространяват от устройствата.

Защо изкуственият интелект може да представлява заплаха

Машинните алгоритми могат да обработват масиви от данни с точност и бързина, които са непосилни за хората. Това прави приложенията, използващи изкуствен интелект, все по-популярни в области като финансите, здравеопазването, образованието, правото и други.

Ако обаче липсва човешки контрол при вземането на решения, лесно могат да възникнат проблеми. Машините се учат да разпознават модели в бази от данни. Ако в данните са заложени определени предразсъдъци, алгоритмите продължават да ги възпроизвеждат в бъдеще.

Изкуственият интелект при вземането на решения

Изкуственият интелект все повече се използва за създаването на автоматизирани системи за вземане на решения. В много случаи това има силно отражение върху хората, които влизат в контакт с тези системи ˗ например, при отпускане на кредити, при разглеждане на кандидатури за работа, при лечение или по правни въпроси.

Автоматизираните системи могат да доведат до засилване и утвърждаване на социални разделения. Например, установени са случаи с някои алгоритми за наемане на работа, които дискриминират жените.

Грижа за потребителите

Развитието на автоматизирани модели за вземане на решения повдига въпроси за това как да се спечели доверието на потребителите и да се гарантира, че техните интереси са взети предвид. Когато потребителите влизат в контакт с автоматизирани системи, те трябва да бъдат добре информирани как точно функционира алгоритъмът.

Заместник-председателят на Европейската комисия (ЕК) и отговорник за дигиталните политики Маргрете Вестагер коментира пред Euractiv, че технологиите за изкуствен интелект ще бъдат предмет на действащите правила на ЕС, насочени към осигуряване на високи стандарти в областта на защитата на личните данни, неприкосновеността на личния живот, защитата на половете и расите и правилата за отговорност за безопасност на продуктите. В същото време от Вашингтон се опитват да лобират  в Европа за възприемане на един по-мек подход по отношение на бъдещото регулиране на високите технологии.

ЕК предприема по-строга линия в областта на изкуствения интелект, отколкото Съединените щати. Част от предложението на Европейската комисия включва мораториум до пет години върху използването на технология за разпознаване на лица в обществени зони, за да се даде време на общността да изработи алгоритъм как да се предотвратяват злоупотреби.

Изпълнителният директор на Google Сундар Пичай смята, че Deepfakes и технологиите за лицево разпознаване са най-важните проблеми, свързани с изкуствения интелект. "Deepfakes" представляват видео или аудиоклипове, които са манипулирани с помощта на изкуствен интелект и които потенциално биха могли да бъдат създадени от всеки и използвани за всякакви цели. 

Позицията на Европарламента 

На 23 януари комисията по вътрешен пазар и защита на потребителите в ЕП подкрепи резолюция, която приканва Европейската комисия да обмисли какви мерки са нужни, за да се гарантират правата на потребителите.

Депутатите искат от Комисията да:


  • осигури механизми за защита на потребителите от несправедливи или дискриминационни търговски практики и от рисковете, произтичащи от услуги, които използват изкуствен интелект;

  • гарантира по-голяма прозрачност на автоматизираните процеси;

  • направи нужното за използването само на висококачествени бази от данни, в които няма дискриминация.

„Трябва да направим нужното за гарантирането на защитата и доверието на потребителите и за привеждането на правилата на ЕС за безопасността и отговорността на продуктите към изискванията на дигиталната епоха“, заяви председателят на парламентарната комисия по вътрешен пазар и защита на потребителите Петра де Сутер (Зелени/ЕСА, Белгия).

Следващи стъпки

Депутатите ще гласуват по резолюцията на пленарното си заседание по-късо този месец. След това тя ще бъде изпратена на Комисията и на държавите членки в Съвета. Европейската комисия планира да представи своите планове за общ подход към изкуствения интелект на 19 февруари. 

Facebook logo
Бъдете с нас и във