Европарламентът одобри законодателен акт за изкуствения интелект (AI). Основната му цел е да защитава основните права, демокрацията и принципите на правовата държава, но същевременно да насърчава иновациите. Новите правила ще забраняват някои приложения с AI, които застрашават правата на гражданите. Това са системите за биометрична категоризация, лицево разпознаване от интернет или от записи от видеонаблюдение с цел създаване на бази данни за разпознаване на лица. Изключения се допускат в случаи на терористични атаки и отвличания на деца. Ще бъдат забранени също системите за разпознаване на емоции на работното място и в училищата, за социално оценяване или системи за прогнозиране на престъпление.
Бюрото на Европейския парламент в България организира дискусия на тема “Дигитална демокрация: Европейската регулация на изкуствения интелект и основните права”. Във фокуса на обсъжданията бяха различните аспекти, свързани с приемането от Европейския парламент и прилагането на Акта за изкуствения интелект, следващите стъпки на европейските институции и държавите членки, възможни мерки за създаване на по-големи гаранции за спазване на правата на човека. Специално внимание бе отделено на европейските избори и рисковете, които крие използването на новите технологии с изкуствен интелект за правото на изразяване и информация по време на избори.
Според евродепутата и докладчик в ЕП Петър Витанов, който участва в дискусията, 90% от системите с AI представляват минимален риск, но регулацията обхваща основно високорисковите приложения на технологиите, базирани на изкуствен интелект.
Правният акт на Европарламента е основан на оценка на риска за потенциални вреди на изкуствения интелект за здравето, безопасността, основните права, околната среда, демокрацията и принципите на правовата държава. Примерите за високорискови приложения на AI включват критична инфраструктура, образование и професионално обучение, заетост, основни частни и публични услуги, определени системи в областта на правоприлагането, миграцията и управлението на границите, правосъдието и демократичните процеси.
За прилагането на новия закон на национално и европейско ниво, както и за неговото регулиране, се предвижда създаването на нов европейски офис за изкуствен интелект. Той ще включва ресурсите, с които Европейската комисия разполага, но и ще се опита да привлече най-добрите експерти в областта, каза по време на форума Ева Майдел, член на Европейския парламент от Европейската народна партия. Службата по изкуствен интелект (AI Office) следва да подпомага компаниите да започнат да спазват правилата, преди те да влязат в сила.
“Самият закон е структуриран на принципа на пирамидата и е базиран на оценка на риска – колкото по-рисково е използването на дадена технология, на толкова повече проверки подлежи”, сподели Ева Майдел. Тя отбеляза, че все повече институции използват изкуствен интелект, за да подпомагат своята дейност и затова тези технологии трябва да могат ясно да обосноват решенията, на които са базирани.
“Смятам, че изкуственият интелект може да бъде истински двигател на нашите индустрии. Ако те се възползват от потенциала му, могат да станат водещи на световно ниво”, каза Майдел.
“Европейските институции искат да развиват изкуствения интелект по начин, който съвпада с нашите демократични ценности”, каза в своето експозе евродепутатът. Системите с изкуствен интелект трябва да отговарят на определени изисквания за прозрачност. Те трябва да спазват законодателството на ЕС в областта на авторското право и публикуване на подробно обобщение на съдържанието, използвано за обучение на модела. Ева Майдел определи темата с авторските права като сложна, но каза, че в следващия си мандат ЕП ще ревизира директивата за авторските права. Големите компании обаче ще докладват за информацията, която използват.
Моделите на по-мощните системи за AI ще бъдат подложени на допълнителни изисквания, включително оценка на модела, оценяване и ограничаване на системните рискове и докладване за инциденти. Според европейската регламентация, изкуствените или манипулираните изображения и аудио- или видеосъдържание (deep fakes) трябва да бъдат ясно обозначени като такива.
Според Майдел една от основните теми при преговорите е била подобряването на бизнес средата и конкурентоспособността в Европа, която изостава в технологичното развитие от Китай и САЩ: “В момента само 11% от европейските компании използват изкуствен интелект и внедряването му може да стане двигател на икономиката, ако се използва пълният му потенциал”.
Според изпълнителния директор на Българската предприемаческа асоциация (BESCO) Добромир Иванов, по отношение на социалните мрежи обществото ни е претърпяло крах. “Вместо да се възползват от потенциала на технологиите, потребителите все по-дълбоко потъват в непознатите дълбини на алгоритмите”, подчерта той. И допълни: “Паралелно с развитието и прилагането на съвременни дигитални решения, особено важно е да бъде развиван капацитетът на администрацията, която ще се възползва от технологии, базирани на изкуствен интелект, и да бъде коренно променена образователната система, особено по отношение на съдържание и формиране на умения”.
“Ние трябва да променим образованието през призмата, че образоваме хора, които трябва да се справят в свят, който се променя много по-бързо. Те трябва да имат критично мислене”, посочи Добромир Иванов.
Той подчерта, че по отношение на прилагането съществува риск, познат от други регулации на европейско ниво – въвеждането на по-големи рестрикции от предвидените от европейските депутати.
“Европейският акт за изкуствения интелект е важна и смела стъпка в регулацията на технологиите. Благосъстоянието е важно, но то е съвкупност от радостта ни както на придобивките, така и на правата, които имаме като граждани”, каза Надя Шабани – директор на Български център за нестопанско право (БЦНП), с чието съдействие се организира конференцията.
Едно от нещата, които БЦНП намира за проблематични в новата европейска регулация, са обтекаемите категории, които позволяват интерпретации. От гледна точка на регулацията се създава възможност за тълкуване и на базовите категории, които обхващат оценка на риска. “Рамката отваря вратички за множество изключения и неправилно прилагане”, поясни Надя Шабани.
“Технологиите, свързани с изкуствения интелект, дават огромно предимство за развитие на човечеството, но ни поставят в друга среда на общуване и определяне на правила”, добави тя. “Технологичните инструменти създават предимства за равенство, но в същото време могат да задълбочат неравенствата. Ако ние не помислим за това, ще се окажем много по-разделени като общество”, посочи Шабани.
Регламентът все още подлежи на финална проверка от юристи и се очаква да бъде окончателно приет преди края на законодателния мандат. Законът трябва да бъде официално приет и от Съвета на ЕС. Той ще влезе в сила двадесет дни след публикуването му в Официалния вестник на ЕС и ще бъде напълно приложим 24 месеца след влизането му в сила. Регламентът на ЕС за изкуствения интелект е първото подобно законодателство в света. Вече е приета “Глобална резолюция за изкуствения интелект” на ООН.
Във втората панелна дискусия на форума взеха участие Петър Витанов, член на Европейския парламент от Групата на прогресивния алианс на социалистите и демократите (С&Д), Стефан Ангелов от Програма “Достъп до информация”, Ралица Ковачева – преподавател във Факултета по журналистика на Софийския университет и главен редактор на платформата Factcheck.bg, и Цветелина Пенева от сдружение “Демокрация и законност” и председател на Обществения съвет към Централната избирателна комисия.
“Един от начините за профанизиране на дадена тема е нейното глобализиране”, подчерта Ралица Ковачева. Тя посочи, че именно социалните мрежи и най-вече Facebook продължават да са основният източник на информация за актуални новини сред българите, които ги предпочитат пред традиционните медии. “Безкритичността при подбора на източници на информация формира най-благоприятната почва за разпространение на дезинформация”, коментираха експертите.
“В навечерието на изборите за Европейски парламент възможностите на изкуствения интелект за генериране на фалшиви послания извежда темата за дезинформацията сред основните дискутирани проблеми. Дезинформацията, независимо дали става дума за изцяло невярна, отчасти невярна или манипулативно интерпретирана информация, все пак има някаква фактическа основа, т.е. може да бъде проверена спрямо съществуващи факти, но безкритичността на аудиторията създава условия за развитие и на множество конспиративни теории”, коментира Ковачева. Според нея единственото валидно оръжие за оценка на фейк новини, дори и майсторски създадени чрез изкуствен интелект, е естественият интелект.
Над 100 различни групи и страници във Facebook функционират в мрежа, в която се разпространява дезинформация от 2020 година насам, сочат данни на платформата Factcheck.bg. Групите набират популярност в разгара на пандемията и първоначално се фокусират върху темата за ковид, мерките срещу разпространението на вируса и ваксините. С началото на войната в Украйна мрежата се пренасочва към разпространяване на дезинформация. Запазва се обаче водещият принцип всяка тема да се използва за антисистемни послания, насочени конкретно срещу националните и европейски власти.
Facebook страници и групи могат да се използват за набиране на големи групи потребители, които да бъдат облъчвани с определени внушения и пренасочвани към нови групи и страници, според актуалните нужди на организаторите. Заобикалянето на алгоритмите на социалната мрежа чрез имитиране на автентична потребителска активност им позволява да заблуждават хората, че става дума за голям брой спонтанни действия на различни потребители. В действителност става дума за организиран екип от малък брой профили и страници, която управлява, модерира и пълни с вредно съдържание групите в мрежата.
Председателят на Общественият съвет към ЦИК Цветелина Пенева коментира, че у нас няма не само надзорен орган за цифровите услуги, но и почти никакви практически мерки срещу дезинформацията. “В същото време липсва задълбочено изследване и познаване на възможностите на базираните на изкуствен интелект технологии. Те в значителна степен биха могли да подпомогнат работата на изборната администрация или да ускорят процесите на изчисляване на изборните резултати”, каза Цветелина Пенева.
Всички участници в дискусиите подчертаха, че образованието и дигиталната грамотност са в основата на развитието на критическо мислене, което създава адекватна среда за разумно използване на постиженията на съвремието.
