Държавите-членки и Европейският парламент постигнаха предварителна сделка относно Закона за изкуствения интелект, първият опит в света за регулиране на бързо развиващата се технология по всеобхватен, основан на етиката начин.

Споразумението беше сключено на политическо ниво в петък вечер след разговори, които продължиха целия ден и последваха неуспешен маратон между сряда и четвъртък следобед. Общо цялото натискане отне повече от 35 часа.

Пробивът дойде на фона на агресивно лобиране от страна на технологични компании от всякакъв размер, категорични предупреждения от гражданското общество и интензивен медиен контрол, тъй като законодателството от Брюксел може много добре да повлияе на подобни регулаторни усилия по света.

„Исторически! ЕС става първият континент, който определя ясни правила за използването на AI“, каза Тиери Бретон, европейският комисар по вътрешния пазар, който участва в дебата. „Законът за изкуствения интелект е много повече от наръчник с правила – той е стартова площадка за стартиращи фирми и изследователи от ЕС, за да водят глобалната надпревара за изкуствен интелект.“

Преговорите бяха тежка битка напред-назад между правителства и законодатели по поредица от изключително сложни и технически въпроси.

След като в четвъртък беше постигнат предварителен компромис за овладяване на основните модели, които захранват чатботове като ChatGPT на OpenAI, разговорите в петък бяха със силен фокус върху използването на биометрични данни в реално време, включително разпознаване на лица, в обществени пространства.

В основата на дебата беше въпросът дали държавните органи трябва да имат право да внедряват биометрични системи, задвижвани от AI, които могат да идентифицират и категоризират хора въз основа на чувствителни характеристики като пол, раса, етническа принадлежност, религия и политическа принадлежност, както и системи на разпознаване на емоции и прогнозна политика.

В съвместния си мандат евродепутатите заявиха, че тези практики са „натрапчиви и дискриминационни“ и следователно трябва да бъдат забранени на територията на ЕС. Държавите-членки обаче имаха доста различно мнение и твърдяха, че изключения за правоприлагането са необходими за проследяване на престъпници и осуетяване на заплахи срещу националната сигурност. Франция одобри по-рано тази година законодателство, което позволява използването на биометрично наблюдение по време на Олимпийските и Параолимпийските игри в Париж през 2024 г. , първото за страна от ЕС.

Сблъсъкът между националната сигурност и основните права погълна по-голямата част от енергията в петък. Испания, настоящият ротационен председател на Съвета, имаше тежката задача да представлява 27-те държави-членки и да поддържа единен фронт.

Разговорите бяха прекъснати от продължителна почивка, в която депутатите обсъдиха помежду си исканията, отправени от испанското президентство. Междувременно учени и активисти се включиха в социалните медии , за да призоват евродепутатите да се противопоставят на изключенията за правоприлагането.

В крайна сметка парламентът отстъпи и подписа серия от „строги условия“, които ще позволят на властите да използват биометрични данни в реално време за търсене на жертви на отвличане, трафик и сексуална експлоатация; предотвратяване на терористични заплахи; и откриване на хора, заподозрени в извършване на тежки престъпления, като тероризъм, убийство, изнасилване и въоръжени грабежи.

За разлика от това, биометричната категоризация въз основа на чувствителни характеристики, социално оценяване, предсказуем полицейски контрол, използване на уязвимости и разпознаване на емоции на работното място и в образователните институции ще бъдат забранени.

„Ние се борихме упорито за забраната на биометричната идентификация“, каза Брандо Бенифей, евродепутат социалист, който служи като съдокладчик. „Беше важно да съберем всички тези части заедно.“

„Всички тези неща са много силен режим, който казва какъв вид употреба на ИИ не искаме в нашия Съюз и на нашия пазар“, каза Драгош Тудораче, другият съдокладчик.

Като се има предвид сложността на разглеждания въпрос, компромисът, който излезе от проточените преговори, вероятно ще изисква допълнително фино регулиране през следващите дни. Карме Артигас, държавен секретар на Испания по цифровизацията и изкуствения интелект, настоя, че „всяка статия“ е била договорена, без да се оставят никакви „вратички“ за заобикаляне на спазването на правата на човека.

След като правният текст, който обхваща стотици страници в членове и приложения, бъде пренаписан, той ще бъде изпратен в Европейския парламент за ново гласуване в полукръга, последвано от зелена светлина от страните в Съвета.

„Надяваме се, че всички (държави-членки) ще потвърдят“ компромиса, каза Артигас, попитан за опасенията, изразени от Германия и Франция.

Окончателните гласувания се очакват в началото на 2024 г. След това законът ще има постепенен период, преди да стане напълно приложим.

Постоянно развиваща се технология

Представен за първи път през април 2021 г. , Законът за ИИ е новаторски опит да се гарантира, че най-радикално трансформиращата технология на 21-ви век е разработена по ориентиран към човека, етично отговорен начин, който предотвратява и ограничава най-вредните последици.

Законът по същество е регламент за безопасност на продуктите, който налага набор от правила, които компаниите трябва да следват, преди да предложат своите услуги на потребителите навсякъде в единния пазар на блока.

Законът предлага подобна на пирамида структура, която разделя базираните на AI продукти в четири основни категории според потенциалния риск, който представляват за безопасността на гражданите и техните основни права: минимален, ограничен, висок и неприемлив.

Тези, които попадат в категорията на минималния риск, ще бъдат освободени от допълнителни правила, докато тези, обозначени като ограничен риск, ще трябва да следват основни задължения за прозрачност.

Системите, считани за високорискови, ще бъдат предмет на строги правила, които ще се прилагат преди да навлязат на пазара на ЕС и през целия им живот, включително съществени актуализации. Тази група ще включва приложения, които имат пряко и потенциално променящо живота въздействие върху гражданите, като софтуер за сортиране на CV за интервюта за работа, асистирана от роботи хирургия и програми за оценяване на изпити в университетите.

Високорисковите AI продукти ще трябва да преминат през оценка на съответствието, да бъдат регистрирани в база данни на ЕС, да подпишат декларация за съответствие и да носят CE маркировка – всичко това, преди да стигнат до потребителите. След като станат достъпни, те ще бъдат под надзора на националните органи, подпомагани от специален офис за ИИ в рамките на Европейската комисия.

Системи с изкуствен интелект с неприемлив риск за обществото, включително социално оценяване за контрол на гражданите и приложения, които използват социално-икономически уязвимости, ще бъдат напълно забранени на цялата територия на ЕС.

Съгласно предварителната сделка, компаниите, които нарушават правилата, ще бъдат изправени пред многомилионни глоби до 35 милиона евро или 7% от глобалния оборот.

Въпреки че този базиран на риска подход беше добре приет през 2021 г., той беше подложен на изключителен натиск в края на 2022 г., когато OpenAI стартира ChatGPT и отприщи глобален фурор върху чатботовете. ChatGPT скоро беше последван от Bard на Google, Bing Chat на Microsoft и най-скоро Q на Amazon.

Чатботовете се захранват от базови модели, които се обучават с огромно количество данни, като текст, изображения, музика, реч и код, за да изпълняват широк и течен набор от задачи, които могат да се променят с времето, вместо да имат специфичен, непроменим предназначение.

Първоначалното предложение на Комисията не въведе никакви разпоредби за моделите на основата, принуждавайки законодателите да добавят изцяло нов член с обширен списък от задължения, за да гарантират, че тези системи зачитат основните права, са енергийно ефективни и отговарят на изискванията за прозрачност, като разкриват съдържанието им като AI- генерирани.

Този натиск от страна на Парламента беше посрещнат със скептицизъм от страна на държавите-членки, които са склонни да предпочитат мек подход към законотворчеството. Германия, Франция и Италия, трите най-големи икономики в блока, излязоха с контрапредложение , което подкрепя "задължителното саморегулиране чрез кодекси за поведение" за модели на фондация. Този ход предизвика гневна реакция от страна на депутатите и заплаши да провали законодателния процес.

Но обезсърчаващата перспектива за поставяне на забележителния закон в неопределеност в навечерието на европейските избори догодина подейства като мотивация за преодоляване на пропуските и сключване на предварителна сделка, която сега предвижда изисквания за прозрачност за чатботовете, за да се гарантира, че потребителите са наясно, че взаимодействат с система, задвижвана от AI.

„Законът за ИИ е глобален първи“, каза Урсула фон дер Лайен, президент на Европейската комисия. „Уникална правна рамка за разработването на AI, на която можете да се доверите. И за безопасността и основните права на хората и бизнеса. Ангажимент, който поехме в нашите политически насоки – и го изпълнихме.“