Изкуственият интелект („ИИ“) е един от най-бързо развиващите се технологични сектори, с потенциал да революционизира множество индустрии, включително здравеопазване, транспорт и промишленост. Въпреки това, развитието на ИИ не получава безусловно доверие от страна на обществото. Като част от своя ангажимент за цифровизация и по-конкретно този за законодателната рамка в тази област, през април 2021 г. Европейската комисия („Комисията“) представи официалното си предложение за регламент относно ИИ. Предложението за регламент относно изкуствения интелект („Регламентът“), наричан още Законодателен акт за изкуствения интелект, цели да предостави на хората увереност да възприемат основани на ИИ решения, както и да насърчи бизнесите да инвестират в такива решения, като се погрижи за това ИИ да е безопасен, етичен и под човешки контрол. Значението на Регламента се засилва от факта, че ако бъде приет, той ще се превърне в първия законодателен акт в света, специално предназначен да регулира изкуствения интелект.
Предложението за регламент относно ИИ е от значение както за стартиращи, така и за установили се бизнеси, но също и за множество правителства и техните органи. Настоящата статия разглежда най-важните аспекти на предложения текст и по този начин предлага поглед върху предвидените регулаторни мерки по отношение на ИИ.
Регламентът предвижда широко определение за система с ИИ: „система с изкуствен интелект“ (система с ИИ) означава софтуер, разработен с една или повече от техниките и подходите, посочени в приложение I, който може по отношение на даден набор от цели, определени от човек, да генерира резултати, като съдържание, прогнози, препоръки или решения, които оказват въздействие върху средите, с които взаимодействат“. Комисията се стреми да предостави технологично неутрална и приспособима дефиниция. Приложение I, към което се отнася определението, включва обширен списък с техники и подходи, за които Регламентът предвижда механизъм за адаптиране с оглед бъдещи технологично развития.
Регламентът ще се прилага за много широк кръг от субекти, състоящи се както от публични, така и от частни органи, включително лица, компании и агенции. От съществена важност е, че териториалното приложение на Регламента може да се разглежда като много по-широко от очакваното, тъй като то се фокусира не само върху това къде се намира доставчикът или ползвателят на система с изкуствен интелект, но и върху това дали тя има някакво въздействие в рамките на Европейския съюз.
В съответствие с целите си за повишаване на общественото доверие и гарантиране на безопасността и етиката на приложението на ИИ, Предложението за регламент предлага подход, основан на риска. В него се прави разлика между използване на изкуствен интелект с неприемлив риск, такова с висок риск и употреба на ИИ с нисък или минимален риск.
Всички практики в областта ИИ, които се считат за неприемливи, са забранени. Те включват системи за дистанционна биометрична идентификация (напр. системи за лицево разпознаване), системи, които идентифицират или класифицират надеждността на хората (напр. системи за социален рейтинг) и системи с ИИ, които си служат със сублиминални техники отвъд рамките на съзнаваното от човека, за да изменят поведението на дадено лице по начин, който причинява или е вероятно да причини физически или психологически вреди на същото или на друго лице и др.
Регламентът е специално фокусиран върху високорисковите системи с ИИ („ВРСИИ“), които са обект на обхватни задължения, включително такива за съответствие, задължения от технически характер и мониторинг. Те са разделени на две групи:
(i) системи, при които ИИ е продукт или част от продукт, който вече е предмет на определени правила за безопасност на ЕС, и;
(ii) системи с ИИ, които са определени от Комисията като високорискови. Примери за ВРСИИ могат да бъдат намерени в много индустрии, включително здравеопазване, транспорт, авиация и др.
На последно място, що се отнася до нискорисковите системи за изкуствен интелект, Регламентът насърчава най-вече саморегулирането чрез прилагане на някои изисквания, приложими към ВРСИИ или чрез кодекси за поведение. Въпреки това, той налага определени изисквания за прозрачност към системите с ИИ, които са с нисък риск, но попадат в едно от следните:
(i) взаимодействат с хора;
(ii) прилагат разпознаване на емоции или категоризация въз основа на биометрични данни или;
(iii) са т.нар. „дълбинни фалшификати“ (deep fakes).
Неспазването на задълженията, произтичащи от Регламента, води до вероятност от високи санкции, като най-високите предвидени глоби достигат праг от 30 000 000 евро или 6 % от световния годишен оборот на съответната компания, в зависимост от това кое от двете е по-високо.
Най-важното за бизнесите на този етап, е да преценят дали попадат в обхвата на Регламента и дали ще бъдат засегнати от него. Въпреки че настоящият текст е само предложение, което в момента е на етап първо четене от Европейския парламент и от Съвета, е малко вероятно основните идеи и основните разпоредби да бъдат значително изменени. Като се имат предвид сериозните санкции, предвидени в Регламента, би могло да се окаже полезно за бизнесите в сектора на ИИ и съседните му сектори да обмислят ранни оценки на въздействието и да се осведомяват по всяко по-нататъшно развитие на Регламента относно ИИ .