Изкуственият интелект все повече се превръща в част от ежедневните бизнес дейности – от изготвянето на имейли и анализирането на документи до набирането на персонал, общуването с клиенти и оценяването на финансовия риск.
Актът на ЕС за изкуствения интелект – Регламент (ЕС) 2024/1689 – установява правна рамка за разработването, предоставянето и професионалното използване на системи с изкуствен интелект. Той не забранява обичайната употреба на ИИ от бизнеса. Приложимите изисквания зависят основно от начина, по който технологията се използва, и от свързаното с нея ниво на риск
С влизането в сила на основните разпоредби и изискванията за прозрачност от 2 август 2026 г. предприятията следва да установят какви системи с ИИ използват, да разберат как те влияят върху хората и да въведат подходящи защитни мерки. Допълнителна информация е достъпна на Европейската комисия.
Законодателният акт за ИИ може да се прилага за почти всяка организация, която разработва, предлага, внася, разпространява или използва професионално система с ИИ. Предприятие, което използва инструменти като ChatGPT, Microsoft Copilot или Gemini, включително функции с ИИ, вградени в счетоводен софтуер или системи за подбор на персонал, обикновено се счита за „внедрител“ и носи отговорност за начина, по който системата се използва.
Регламентът може да се прилага и за дружества, установени извън Европейския съюз, когато те предлагат системи с ИИ в ЕС или когато резултатите, произведени от техните системи, се използват на територията на Съюза.
Рисковата категория на дадена система с ИИ се определя основно от нейното предназначение и начина на използване, а не единствено от технологията или наименованието на продукта.
| Използване за бизнес цели | Вероятна класификация |
| Коригиране на граматиката и стила на имейл | Минимален риск |
| Обобщение на вътрешен доклад | Минимален риск |
| Използване на чатбот за обслужване на клиенти | Задължения за прозрачност |
| Създаване на рекламни изображения | Възможни изисквания за етикетиране |
| Класифициране или отхвърляне на кандидати за работа | Потенциално висок риск |
| Разпознаване на емоциите на служители на работното място | Категорично забранено |
Следователно една и съща технология с ИИ може да попадне в различни рискови категории в зависимост от контекста, в който се използва.
Някои приложения на ИИ са забранени, тъй като създават неприемлив риск за безопасността, поминъка и основните права на хората. Сред тях са определени форми на вредни манипулации и измами, основани на ИИ, социалният рейтинг и вредното използване на уязвимостите на определени лица или групи. Разпознаването на емоции на работното място също по правило е забранено, с изключение на ограничени случаи, свързани с медицински цели или безопасност. Тези ограничения се прилагат от 2 февруари 2025 г.
Системите с ИИ могат да бъдат класифицирани като високорискови, когато се използват в чувствителни области като подбора на персонал, управлението на служители, образованието, оценката на кредитоспособността, основните услуги и критичната инфраструктура.
Не всеки процес, подпомаган от ИИ в тези области, автоматично се счита за високорисков. Например инструмент за човешки ресурси, който извлича имена и квалификации от автобиографии, може да бъде третиран по различен начин от система, която автоматично класира и отхвърля кандидати.
За високорисковите системи се прилагат по-строги изисквания, свързани с управлението на риска, качеството на данните, документацията, проследимостта, човешкия надзор, точността, надеждността и киберсигурността.
Правилата за високорисковите системи с ИИ, вградени в определени регулирани продукти, ще се прилагат от 2 август 2028 г. Допълнителна информация е достъпна в Насоки на Европейската комисия относно системите за изкуствен интелект с висок риск предоставя допълнителна информация.
От 2 август 2026 г. за определени системи с ИИ се прилагат специални изисквания за прозрачност. Когато клиентите общуват директно с чатбот или виртуален асистент, те трябва да бъдат информирани ясно и своевременно, че взаимодействат със система с ИИ, освен ако това не е очевидно.
Възможно е да се наложи да се оповестяват и „дипфейкове“, както и определено съдържание, генерирано от изкуствен интелект или подложено на значителна манипулация. Повече информация можете да намерите в Насоки на Европейската комисия относно съдържанието, генерирано от изкуствен интелект.
Обичайните инструменти за редактиране на текст, превод, обобщаване на документи и генериране на идеи по правило се считат за системи с минимален или никакъв риск. Въпреки това предприятията трябва да продължат да спазват изискванията, свързани със защитата на личните данни, поверителността, киберсигурността, авторското право и трудовото законодателство.
От 2 февруари 2025 г. доставчиците и внедрителите са длъжни да предприемат мерки за осигуряване на достатъчно ниво на грамотност в областта на ИИ сред служителите и другите лица, които използват системи с ИИ от тяхно име.
Не е необходимо служителите да бъдат технически експерти. Обучението трябва да бъде съобразено с техните отговорности и опит, използваната система с ИИ и възможното ѝ въздействие върху засегнатите лица.
Служителите трябва да разбират, че резултатите, генерирани от ИИ, могат да бъдат неточни, че важните резултати изискват човешка проверка и че поверителна информация не трябва да се въвежда в неодобрени системи. Те следва също да знаят кога съдържанието, генерирано с ИИ, трябва да бъде обозначено и как да докладват инцидент или неизправност.
Предприятията трябва да съхраняват подходящи доказателства за проведените обучения.
Идентифицирайте одобрените системи и публичните инструменти, които служителите могат да използват самостоятелно. Документирайте тяхното предназначение, доставчика, обработваните данни и влиянието им върху решения, засягащи физически лица.
За всяка система установете дали предприятието действа като доставчик, внедрител, вносител, дистрибутор или производител на продукт, който включва ИИ. Приложимите отговорности зависят от конкретната роля.
Преценете дали системата подпомага решения, свързани със заетостта, оценката на кредитоспособността, биометричния анализ, комуникацията с клиенти или публичното съдържание. Подобни случаи може да изискват по-задълбочена оценка.
Политиката трябва да определя одобрените инструменти и разрешените начини на използване, информацията, която може да бъде въвеждана, случаите, изискващи човешка проверка, както и процедурата за одобряване на нови системи. Тя следва също да обхваща обозначаването на съдържание, докладването на инциденти и отговорността за окончателните решения.
Обучението трябва да бъде съобразено с рисковете, пред които са изправени различните отдели. Маркетинговите екипи може да се нуждаят от насоки относно обозначаването на съдържание и авторското право. Екипите по човешки ресурси трябва да разбират рисковете от дискриминация и необходимостта от човешки надзор. Служителите в областта на счетоводството и финансите следва да бъдат обучени по въпросите на поверителността, професионалната тайна и обработването на клиентска информация.
Предприятията следва да изискват ясна информация относно предназначението на системата, нейната рискова класификация, ограниченията, практиките за обработване на данни, мерките за сигурност и документацията за съответствие. Общото твърдение, че даден продукт „съответства на Законодателния акт за ИИ“, не следва да замества извършването на подходяща комплексна проверка.
Дружествата, предоставящи професионални услуги, редовно обработват финансови документи, договори, лични данни и чувствителна търговска информация. Качването на такава информация в публичен или неодобрен инструмент с ИИ може да създаде рискове във връзка със защитата на данните, задълженията за поверителност и приложимите професионални стандарти.
Предприятията трябва да използват одобрени корпоративни системи, да ограничават достъпа в съответствие със служебните отговорности и да анонимизират информацията, когато това е целесъобразно. Оригинални клиентски документи не трябва да бъдат качвани в публични инструменти с ИИ без валидно правно основание, подходящи защитни мерки и вътрешно одобрение.
Човешкият надзор също остава от съществено значение. ИИ може да подпомага проучването, изготвянето на текстове и анализа, но отговорният специалист следва да провери точността, уместността и пълнотата на крайния резултат.
За повечето предприятия Законодателният акт за ИИ не означава отказ от инструменти като ChatGPT или Copilot. По-същественият практически риск е използването на ИИ, без организацията да знае кои системи се използват, каква информация въвеждат служителите или дали автоматизираните резултати влияят върху важни решения, засягащи хората.
Разумна отправна точка е създаването на регистър на системите с ИИ, оценяването на начина, по който те се използват, установяването на ясни вътрешни правила и осигуряването на практическо обучение за служителите. Тези мерки могат да помогнат на предприятията да се възползват от възможностите на ИИ, като същевременно защитават поверителната информация, осигуряват подходящ човешки надзор и се подготвят за следващите етапи от прилагането на Законодателния акт на ЕС за изкуствения интелект.
TGS Bulgaria може да подпомогне предприятията при прегледа на техните вътрешни процеси и оценката на финансовите, организационните и регулаторните последици, свързани с професионалното използване на изкуствен интелект.
