И во Европската Унија и во Обединетото Кралство законодавците и регулаторите ги преработуваат правните рамки, така што иновациите во синџирот на снабдување не ја надминуваат одговорноста. Централно прашање е чија е одговорноста кога ВИ и роботите предизвикуваат штета?
Пишува: Бобан Младеновски, менаџер за транспорт во „Теско“
Секторите FMCG и логистика се преобликуваат со вештачка интелигенција (ВИ), машинско учење (ML), роботика и автоматизација. Во исто време, тие воведуваат нови правни прашања: кој е одговорен кога автоматизиран систем ќе откаже, како треба да се обезбеди безбедноста, како мора да се ракува со податоците и што се случува кога алгоритмите произведуваат неправедни или штетни резултати? И во Европската Унија и во Обединетото Кралство законодавците и регулаторите сега ги преработуваат правните рамки, така што иновациите во синџирот на снабдување не ја надминуваат одговорноста. Централно прашање е одговорноста кога ВИ и роботите предизвикуваат штета. Според сегашниот закон, самите системи со ВИ не можат да бидат тужени; одговорноста паѓа на човечки правни субјекти како што се производители, увозници, оператори или работодавци. Во практика, тоа значи дека компанија за FMCG што користи робот за магацини овозможен од ВИ, алатка за рутирање или автономно возило за испорака може да биде одговорна ако нешто тргне наопаку, дури и ако непосредната „одлука“ е донесена од софтвер.
Законски правила на игра во Европа
Европската Унија отиде најдалеку. Нејзиниот Закон за вештачка интелигенција, усвоен во 2024 година и постепено воведуван во текот на наредните години, е првата сеопфатна регулатива за вештачката интелигенција. Тој применува пристап базиран на ризик, класифицирајќи ја употребата на вештачката интелигенција во категории од минимален до висок ризик и наметнувајќи обврски соодветно. Многу апликации во синџирот на снабдување веројатно ќе бидат со висок ризик, на пример, вештачката интелигенција што се користи како безбедносна компонента во машините, вештачката интелигенција што контролира автономни возила во логистиката или системите за вештачка интелигенција што се користат за следење и управување со работниците. За овие системи, давателите на услуги и корисниците мора да спроведат формално управување со ризици, ригорозно тестирање, робусно управување со податоци за да се избегне пристрасност, обемна техничка документација, мерки за транспарентност и значаен човечки надзор. Паралелно, ЕУ го модернизира својот режим за одговорност за производи. Ревидираната Директива за одговорност за производи, договорена во 2024 година, експлицитно ги вклучува софтверот, вештачката интелигенција и дигиталните услуги во дефиницијата за „производ“. Клучно е што законот прифаќа дека производите овозможени со вештачка интелигенција можат да се променат откако ќе се пласираат на пазарот. Ревидираните правила го прошируваат кругот на потенцијално одговорни страни за да вклучат увозници, дистрибутери, па дури и компании кои значително ги модифицираат производите, како на пример со инсталирање нов софтвер за вештачка интелигенција на постоен хардвер. Тие, исто така, воведуваат претпоставки и права за пристап до технички докази кои се поволни за подносителите на барањата во сложени случаи на вештачка интелигенција, олеснувајќи им на оштетените страни да докажат дефект и причинско-последична врска.
Законската регулатива во Велика Британија
Општата регулатива за заштита на податоци (GDPR) и еквивалентниот режим на Велика Британија наметнуваат строги контроли врз обработката на личните податоци, што е централно за многу алатки за предвидување и оптимизација. Системите со вештачка интелигенција со висок ризик според Законот за вештачка интелигенција веќе мора да бидат дизајнирани имајќи ја предвид усогласеноста со GDPR. Директивата NIS2 и претстојниот Закон за сајбер-отпорност ги заоструваат правилата за сајбер-безбедност, правејќи ги безбедниот дизајн, одржувањето и пријавувањето инциденти законска обврска за многу оператори и добавувачи. Новата регулатива за машини, која ќе се применува од 2027 година, ги ажурира безбедносните барања за машини што вклучуваат вештачка интелигенција или дигитална контрола.
Велика Британија нема директен еквивалент на Законот за вештачка интелигенција и наместо тоа, следи пристап „проиновативен“ кој ѝ дава приоритет на флексибилноста. Белата книга на владата за регулирање на вештачката интелигенција од март 2023 година ги утврдува меѓусекторските принципи, како што се безбедноста, транспарентноста и праведноста, но спроведувањето во голема мера им го препушта на постојните регулатори. Канцеларијата на комесарот го надгледува користењето на личните податоци од страна на вештачката интелигенција според GDPR на Велика Британија и Законот за заштита на податоците. Извршната власт за здравје и безбедност ги применува долгогодишните обврски за безбедност на работното место на новата роботика и автоматизирани системи. Управата за конкуренција и пазари ги разгледува цените и однесувањето на пазарот водени од вештачката интелигенција според Законот за конкуренција. Судовите сè уште решаваат спорови според општата небрежност, договорното право и законот за производи.
Сепак, законот на Велика Британија не е статичен. Правилата за одговорност за производи се во фаза на преглед. Основниот статут, Законот за заштита на потрошувачите од 1987 година, е изграден врз основа на Директива на ЕУ од 1985 година и не опфаќа јасно самостоен софтвер или чисто дигитални системи за вештачка интелигенција. Правните коментатори и владата признаа дека можеби не ги заштитува соодветно луѓето оштетени од вештачката интелигенција и другите нови технологии. Во 2025 година Комисијата за право почна проект за разгледување реформи. Опциите вклучуваат експлицитно дефинирање на софтверот и вештачката интелигенција како „производи“, разјаснување кој се смета за производител во сложените синџири на снабдување со вештачка интелигенција и воведување доказни претпоставки за да им се помогне на подносителите на барањата во докажувањето на дефектот и причинско-последичната врска. Препораките што се очекува да стапат во сила во 2026 година би можеле да доведат до значајни законски промени, приближувајќи ја одговорноста на Велика Британија до ажурираниот модел на ЕУ, а воедно приспособувајќи ја на домашните преференции.
Велика Британија, исто така, ажурира специфични области, особено автономни возила. Законот за автоматизирани и електрични возила од 2018 година веќе ги прави осигурителните компании одговорни во прв степен за несреќи предизвикани кога возилото се вози само. Ова е директно релевантно за логистичките и FMCG-фирмите кои можат да распоредат самоуправувачки комбиња или камиони за испорака. За беспилотни летала, роботи за складирање и други автономни уреди, Велика Британија моментално се потпира на постојните закони за воздухопловство и здравје и безбедност.
Законот за безбедност на работното место останува целосно применлив во ерата на роботите и автоматизираните магацини. Работодавците мора да ги проценат и ублажат ризиците создадени од роботите и опремата контролирана од вештачка интелигенција, да обезбедат обука и да обезбедат соодветни физички и процедурални заштитни мерки. Сајбер-безбедноста стана дел од безбедноста и усогласеноста на производите бидејќи мрежните уреди и контролорите на вештачката интелигенција можат да бидат компромитирани; неуспехот да се поправат познатите ранливости или да се заштитат контролните системи може да доведе до регулаторни санкции и граѓанска одговорност.
Како компаниите ги обезбедуваат инвестициите?
Компаниите што купуваат системи управувани од вештачка интелигенција ги ревидираат договорите за да вклучат гаранции за усогласеност со сите релевантни закони, гаранции за перформанси, нивоа на услуга за време на работа, детални обврски за пријавување инциденти и јасни ограничувања или обесштетувања во врска со дефекти поврзани со вештачката интелигенција. Тие, исто така, бараат права на транспарентност или пристап до ревизија, особено кога мора да покажат усогласеност со регулативите. Спротивно на тоа, добавувачите на технологија ги усовршуваат своите услови за да управуваат со сопствената изложеност. Во ЕУ, договорните аранжмани мора да се усогласат со распределбата на одговорностите во Законот за вештачка интелигенција; во Велика Британија, тие ја пополнуваат празнината што ја остава отсуството на единствен закон за вештачка интелигенција.
За компаниите за широка потрошувачка и логистика, практичната порака е јасна. Вештачката интелигенција и автоматизацијата можат да донесат значителни конкурентски предности, но тие доаѓаат со проширен сет на законски должности. Во ЕУ, фирмите мора да го третираат управувањето со вештачката интелигенција како основна функција за усогласеност, заедно со заштитата на податоците и безбедноста на производите, имплементирајќи процени на ризик, документација, човечки надзор и следење по пуштањето на пазарот за системи со висок ризик. Во Велика Британија, компаниите не треба да бидат занемарени од отсуството на Закон за вештачка интелигенција; регулаторите ќе ги спроведуваат постојните закони против небезбедни, дискриминаторски или употреби на вештачка интелигенција што ја нарушуваат приватноста, а на повидок се и реформи на правилата за одговорност. Во двата система, оние што рано инвестираат во робусно управување со вештачката интелигенција, јасност на договорите, обука на персоналот и соодветно осигурување ќе бидат во најдобра позиција да ја искористат автоматизацијата, а воедно да управуваат со правниот ризик. Оние што ја прифаќаат вештачката интелигенција без да ги разбираат овие еволуирачки правни рамки ризикуваат да станат рани тест-случаи во судовите.
