1. Вовед: Што е одговорност за вештачка интелигенција и зошто е важна?

Кога вештачката интелигенција прави грешки, различни страни може да бидат одговорни: развивачи на вештачка интелигенција, корисници, производители или даватели на услуги. Во ова упатство, ќе научите кој е одговорен кога, кои закони се применуваат и како можете да ги ограничите ризиците од одговорност.

Вештачката интелигенција (ВИ) игра поголема улога во нашето општество од кога било досега. Оваа технологија не само што носи многу придобивки, туку и правни предизвици, особено во областите на регулација, одговорност и етички размислувања. Од медицински дијагнози до финансиски одлуки, системите со ВИ сè повеќе преземаат задачи од луѓето. Но, што се случува ако системот со ВИ предизвика штета? Кој е одговорен за последиците? Една од главните загрижености со употребата на ВИ во здравствената заштита е кој е одговорен за какви било грешки. Примената на ВИ во здравствената заштита покренува правни прашања за тоа кој е одговорен за погрешни дијагнози или неточни третмани.

Ова прашање станува сè порелевантно бидејќи вештачката интелигенција ги трансформира секторите како што се здравството, транспортот и финансиите. Иако вештачката интелигенција нуди огромни можности, таа исто така носи нови ризици од одговорност што ја предизвикуваат сегашната законска рамка. Правниот контекст за одговорноста за вештачката интелигенција е сложен и бара разјаснување на постојното законодавство. Европската Унија работи на хармонизирање на одговорноста. закон за технологиите за вештачка интелигенција, при што Европскиот парламент игра важна улога како иницијатор на нови регулативи.

Во оваа статија, го разгледуваме целокупниот правен пејзаж околу одговорноста за вештачка интелигенција, од договорна одговорност до одговорност за производи, практични примери од холандската судска пракса и конкретни чекори за ограничување на ризиците од одговорност. И покрај брзиот развој, примената на вештачката интелигенција во многу сектори е сè уште во повој, што значи дека регулативите и практичната имплементација сè уште се развиваат.

2. Разбирање на одговорноста за вештачката интелигенција: Клучни концепти и дефиниции

2.1 Клучни дефиниции

Одговорност за вештачка интелигенција е законска одговорност за штета предизвикана од употребата на системи со вештачка интелигенција. Вештачката интелигенција е законски дефинирана како системи кои автономно толкуваат податоци, учат од тие податоци, а потоа извршуваат одлуки или дејствија без директна човечка контрола. Концептот на „дефект“ за производите со вештачка интелигенција мора да ја вклучи можноста производот да не успее по продажбата поради својства на самостојно учење. Одговорноста за производот сега мора да ги земе предвид и можностите за самостојно учење на вештачката интелигенција при проценката на дефектноста. Сегашната Директива за одговорност за производи од 1985 година не е соодветна за производите со вештачка интелигенција.

Синоними и сродна терминологија:

• Строга одговорностодговорност без доказ за вина
• Одговорност за производодговорност на производителите за неисправни производи
• Договорна одговорност: штета што произлегува од договорен однос
• Квалитативна одговорностодговорност врз основа на квалитетот на обезбедениот производ или услуга

Договорните спогодби во голема мера ја одредуваат распределбата на одговорностите и обврските меѓу страните. Можностите за надомест на штета врз основа на договорна одговорност во голема мера зависат од специфичната улога на вештачката интелигенција.

Про Совет: Разберете што значи вештачката интелигенција правно пред да се осврнете на одговорноста. Системите со вештачка интелигенција се разликуваат од традиционалниот софтвер по нивните можности за самостојно учење и автономно донесување одлуки.

2.2 Односи меѓу концептите

Одговорноста за вештачка интелигенција се однесува на различни правни концепти и законска регулатива:

Едноставна мапа на врски:

Грешка во вештачката интелигенција → се јавува штета → причинско-последична врска → се утврдува одговорност → следува компензација
Закон за вештачка интелигенција → безбедносни обврски → непочитување → зголемена одговорност
Одговорност за производот → дефектен производ → одговорен производител → автоматска компензација

Граѓанскиот законик (член 6:162 BW) ги регулира деликтни дела, додека Директивата за одговорност за производи се однесува конкретно на неисправни производи. Новиот Закон за вештачка интелигенција додава дополнителни обврски за високоризични системи за вештачка интелигенција. На 28 септември 2022 година, Европската комисија презентираше нови нацрт-директиви за одговорност за вештачка интелигенција. Новите директиви бараат производителите полесно да бидат одговорни за штета предизвикана од вештачка интелигенција.

3. Зошто одговорноста за вештачката интелигенција е клучна во дигиталната економија

Јасните правила за одговорност за вештачката интелигенција се од суштинско значење за јавно прифаќање и одговорни иновации. Без јасност, жртвите на грешки во вештачката интелигенција може да останат без правна заштита, додека програмерите се соочуваат со несигурност во врска со нивните правни ризици. Недостатокот на јасна правна одговорност за вештачката интелигенција води до правна несигурност, што резултира со тоа што жртвите можеби нема да можат да добијат надомест, а компаниите се неподготвени да воведуваат иновации. Европската Унија работи на хармонизирање на законот за одговорност за технологиите за вештачка интелигенција.

Конкретни придобивки од јасна законска рамка:

• Заштита за жртвите на грешки од вештачката интелигенција
• Стимулација за безбеден развој на нови технологии
• Доверба меѓу потрошувачите и бизнисите
• Еднакви услови за развивачите на вештачка интелигенција

Според истражувањето на Европската комисија, нејасната одговорност за вештачката интелигенција може да ги забави иновациите, а бројот на барања за штети поврзани со вештачката интелигенција се дуплираше помеѓу 2020 и 2022 година, особено во финансискиот сектор и здравствената заштита. Кога една страна претрпи штета затоа што системот на вештачката интелигенција прави грешки, тоа може да доведе до сложени барања за отштета и судски постапки.

Статистички податоци:

• 60% од бизнисите се двоумат да имплементираат вештачка интелигенција поради ризици од одговорност, а практичната употреба на вештачката интелигенција покренува дополнителни правни прашања.
• Медицинските грешки со вештачка интелигенција сочинуваат 40% од сите барања поврзани со вештачка интелигенција
• Законот на ЕУ за вештачка интелигенција се однесува на 15% од сите апликации за вештачка интелигенција (системи со висок ризик) и компаниите се обврзани да ги почитуваат овие регулативи.

Корисниците можат да очекуваат системите со вештачка интелигенција да функционираат безбедно и сигурно, споредливо со човечките перформанси или други технологии. Сепак, ризикот дека вештачката интелигенција ќе прави грешки со големо влијание останува, што ја нагласува важноста на јасните правила за одговорност.

4. Преглед на одговорните страни и правните инструменти

Важечко законодавство за секоја ситуација:

• Медицинска вештачка интелигенција: Закон за вештачка интелигенција + прописи за медицинска одговорност; се применуваат релевантни закони и прописи како што е Законот за безбедност на мрежи и информациски системи (Wbni)
• Автономни возила: Закон за сообраќај на патиштата + одговорност за производи
• Финансиска вештачка интелигенција: Wft + правила за управување со алгоритмот
• Општи апликации за вештачка интелигенција: Граѓански законик + Закон за вештачка интелигенција

При класификација на системите со вештачка интелигенција, се поставува прашањето дали софтверот со вештачка интелигенција може да се смета за движен имот, со оглед на неговата нематеријална природа и сложена функционалност.

Правните услуги во областа на вештачката интелигенција сè повеќе спаѓаат во рамките на новата област на правото за вештачка интелигенција.

5. Системи со вештачка интелигенција: Видови, функционирање и релевантност за одговорност

Системите за вештачка интелигенција се едни од највлијателните нови технологии на нашето време и играат сè поважна улога во широк спектар на сектори. Овие системи се движат од генеративна вештачка интелигенција, која може самостојно да креира текст, слики или друга содржина, до нематеријален софтвер кој врши сложени анализи или донесува одлуки врз основа на големи количини на податоци. Она што ги карактеризира овие системи е нивната способност да учат од податоци и да работат автономно, честопати без директна човечка контрола.

Системите со вештачка интелигенција се многу релевантни за одговорноста бидејќи можат да предизвикаат штета на уникатни начини. Затоа, Европската комисија предложи Директива за одговорност за вештачка интелигенција, која конкретно се однесува на одговорноста за штета предизвикана од системите со вештачка интелигенција. Додека не стапи во сила ова ново законодавство, мора да се потпираме на постојното национално законодавство и Директивата за одговорност за производи, која првично беше дизајнирана за материјални производи, но сега се применува и на нематеријален софтвер и апликации со вештачка интелигенција.

Еден од најголемите предизвици во однос на одговорноста за вештачка интелигенција е докажувањето на причинско-последичната врска помеѓу системот за вештачка интелигенција и штетата. Поради можностите за самостојно учење и честопати ограничената транспарентност на системите за вештачка интелигенција, не е секогаш јасно дали грешка или дефект може директно да се припише на системот. Ова го отежнува утврдувањето дали производот е неисправен во смисла на Директивата за одговорност за производи, особено во случај на генеративна вештачка интелигенција и други форми на нематеријален софтвер.

Квалитативната одговорност за неисправни производи останува важен принцип. Според Директивата за одговорност за производи, производот мора да ги исполнува безбедносните стандарди што може да се очекуваат. Сепак, со системите за вештачка интелигенција, не е секогаш јасно што точно се тие очекувања, особено ако системот продолжува да се развива откако ќе биде ставен во употреба. Начинот на кој е дизајниран, тестиран и одржуван системот за вештачка интелигенција, упатствата за употреба и дадените предупредувања и степенот до кој корисниците се свесни за ризиците се релевантни фактори при проценка на одговорноста.

Прецедентната пракса на Европскиот суд на правдата и Врховниот суд за одговорност за производи нуди одредени насоки, но нејзината примена во системите за вештачка интелигенција сè уште не е целосно воспоставена. Постојните директиви и националното законодавство понекогаш не успеваат да ги адресираат уникатните ризици од вештачката интелигенција, создавајќи потреба од ново законодавство и јасна прецедентна пракса.

Накратко, развојот и примената на системите со вештачка интелигенција нудат огромни можности, но исто така носат и нови правни предизвици. Од суштинско значење е правната рамка да биде во чекор со технолошкиот развој, така што одговорноста за штета предизвикана од системите со вештачка интелигенција може да се регулира на фер и ефикасен начин. Дотогаш, останува важно компаниите и корисниците на вештачка интелигенција да бидат внимателни за тоа како ги распоредуваат системите со вештачка интелигенција и внимателно да управуваат со ризиците.

6. Чекор-по-чекор водич за утврдување на одговорност за вештачка интелигенција

Чекор 1: Идентификувајте ја грешката и штетата на вештачката интелигенција

Пред да започнете, утврдете:

• Која специфична одлука или резултат од вештачката интелигенција предизвика штета?
• Дали има директна финансиска, физичка или нематеријална штета?
• Кога се случила штетата и под какви околности?

Контролна листа за утврдување на штета: 

□ Документирајте ја одлуката за вештачка интелигенција или погрешниот резултат

□ Соберете докази за претрпената штета

□ Воспоставете временска рамка на настаните

□ Идентификувајте ги сите вклучени страни

□ Зачувајте ги релевантните договори и услови за користење

Пример сценарио: Вештачка интелигенција за регрутирање неправедно ги отфрла кандидатите врз основа на дискриминаторски критериуми, предизвикувајќи економска штета на барателите на работа.

Чекор 2: Одредете ја применливата форма на одговорност

Изберете договорна одговорност кога:

• Постои договорен однос меѓу страните
• Добавувачот на вештачка интелигенција обезбедил специфични гаранции
• Употребата е во рамките на договорените параметри

Изберете одговорност за производот кога:

• Системот за вештачка интелигенција спаѓа под дефиницијата за „производ“
• Има дефект во маркетингот
• Штетата е предизвикана од неисправен производ

Изберете одговорност за деликт кога:

• Не постои договорен однос
• Корисникот на вештачка интелигенција дејствувал небрежно
• Имаше прекршување на обврската за грижа

Препорачани правни инструменти:

• Консултирајте се со специјализирани адвокати за вештачка интелигенција
• Користете контролни листи за усогласеност со Законот за вештачка интелигенција
• Консултирајте се со осигурителни компании за покритие

Чекор 3: Соберете докази и утврдете одговорност

Собирање докази за одговорност за вештачка интелигенција:

• Технички докази: логови, документација за алгоритми, податоци за обука
• Доказ за процесот: упатства за користење, процедури за имплементација
• Доказ за штета: финансиско влијание, медицински извештаи, експертски мислења

Метрики за успешни барања за одговорност:

• Комплетност на документацијата (најмалку 80% од релевантните податоци)
• Јачина на причинско-последичната врска (научно поткрепена)
• Јасност на обемот на штетата (квантифицирано влијание)

Причинско-последичната врска помеѓу грешката во вештачката интелигенција и штетата е клучна. Со сложени системи на вештачка интелигенција („црна кутија за вештачка интелигенција“), ова може да биде технички предизвик, но предложената Директива за одговорност за вештачка интелигенција се обиде да воведе обратен товар на докажување за ова.

7. Чести грешки во одговорноста за вештачка интелигенција

Грешка 1: Нејасни договорни одредби за употреба на вештачка интелигенција Многу договори не содржат специфични клаузули за одговорност за вештачка интелигенција, што создава неизвесност околу тоа кој е одговорен во случај на грешки.

Грешка 2: Недоволна документација за одлуките на вештачката интелигенција
Компаниите честопати не водат соодветни евиденции и процеси на донесување одлуки, што го отежнува докажувањето или побивањето на одговорноста.

Грешка 3: Игнорирање на обврските од Законот на ЕУ за вештачка интелигенција Организациите што работат со системи со вештачка интелигенција со висок ризик честопати ги занемаруваат новите обврски во врска со транспарентноста, документацијата и управувањето со ризици пропишани со Законот за вештачка интелигенција.

Про Совет: Избегнете ги овие грешки со однапред воспоставување јасно управување со вештачката интелигенција, изменување на договорите со експлицитни клаузули за вештачка интелигенција и проактивно организирање на усогласеноста со Законот за вештачка интелигенција. Инвестирајте во добра документација и следливост на одлуките за вештачка интелигенција.

8. Практичен пример: Медицинска грешка со вештачка интелигенција во холандска болница

Студија на случај: „Болницата X избегна одговорност за дијагностичка грешка со вештачка интелигенција преку соодветни договорни спогодби“

Почетна состојба: Систем за радиологија со вештачка интелигенција во холандска болница пропуштил дијагноза на рак во рана фаза, што резултирало со одложено лекување на пациентот. Пациентот побарал отштета и од болницата и од добавувачот на вештачка интелигенција.

Преземени чекори:

1. Анализа на договоротБолницата експлицитно пропишала дека вештачката интелигенција треба да се користи само за поддршка.
2. Доказ за процесотДокументацијата покажа дека конечната одлука ја донел радиолог
3. Техничко истражувањеДоставувачот на вештачка интелигенција докажа дека системот функционира во рамките на спецификациите
4. Правна стратегијаАпел за стандардни медицински процедури и човечка одговорност

Конечни резултати:

• ОдговорностНа крајот, доделено на радиологот што го лекува
• НадоместПокриено со осигурување од медицинска одговорност
• Договорно влијаниеДобавувачот на вештачка интелигенција е ослободен од побарувања
• Оптимизација на процесотПодобрени протоколи за поддршка на вештачка интелигенција

Правни лекции: Овој случај ја покажува важноста на јасните договорни спогодби и одржувањето на крајната човечка одговорност за критичните апликации на вештачката интелигенција во медицинскиот сектор.

9. Често поставувани прашања за одговорноста за вештачка интелигенција

Прашање 1: Кој е одговорен ако автомобилите што се управуваат сами предизвикаат несреќа? Ова зависи од нивото на автоматизација и околностите. Во случај на целосно автономни автомобили со самостојно управување, кои можат да работат без човечка интервенција, производителот е обично одговорен, додека во случај на полуавтономни системи, возачот останува крајно одговорен за соодветен надзор.

Прашање 2: Дали важат различни правила за медицинската вештачка интелигенција отколку за комерцијалната вештачка интелигенција? Да, медицинската вештачка интелигенција е предмет на специфични прописи како што е MDR (Регулатива за медицински помагала) и има построги безбедносни барања. Законот за вештачка интелигенција, исто така, ја категоризира медицинската вештачка интелигенција како „висок ризик“, што подразбира дополнителни обврски за транспарентност и документација.

Прашање 3: Што значи Законот на ЕУ за вештачка интелигенција за одговорноста? Законот за вештачка интелигенција воведува нови обврски за грижа за високоризичните системи со вештачка интелигенција. Прекршувањето на овие обврски може да доведе до зголемена одговорност. Исто така, ги зголемува барањата за транспарентност, што може да го олесни презентирањето докази во случај на штета.

Прашање 4: Како да докажам дека софтверот за вештачка интелигенција е неисправен? Мора да покажете дека системот за вештачка интелигенција не ги исполнува разумните безбедносни очекувања. Ова често бара техничка експертиза и документација на податоци за обука, алгоритми и резултати од тестови. Предложеното префрлање на товарот на докажување во Директивата за одговорност за вештачка интелигенција би го поедноставило овој процес.

10. Заклучок: Клучни точки за одговорност за вештачка интелигенција

5 клучни точки за одговорност кон вештачката интелигенција во пракса:

1. Повеќе страни може да бидат одговорниод програмери до крајни корисници, во зависност од нивната улога и контрола врз системот со вештачка интелигенција
2. Договорните договори се неопходниЈасните одредби за употреба на вештачка интелигенција спречуваат правни двосмислености
3. Документацијата е клучнадоброто евидентирање и следење на одлуките од вештачката интелигенција ја зајакнува вашата правна позиција
4. Усогласеноста со Законот за вештачка интелигенција е задолжителнаНовите европски регулативи создаваат дополнителни обврски за грижа за системите со висок ризик
5. Осигурувањето нуди заштитаспецифично осигурување од одговорност за вештачка интелигенција ги покрива ризиците што традиционалните полиси не ги покриваат

Правниот пејзаж околу одговорноста за вештачка интелигенција брзо се развива. Со повлекувањето на Директивата за одговорност за вештачка интелигенција и стапувањето во сила на Законот за вештачка интелигенција, останува важно да се следат правните случувања и проактивно да се организира усогласеноста и управувањето со ризици.

Следните чекори:

• Нека вашите договори за вештачка интелигенција бидат законски прегледани и изменети
• Спроведување на процедури за управување со вештачката интелигенција во согласност со Законот за вештачка интелигенција
• Истражете специфично осигурување од одговорност за вештачка интелигенција за вашата организација
• Консултирајте се со специјализирани адвокати за сложени имплементации на вештачка интелигенција

Со проактивно справување со одговорноста за вештачката интелигенција, можете да ги искористите придобивките од вештачката интелигенција, а воедно да управувате со правните ризици.