Кога системот за вештачка интелигенција донесува пристрасни одлуки при вработување, кредитно бодување или дури и проверки на усогласеноста, кој е правно одговорен? Овој водич нуди јасна мапа на патот за холандските бизниси да се движат низ сложениот свет на одговорност за алгоритамска пристрасностЌе се оддалечиме од техничкиот жаргон за да стигнеме до сржта на правните и финансиските ризици со кои се соочува вашата компанија.

Скриените ризици во вашите системи со вештачка интелигенција

Многу бизниси се потпираат на автоматизирани системи за ефикасност, од софтвер за следење на апликанти до ботови за услуги на клиентите. Иако овие алатки ветуваат зголемување на продуктивноста, тие исто така носат скриени правни ризици. Ако алгоритмот е изграден врз пристрасни податоци или погрешна логика, тоа може да доведе до дискриминаторски исходи што ја изложуваат вашата компанија на значителна одговорност.

Замислете алгоритам за вработување кој учи од историските податоци на вашата компанија. Ако минатите практики за вработување ненамерно фаворизирале одредени кандидати, вештачката интелигенција ќе научи и ќе ја реплицира оваа пристрасност, систематски намалувајќи го рангирањето на подеднакво квалификуваните кандидати. Ова не е само хипотетички проблем; тоа е правен предизвик од реалниот свет што може да резултира со скапи тужби и сериозна штета на угледот на вашата компанија.

Разбирање на вашата изложеност

Правниот пејзаж се развива за да се справи со овие нови технолошки предизвици. Концептот на одговорност за алгоритамска пристрасност не е сосема нов; тој се темели на воспоставени правни принципи, кои сега се применуваат во автоматизираното донесување одлуки. Изложеноста на вашата компанија може да произлезе од неколку клучни области:

• Холандски закон за деликтни дела: Доколку пристрасната одлука на вештачката интелигенција предизвика докажана штета, вашата компанија може да биде одговорна за небрежност (онрехтматиге даад). Ова вклучува и неправилно проверување, тестирање или следење на системите што ги користите.

• Прекршувања на GDPR: Општата регулатива за заштита на податоци (GDPR) има специфични правила за автоматизирано донесување одлуки (член 22), нагласувајќи ја праведноста и транспарентноста. Казните за непочитување можат да бидат значителни, достигнувајќи до 4% од вашиот глобален годишен промет.

• Закони за антидискриминација: Холандскиот закон строго забранува дискриминација врз основа на заштитени карактеристики како што се пол, етничка припадност или возраст. Алгоритам што произведува дискриминаторски резултати, дури и ако е ненамерен, ги крши овие фундаментални закони.

Високите ризици од алгоритамски неуспех

Последиците од ова погрешно постапување не се само теоретски. Холанѓаните Тоеслагенафаер (скандал со детски додатоци) служи како силно предупредување. Алгоритам што го користеле даночните власти погрешно пријавил илјадници семејства за измама, многу од нив од малцинско потекло, што довело до финансиска пропаст и национална криза.

Овој случај покажа дека „системот направил грешка“ не е валидна правна одбрана. Организациите се одговорни за резултатите произведени од технологиите што ги избираат да ги користат, што го прави проактивното управување од суштинско значење.

Овој водич е наменет за бизнис лидери и менаџери, а не за научници за податоци. Ќе обезбедиме практични, акциони стратегии за идентификување на скриени предрасуди, разбирање на вашите законски обврски според холандското и европското право и изградба на рамка за управување што ја штити вашата фирма и поттикнува одговорни иновации.

Што значи алгоритамската пристрасност за вашиот бизнис

Замислете го вашиот систем за вештачка интелигенција како ученик кој учи од пристрасна библиотека. Ако книгите се полни со застарени стереотипи или едноставно не ги претставуваат сите праведно, разбирањето на светот од страна на тој ученик ќе биде искривено. Не е изненадувачки што нивните одлуки ќе ги одразуваат истите предрасуди. Ова е алгоритамска пристрасност накратко: дигитално ехо на човечка пристрасност, но засилено со обем и брзина што луѓето никогаш не би можеле да ја достигнат.

За вашиот бизнис, ова не е апстрактен техничко прашање. Тоа е директен пат до сериозни правни и финансиски проблеми. Кога вашиот модел на вештачка интелигенција, хранет врз основа на неточни податоци или изграден со лоши избори на дизајн, произведува дискриминаторски резултати, вашата организација може и ќе биде одговорна според холандскиот закон.

Од техничка грешка до правна одговорност

Суштината на проблемот е во тоа што алгоритам кој на прв поглед изгледа неутрален може да произведе длабоко дискриминаторски резултати. Автоматизираниот систем не бара злонамерна намера за да предизвика штета; во очите на законот, неговиот влијание е она што е важно. Ова создава директна врска помеѓу техничкиот проблем и правниот.

Според холандското право за деликт, ова е познато како онрехтматиге даад (незаконско дело). Ако пристрасната одлука на вашиот систем за вештачка интелигенција предизвика штета - да речеме, со неправедно отфрлање на апликација за кредит или со исклучување на квалификуван кандидат за работа - вашата компанија може да биде одговорна за небрежност. Тврдењето дека „алгоритам го направил тоа“ не е валидна одбрана.

Вашата организација е одговорна за алатките што ги користи. Пристрасен исход, без разлика дали е од човек или од алгоритам, може да предизвика барања за отштета, регулаторни казни и сериозна штета на угледот.

Овој принцип беше трагично демонстриран од страна на Тоеслагенафаер, или скандал со детски додатоци, тука во Холандија. Помеѓу 2015 и 2019 година, алгоритмите за самостојно учење на даночните власти погрешно означија илјадници родители како измамници, систем кој непропорционално ги таргетираше оние со двојно државјанство. Овој автоматизиран процес доделуваше етикети со висок ризик врз основа на заштитени карактеристики, што е јасно кршење на правилата на GDPR за автоматизирано донесување одлуки.

Последиците беа катастрофални. Над 30,000 семејства беа принудени да ги вратат бенефициите, при што се очекува вкупната владина компензација сега да надмине 3 милијарди €За подлабоко нурнување во правната перспектива, ова проницлив преглед на холандските закони за вештачка интелигенција дава повеќе детали за регулативите за вештачка интелигенција во Холандија.

Како пристрасноста се вовлекува во вашите системи

Алгоритамската пристрасност не е единствен, изолиран проблем. Може да се појави во повеќе точки за време на развојот и распоредувањето на вештачката интелигенција. Разбирањето каде лежат овие ранливости е првиот чекор кон управување со вашата одговорност за алгоритамска пристрасност.

• Пристрасни податоци за обука: Ако историските податоци што ги внесувате во вашиот модел ги одразуваат постојните општествени предрасуди (на пример, прикажување претежно мажи на лидерски улоги), вештачката интелигенција ќе ги научи овие шеми како норма и ќе ги реплицира.

• Неисправен дизајн на моделот: Карактеристиките и променливите што ги избирате за вашиот модел можат ненамерно да се поврзат со заштитени карактеристики како што се етничката припадност или полот. Класичен пример е користењето на поштенски кодови како показател за кредитната способност, што може да доведе до индиректна дискриминација ако тие кодови се силно поврзани со специфични демографски групи.

• Неправедна имплементација: Дури и добро дизајниран модел може да се примени на дискриминаторски начин. Ако системот за препознавање лица е помалку прецизен за лица со потемни тонови на кожата, неговото користење во безбедносен контекст може да доведе до поголема стапка на лажни обвинувања против една одредена група.

Секоја од овие точки претставува потенцијален правен неуспех. Клучниот заклучок е следниот: алгоритамската пристрасност не е само ИТ проблем. Тоа е основен бизнис ризик кој бара надзор од правните и менаџерските тимови. Неговото игнорирање значи изложување на вашата организација на сериозни правни и финансиски последици.

Разбирање на вашите законски обврски според холандското и европското право

Кога систем со вештачка интелигенција погрешил и предизвикал штета, може да претпоставите дека постои специфичен „закон за вештачка интелигенција“ што се применува. Всушност, не е толку едноставно. Одговорноста се утврдува преку комбинација од постојните и новите законски рамки.

За секој бизнис што користи вештачка интелигенција во Холандија, разбирањето одговорност за алгоритамска пристрасност значи разбирање на три клучни столба: холандското право за деликтни дела, GDPR и претстојниот Закон за вештачка интелигенција на ЕУ. Секој од нив го разгледува проблемот од различен агол, создавајќи мрежа од обврски за усогласеност низ кои треба да се движите за да управувате со вашиот ризик.

Фондацијата: Холандско право на деликт

На најосновно ниво, ако вашата вештачка интелигенција предизвика штета на некого, тужбата може да се поднесе според холандскиот Закон за деликт. Поточно, Член 6:162 од Холандскиот граѓански законик (Бургерлијк Ветбок)Овој долгогодишен принцип опфаќа одговорност за какво било незаконско дејствие (онрехтматиге даад) што му штети на некој друг.

Па, како ова се однесува на пристрасен алгоритам? Незаконско дело може едноставно да биде небрежност од ваша страна. Размислете за ситуации како:

• Распоредување на систем со вештачка интелигенција без темелна проверка за пристрасност.

• Обука на вашиот модел со искривени или дискриминаторски податоци.

• Неуспех во следењето на алгоритмот за пристрасни резултати откако ќе почне да работи.

• Игнорирање на јасни знаци дека системот донесува неправедни одлуки.

Ако некому неправедно му е одбиен кредит, работа или домување поради вашата пристрасна вештачка интелигенција, и тој може да докаже дека небрежноста на вашата организација довела до тој исход, тој има солиден случај против вас. Од оваа правна гледна точка, алгоритамскиот неуспех не се разликува од кој било друг деловен неуспех што предизвикува штета.

Моќната улога на GDPR во автоматизираните одлуки

Потоа, Општата регулатива за заштита на податоци (GDPR) додава клучен слој, фокусирајќи се на приватноста на податоците и праведноста во автоматизираното донесување одлуки. Неговото влијание врз алгоритамската пристрасност е значајно.

Клучната статија овде е Член 22 од GDPR. Им дава на поединците право не да бидат предмет на одлука заснована исклучиво на автоматизирана обработка - како што е профилирањето - ако таа одлука има правни или слично значајни ефекти врз нив.

Едноставно кажано, за одлуки со висок ризик како што се вработување, отпуштање или кредитно бодување, не можете само да дозволите алгоритамот да го има последниот збор. Мора да има значаен човечки надзор. Ослонувањето исклучиво на машината во овие сценарија е директно прекршување, а казните можат да бидат значителни.

Покрај тоа, принципите на фер и транспарентна регулатива на GDPR значат дека мора да бидете способни да објасните како вашата вештачка интелигенција ги донесува своите одлуки. Ако не можете, сте на несигурна правна основа. Казните за прекршување на GDPR се строги, потенцијално штетни 20 милиони евра или 4% од вашиот глобален годишен обрт, кое и да е повисоко.

Поглед кон иднината: Законот на ЕУ за вештачка интелигенција

Најдиректната регулатива што ги таргетира овие ризици е претстојната Закон за вештачка интелигенција на ЕУВоведува рамка базирана на ризик што ќе го преобликува правниот пејзаж за вештачката интелигенција. Законот ги сортира системите за вештачка интелигенција во категории врз основа на нивниот потенцијал за штета, поставувајќи најстроги ограничувања за оние што се сметаат за „високо ризични“.

Многу вообичаени деловни алатки, како што е вештачката интелигенција што се користи при регрутирање, управување со вработени и апликации за кредити, се предодредени да спаѓаат во оваа категорија со висок ризик.

Еве еден брз преглед на тоа што ќе бара Законот на ЕУ за вештачка интелигенција за овие системи со висок ризик:

• Ригорозни проценки на сообразност пред вештачката интелигенција да може да се стави во употреба.

• Висококвалитетни збирки податоци за да се минимизира ризикот од вградување на пристрасност од самиот почеток.

• Детална техничка документација и евидентирање за да се обезбеди следливост.

• Јасна транспарентност мерки за корисниците да разберат дека комуницираат со вештачка интелигенција.

• Робусен човечки надзор да интервенира и да ги исправи сите ризични исходи.

За да ги ставиме овие рамки во перспектива, еве табела што ги споредува нивните различни пристапи кон алгоритамската одговорност.

Споредба на правните рамки за алгоритамска одговорност

Како што покажува табелата, правните последици доаѓаат од повеќе насоки. Она што може да се смета за едноставна небрежност според деликтно право, може да биде и големо прекршување на GDPR и прекршување на Законот за вештачка интелигенција на ЕУ истовремено.

Казните за непочитување на Законот за вештачка интелигенција ќе бидат дури и поголеми од оние според GDPR. Овој нов закон ги претвора одговорните практики за вештачка интелигенција од „добро е да се има“ во строга законска неопходност. Можете подетално да се продлабочите во спецификите во нашиот детален водич за правната страна на вештачката интелигенција и Законот на ЕУ за вештачка интелигенција.

Како се манифестира одговорноста во реалниот свет

Едно е да се дискутира за правната теорија и регулативите, а друго е да се види како тие влијаат на реалните бизниси. Вистински да се разбере одговорност за алгоритамска пристрасност, мора да разгледаме како холандските судови ги преведуваат овие принципи во реални последици. Овие примери го извлекуваат ризикот од апстрактното и го ставаат директно во реалноста на секојдневното работење.

Значајните случаи и практичните деловни сценарија покажуваат дека одговорноста не е некоја далечна закана. Тоа е многу реален, денешен проблем со значителни финансиски и репутациски трошоци.

Холандски преседан: Пресудата на SyRI

Пресвртен момент за алгоритамската пристрасност во холандското право дојде со пресудата на SyRI во 2020 февруариСлучајот се врти околу платформата за индикација на системски ризик (SyRI), таен алгоритам што владата го користела за откривање измами. Овој систем собрал податоци од 17 различни министерства за проверка на милиони граѓани за потенцијални измами поврзани со социјална помош, даноци и други бенефиции.

Окружниот суд во Хаг ја запре платформата, оценувајќи ја како кршење на човековите права. Одлуката на судот посочи на неколку клучни неуспеси кои служат како моќни лекции за секоја организација што користи вештачка интелигенција. Утврди дека процесот на SyRI бил непроѕирен, неговата неопходност била недокажана и создавал висок ризик од дискриминација. Системот означил „необични комбинации на податоци“ без никаква индивидуализирана истрага - практика што се смета за директно кршење на приватноста и праведноста. Оваа пресуда испрати јасна порака: недостатокот на транспарентност и високиот потенцијал за дискриминација се основа за покренување правни мерки.

Случајот SyRI беше јасен сигнал: не можете да се криете зад алгоритам на „црна кутија“. Организациите се одговорни за разбирање, оправдување и одбрана на одлуките што ги носат нивните автоматизирани системи, особено кога тие одлуки длабоко влијаат врз животите на луѓето.

Откривањето кој е одговорен кога вештачката интелигенција прави грешка е комплексно, но суштински дел од управувањето со ризик. За подетален преглед, можете да ја разгледате нашата статија за Кој е одговорен за грешките направени од вештачката интелигенција.

Вообичаени сценарија каде што се појавува одговорност

Освен случаите со висок профил на владата, одговорноста за алгоритамска пристрасност често се јавува во секојдневните деловни операции. Овие вообичаени ситуации покажуваат колку лесно добронамерен систем може да создаде сериозна правна изложеност.

1. Алгоритмот за пристрасно регрутирање
Замислете компанија да воведува нова алатка со вештачка интелигенција за проверка на илјадници биографии, надевајќи се дека поефикасно ќе ги пронајде најдобрите кандидати. Алгоритмот е обучен врз основа на податоци за вработување на компанијата во период од една деценија, што, за жал, одразува историска преференција за одредени кандидати во технички работни места.

• Правен неуспех: Вештачката интелигенција го учи овој образец и почнува систематски да ги деградира другите кандидати, дури и кога нивните квалификации се идентични. Ова создава дискриминаторски исход што ги крши холандските закони против дискриминација.

• Последица: Компанијата сега се соочува со правни предизвици од одбиени кандидати, истраги од регулатори и голема штета на нејзиниот углед како работодавач кој нуди еднакви можности. Финансискиот удар вклучува потенцијални штети исплатени на подносителите на барањата и трошоците за целосно ревидирање на процесот на регрутирање.

2. Дискриминаторски систем за аплицирање за кредит
Финансиската институција користи алгоритам за да ги автоматизира своите кредитни одлуки. За да се процени ризикот, моделот ги вклучува поштенските кодови на апликантите како точка на податоци. Проблемот е што одредени поштенски кодови се силно поврзани со популациите на етничките малцинства и населбите со пониски приходи.

• Правен неуспех: Алгоритмот почнува да одбива кредити по многу повисока каматна стапка на апликантите од овие поштенски кодови, без оглед на нивната лична финансиска состојба. Ова претставува индиректна дискриминација бидејќи поштенскиот код делува како замена за заштитени карактеристики како што се расата и етничката припадност.

• Последица: Институцијата е погодена со тужби и казни за дискриминаторски практики на кредитирање според холандското и европското право. Штетата врз угледот може да биде катастрофална, што доведува до губење на довербата на клиентите и јавна револт.

Можеби ниедна област не го илустрира ова подобро од примената на Вештачка интелигенција во барањата за осигурување, каде што пристрасните одлуки можат брзо да доведат до големи правни последици и последици по угледот.

Секој од овие примери нагласува една критична поента: вашата намера не е толку важна колку влијанието. Вашата компанија е одговорна за резултатите од вештачката интелигенција што ја користи. Ова ја прави проактивната ревизија и управување не само добра идеја, туку и законска неопходност.

Практична рамка за ублажување на ризикот од вештачка интелигенција

Разбирање на правните теории што стојат зад одговорност за алгоритамска пристрасност Едно е, но примената на тоа знаење во акција е она што навистина ја штити вашата организација. Преминувањето од забележување на проблеми кон нивно вистинско решавање бара структуриран, проактивен пристап кон тоа како управувате со вештачката интелигенција. Ефективната рамка не е за запирање на иновациите; туку за создавање заштитни огради што ви овозможуваат да ја користите вештачката интелигенција самоуверено и одговорно.

Ова значи воспоставување јасни внатрешни политики и процедури што го опфаќаат целиот животен циклус на системот со вештачка интелигенција - од неговиот почетен дизајн или купување до неговата континуирана употреба и евентуално повлекување од употреба. Целта е да се изгради систем на проверки и рамнотежи што може да идентификува, измери и намали пристрасност пред таа да предизвика правна или репутациска штета.

Спроведување на сеопфатни ревизии на пристрасност

Камен-темелник на секоја стратегија за управување со ризикот од вештачка интелигенција е ревизијата на пристрасност. Овие проценки не треба да бидат еднократен настан, туку континуиран процес.

• Ревизии пред распоредување: Пред да се пушти во употреба кој било систем со вештачка интелигенција, тој мора ригорозно да се тестира за дискриминаторски резултати против заштитени групи. Ова вклучува испитување на податоците за обука за скриени пристрасности и тестирање на моделот под стрес со разновидни, репрезентативни бази на податоци.

• Мониторинг по распоредувањето: Откако системот ќе почне да работи, неговите одлуки мора постојано да се следат. Алгоритам кој бил фер при лансирањето може да развие пристрасности со текот на времето како што се среќава со нови податоци. Редовните ревизии помагаат да се открие ова „отстапување од моделот“ пред да стане правна одговорност.

Воспоставување јасни линии на одговорност

Честа причина за неуспех на управувањето со вештачката интелигенција е нејасната одговорност. За да се избегне ова, вашата организација мора да додели јасна одговорност за резултатите од вештачката интелигенција.

Ова значи назначување на одредено лице или комитет со овластување да ги надгледува системите за вештачка интелигенција, да ги разгледува резултатите од ревизијата и да донесува одлуки за прилагодувања на моделите или дури и да го исклучува системот од употреба. Оваа структура гарантира дека управувањето со ризикот од вештачка интелигенција е активен, управуван процес.

Критичната улога на документацијата и управувањето со добавувачите

Кога ќе се појави правен спор, темелната документација е вашата најдобра одбрана. Водењето прецизна евиденција за вашите извори на податоци, процесите на валидација на моделите, наодите од ревизијата и сите чекори преземени за корекција на пристрасноста е од суштинско значење за демонстрирање на длабинска грижа. Како што се развиваат регулативите за приватност на податоците, разбирањето на овие нови барања е од витално значење. Можете да дознаете повеќе за како се развива GDPR со вештачка интелигенција и големи податоци во нашата детална анализа.

Ако работите со добавувачи на вештачка интелигенција од трети страни, оваа внимателност мора да се прошири и на вашите договори.

Вашите договори за набавки мора да содржат јасни клаузули што ги дефинираат одговорностите на добавувачот за обезбедување фер и усогласен систем. Овие договори треба да ги специфицираат стандардите за перформанси, правата за ревизија и, што е клучно, како ќе се распредели одговорноста ако системот произведе пристрасни резултати.

На крајот на краиштата, оваа рамка го претвора управувањето со вештачката интелигенција од теоретски концепт во збир на конкретни, акциони чекори. Со вградување на ревизии, отчетност и ригорозна документација во вашите операции, можете да управувате одговорност за алгоритамска пристрасност проактивно, наместо да реагира на криза.

Градење проактивна стратегија за управување со вештачка интелигенција

Справувањето со одговорноста за алгоритамска пристрасност не е само вежба за штиклирање полиња за правниот оддел. Тоа е стратешки потег што гради доверба кај клиентите и го штити угледот на вашиот бренд. Правните ризици според холандскиот Закон за деликтни дела, GDPR и претстојниот Закон за вештачка интелигенција на ЕУ се многу реални и бараат внимание од бизнис лидерите во моментов. Реагирањето на проблемите штом ќе се појават повеќе не е одржлива опција.

Проактивниот пристап значи градење солидна рамка за управување. Ова оди подалеку од една ревизија или нејасно формулирана политика. Станува збор за вплетување на одговорноста во културата и секојдневното работење на вашата организација.

Столбови на одговорно усвојување на вештачка интелигенција

Робусната стратегија се потпира на неколку клучни столбови кои ги претвораат апстрактните принципи во конкретни дејства. За секој бизнис кој сака да ја минимизира својата правна изложеност, ова се непроменливите работи.

• Континуирани ревизии: Пристрасноста не е проблем што го решавате само еднаш. Потребни ви се редовни, закажани ревизии на вашите системи за вештачка интелигенција - и пред да ги распоредите и потоа - за да откриете и исправите какво било дискриминаторско отстапување што се развива со текот на времето.

• Транспарентно владеење: Назначете одредено лице или посебен комитет одговорен за резултатите од вештачката интелигенција. Ова осигурува дека некој има овластување да ги следи перформансите, да ги прегледува резултатите од ревизијата и да донесува тешки одлуки за системски прилагодувања или дури и за отклучување на системот.

• Прецизна документација: Доколку некогаш треба да браните одлука донесена од вештачка интелигенција на суд, вашите записи ќе ви бидат најдобар пријател. Водете темелна документација за вашите извори на податоци, тестови за валидација на модели и секој чекор што сте го презеле за да ги исправите сите пристрасности што сте ги откриле.

Премин од одбрана кон предност

Гледањето на овие барања само како товар значи пропуштање на пошироката слика. Добро структуриран пристап кон управувањето со ризикот од вештачка интелигенција ја позиционира вашата фирма како одговорен лидер во светот управуван од податоци. Развивањето проактивна стратегија вклучува длабоко разбирање на правно управување со вештачката интелигенција за да се обезбеди усогласеност и одговорно распоредување на вештачката интелигенција.

Крајната цел е да се создаде средина каде што иновациите можат да цветаат во рамките на безбедни, етички и правно стабилни заштитни огради. Ова гради отпорност кон идните регулаторни промени и го зајакнува вашиот углед кај клиентите и партнерите.

Првиот чекор е да се препознаат ризиците и решително да се дејствува за нивно решавање. Барањето специјализиран правен советник за изградба на прилагодена стратегија за управување со ризици од вештачка интелигенција повеќе не е опционално - тоа е фундаментална компонента на модерното корпоративно управување. Со преземање на контролата врз вашиот одговорност за алгоритамска пристрасност, го заштитувате вашиот бизнис и ја потврдувате вашата посветеност на фер и транспарентна работа.

Често поставувани прашања за одговорност за алгоритамска пристрасност

Како што бизнисите навлегуваат подлабоко во вештачката интелигенција, многу лидери се наоѓаат во ситуација да поставуваат многу специфични прашања за одговорноста. Подолу, се осврнуваме на некои од најчестите и најпредизвикувачки прашања, нудејќи јасни одговори за да ви помогнеме да се снајдете во оваа сложена правна област.

Ако нашата вештачка интелигенција од трета страна е пристрасна, кој е одговорен - добавувачот или ние?

Ова ретко е едноставно прашање, а одговорот е речиси секогаш: комплицирано е. Одговорноста често е споделена и во голема мера зависи од спецификите на ситуацијата. Развивачот на вештачка интелигенција може да биде одговорен за испорака на неисправен или несоодветн производ. Сепак, како организација што го користи системот, имате свои посебни законски обврски.

Според рамки како што се Законот за вештачка интелигенција на ЕУ и GDPR, вашата компанија е одговорна за тоа како се имплементира и следи вештачката интелигенција. Ова значи дека имате должност да ја проверите технологијата што ја купувате, да следите за пристрасни резултати и да се осигурате дека нејзината примена е фундаментално фер.

Добро составен договор може да помогне во распределбата на финансискиот ризик помеѓу вас и добавувачот, но нема да ја заштити вашата компанија од регулаторни казни или граѓанска тужба ако сте биле небрежни во начинот на кој сте го распоредиле и надгледувале системот.

Како да докажеме дека нашиот алгоритам не е дискриминаторски на суд?

Вашата најдобра одбрана е изградена врз проактивна и темелна документација. Треба да водите прецизни евиденции што го опфаќаат целиот животен циклус на моделот на вештачка интелигенција. Ова не е нешто што можете да го составите откако ќе се појави правен предизвик.

Вашата документација треба да биде жив запис што вклучува:

• Извор на податоци: Детални логови за тоа од каде доаѓаат вашите податоци за обука, плус чекорите што сте ги презеле за да ги исчистите и да проверите за вродени пристрасности.

• Валидација на моделот: Цврсти докази за ригорозното тестирање што го извршивте пред распоредувањето за да пронајдете и поправите дискриминаторски шеми.

• Редовни ревизии на пристрасност: Доказ дека континуирано го следите системот за да ги откриете и исправите сите пристрасности што се појавуваат со текот на времето.

• Логика на донесување одлуки: Јасни, разбирливи објаснувања за тоа како системот доаѓа до своите заклучоци, особено за одлуки со висок ризик.

За секој систем со вештачка интелигенција со висок ризик според Законот за вештачка интелигенција на ЕУ, ова ниво на техничка документација не е само добра практика; тоа е задолжителен законски услов. Овој збир докази е она на што ќе се потпрете за да покажете должно внимание и да се одбраните од тврдења за небрежност.

Дали користењето на објаснувачка вештачка интелигенција (XAI) го елиминира ризикот од одговорност?

Не, но тоа е суштински дел од управувањето со тој ризик. Објаснувачката вештачка интелигенција (XAI) е критична алатка за исполнување на обврските за транспарентност според GDPR, бидејќи помага процесот на донесување одлуки на алгоритмот да биде разбирлив за луѓето. Ве оддалечува од правно опасниот проблем со „црната кутија“ каде што никој не може да каже зошто е донесена одлука.

Сепак, едноставното објаснување на неправеден исход не го прави фер. Ако причината за одлуката открие дека моделот се потпирал на заштитена карактеристика (на пример, користење на поштенски број како замена за етничка припадност), вие сè уште сте одговорни.

XAI е клучен дел од стратегијата за добро управување, но не е целосно решение. Мора да се комбинира со робусни процеси за да се исправат предрасудите кога ќе се откријат и да се обезбеди вистински лек за луѓето кои биле оштетени.

Дали овие сложени правила за одговорност за вештачка интелигенција важат за мали и средни претпријатија?

Да, го прават тоа. Основните правни принципи како што се холандскиот закон за деликт и законите против дискриминација важат за сите бизниси, без оглед на големината. Иако Законот за вештачка интелигенција на ЕУ вклучува некои одредби за олеснување на товарот за усогласеност врз малите и средни претпријатија (МСП), ова не се целосни исклучоци.

Доколку вашето мало и средно претпријатие користи вештачка интелигенција во области со висок ризик - како што се регрутирање, кредитно бодување или прегледи на перформансите на вработените - ќе се соочите со строги обврски за усогласеност слични на оние за поголемите корпорации. GDPR се применува и на сите полиња. За едно мало и средно претпријатие, игнорирањето на овие ризици може да доведе до непропорционално штетни казни и тужби, што го прави од витално значење да ги процените вашите алатки за вештачка интелигенција и да ги разберете вашите законски одговорности од самиот почеток.

At Law & More, ние нудиме стручни правни совети за да му помогнеме на вашиот бизнис да се снајдете во сложениот пејзаж на регулативата и одговорноста за вештачката интелигенција. Нашиот тим нуди прагматични, прилагодени совети за да се осигура дека вашата употреба на технологија е иновативна и усогласена. Контактирајте не за да изградите проактивна стратегија за управување со вештачката интелигенција што ја штити вашата фирма. Дознајте повеќе на https://lawandmore.eu.