Нидерландияда жасалма интеллект системасы зыян келтиргенде, жоопкерчилик ар дайым адамга же компанияга жүктөлөт, программалык камсыздоонун өзүнө эмес. Иш жүзүндө доомат колдонуучуга (системаны орноткон уюмга), деликт мыйзамына, Нидерландиянын Жарандык кодексинин (BW) 6:162-беренесине ылайык же продукт жоопкерчилигине, BW 6:185-беренесине ылайык өндүрүүчүгө багытталат, ал күнөөнү талап кылбайт.
Эмне үчүн жасалма интеллект системасы өзү эч качан жоопкерчилик тартпайт?
Нидерландиянын мыйзамы жеке жана юридикалык жактарды гана билет, ал эми жасалма интеллект системасы экөөнү тең тааныбайт. Аны чакырууга, айып пул салууга же зыянды төлөөгө милдеттендирүүгө болбойт, анткени анын эч кандай менчиги жок; "электрондук инсандык" боюнча сунуштар Европа Биримдигинин деңгээлинде талкууланган, бирок кабыл алынган эмес.
Ошондуктан, суроо туулат, чынжырдагы кайсы тарап милдетин аткара алган эмес: моделди иштеп чыгуучу, аны продуктка айландырган тарап, жеткирүүчү же интегратор, жайылтуучу уюм же натыйжага таасир эткен адам. Жасалма интеллект үчүн жоопкерчилик - бул ошол чынжырдагы кемчиликти таап, аны юридикалык негизге дал келтирүү.
Колдонуучу качан жоопкерчилик тартат?
Колдонуучу системаны жайгаштырганда, конфигурациялаганда же ага таянганда, ал акылдуу оператордун камкордугусуз жоопкерчилик тартат. Куралды тандап, ага маалыматтарды берип, анын натыйжаларына таянган уюм өзүнүн жүрүм-турумуна жараша бааланат.
Эгерде жасалма интеллект кылмыш жасоо үчүн колдонулсачы?
Кылмыш үчүн атайылап жасалма интеллектти колдонуу кылмышты өзгөртпөйт. Компанияны алдоо үчүн колдонулган ишендирүүчү жасалма интеллект тарабынан түзүлгөн эсеп-фактура 326-беренеге ылайык алдамчылык (опличтинг) болуп саналат, жасалма документ 225-беренеге ылайык жасалма бойдон калат, ал эми системага кирүү үчүн колдонулган жасалма интеллект менен жазылган код 138ab-беренеге ылайык компьютерге кирүү болуп саналат.
Чыныгы адамдын манипуляцияланган сүрөттөрү жалаа жабууга алып келиши мүмкүн, ал эми сексуалдык терең жасалма сүрөттөр 2024-жылдын 1-июлунан бери күчүндө болгон сексуалдык кылмыштар жөнүндөгү эрежелерге кирет (Wet seksualuele misdrijven). Жасалма интеллекттин жардамы менен жасалган тынымсыз куугунтуктоо 285b Sr беренеси боюнча куугунтукталышы мүмкүн, ал жабырлануучунун арызы боюнча гана куугунтукталат. Кылмышты адам менен байланыштырган далилдер - бул суроолор, аккаунт журналдары, чыгуулар жана файлдын метадайындары; Нидерландиядагы компьютердик кылмыштар жана киберкылмыштар боюнча биздин серепти караңыз.
Этиятсыздык менен пайдалануу кандайча көрүнөт?
Көбүрөөк уюмдар ниеттен эмес, этиятсыздыктан улам кыйынчылыктарга туш болушат. Бир максат үчүн сатылып алынган система башка максатта колдонулат, анын чыгышы сигнал катары эмес, чечим катары каралат жана эч ким анын туура эмес болгон учурларын текшербейт.
BW 6:162-беренесине ылайык, жазылбаган камкордук милдетин бузуу мыйзамсыз болуп саналат, бул кылдат оператордун кылган ишинин негизинде бааланат. Жумуш берүүчү ошондой эле кызматкерлеринин күнөөсү үчүн жооп берет (BW 6:170-берене), ал эми өзүнүн келишимин аткаруу үчүн жеткирүүчүнүн моделин колдонгон тарап ал көмөкчү үчүн жооп берет (BW 6:76-берене).
Европа Биримдигинин жасалма интеллект жөнүндөгү мыйзамы (2024/1689-жөнгө салуу) эми жогорку тобокелдиктеги системаларга кам көрүү милдетин аткарат. Орнотуучулар системаны көрсөтмөлөргө ылайык колдонушу, ыйгарым укуктуу компетенттүү адамдарга адамдык көзөмөлдү дайындоосу, тиешелүү киргизүү маалыматтарын камсыз кылышы, иштөөнү көзөмөлдөшү, журналдарды жүргүзүшү жана жумушта мындай системаны колдонуудан мурун жумушчуларга кабарлашы керек. Шалаакылыкты баалаган сот бул милдеттенмелерди этият жүрүм-турумдун стандарты катары карайт.
Адамдын көзөмөлү реалдуу болушу керек. Система сунуштаган дээрлик бардык нерсени, анын өндүрүмдүүлүгү боюнча өлчөнгөнүн жактырган серепчи чечим кабыл албайт; бул "автоматташтыруу бир жактуулугу" көбүнчө көзөмөлдүн ишке ашпай калышына алып келет.
Колдонуучу кайсы тобокелдиктерди өткөрүп бере албайт?
- Жабыр тарткан тарапка карата колдонуучу көрүнүктүү жоопкер болуп саналат. Кардар кредит берүүдөн баш тарткан же текшерүү куралы тарабынан четке кагылган талапкер жайылтуучуну сотко берет; келишим боюнча жеткирүүчүгө каршы доо арыз берүү өзүнчө маселе болуп саналат.
- Маалыматтарды коргоо көз карандысыз түрдө колдонулат. Маалыматтарды коргоо боюнча жалпы жобого (GDPR) ылайык, жайылтуучу, адатта, контроллер болуп саналат жана GDPRдин 22-беренеси адамдарга юридикалык же ушул сыяктуу олуттуу кесепеттерге алып келүүчү автоматташтырылган чечимдерге адамдын кийлигишүүсүнө укук берет. Биздин баракчаны караңыз Жалпы маалыматтар коргоо Жобо.
- Өзгөртүү сиздин ролуңузду өзгөртөт. Жогорку тобокелдиктеги системага өз атын койгон, максаттуу максатын өзгөрткөн же аны олуттуу түрдө өзгөрткөн жайылтуучу, камсыздоочунун милдеттери менен, Жасалма интеллект жөнүндө мыйзамга ылайык, камсыздоочу болуп калат.
Продюсер качан жоопкерчилик тартат?
Өндүрүүчү өз продукциясындагы кемчиликтен улам келтирилген зыян үчүн күнөөсүз жооп берет (6:185 BW беренеси). Эгерде продукция өзүнүн көрүнүшүн, акылга сыярлык күтүлгөн колдонулушун жана жүгүртүүгө киргизилген убактысын эске алганда, адам күтө турган коопсуздукту камсыз кылбаса, ал кемчиликтүү болуп саналат; жабырлануучу тарап зыянды, кемчиликти жана себептик байланышты далилдеши керек.
Дооматтар жабырлануучу тарап зыян, кемчилик жана өндүрүүчүнүн инсандыгы жөнүндө билгенден же билиши керек болгондон кийин үч жылдын ичинде берилиши керек жана бул укук продукт жүгүртүүгө киргизилгенден он жылдан кийин жокко чыгарылат. Продукциянын жоопкерчилиги жабырлануучу тарапка карата келишим менен алынып салынышы же чектелиши мүмкүн эмес. Өндүрүүчү өнүгүү тобокелдигинен коргонууну кошо алганда, чектелген коргонуу чараларына таяна алат.
Жаңы Продукциянын Жоопкерчилиги Директивасына ылайык программалык камсыздоодо кандай өзгөрүүлөр болот?
Кайра каралып чыккан Продукциянын жоопкерчилиги боюнча Директива (Директива (ЕБ) 2024/2853) 2024-жылдын 8-декабрында күчүнө кирген жана 2026-жылдын 9-декабрына чейин өзгөртүлүшү керек. Ал ошол күндөн кийин рынокко чыгарылган продукцияларга тиешелүү; мурунку продукциялар Жарандык кодекстин учурдагы эрежелери менен жөнгө салынат.
- Программалык камсыздоо, анын ичинде жасалма интеллект системалары, түздөн-түз продукт болуп саналат.
- Өндүрүүчүнүн көзөмөлүнөн тышкары продукцияны олуттуу түрдө өзгөрткөн ар бир адам, импорттоочу, ыйгарым укуктуу өкүл жана кээ бир учурларда аткаруу кызматын көрсөтүүчүлөр жана онлайн платформалар көбүрөөк тараптар жоопкерчилик тартышы мүмкүн.
- Кесиптик максаттарда колдонулбаган маалыматтардын жок кылынышы же бузулушу орду толтурулуучу зыянга айланат.
- Продукт рынокко чыгарылгандан кийин, мисалы, жаңыртуунун туура эместиги же коопсуздук жаңыртууларынын берилбей калышы сыяктуу себептерден улам кемчиликке учурашы мүмкүн.
Директива ошондой эле далилдерди алууну жеңилдетет. Сот жоопкерге тиешелүү далилдерди ачыктоону буйрук кыла алат жана эгерде ал аткарылбаса, кемчиликтүү деп эсептелет. Техникалык татаалдык далилдерди өтө татаалдаштырган учурда, эгерде доогер алардын ыктымалдуулугун көрсөтсө, кемчиликтүү же себептүү байланышты болжолдоого болот.
Келишим эмнени жөнгө салышы мүмкүн?
Ишканалардын ортосунда, адатта, келишим биринчи күрөш талаасы болуп саналат. Жеткирүүчү макулдашылган нерсени жеткирип бериши керек; убада кылынган тактык, жеткиликтүүлүк же жасалма интеллект мыйзамына шайкештик аткарылбаган учурда, ал бузуу болуп саналат, ал эми аткарылбай калгандыгы жөнүндө эскертүүдөн кийин аткаруу, зыян келтирүү жана келишимди бузууга болот.
Чектөө жоболору, адатта, ишканалар ортосунда күчүндө болот, бирок сот ага таянуу акылга сыярлык жана адилеттүүлүктүн алкагында кабыл алынгыс болсо (BW 6:248(2)-беренеси), мисалы, ниет же атайылап этиятсыздык болгон учурда, аны жокко чыгара алат. Мындай доолор кантип түзүлөрүн билүү үчүн зыяндын ордун толтуруу боюнча доолор жөнүндөгү биздин баракчаны караңыз.
Жыныстык катнаш жөнүндө мыйзам компенсация алууга укук береби?
Жок. Жасалма интеллект жөнүндө мыйзам жөнгө салуучу мүнөзгө ээ: ал провайдерлер жана жайылтуучу компаниялар үчүн милдеттерди белгилейт жана көзөмөлчүлөргө аткаруу ыйгарым укуктарын берет, бирок зыяндын ордун толтуруу боюнча доомат жаратпайт. Европа комиссиясы Жасалма интеллект боюнча жоопкерчилик боюнча директива боюнча сунушун кайтарып алды, ошондуктан дооматтар улуттук деликт жана келишим мыйзамдары жана продукциянын жоопкерчилиги аркылуу каралат.
Жасалма интеллект жөнүндө мыйзам сотто дагы деле маанилүү: аны сактабоо шалаакылыктын далили болуп саналат, милдеттүү техникалык документтерди жана журналдарды сот иштеринде сурап алууга болот, ал эми Мыйзам ким провайдер, ким жайылтуучу экенин чечет. Биздин IT мыйзамы боюнча практикабыз бул классификациялык маселелерди карайт.
Эгерде колдонуучу да, өндүрүүчү да ийгиликсиз болсочу?
Көпчүлүк окуялардын бир нече себептери бар: өкүлчүлүксүз окутуу маалыматтары, текшерилбеген интеграция, максаттан тышкары колдонуу жана системанын чектерин билбеген операторлор. BW 6:102-беренесине ылайык, бирдей зыян үчүн жооптуу тараптардын ар бири жабыр тарткан тарапка жалпысынан жооп берет жана кийин өз үлүштөрүн өз ара эсептешет.
Нидерландиядагы балдарды багуу боюнча жөлөкпулдар боюнча иш (toeslagenaffaire) бул схеманы көрсөтүп турат: тобокелдиктерди классификациялоо тунук эмес, реалдуу жеке баалоосуз чечимдер жана кесепеттер толугу менен жабыркаган адамдарга тиешелүү. Анын кесепеттери кылмыштуу эмес, административдик жана саясий болгон.
Автономдук унааларга, дрондорго жана роботторго эмне тиешелүү?
Физикалык зыян келтирүү эч кимдин этиятсыздыгы жөнүндө суралбаган катуу жоопкерчиликти кошот. 1994-жылдагы Жол кыймылы жөнүндө мыйзамдын (Wegenverkeerswet 1994) 185-беренесине ылайык, айдоочуга жардам берүү системасы рулду башкарганына же башкарбаганына карабастан, форс-мажордук жагдайлар болбосо, автоунаанын ээси же ээси жөө жүргүнчүлөргө жана велосипедчилерге келтирилген зыян үчүн жооп берет.
Дрондор Европа Биримдигинин дрон эрежелерине кирет, оператор RDW аркылуу катталат жана Адам айлана-чөйрөсү жана транспорт инспекциясы (ILT) тарабынан көзөмөлдөнөт. Белгилүү бир коркунуч жараткан кемчиликтүү кыймылдуу буюмдун ээси 6:173 BW беренеси боюнча жоопкерчилик тартат, ошондой эле кемчилик анын программалык камсыздоосунда болгондуктан, өнөр жай роботунун ээси жөн гана сатуучуну көрсөтө албайт.
Жасалма интеллект системасынын колдонуучусу катары эмнени текшеришиңиз керек?
- Колдонгон жасалма интеллект системаларыңыздын, аларды ким жеткиргенинин жана алар кандай чечимдерге таасир этерин тизмелеп туруңуз.
- Ар бир система үчүн сиз жайылтуучу экениңизди же өзгөрткөндөн кийин, Жасалма интеллект жөнүндө мыйзамга ылайык провайдер экениңизди аныктаңыз.
- Максаттуу максатын жазып алыңыз жана жеткирүүчүнүн колдонуу боюнча көрсөтмөлөрүнүн чегинде болуңуз.
- Операторлорго системаны жокко чыгарууга реалдуу ыйгарым укук бериңиз жана аларды көлөм менен гана өлчөбөңүз.
- Журналдарды жана окуялардын жазууларын талаш-тартышта колдонуу үчүн жетиштүү убакытка чейин сактаңыз.
Өндүрүүчү же жеткирүүчү катары эмнени текшеришиңиз керек?
- Система чындыгында кызмат көрсөтө турган калкка каршы документтерди башкаруу, маалыматтарды башкаруу жана тестирлөө.
- Чектөөлөр жана каталардын деңгээли жөнүндө чынчыл болгон колдонуу боюнча көрсөтмөлөрдү жазыңыз.
- 2024/2853 (ЕБ) Директивасын эске алуу менен, коопсуздук жаңыртууларын ким жана канча убакытка жеткирерин көрсөткөн жаңыртуу саясатын орнотуңуз.
- Система чындыгында эмнени чечерин чагылдырган жоопкерчиликтин чектөөлөрүн, ажыратууларды жана компенсацияларды макулдашыңыз.
- Кардарлар окуялар жөнүндө кабарлап, алардын ар бири кандайча чечилгенин жазып турушу үчүн каналды уюштуруңуз.
Жасалма интеллект боюнча жоопкерчилик боюнча сиз үчүн эмне кыла алабыз?
Биздин IT жана голландиялык кылмыш-жаза укугу боюнча юристтерибиз жасалма интеллект системаларын курган уюмдарга жана аларды колдонгон уюмдарга кеңеш беришет.
- Биз сиздин Жасалма интеллект жөнүндө мыйзамга ылайык провайдер же жайылтуучу экениңизди жана кайсы милдеттер колдонулаарын аныктайбыз.
- Биз жасалма интеллект менен камсыздоо келишимдерин, анын ичинде чектөөлөрдү, компенсацияларды жана журналдарга жетүү мүмкүнчүлүгүн карап чыгабыз жана сүйлөшүүлөрдү жүргүзөбүз.
- Биз окуядан кийин дооматты жана сиз аны коргоо же алып келүү үчүн керектүү далилдерди баалайбыз.
- Биз жасалма интеллект системасы туура эмес колдонулган учурда компаниянын жана анын директорлорунун кылмыштуу таасирин баалайбыз.
- Биз адамдарды көзөмөлдөө, каттоо жана окуяларды башкаруу боюнча ички жасалма интеллект саясатын иштеп чыгабыз.
Жыйынтык
- Жасалма интеллект системасы жоопкерчилик тарта албайт; колдонуучу же өндүрүүчү жоопкерчилик тартат.
- Колдонуучулар жогорку тобокелдиктеги системалар үчүн кам көрүү стандартын белгилеген ИИ мыйзамы менен, деликт боюнча жоопкерчилик тартышат (BW 6:162-берене).
- Өндүрүүчүлөр кемчиликтүү продукциялар үчүн үч жылдан он жылга чейинки мөөнөттө күнөөсүз жооп беришет (BW 6:185-берене).
- 2024/2853 (ЕБ) Директивасы программалык камсыздоону продукт катары эсептейт жана 2026-жылдын 9-декабрынан кийин рынокко чыгарылган продукциялар үчүн далилдөөнү жеңилдетет.
- Бир нече жооптуу тараптар жабырлануучу тараптын алдында жалпысынан жоопкерчилик тартышат.
Көп берилүүчү суроолор
Жасалма интеллект системасы сотто күбө боло алабы?
Жок. Нидерландиянын кылмыш иштериндеги күбөлөр - бул фактыларды жеке билген адамдар. Жасалма интеллекттин жыйынтыктары далил катары, мисалы, жазуу жүзүндөгү документ катары же аны түшүндүрүп берген эксперт аркылуу колдонулушу мүмкүн.
Жасалма интеллект үчүн жарандык жана кылмыш жоопкерчилигинин ортосунда кандай айырма бар?
Жарандык жоопкерчилик жабыр тарткан тарапка компенсация төлөө жөнүндө, мисалы, 6:162 же 6:185 BW беренесине ылайык. Кылмыш жоопкерчилиги мамлекет тарабынан жазалоо жөнүндө жана көп учурда адам же компания тарабынан жасалган кылмыштын, анын ичинде ниеттин далилин талап кылат.
Жыныстык активдерди коргоо жөнүндө мыйзам буга чейин эле күчүндөбү?
Жасалма интеллект жөнүндө мыйзам (Жобосу (ЕБ) 2024/1689) 2024-жылдын 1-августунда күчүнө кирген жана этап-этабы менен колдонулат. Кайсы милдеттенмелер сиздин системаларыңызга кайсы күнү тиешелүү экенин текшериңиз.
Жеткирүүчү өзүнүн жасалма интеллект системасы үчүн жоопкерчиликтен бошотула алабы?
Ишканалардын ортосундагы чектөөлөр жөнүндөгү жоболор, адатта, жарактуу, бирок акылга сыярлык жана адилеттүүлүк шартында аларга таянуу кабыл алынгыс болгон учурларда жараксыз болуп саналат. Жабыр тарткан тарапка карата продукт жоопкерчилигин алып салууга болбойт.
