Umelá inteligencia: nové európske právne regulatívy

Blok I: Umelá inteligencia: nové regulatívy
09:10 - 09:45 AI Act: Recept pre povinné subjekty a (ne)znesiteľná zodpovednosť
Damián Palašta, advokátsky koncipent, AK SIGNUM legal
09:50 - 10:25 AI Act a Kybernetická bezpečnosť - od vágneho ku určitému
Štefan Pilar, partner, AK SIGNUM legal

10:25 - 10:45 Prestávka

10:45 - 11:20 Právne aspekty kyber-bezpečnosti AI systémov
Ondrej Zimen, partner, AK Dagital Legal
11:25 - 12:00 Ako neopakovať chyby z DPIA pri vypracovaní FRIA
Jakub Berthoty, Dagital Legal/

12:05 -12:40 Contracting for AI. Uzatváraní zmlúv v súvislosti s vývojom a uplatnením systémov umelej inteligencie. Ivan Kisely, partner, AK Bird & Bird Ján Kuklinca, partner, AK Bird&Bird

12:40 - 13:30 OBED

13:30 -14:05 Recruitment vo svetle AI Aktu
Pavla Mészárosová, Managing associate Eldison advokátska kancelária Monika Procklová, koncipient, Eldison advokátska kancelária

Blok II: IT právo & aktuálne výzvy
14:10 - 14:45 Novela zákona o kybernetickej bezpečnosti
Miroslav Chlipala, riadiaci partner a advokát, BCH Advokáti Chlipala
14:50 - 15:25 Zmluvné dojednania s IKT poskytovateľmi na úseku kybernetickej bezpečnosti
JUDr. Miriama Podskubová, LL.M., advokátka, AK HAVEL & PARTNERS
15:30 - 16:00 Zodpovednosť za vady softvéru ako výrobku
Zuzana Motúzová, partner, AK Motuzova

16:00 Ukončenie konferencie

Príspevok sa venuje základným otázkam, ktoré vznikajú v súvislosti s nariadením AI Act a jeho dopadom na prax používateľov systémov umelej inteligencie. Poskytuje prehľad kľúčových povinností vyplývajúcich z regulačného rámca, vrátane metodiky určovania rizikových kategórií AI systémov, požiadaviek na technickú dokumentáciu či potreby ľudského dohľadu. Vysvetľuje sa, aké roly môžu jednotlivé subjekty v rámci dodávateľsko-používateľského reťazca zastávať a aké osobitné povinnosti sa k nim viažu. Zároveň bude prezentovaný nový prístup k zodpovednosti za škodu spôsobenú AI systémami, vrátane možných sankcií a spôsobov dokazovania.

Nariadenie o umelej inteligencii (AI Act) predstavuje významný krok k regulácii technológií s vysokým rizikom, no jeho ustanovenia týkajúce sa kybernetickej bezpečnosti sú značne vágne a na prvý pohľad nejasné. AI Act síce zdôrazňuje potrebu zabezpečenia systémov umelej inteligencie voči „okolnostiam a rizikám“, neposkytuje konkrétne alebo detailnejšie rámce, ako na to. Táto vágnosť môže, ako sme svedkami aj v iných oblastiach, viesť k rôznym interpretáciám a nejednotnému prístupu. Bezpečnostné opatrenia pre umelú inteligenciu môžu a mali by nadväzovať na už existujúce normy. Cieľom príspevku je poskytnúť udržateľný návod, ako na bezpečnosť systémov AI v súlade s požiadavkami AI Act-u.

Zabezpečenie AI systémov vyžaduje komplexný prístup, ktorý zahŕňa technické, právne a etické aspekty. Táto prezentácia sa zameria na technické a právne výzvy spojené so zabezpečovaním AI systémov, ako sú napr. útoky na trénovacie dáta, adversarial attacks a ochrana modelov pred zneužitím. Budeme diskutovať o najnovších technikách a nástrojoch, ktoré môžu byť použité na zvýšenie bezpečnosti AI systémov a splnenie regulačných povinností spojených s ich komerčným využívaním.

Od éry bezpečnostných projektov podľa zákona o ochrane osobných údajov sa cez posúdenia vplyvu podľa GDPR dostávame k tzv. FRIA, alebo „Fundamental Rights Impact Assessments“. Alebo „posúdeniam vplyvu na základné práva v prípade vysokorizikových systémov AI“ podľa AI Aktu. Čo vlastne DPIA a FRIA predstavujú? Aké sú medzi nimi rozdiely? Na čo by sme sa pri nich mali zameriavať? A hlavne, akým chybám pri vypracovaní DPIA sa môžeme s nástupom FRIA vyvarovať?

Napriek tomu, akú veľkú pozornosť na seba v minulom roku prilákal AI Act, táto prezentácia sa zameria viac na reálne výzvy pri uzatváraní zmlúv v súvislosti s vývojom a uplatnením systémov umelej inteligencie. Preskúmame kľúčové aspekty pri vyjednávaní a tvorbe zmlúv súvisiacich s AI, vrátane alokácie práv, povinností a zodpovednosti zúčastnených strán.. Osobitnú pozornosť venujeme nutnosti rozličných prístupov k otázke práv k rôznym typom dát - či už ide o tréningové alebo vstupné datasety alebo výstupy z AI, či dokonca práva k samotnému AI modelu. Koncepty ako mock data, syntetické dáta či tréning AI modelov na základe spolupráce medzi vývojármi a zákazníkmi, ktorí disponujú tréningovými datasetmi, sú čoraz dôležitejšie. Zároveň sa pozrieme na to, ako vyvažovať businessové záujmy a zmluvné ustanovenia s požiadavkami regulácií ako GDPR, AI Act, Data Act apod.

Tento príspevok sa bude venovať používaniu AI pri recruitingu a tvorbe nástrojov pre recruiting vo svetle AI Aktu. Prinesieme praktické rady, na čo si dať pozor, aké povinnosti vyplývajú z AI Aktu pre oblasť recruitingu, a tiež čo nás čaká v budúcnosti pri výberových procesoch a aké právne úskalia, to môže priniesť.

Právny pohľad na technické a organizačné aspekty zabezpečenia kybernetickej bezpečnosti v spolupráci s externými poskytovateľmi IKT služieb. Ako vypracovať efektívne zmluvné podmienky, ktoré garantujú bezpečnosť dát, ochranu pred kybernetickými hrozbami a dodržiavanie relevantných legislatívnych požiadaviek.

Zodpovednosť za vady softvéru ako výrobku podľa novely Smernice EÚ o zodpovednosti za škodu spôsobenú vadnými výrobkami (nové povinnosti firiem pri vývoji a prevádzkovaní softvéru, koncepčné zmeny pri zodpovednosti za škodu, ako znížiť riziká a dopady Smernice);