Etika AI v právní praxi: Jak Anywhere zajišťuje přesnost a lidský dohled

Proč je etika AI v právní praxi klíčová

Ve světě práva si AI získala prominentní postavení především díky své schopnosti zpracovávat text v obrovském měřítku. Technologie strojového učení, zpracování přirozeného jazyka a velké jazykové modely (LLM) dokáží analyzovat smlouvy, soudní rozhodnutí, e-maily nebo dokumentaci případů rychlostí, která byla ještě nedávno nepředstavitelná. Specializované právní nástroje postavené na databázích jako Westlaw, LexisNexis nebo Practical Law dnes dokáží vyhledat relevantní judikaturu, navrhnout právní argumenty nebo identifikovat rizikové klauzule v tisících smluvních dokumentů. V kontextu mezinárodních transakcí, složitých sporů nebo regulovaných odvětví tak AI přináší významné časové úspory, lepší vhled do informací a možnost věnovat lidské kapacity spíše strategickým otázkám než rutinním úkolům.

Zároveň se ale ukazuje, že generativní AI je ze své podstaty „pravděpodobnostní generátor textu“: vytváří výstupy, které zní přesvědčivě, ale postrádají vnitřní pojem pravdivosti, právní relevance nebo jurisdikční správnosti.

V právním kontextu to vede k fenoménu halucinací – vymyšlených citací, zkreslených prohlášení, nesprávného propojování různých právních předpisů nebo ignorování klíčových výjimek a podmínek. Pro soudy a regulační orgány však není rozhodující, zda chybu způsobila technologie, ale to, že ji právník neopravil; odpovědnost za výsledek zůstává na osobě, která podepisuje podání a radí klientovi.

Modelové etické rámce, jako jsou pravidla American Bar Association, kodexy jednotlivých advokátních komor nebo nové pokyny pro používání AI, zdůrazňují tři základní povinnosti: technologickou kompetenci, důvěrnost a povinnost dohledu nad neprávními asistenty, pod které generativní AI fakticky spadá.

To znamená, že advokát musí rozumět, jaké typy úkolů jsou pro AI vhodné, jaké nástroje jsou přijatelné z hlediska zdrojů a bezpečnosti a jak by měla vypadat verifikace výstupu před jeho použitím v praxi. V mezinárodním prostředí se k tomu přidávají odlišné regulační požadavky, jako je rámec EU AI Act nebo americké a státní iniciativy zaměřené na algoritmickou diskriminaci, transparentnost a auditovatelnost.

V praxi se proto prohlubuje rozdíl mezi dvěma typy využití AI. Na jedné straně stojí „spotřebitelské“ použití otevřených modelů, kdy jednotlivec nebo firma bez právního vedení zadává citlivé informace do volně dostupných systémů, jejichž podmínky umožňují ukládání dat a jejich použití pro další trénink.

Na druhé straně se prosazuje model profesionálního, kontrolovaného nasazení AI – v prostředí s důrazem na bezpečnost, auditní stopu, omezení použití dat a jasná pravidla pro lidský dohled, jako nabízejí specializované právní platformy nebo uzavřené podnikové instance modelů.

Anywhere.legal patří právě do této druhé skupiny: není to veřejný chatbot, ale strukturované prostředí pro práci s případy, v němž je AI nástrojem pro efektivnější práci právníků, nikoli náhradou jejich úsudku.

Jak funguje právní AI a kde nejčastěji dochází k chybám

Pro pochopení etických otázek používání AI v právu je nejprve nutné si uvědomit, jak tyto systémy fungují. Velké jazykové modely se učí z obrovských textových korpusů a následně generují další text tím, že předpovídají, které tokeny pravděpodobně budou následovat po předchozí sekvenci.

Nepracují tedy s „pravdou“ v lidském nebo právním smyslu, ale s pravděpodobností lingvistických vzorců. V běžném psaní to může být dostatečné, ale v právu mohou i jemné rozdíly v terminologii, citaci nebo logické argumentaci mít významné právní důsledky.

Model nemá vnitřní mechanismus k rozlišení, zda navržený argument splňuje podmínky dané právní normy nebo zda citované rozhodnutí skutečně existuje ve zvolené jurisdikci.

Halucinace právní AI se projevují různými způsoby: od zcela smyšlených názvů případů a rozhodnutí, přes přiřazování existující judikatury nesprávným soudům nebo rokům, až po zkreslování skutkových okolností nebo právních závěrů v jinak reálných rozhodnutích.

Uživatel, který není zvyklý ověřovat každou citaci, se snadno může podvolit dojmu, že „když to zní profesionálně a obsahuje citace, je to pravda.“ To se ukázalo v desítkách medializovaných případů, kdy právníci nebo pro se litiganti podali k soudu podání obsahující řadu vymyšlených AI generovaných rozhodnutí a následně čelili sankcím, disciplinárním řízením a poškození reputace.

Podobné chyby se objevily i u státních zástupců, kteří použili AI pro přípravu podání v trestní věci a text obsahoval odkazy na neexistující judikaturu.

Kromě halucinací je stejně problematická i takzvaná latentní neúplnost a „misfit“ – tedy situace, kdy výstup AI je formálně správný, ale nepřesně odpovídá zadání nebo právnímu kontextu.

Může jít o chybějící prvky právního testu, přehlédnuté výjimky, záměnu federální regulace se státní regulací nebo jurisdikční zmatení (např. aplikování americké judikatury na čistě evropský problém).

Takové chyby jsou hůře odhalitelné, protože nejde o zjevné fabulace, ale o dílčí odchylky v jinak konzistentním textu. Advokát, který se příliš spoléhá na AI, může přehlédnout, že text „zní dobře“, ale právně přesně neodpovídá tomu, co pro konkrétní soud, správní orgán nebo transakci potřebuje.

Další kategorií problémů jsou předsudky (bias) a nespravedlnost vyplývající z dat, na kterých byly modely trénovány. Jelikož AI reflektuje vzorce obsažené v tréninkových datech, je citlivá na historické nerovnosti, diskriminační rozhodování nebo nevyvážené zastoupení různých skupin.

V právu to může znamenat riziko, že AI nástroj doporučující strategii ve sporu nebo analyzující rizika v compliance bude reprodukovat minulé diskriminační praktiky, i když jsou dnes právně a eticky nepřijatelné.

Advokát proto nemůže považovat AI za „neutrálního arbitra“; naopak musí předpokládat, že bez cílených opatření a lidského dohledu bude model reflektovat a někdy i zesilovat existující předsudky a strukturální nerovnosti.

Z těchto důvodů se v právním prostředí rychle prosazuje standard „nedůvěřuj, dokud neověříš“ (do not trust until verified) – princip, že žádný výstup AI nemůže být považován za použitelný, dokud neprojde nezávislou verifikací zkušeným právníkem.

To platí jak pro citace a právní závěry, tak pro skutková tvrzení, shrnutí případů nebo návrhy strategických kroků. Profesionální nástroje a platformy proto verifikaci integrují přímo do workflow: usnadňují dohledání zdroje každého tvrzení, propojení výstupu AI s konkrétními dokumenty nebo rozhodnutími a nastavení interních checklistů, které právník musí projít před použitím výstupu.

Anywhere.legal staví svůj přístup právě na této logice: AI poskytuje rychlý vhled a první návrh, ale každý krok je navržen tak, aby podporoval systematickou revizi a lidský dohled.

MicroFAQ: Pochopení halucinací a omezení právní AI

1. Znamená halucinace AI, že je nástroj „špatný“ a neměl by se používat?
   Halucinace jsou přirozeným důsledkem pravděpodobnostní povahy současných jazykových modelů, nikoli selháním konkrétního nástroje jako takového. Zda je nástroj vhodný pro právní práci, závisí na jeho zdrojích, vestavěných kontrolních mechanismech, integraci do workflow a lidském dohledu. Mnoho profesionálních právních AI platforem kombinuje modely s kurátorovanými databázemi judikatury a legislativy a doplňují je o funkce ověřování citací, takže frekvence halucinací je nižší, ale nikdy nulová. Účelem etického přístupu proto není AI zakazovat, ale používat ji jako asistenta, jehož výstupy jsou vždy ověřeny, podobně jako práce juniorního advokáta nebo paralegala.

2. Mohu halucinace eliminovat dalším „trénováním“ AI na vlastních datech?
   Doplňkové trénování na interních datech může zlepšit relevanci pro specifickou oblast nebo firmu, ale neeliminuje základní mechanismus generování textu ani riziko halucinací. Navíc, pokud interní data obsahují chyby nebo předsudky, hrozí, že se přenesou do modelu a dále se zesílí. V právním prostředí je proto důležitější zaměřit se na výběr kvalitních zdrojů, jasné vymezení povolených použití a kontrolní procesy než na slepou víru, že další trénink „vše vyřeší“. Platforma jako Anywhere.legal tak staví na kombinaci kvalitních zdrojů, omezení rizikových použití a vestavěných krocích lidské kontroly, nikoli na iluzi, že technologie může fungovat plně autonomně.

3. Jsou halucinace problémem i pro specializované právní AI nástroje, nebo jen pro otevřené chatboty?
   Empirická pozorování ukazují, že i specializované právní nástroje mohou halucinovat, jen obvykle v menší míře než obecné modely, protože pracují s kurátorovanými databázemi a mají vestavěné kontrolní mechanismy. Rozdíl je v tom, že profesionální nástroje často dokáží lépe doložit zdroj každého tvrzení a upozornit na nejistotu, zatímco otevřené chatboty generují odpovědi bez kontextu právní odpovědnosti nebo jurisdikce. Pro právníka to však v obou případech znamená totéž: žádný výstup AI nelze převzít bez ověření, zejména pokud má být použit v soudním podání, formálním právním stanovisku nebo komunikaci s klientem.

Etické povinnosti advokátů při používání AI

Etické použití AI v právu nezačíná u technologie, ale u povinností, které advokát dluží klientovi, soudu a právnímu systému. Tradiční pravidla profesní etiky – zejména povinnost kompetence, důvěrnosti, dohledu nad neprávními asistenty, pravdivosti vůči soudu a zákaz nekalé reklamy – se plně vztahují i na AI, přestože byly formulovány v době, kdy generativní modely neexistovaly.

Mnoho advokátních komor a profesních organizací dnes výslovně uvádí, že použití AI spadá pod technologickou kompetenci a že advokát se při poskytování právního poradenství nesmí spoléhat výhradně na AI. To znamená, že advokát musí rozumět základním schopnostem a omezením AI nástrojů, které používá, a musí být schopen vysvětlit, jak byly jejich výstupy ověřeny.

Povinnost důvěrnosti a ochrany důvěrných informací představuje jedno z nejcitlivějších témat v kontextu AI. Mnoho volně dostupných generativních AI služeb si ve svých podmínkách vyhrazuje právo používat uživatelská data pro další trénink modelů a pro své interní analýzy, což může znamenat, že citlivé informace jsou ukládány a potenciálně zpřístupněny třetím stranám.

Nedávné rozhodnutí federálního soudu v New Yorku v kauze Heppner ukázalo, že pokud klient samostatně použije veřejně dostupnou AI platformu k přípravě právních dokumentů a vloží do systému důvěrné informace, může to prolomit podmínky pro uplatnění advokátní mlčenlivosti a ochrany pracovního produktu (work product protection).

Soud v daném případě dospěl k závěru, že neexistovalo přiměřené očekávání důvěrnosti, protože podmínky služby výslovně umožňovaly ukládání a použití dat a AI nebyla zapojena pod vedením advokáta ani jako nutný zprostředkovatel ve smyslu doktríny Kovel.

Z tohoto pohledu je pro advokáty a klienty klíčové rozlišovat mezi otevřenými spotřebitelskými nástroji a uzavřenými, smluvně zajištěnými platformami, které garantují, že vstupy a výstupy nebudou použity pro trénink modelů nebo sdíleny mimo specifikované účely.

Bezpečné prostředí zahrnuje jak technická opatření (šifrování, kontrola přístupu, segregace dat klientů), tak smluvní závazky poskytovatele, že data budou zpracována pouze jako zpracované informace, nikoli jako tréninkový materiál pro jeho vlastní modely.

Platformy jako Anywhere.legal tyto požadavky zohledňují tím, že fungují v režimu „uzavřeného podnikového nástroje“, kde zachování důvěrnosti a segregace dat klientů je základním předpokladem spolupráce, nikoli volitelnou funkcí.

Neméně důležitá je povinnost advokáta dohlížet na neprávní asistenty, která se podle mnoha odborných názorů vztahuje i na používání AI.

Pokud advokát zadá AI nástroji přípravu materiálů nebo analýzu, musí s výstupem zacházet stejně jako s prací juniorního kolegy nebo paralegala: musí jej zrevidovat, opravit chyby, doplnit relevantní právní argumentaci a nést plnou odpovědnost za finální verzi.

To platí jak pro interní použití (např. při přípravě právního výzkumu), tak pro jakékoli dokumenty předkládané soudu, protistraně nebo klientovi. Porušení této povinnosti může vést k procesním sankcím (např. dle pravidel jako Rule 11 v USA), disciplinárním řízením a poškození důvěry klientů.

Otázka předsudků (bias) a spravedlnosti v právu se dotýká i širších společenských a regulačních aspektů. Je dobře zdokumentováno, že pokud jsou tréninková data nevyvážená nebo obsahují historické předsudky, projeví se to v chování modelu.

To je obzvláště nebezpečné v oblastech, jako jsou rozhodnutí o zaměstnávání, posuzování bonity, hodnocení rizik v trestním řízení nebo compliance screening, kde AI může ovlivnit přístup jednotlivců k právům a zdrojům.

Z tohoto důvodu vznikají legislativní iniciativy, jako je americký Algorithmic Accountability Act nebo evropská regulace AI, které vyžadují posouzení dopadů, analýzu předsudků a zavedení ochranných mechanismů proti diskriminačním výsledkům.

Role právníků se tak rozšiřuje: nestačí AI „jen“ používat, ale často je třeba posuzovat její dopady z hlediska nediskriminace, transparentnosti a spravedlivého procesu.

Typická rizika AI v právu a jak je Anywhere.legal řeší

Jak Anywhere.legal pracuje s přesností a lidským dohledem

Z pohledu uživatele je klíčové, aby AI nebyla „kouzelná černá skříňka“, ale součást transparentního procesu, který jasně dělí, co dělá technologie a co člověk.

Anywhere.legal je pojata jako platforma pro řešení přeshraničních právních a daňových situací, která kombinuje několik vrstev: strukturování zadání, centralizaci dokumentů, využití AI pro prvotní zpracování informací a generování návrhů a zapojení lidských expertů v relevantních jurisdikcích.

AI zde není autonomním rozhodovacím systémem, ale nástrojem, který zrychluje první fázi práce a poskytuje lépe strukturované podklady pro lidský úsudek.

Základem přesnosti je důraz na kvalitu zdrojů, se kterými AI pracuje. Obecně platí, že spolehlivost právní AI významně závisí na tom, zda je postavena na expertně kurátorovaných, autoritativních databázích, nebo jen „loví“ informace z otevřeného internetu.

Profesionální právní nástroje, které čerpají z kurátorovaných databází judikatury, legislativy a komentářů, mají typicky nižší míru halucinací a umožňují každé tvrzení propojit se zdrojovým dokumentem.

Anywhere.legal proto staví na logice „AI nad strukturovanými právními a transakčními materiály“: uživatelé do systému nahrávají své vlastní dokumenty a zadání a AI pracuje primárně s tímto materiálem, případně s ověřenými právními zdroji, nikoli s nestrukturovaným webem. Tím se výrazně snižuje riziko halucinací a umožňuje se auditní stopa, jak konkrétní výstup vznikl.

Dalším pilířem je uzavřené, zabezpečené prostředí s jasně definovanými podmínkami zpracování dat. Podobně jako jiné bezpečné právní AI platformy, Anywhere.legal používá přístup, který smluvně zakazuje používání dat klientů pro trénink modelů a omezuje jejich využití na poskytování služby v rámci konkrétního případu.

Technická opatření, jako je šifrování v klidu i při přenosu a detailní správa přístupových práv, doplňují organizační opatření v podobě interních politik a auditních mechanismů.

Pro mezinárodní uživatele je důležité, že takový přístup usnadňuje soulad s režimy ochrany osobních údajů, jako je GDPR nebo jiné národní regulace, které zdůrazňují principy privacy by design a privacy by default.

Strukturování zadání a centralizace dokumentů

Jeden z nejčastějších praktických problémů u přeshraničních agend není ani tak samotná právní interpretace, jako spíše chaos v zadáních, dokumentech a komunikaci mezi mnoha účastníky a jurisdikcemi.

V praxi se často ukazuje, že různé oddělení, lokální kanceláře nebo externí poradci pracují s odlišnými verzemi dokumentů, chybí jim jednotný přehled o tom, které otázky již byly zodpovězeny, a některé informace jsou uzamčeny v e-mailech nebo osobních poznámkách.

To vede k duplicitní práci, zpožděním, nedorozuměním v očekáváních a v extrémních případech k nekonzistentním právním pozicím v různých zemích.

Anywhere.legal tento problém řeší tím, že nabízí místo pro „otevření případu“, strukturování zadání a centralizaci všech souvisejících dokumentů.

Uživatel definuje základní parametry situace – například dotčené země, typ transakce, předpokládané právní otázky a časové limity – a platforma pomáhá strukturovat brief tak, aby obsahoval všechny klíčové informace a otázky relevantní pro právní analýzu.

AI může v této fázi navrhovat doplňující otázky nebo upozorňovat na typické aspekty, které se často přehlížejí (např. otázky daňových implikací, pracovního práva nebo regulačních licencí v jiných jurisdikcích).

Centralizace dokumentů znamená, že všechny smlouvy, korespondence, interní politiky nebo regulační dokumenty jsou nahrány do jednoho bezpečného prostředí, kde je přístup řízen podle rolí v týmu.

AI nástroje pak mohou na základě těchto dokumentů generovat shrnutí, identifikovat klíčové klauzule nebo porovnávat různé jazykové verze stejné smlouvy.

Pro mezinárodní projekty je zásadní, aby tým měl vždy „jediný zdroj pravdy“ – jednu referenční verzi dokumentu a jednotné zadání, ke kterému se všichni odkazují. Tím se významně snižuje riziko, že například lokální poradce se bude spoléhat na starší verzi smlouvy, zatímco centrála již pracuje s jiným textem.

AI pro rychlé pochopení materiálů, ne pro finální závěry

Další oblastí, kde AI významně pomáhá, je rychlé pochopení rozsáhlých materiálů. V typické situaci má právník stovky stran smluv, e-mailů, interních směrnic nebo regulačních dokumentů, které je třeba prostudovat, aby z nich extrahoval klíčové informace.

AI dokáže tyto dokumenty analyzovat, vytvářet tematická shrnutí, zvýrazňovat sporné nebo neobvyklé klauzule a navrhovat otázky, které by měl tým zvážit. V praxi to znamená, že právní tým se nemusí „prokousávat“ každou stranou, ale může se soustředit na interpretaci a strategii.

Klíčové je, že AI je zde použita jako nástroj pro předzpracování, nikoli jako autor finálního právního stanoviska. V souladu s doporučeními profesních organizací a best practices v oblasti právní AI governance platí princip „AI může psát, ale nesmí rozhodovat“.

To znamená, že AI může navrhnout strukturu argumentace, základní obsah stanoviska nebo shrnutí judikatury, ale advokát musí každý takový návrh zrevidovat, ověřit citace, doplnit vlastní analýzu a přizpůsobit text tak, aby odpovídal konkrétní jurisdikci, skutkovému stavu a strategii klienta.

Kvalitní workflow proto zahrnuje i checklisty pro ověřování výstupů: od kontroly rozsahu a zadání, přes verifikaci zdrojů, až po finální jazykovou a strategickou revizi.

Anywhere.legal tento model podporuje tím, že výstupy AI vždy umisťuje do kontextu konkrétního případu a umožňuje k nim připojovat poznámky, komentáře a revize od jednotlivých členů týmu.

Například advokát může požádat AI o shrnutí vybraných smluv s poznámkou, že půjde jen o interní dokument, a následně na základě tohoto shrnutí připravit vlastní memorandum, které bude předloženo klientovi nebo soudu.

V každém kroku je jasné, co je „návrh AI“ a co je „lidská revize“, což usnadňuje jak interní kontrolu kvality, tak v případě potřeby doložení postupů v kontextu compliance nebo sporů.

Zapojení správného experta a mezinárodní koordinace

U mezinárodních záležitostí je rozhodujícím problémem často nejen „co říká zákon“, ale také jak ho konkrétní jurisdikce aplikuje v praxi, jaké jsou lokální zvyklosti a jak harmonizovat požadavky více právních systémů do jednoho funkčního řešení.

AI dokáže pomoci rychle zmapovat základní kontury právní úpravy v jednotlivých zemích, identifikovat rozdíly a podobnosti a navrhnout potenciální konflikty.

Nemůže však nahradit zkušenosti lokálního advokáta, který zná aktuální praxi soudů a správních orgánů, neformální očekávání regulátorů nebo praktické detaily, které z textu zákona nevyplývají.

To platí zejména v oblastech, kde je právo dynamické (např. ochrana osobních údajů, digitální služby, pracovní právo) nebo kde mají vysoký význam soft-law dokumenty a regulační dialog.

Anywhere.legal proto kombinuje AI nástroje s možností pozvat do případu lokální experty v relevantních jurisdikcích.

Ve chvíli, kdy AI pomůže strukturovat zadání a identifikovat základní okruh otázek, je možné v rámci téže platformy oslovit partnerské advokáty nebo daňové poradce v jednotlivých zemích, sdílet s nimi centrální brief a dokumenty a koordinovat jejich výstupy tak, aby tvořily konzistentní celek.

AI může pomoci s překlady, shrnováním lokálních stanovisek do společného jazyka nebo s identifikací vzájemných rozporů, ale finální harmonizace a rozhodnutí o strategii zůstává na vedoucím právním týmu.

Tím se významně snižuje riziko izolovaných lokálních odpovědí, které jsou nekompatibilní nebo že jurisdikce je přehlédnuta.

AI governance, auditní stopy a transparentnost

Součástí etického používání AI je i otázka governance – tedy jak organizace systematicky řídí rizika spojená s AI, dokumentuje používání nástrojů a prokazuje, že přijala vhodná opatření k zajištění spravedlivých, bezpečných a transparentních výsledků.

Rámce osvědčených postupů, jako je NIST AI Risk Management Framework nebo Blueprint for an AI Bill of Rights, zdůrazňují principy spravedlnosti, transparentnosti, odpovědnosti, soukromí a lidského dohledu jako základní pilíře odpovědného nasazení AI.

V praxi to znamená například vedení inventáře používaných AI systémů, posuzování jejich dopadu na práva jednotlivců, implementaci procesů pro testování a monitorování výkonu a stanovení jasných linií odpovědnosti v případě chyb nebo incidentů.

Anywhere.legal tyto principy podporuje tím, že každé použití AI nástrojů v rámci platformy je součástí auditní stopy případu: je možné dohledat, jaké materiály byly použity, jaký prompting proběhl, jaké výstupy AI vygenerovala a jak zasáhli jednotliví členové týmu.

Tato procesní transparentnost je často důležitější než snaha o takzvanou „vysvětlitelnou AI“ (explainable AI) na úrovni jednotlivého modelu, která naráží na technické limity interpretovatelnosti hlubokých neuronových sítí.

Pro soudy a regulátory je z hlediska právní odpovědnosti často relevantnější, zda organizace dokáže prokázat, jak AI implementovala, jaké testování provedla a jaké kontroly má nad výstupy, než detailně vysvětlovat, proč model zvolil konkrétní token.

Kromě technických a procesních aspektů je důležitá i otevřená komunikace s uživateli a klienty o tom, jak je AI v organizaci používána.

Jedním z trendů je publikace prohlášení o transparentnosti AI (AI transparency statements), ve kterých organizace popisují, k jakým účelům AI používají, jaká jsou její omezení a jaké garance poskytují v oblasti ochrany dat a lidského dohledu.

Anywhere.legal tak může být součástí širšího rámce AI governance pro firmy: jako centralizované místo, kde jsou právní a daňové případy řešeny způsobem konzistentním s interními politikami, regulačními požadavky a očekáváním klientů.

Typické situace z praxe, kde etika AI selhává

Teoretické rámce a principy jsou důležité, ale pro firmy a advokáty jsou často nejpřesvědčivější konkrétní situace, ve kterých se dopad volby nástrojů a procesů projeví v reálném světě. V následujících podkapitolách proto probereme několik typických scénářů, které se v praxi opakují, a ukážeme, jak by vypadalo jejich řešení v chaotickém, nekoordinovaném prostředí a jak může pomoci systematický přístup skrze platformu jako Anywhere.legal.

Halucinované citace v soudních podáních

První situací, která se stala symbolem rizik generativní AI v právu, je podávání soudních podání s vymyšlenými citacemi.

Od roku 2023 bylo po celém světě zdokumentováno několik stovek případů, kdy se advokáti nebo pro se litiganti spolehli na otevřený AI nástroj pro právní rešerši a do podání vložili rozhodnutí, která nikdy neexistovala.

Soudy reagovaly různě: v některých případech uložily peněžní sankce, v jiných nařídily povinné školení o používání AI nebo vydaly obecnější pokyny pro advokáty, aby deklarovali, zda AI při přípravě podání použili.

Typický průběh problému je následující: právník pod časovým tlakem zadá dotaz AI nástroji, aby podpořil konkrétní právní tezi, obdrží odpověď s několika citacemi, které vypadají přesvědčivě, a místo ověření každé citace v primárním zdroji je vloží přímo do podání.

Když se později ukáže, že rozhodnutí neexistují nebo neříkají to, co tvrdila AI, stojí advokát před soudem v situaci, kdy nedokáže vysvětlit, jak taková chyba mohla projít jeho kontrolou.

Odkaz na „chybu AI“ soudy nepřijímají jako omluvu: odpovědnost dle procesních pravidel nese osoba, která podání podepsala.

V prostředí Anywhere.legal by taková situace vypadala jinak z několika důvodů.

Zaprvé, advokát by již v okamžiku zadání definoval, pro jakou jurisdikci a soud se podání připravuje, což by AI nasměrovalo k relevantním zdrojům a snížilo riziko „míchání“ právních předpisů.

Zadruhé, nástroje pro právní rešerši by byly postaveny na kurátorovaných databázích, kde je existence a správná citace každého rozhodnutí garantována, a AI by sloužila k jejich výběru a shrnutí, nikoli k vymýšlení nových rozsudků.

Zatřetí, workflow by zahrnovalo povinný krok ověření citací v primárních zdrojích – buď přímo skrze odkazy na databáze, nebo interní checklist, který advokát musí vyplnit před odesláním podání.

Konečně, auditní stopa v platformě by umožnila dokumentovat kroky podniknuté k ověření výstupu, což může být důležité pro compliance nebo případné stížnosti.

Práce s citlivými daty a ztráta privilegia

Druhý scénář se týká práce s citlivými informacemi a ochrany advokátní mlčenlivosti. Představme si klienta, který čelí vyšetřování a snaží se „připravit“ na schůzku s advokátem tak, že nahraje interní e-maily, smlouvy a své poznámky do otevřeného AI nástroje a požádá systém o „rizikovou analýzu“ nebo navržené argumenty.

Později tyto dokumenty poskytne advokátovi s tím, že „AI už to připravila“. Když v trestním řízení vyvstane otázka, do jaké míry jsou tyto dokumenty chráněny advokátní mlčenlivostí nebo doktrínou pracovního produktu, může soud dospět k závěru, že byly dobrovolně zpřístupněny třetí straně již v době jejich vzniku a že jejich důvěrnost nelze rozumně očekávat.

Přesně tuto situaci řešil federální soudce Jed Rakoff v případu, který vzbudil širokou pozornost právní komunity.

Soud dospěl k závěru, že dokumenty generované klientem prostřednictvím veřejné AI platformy nejsou chráněny ani advokátní mlčenlivostí, ani doktrínou pracovního produktu, protože nebyly vytvořeny pod vedením advokáta, AI nebyla nutným zprostředkovatelem pro pochopení komunikace a podmínky služby vylučovaly přiměřené očekávání důvěrnosti.

Jinými slovy: nelze nejprve sdílet citlivé informace s neznámým poskytovatelem AI a teprve poté se snažit tuto komunikaci „obléci“ do advokátní mlčenlivosti.

Anywhere.legal nabízí odlišný model. Klient i advokát pracují od počátku v uzavřeném prostředí, které je navrženo tak, aby splňovalo požadavky na důvěrnost a umožnilo, aby komunikace byla považována za součást právního poradenství.

Pokud AI zpracovává materiály nebo pomáhá je strukturovat, děje se tak pod vedením advokáta a v rámci systému, kde jsou data šifrována, přístup je kontrolován a poskytovatel smluvně garantuje, že vstupy nebudou použity pro trénink modelů ani zpřístupněny třetím stranám.

To významně posiluje argument, že komunikace a dokumenty generované v takovém prostředí mohou spadat pod právní ochranu advokátní mlčenlivosti nebo pracovního produktu – za předpokladu, samozřejmě, že splňují i další podmínky těchto doktrín.

Bias a algoritmické rozhodování v HR a compliance

Třetí situace, která se v praxi objevuje stále častěji, se týká použití AI v oblastech, kde se rozhoduje přímo o lidech: například při náboru zaměstnanců, posuzování rizik v trestním řízení nebo finančních službách, nebo v procesech compliance screeningu.

Firmy mohou být v pokušení používat AI k automatizaci výběru kandidátů, posuzování vhodnosti obchodních partnerů nebo hodnocení rizika regulačních porušení, ale pokud nejsou opatrné, mohou se ocitnout v situaci, kdy jejich rozhodování reprodukuje historické diskriminační vzorce nebo porušuje principy rovného zacházení.

Jelikož modely reflektují data, na kterých byly trénovány, mohou statisticky znevýhodňovat určité skupiny i bez explicitního použití chráněných charakteristik, například prostřednictvím zástupných proměnných.

Právní systémy v mnoha jurisdikcích na tento problém reagují požadavky na audit algoritmických systémů, transparentnost kritérií a možnost lidské revize rozhodnutí.

V některých případech regulace vyžadují, aby organizace před nasazením AI systému provedly posouzení dopadů na ochranu osobních údajů nebo nediskriminaci a zajistily možnost nápravy, pokud se výsledky ukáží jako nespravedlivé.

V právní praxi to znamená, že advokáti často radí firmám nejen s výběrem vhodných nástrojů, ale i s nastavením governance, dokumentací rozhodovacího procesu a komunikací s dotčenými jednotlivci.

Anywhere.legal může v takových situacích sloužit jako platforma, kde jsou tyto aspekty strukturovaně zpracovávány.

Zadání případu může zahrnovat nejen popis technického nástroje, ale i právní otázky týkající se ochrany osobních údajů, antidiskriminační regulace a práv subjektů údajů.

AI může pomoci shromáždit a strukturovat relevantní právní rámce v různých jurisdikcích, ale posouzení, zda konkrétní algoritmus splňuje požadavky spravedlnosti a spravedlivého procesu, musí provést právníci.

Ve stejné platformě lze zapojit experty na ochranu osobních údajů, HR právo a regulaci finančních služeb v různých zemích, propojit jejich vstupy a vytvořit konsolidované doporučení pro klienta, včetně návrhu interních politik a procedur.

Mezinárodní due diligence a koordinace týmu

Čtvrtý scénář se týká oblasti, kde AI přináší obrovské praktické benefity, ale zároveň vyžaduje pečlivou kontrolu: rozsáhlé due diligence při M&A transakcích nebo financování.

AI systémy dokáží zkontrolovat tisíce smluv, identifikovat klíčové klauzule, odchylky od standardů nebo rizikové prvky, což dříve vyžadovalo týdny práce desítek juniorních advokátů.

V prostředí, kde transakce zahrnuje více jurisdikcí, více jazyků a různé typy dokumentů, je AI schopna vytvořit strukturovaný přehled rizik a usnadnit rozhodování managementu.

Riziko spočívá v tom, že pokud jsou výstupy AI převzaty bez dostatečné kontroly, mohou zůstat některé lokální nuance skryté nebo mohou být špatně interpretovány.

Například klauzule, která je v jedné zemi standardní, může mít v jiné jurisdikci odlišné právní účinky, nebo její vymahatelnost může být omezená.

AI může klasifikovat klauzuli jako „nízké riziko“ podle globálního vzoru, ale lokální právník může vědět, že místní soudy ji interpretují jinak.

Podobně AI může podcenit regulační riziko, protože nezohledňuje aktuální trend rozhodování dozorových orgánů, který se ještě nepromítl do formálních rozhodnutí.

Anywhere.legal dokáže tyto výzvy řešit propojením AI analýzy dokumentů s prací lokálních expertů na jediné platformě.

AI vytvoří prvotní mapu rizik, shrne klíčové klauzule a identifikuje oblasti vyžadující hlubší prozkoumání.

Na základě tohoto materiálu mohou lokální advokáti v jednotlivých zemích přidávat své komentáře, označovat klauzule, které jsou v jejich jurisdikci problematické, a navrhovat mitigace nebo úpravy.

Vedoucí tým pak vidí nejen „AI skóre“, ale i lidskou expertízu z jednotlivých zemí na platformě, což umožňuje informované rozhodování.

Výsledkem není slepé spoléhání na AI, ale kombinace její efektivity s lokálním právním know-how.

Praktická doporučení pro firmy a právní týmy

Z pohledu firem a právních oddělení není otázkou, zda používat AI, ale jak ji používat tak, aby přinášela benefity a současně nezaváděla nepřiměřená rizika.

Regulátoři a soudy stále jasněji dávají najevo, že profesionálové jsou odpovědní za pochopení schopností a omezení AI a že v některých oblastech se použití vhodných nástrojů může stát součástí standardu náležité péče.

Zároveň platí, že odpovědnost za chyby AI leží na těch, kteří je nechali projít bez kontroly, nikoli na samotné technologii.

Prvním praktickým krokem je vypracování interní AI politiky, která jasně stanoví, jaké nástroje je povoleno používat, k jakým účelům a za jakých podmínek.

Taková politika by měla rozlišovat mezi otevřenými spotřebitelskými nástroji, které nesmí být používány pro citlivé nebo klientské informace, a uzavřenými podnikovými platformami, které splňují požadavky na ochranu dat a důvěrnost.

Měla by také popisovat povinnou revizi výstupů AI, například prostřednictvím checklistů pro ověření rozsahu zadání, jurisdikce, citací, věcné správnosti a stylistických úprav.

U některých typů výstupů (určených k předložení soudu, protistraně nebo klientovi) může být vyžadována dvojitá kontrola nebo schválení seniorním právníkem.

Druhým krokem je investice do školení a zvyšování AI gramotnosti v právních týmech.

Technologická kompetence neznamená, že se právník stane datovým vědcem, ale že rozumí základní povaze nástrojů, které používá, ví, kde se mohou objevit halucinace a předsudky, a dokáže AI efektivně integrovat do workflow.

Školení by mělo zahrnovat i příklady selhání z praxe, analýzu soudních rozhodnutí v oblasti AI (např. případy sankcí za vymyšlené citace nebo ztrátu privilegia) a diskuse o tom, jak těmto situacím předcházet.

Anywhere.legal může v tomto ohledu sloužit jako praktická laboratoř: prostředí, kde se právníci mohou učit workflow podporované AI v bezpečném rámci, který reflektuje etické a regulační požadavky.

Třetím prvkem je integrace AI governance do širšího rámce řízení rizik organizace.

To zahrnuje inventarizaci všech AI systémů používaných organizací, posouzení jejich dopadu na práva jednotlivců, nastavení monitorování výkonu a zřízení mechanismů pro nápravu chyb.

Z právního pohledu je důležité být schopen prokázat, že organizace jednala s náležitou péčí: testovala nástroje před nasazením, monitorovala jejich výkon, reagovala na zjištěné problémy a zajistila lidský dohled nad kritickými rozhodnutími.

Platformy jako Anywhere.legal toto dokumentování usnadňují tím, že zaznamenávají každé použití AI nástrojů v kontextu konkrétních případů, čímž umožňují rekonstruovat, jak byly výstupy použity a kontrolovány.

Konečně, je důležité pamatovat na to, že AI nesmí vést k úpadku základních právních dovedností.

Fenomén „závislosti na AI“ (AI dependency) popsaný v literatuře varuje, že pokud se profesionálové příliš spoléhají na AI, mohou postupně ztrácet schopnost samostatně analyzovat, argumentovat a rozhodovat. V právu by to znamenalo oslabení jádra profese.

Řešením je model vědomé spolupráce, při níž AI zrychluje rutinní úkoly, ale organizace současně investuje do udržení a rozvoje lidských dovedností prostřednictvím pravidelných manuálních cvičení, duálního posuzování výstupů AI a udržování „analogových“ záložních procesů pro případ selhání technologie.

Anywhere.legal tento přístup podporuje tím, že výstupy AI vždy zasazuje do procesu, který předpokládá lidskou interpretaci a revizi, nikoli slepé převzetí.

Závěr: Proč spojit etickou AI a lidský dohled do jednoho procesu

Etika AI v právní praxi není abstraktní akademické téma, ale otázka každodenní praxe, odpovědnosti vůči klientům a ochrany důvěryhodnosti právního systému.

Generativní AI nabízí advokátům bezprecedentní příležitosti: dokáže v řádu sekund zrevidovat tisíce dokumentů, navrhnout struktury podání, shrnout judikaturu nebo pomoci koordinovat vícejurisdikční projekty.

Zároveň funguje jako pravděpodobnostní systém, který postrádá vnitřní pojem pravdy, spravedlnosti nebo profesní odpovědnosti, a proto má tendenci halucinovat, reprodukovat datové předsudky a generovat výstupy, které „zní správně“, ale nemusí být právně přesné.

V právním prostředí, kde drobná nepřesnost může znamenat významný rozdíl v odpovědnosti nebo výsledku sporu, je proto zásadní, aby AI byla vždy zasazena do rámce lidského dohledu a jasných etických pravidel.

Advokátní komory, regulátoři a soudy postupně potvrzují několik základních principů.

Zaprvé, AI je přípustné používat, ale nikdy nesmí nahradit nezávislý právní úsudek a odpovědnost advokáta; její výstupy musí být vždy ověřeny podobně jako práce juniorních kolegů.

Zadruhé, práce s AI musí respektovat důvěrnost a ochranu citlivých informací, což vylučuje nekontrolované používání veřejných nástrojů pro klientská data a zároveň vyžaduje uzavřená, smluvně zajištěná prostředí pro bezpečné zpracování.

Zatřetí, organizace mají povinnost rozumět rizikům spojeným s předsudky, diskriminací a netransparentním rozhodováním a řídit je prostřednictvím rámců AI governance, auditů a mechanismů lidské revize.

Platforma Anywhere.legal je příkladem toho, jak lze tyto principy transformovat do praktického, každodenního procesu.

Propojením strukturování zadání, centralizace dokumentů, AI pro prvotní zpracování informací a zapojení lokálních expertů v jediném zabezpečeném prostředí umožňuje rychleji, systematičtěji a s lepší kontrolou rizik řešit typické přeshraniční právní a daňové situace.

AI zrychluje pochopení materiálů a generování návrhů, zatímco rozhodování, právní interpretace a finální odpovědnost zůstávají pevně v rukou advokátů a dalších expertů.

Potřebujete mezinárodní právní pomoc? Kontaktujte nás prostřednictvím Anywhere.legal.

FAQ: Často kladené otázky k etice AI v právní praxi

1. Jaký je hlavní rozdíl mezi používáním otevřeného AI chatbota a platformy jako Anywhere.legal při řešení právních záležitostí?
   Otevřený AI chatbot typicky funguje jako spotřebitelská služba, která sbírá uživatelská data, používá je pro další trénink modelů a neposkytuje záruky odpovídající požadavkům advokátní mlčenlivosti nebo ochrany pracovního produktu. Platforma jako Anywhere.legal je naopak pojata jako uzavřené, smluvně zajištěné prostředí pro práci s právními a daňovými případy, kde jsou data zpracovávána pouze pro účely konkrétních případů, jsou šifrována a jejich použití podléhá jasné auditní stopě. Navíc integruje AI do strukturovaného workflow, které předpokládá lidskou revizi výstupů a zapojení lokálních expertů, takže riziko chyb a etických selhání je výrazně nižší.

2. Mohu jako advokát používat AI pro právní rešerši, nebo to porušuje etická pravidla?
   Většina odborných stanovisek a etických kodexů dnes povoluje používání AI pro právní rešerši a související úkoly, za předpokladu, že advokát zachová odpovědnost za výsledek, chrání důvěrnost informací a ověřuje správnost a úplnost výstupů. To znamená, že AI můžete použít pro rychlé vyhledání relevantní judikatury, shrnutí rozsudků nebo návrh argumentů, ale nesmíte bez ověření převzít citace, právní závěry nebo skutková tvrzení. Doporučuje se používat specializované právní AI nástroje nebo platformy jako Anywhere.legal, které čerpají z autoritativních zdrojů a podporují ověřování citací, namísto obecně dostupných chatbotů.

3. Jak mohu klientovi vysvětlit, že používáme AI, aniž bych narušil jeho důvěru?
   Transparentní komunikace zdůrazňující, že AI slouží jako nástroj pro zvýšení efektivity a kvality, nikoli jako náhrada advokáta, obvykle důvěru spíše posiluje, než oslabuje. Klientovi můžete vysvětlit, že AI pomáhá s rychlým pochopením materiálů, prvními návrhy textů a identifikací rizik, čímž umožňuje více času věnovat strategii a individuálnímu poradenství, přičemž všechny výstupy jsou ověřovány zkušeným týmem. Pokud používáte platformu jako Anywhere.legal, můžete dodat, že jde o uzavřené, zabezpečené prostředí s jasnými pravidly pro zachování důvěrnosti a auditní stopou, takže klient má lepší kontrolu nad tím, jak se s jeho daty zachází.

4. Jaké jsou největší chyby advokátů při používání AI?
   Mezi nejčastější chyby patří nekritické převzetí výstupů AI bez ověření, zejména pokud jde o citace judikatury nebo právní závěry, používání otevřených AI nástrojů pro citlivé nebo klientské informace a absence interní politiky, která by stanovila pravidla a limity pro používání AI. Další chybou je spoléhání se na AI v oblastech, kde model nemá dostatek dat nebo kde je vysoké riziko předsudků (bias), například při rozhodování o lidech nebo v nově regulovaných odvětvích. Řešením je kombinace vhodně zvolených nástrojů (ideálně uzavřených a právně orientovaných platforem), interních pravidel pro ověřování výstupů a pravidelného školení týmu v AI gramotnosti.

5. Je možné regulovat AI v právu tak, aby byla zajištěna spravedlnost a transparentnost, nebo je technologie příliš „černá skříňka“?
   Některé aspekty fungování hlubokých neuronových sítí zůstávají obtížně vysvětlitelné, ale to neznamená, že AI nelze právně a eticky regulovat. Namísto pokusu o kompletní „rozmontování“ modelu se mnoho expertů přiklání k přístupu, který klade důraz na procesní transparentnost, auditovatelnost, komunikaci nejistoty a zajištění lidského dohledu nad rozhodnutími s významnými dopady. Regulace jako EU AI Act, americké návrhy pro algoritmickou odpovědnost a profesní standardy v právu jdou právě tímto směrem: vyžadují posouzení rizik, vysvětlitelnost rozhodovacích procesů na úrovni systému, ochranu proti diskriminaci a možnost efektivní nápravy. Platformy jako Anywhere.legal mohou firmám pomoci tyto požadavky prakticky naplňovat tím, že AI zasadí do strukturovaného procesu s jasnými rolemi, kontrolami a dokumentací.