testiram, sa još nekim kolegama, AI asistenta. trebalo bi da daje odgovore na pravna pitanja, u skladu sa zakonodavstvom Srbije

sad je već na testu neka peta ili šesta verzija. neki trenutni utisak jeste da više može da koristi onome ko zna pravo i bavi se njime, nego onome ko ne zna. u smislu da može da ti otvori ili ukaže na neku stranu priče ili neki kontekst koji ti je promakao ili ga nisi uzeo u obzir, odnosno da ti da ideju koju onda možeš da goniš dalje. ili da te spase od masivnog kucanja i unošenja tekst, tako što će da posloži činjenično stanje i navede relevantne odredbe propisa. zaključivanje već ide dosta teže, često ume da se raspiše oko nekih gluposti i irelevantnih stvari, ili da promaši poentu. npr. u jednom prilično nekomplikovanom upitu ne uočava da je odgovor vezan za hijerarhiju opštih akata i da se primenjuje onaj koji je viši u hijerarhiji (ako niži akt nije u skladu sa višim), već razvija opširnu priču bez uočavanja jednostavnog odgovora. sve što kaže nije bez osnova, ali naprosto nije odgovor na upit.

često koristi formulacije koje me iritiraju. tipa nije eksplicitno propisano, ne može se sa sigurnošću utvrditi da.....ovo ili ono. na sastancima koje imamo periodično objašnjavam ljudima koji rade ne razvoju da tako iritantne tvrdnje i formulacije ne smeju da puste na tržište, to su odgovori koji ne sadrže odgovor, niti stav, tumačenje. a planira se izlazak na tržište uskoro. objašnjavam da nije niti može sve da bude eksplicitno propisano, jer kad bi tako bilo onda ne bi imao pravne fakultete već fakultete za crtl-f, gde samo treba da nađeš gde je odgovor eksplicitno propisan.

najveći problem je vremensko važenje propisa. to ne može da svari nikako. npr. daće tačan odgovor sa aspekta propisa koji važe sada, ali ne može da ukapira da je 2019. propis glasio drugačije i da mora taj da primeni. da nešto što danas može tada nije bilo moguće. ili obrnuto

kolege iz nekih drugih oblasti mi kažu da ne može da savlada, odnosno vidi materju koja se nalazi u masivnim tabelama, odnosno da ne vidi tabelu kao tabelu nego kao neki niz podataka, koje onda ne može da obradi dobro

formulacije su nekada neživotne ili čudne. kažu mi da je to zato što on odgovore u suštini daje na engleskom, pa prevodi na srpski. a nekad opali i neke reči koje su hrvatske npr.

naravno, pitanje je i izvora. trenutno se proširuju da obuhvate i sudsku praksu i još neke stvari. nema pristup nekim "paranormalnim" izvorima, tipa forum Ana i raznim pravim smatranjima laika. što je ok

Bio sam ove nedelje na Nedelji arbitraže u Parizu, ono što sam video je impresivno:

Privredni sud u Parizu već koristi AI softvere za razvrstavanje predmeta, sistematizaciju dokaza i draftovanje jednostavnijih odluka (npr. rešenja o izvršenju), za analizu dokumentacije u stečajnim postupcima. Sudija dobija draft gotove odluke koji samo pregleda i potvrdi klikom, što može da uradi i od kuće ili sa odmora. Takođe doneli smernice i etičke kodekse rada sa AI-jem.

AAA (American Arbitration Association) ima AI koji pregleda claims, responses, daje summary-je argumentacije i dokaza i odmah dostavlja arbiru nacrt awarda. Ima od skoro u svojoj ponudi za jednostavnije građevinske arbitraže manje vrednosti i opciju da ceo postupak sprovede AI (nije niko još iskoristio). LCIA i ICC imaju AI softvere na nešto manjem nivou, uglavnom za summary-je, i počeli su da traže od strana da se izjasne u kojoj meri hoće da AI učestvuje u obradi dokumenata u postupku.

Jus Mundi je napravio AI softver za arbitraže koji vodi podatke samo iz njihove baze arbitražne prakse i odluka (dobili pristup bazama ICC, LCIA, CAS, drugih manjih arbiraža, Srbiju nemaju naravno), draftuje podneske sa pozivanjima na ranije slučajeve i precedente, piše proceduralne naredbe i odluke, daje komentare o arbitrima i njihovim pravnim stavovima o određenim pitanjima sa citatima iz odluka ili naučnih radova, radi pravnu analizu slučaja, itd. Nestavrno izgleda, kao magija.

Lupa Technologies je napravio AI za građevinske firme koji vodi celokupnu dokumentaciju o projektu, građevinske dnevnike, fakture, privremene situacije, dozvole, to povezao sa bazom arbitražnih odluka u construction arbitražama, pa može advokat da vidi kako je neka situacija presecana u nekim postupcima.

Ludilo jebeno.

34 minutes ago, Ted said:

često koristi formulacije koje me iritiraju. tipa nije eksplicitno propisano, ne može se sa sigurnošću utvrditi da.....ovo ili ono. na sastancima koje imamo periodično objašnjavam ljudima koji rade ne razvoju da tako iritantne tvrdnje i formulacije ne smeju da puste na tržište, to su odgovori koji ne sadrže odgovor, niti stav, tumačenje. a planira se izlazak na tržište uskoro. objašnjavam da nije niti može sve da bude eksplicitno propisano, jer kad bi tako bilo onda ne bi imao pravne fakultete već fakultete za crtl-f, gde samo treba da nađeš gde je odgovor eksplicitno propisan.

Ja ti toplo savetujem da ostavite takve formulacije u odgovorima, jer je to jezik koji koriste i najveće svetske advokatske kanclerije, naročito ako daju odgovore na kompleksna pitanja. I u Srbiji da postaviš komplikovano pitanje Karanoviću ili BDK ili JPM ili Kinstellaru, velike su šanse da ćeš dobiti odgovor koji obiluje takvim formulacijama, a to nije tako zato što oni ne znaju pravo ili ne znaju da pišu, već zato što ima situacija koje zaista nisu regulisane našim pravom niti postoji bilo kakva praksa ili je diskrecija državnih organa ogromna ili se stalno menja - npr. koja su obaveštenja koja trebaš da daš pacijentima koji učestvuju u kliničkim ispitivanjima lekova ako se uzorci njihovih tkiva koriste u naučnim istraživanjima u inostranstvu ili koji je način za dobijanje privremene mere na stranom vazduhoplovu koji se zatekao na domaćem aerodromu ili kako se vrši prekogranično spajanje privrednih društava ili koja je dokumentacija potrebna za transport neopasnog otpada kroz Srbiju. Ako vaš AI bude davao konačne i definitvne odgovore na takva pitanja, samo je pitanje trenutka kada ćete popiti tužbu za naknadu štete ili prijavu za nadripisarstvo.

8 minutes ago, Ayatollah said:

Ja ti toplo savetujem da ostavite takve formulacije u odgovorima, jer je to jezik koji koriste i najveće svetske advokatske kanclerije, naročito ako daju odgovore na kompleksna pitanja. I u Srbiji da postaviš komplikovano pitanje Karanoviću ili BDK ili JPM ili Kinstellaru, velike su šanse da ćeš dobiti odgovor koji obiluje takvim formulacijama, a to nije tako zato što oni ne znaju pravo ili ne znaju da pišu, već zato što ima situacija koje zaista nisu regulisane našim pravom niti postoji bilo kakva praksa ili je diskrecija državnih organa ogromna ili se stalno menja - npr. koja su obaveštenja koja trebaš da daš pacijentima koji učestvuju u kliničkim ispitivanjima lekova ako se uzorci njihovih tkiva koriste u naučnim istraživanjima u inostranstvu ili koji je način za dobijanje privremene mere na stranom vazduhoplovu koji se zatekao na domaćem aerodromu ili kako se vrši prekogranično spajanje privrednih društava ili koja je dokumentacija potrebna za transport neopasnog otpada kroz Srbiju. Ako vaš AI bude davao konačne i definitvne odgovore na takva pitanja, samo je pitanje trenutka kada ćete popiti tužbu za naknadu štete ili prijavu za nadripisarstvo.

ja se slažem kada su u pitanju činjenična stanja i situacije koje navodiš. kada je pitanje kompleksno, seče različite propise i oblasti i jurisdikcije, ne postoji nikakva praksa, sam zakon je loš ili teško primenljiv ili u sukobu sa nekim drugim zakonom itd. jasno je da da postoje brojne situacije u kojima definitivan odgovor nije moguć. u takvim situacijama ja barem probam da dam svoje pravno mišljenje i da ga obrazložim, odnosno da bude zasnovano na tumačenju koje ima pravni rezon, pa makar i sa pozivanjem na neka opšta načela. baš kad ne može ništa, onda mogu da idu i konstatacije koje sam naveo

ono što je ovde problem jeste kada dobijem odgovor da nije sasvim izvesno ono što jeste sasvim izvesno. recimo pre par nedelja je tvrdio na nije sasvim izvesno da li lice koje je u radnom odnosu u Srbiji kod poslodavca sa punim radnim vremenom može kod drugog poslodavca, isto u Srbiji, da zasnuje radni odnos sa još pola radnog vremena. jasno je da ne može (može da se radno angažuje na brojne druge načine, ali ne i u radnom odnosu), to su notorne stvari i onda me nervira kad moram da raspravljam o tome, oduzima mi vreme.

u principu ja upite provlačim kroz AI i onda treba da analiziram odgovor i da vidim dal je negde zabagovao, dao pogrešan odgovor, nije nešto uzeo u obzir ili je uzeo u obzir nešto šte nije smeo ili trebao itsl. ima naravno i pozitivnih primera, odnosno ume da iznenadi i u pozitivnom smsilu

Edited March 27Mar 27 by Ted

@Ayatollah znači ukratko, najebasmo.

45 minutes ago, Ted said:

ja se slažem kada su u pitanju činjenična stanja i situacije koje navodiš. kada je pitanje kompleksno, seče različite propise i oblasti i jurisdikcije, ne postoji nikakva praksa, sam zakon je loš ili teško primenljiv ili u sukobu sa nekim drugim zakonom itd. jasno je da da postoje brojne situacije u kojima definitivan odgovor nije moguć. u takvim situacijama ja barem probam da dam svoje pravno mišljenje i da ga obrazložim, odnosno da bude zasnovano na tumačenju koje ima pravni rezon, pa makar i sa pozivanjem na neka opšta načela. baš kad ne može ništa, onda mogu da idu i konstatacije koje sam naveo

ono što je ovde problem jeste kada dobijem odgovor da nije sasvim izvesno ono što jeste sasvim izvesno. recimo pre par nedelja je tvrdio na nije sasvim izvesno da li lice koje je u radnom odnosu u Srbiji kod poslodavca sa punim radnim vremenom može kod drugog poslodavca, isto u Srbiji, da zasnuje radni odnos sa još pola radnog vremena. jasno je da ne može (može da se radno angažuje na brojne druge načine, ali ne i u radnom odnosu), to su notorne stvari i onda me nervira kad moram da raspravljam o tome, oduzima mi vreme.

u principu ja upite provlačim kroz AI i onda treba da analiziram odgovor i da vidim dal je negde zabagovao, dao pogrešan odgovor, nije nešto uzeo u obzir ili je uzeo u obzir nešto šte nije smeo ili trebao itsl. ima naravno i pozitivnih primera, odnosno ume da iznenadi i u pozitivnom smsilu

Pa onda morate da nekako rešite taj problem tako da ne daje zavijene odgovore na prosta pitanja, odnosno izričite odgovore na komplikovana pitanja. To su već tehničke finese, i zavisiće mnogo od kompetentnosti onih koji vam prave LLM i toga koliko oni uopšte razumeju ovu materiju. Jus Mundi je imao tim od 80 ljudi koji je pravio njihov AI, i to za oblast užu od celokupnog prava neke države, ne znam da li vi imate i blizu takve resurse.

Ono što je vidim kao potencijalne probleme kod vas su dve vrlo povezane stvari:

Prvo, baš svaki AI koji je prezentovan u Parizu u nekoj fazi svog rada mora da dobije ljudski input ili makar ljudski sign-off. Drugim rečima, on baš ništa ne može da zvanično proizvede dok to ne odobri živ čovek sa ozbiljnim kompetencijama za tu oblast.

Drugo, baš svaki AI koji je prezentovan na kongresu je namenjen isključivo profesionalcima koji se bave arbitražom ili građevinom, i laici uopšte ne mogu da pristupe ovim softverima ili da ih nabave, čak i kada bi to hteli.

Ukoliko je vaša namera da vi napravite AI chatbota koji će da daje pravne savete bez ljudske provere, i onda ga ponudite na prodaju opštoj javnosti, bojim se da ulazite na veoma klizav teren. Kako što se tiče kvaliteta toga što će taj AI da proizvede, a još više dozvoljenosti takvog poslovnog modela, jer bi se postavilo pitanje da li je dozvoljeno da laici dobijaju pravne savete od softvera bez ikakvog ljudskog nadzora. Ja sam skoro siguran da bi to bilo vrlo očigledno kršenje Zakona o advokaturi, kao i mase drugih propisa, npr. Zakona o oglašavanju, koji zabranjuje obmanjujuće oglašavanje. Eventualno da se stave neki debeli disclaimeri da je u pitanju informativni chatbot koji ne daje pravne savete i da pravne savete mogu da daju samo advokati itd., ali mislim da će i u tom slučaju biti vrlo ozbiljnih reakcija od strane advokature.

40 minutes ago, Moća said:

@Ayatollah znači ukratko, najebasmo.

Pa ja bih rekao da i nismo toliko, odnosno da je intencija u razvijenom svetu da ovi alati budu namenjeni profesionalcima, a ne opštoj populaciji. Videćemo.

Postoje još neka rešenja u razvoju tih AI asistenta.

Kao na primeš što pri sklapanju automobila ne moraš početi od izrade agregata, već jednostavno možeš uzeti već gotov i proveren agregat od renomiranog proizvođača, tako i za AI asistenta možeš početi od nečega što je već gotovo.

To su pretrenirani modeli. Njihovi parametri su već postavljeni kroz trening na nekom generalnom data setu. Vama ostaje kasnije fino podešavanje modela na osnovu vašeg data seta.

Npr. na Hugging Face ima mnoštvo modela koji bi odgovarali tom zadatku.

Druga varijanta je Retrieval Augmented Generation (RAT) i pomaže da se prevaziđu halucinacije na način što se LLM-u podmeće intena dokumentacija. Kada se pošalje prompt, model pretražuje prvo internu bazu znanja, zatim uzima te rezultate i na osnovu njih formira prompt ka LLM (chatgpt, gemini) koristeći info iz dokumentacije kao kontekst. Ovako se rešava i knowledge cut-off, jer LLM zna informacije koje su bile aktuelne u vreme njegovog treniranja. A ti konstatno možeš da ažuriraš internu dokumentaciju.

11 hours ago, Ayatollah said:

Bio sam ove nedelje na Nedelji arbitraže u Parizu, ono što sam video je impresivno:

Privredni sud u Parizu već koristi AI softvere za razvrstavanje predmeta, sistematizaciju dokaza i draftovanje jednostavnijih odluka (npr. rešenja o izvršenju), za analizu dokumentacije u stečajnim postupcima. Sudija dobija draft gotove odluke koji samo pregleda i potvrdi klikom, što može da uradi i od kuće ili sa odmora. Takođe doneli smernice i etičke kodekse rada sa AI-jem.

AAA (American Arbitration Association) ima AI koji pregleda claims, responses, daje summary-je argumentacije i dokaza i odmah dostavlja arbiru nacrt awarda. Ima od skoro u svojoj ponudi za jednostavnije građevinske arbitraže manje vrednosti i opciju da ceo postupak sprovede AI (nije niko još iskoristio). LCIA i ICC imaju AI softvere na nešto manjem nivou, uglavnom za summary-je, i počeli su da traže od strana da se izjasne u kojoj meri hoće da AI učestvuje u obradi dokumenata u postupku.

Jus Mundi je napravio AI softver za arbitraže koji vodi podatke samo iz njihove baze arbitražne prakse i odluka (dobili pristup bazama ICC, LCIA, CAS, drugih manjih arbiraža, Srbiju nemaju naravno), draftuje podneske sa pozivanjima na ranije slučajeve i precedente, piše proceduralne naredbe i odluke, daje komentare o arbitrima i njihovim pravnim stavovima o određenim pitanjima sa citatima iz odluka ili naučnih radova, radi pravnu analizu slučaja, itd. Nestavrno izgleda, kao magija.

Lupa Technologies je napravio AI za građevinske firme koji vodi celokupnu dokumentaciju o projektu, građevinske dnevnike, fakture, privremene situacije, dozvole, to povezao sa bazom arbitražnih odluka u construction arbitražama, pa može advokat da vidi kako je neka situacija presecana u nekim postupcima.

Ludilo jebeno.

Vau. Ovo za izvršenja je odavno moglo da se uvede i kod nas, da se rasterete izvršna odeljenja i premeste kadrovi na neka druga mesta.

---

Od ljudi koji rade u našim bazama propisa sam čuo iskustva sa njihovim AI asistentima (planirani da se koriste interno, prilikom nadripisarstva odgovaranja na pitanja korisnika), gde se do sada najbolje pokazao modul za radno pravo.

Kolege koji koriste inostrane baze, npr. LexisNexis kažu da su haliciniranje resili tako što daje slične odgovore kao one koje je naveo Ted, poput "nema podataka na osnovu kojih bi mogao da odgovorim".

---

Moje iskustvo da je AI koristan da ti pruži smernice i skrene pažnju na neki apekt ili propis koji nisi imao u vidu, posebno ako je u pitanju materija kojom se ne baviš često. Korišćenje od strane laika u iole kompleksnijim stvarima gde treba ukrstiti pravne propise i praksu je uvod u probleme, potencijalnu parnicu i možda ne toliko važno, ali veoma iritantno, bombardovanje porukama "meni je rekao ChatGPT da (ne)može...".

Danas je izašao članak u Gardijanu o chatbotovima koji ignorišu instrukcije.

https://www.theguardian.com/technology/2026/mar/27/number-of-ai-chatbots-ignoring-human-instructions-increasing-study-says

10 hours ago, Ayatollah said:

Pa ja bih rekao da i nismo toliko, odnosno da je intencija u razvijenom svetu da ovi alati budu namenjeni profesionalcima, a ne opštoj populaciji. Videćemo.

Ne znam da li sam ovo veci pisao, ako jesam izvinjvam se.

Prije par nedelja mi je trebao jedan specifican obrazac za ugovore sa klijentima, a koji nemamo u vlastitoj zbirci.

Napisem solidan prompt za Copilot koji imamo uz firmin Office365 i dobijem solidan obrazac, ali ne bas ono sto me treba. Dopunim prompt i cap: tacno ono sto mi treba.

Ali, da u CYA svrhu posaljem email i pravnoj slubi (eksterna firma koja naplacuje oko $600 na sat) i potrosim 3 email korespondencije da bi nekako dobio ono sto mi je ChatGPT dao u dva prompta. I sad cu dobiti minimum $1000 racun jer oni svaki email naplacuju kao 1/4 sata.

Mislim da je mnogim pripravnicima ovo suzilo prostor, a tek ce. Pogotovo kad vece advokatske kuce skontaju da im ne treba armija pripravnika.

@Ayatollah

Kakve veze ima sa stanovišta Z o advokaturi i KZ da li se pravna pomoć daje profesionalcima ili laicima? Ima logike da je smešno da HR ide kod javog tužioca jer mu je četbot dao pogrešan odgovor oko trudnice pa je nešto zasro na poslu, ali to je iz ugla ovih zakona potpuno isto kao da je trudnica pitala pa nije adekvatno iskoristila neko pravo jer joj četbot nije rekao ono što bi joj advokat rekao

Laicima se daje pravna pomoć sto sme da radi samo advokat.

Profesionalcima s prodaje usluga slična Paragrafu ili Indoku.

to nista nema u zakonu. sa stanovista zakona oba scenarija su ista

Citat Tedov:

"sad je već na testu neka peta ili šesta verzija. neki trenutni utisak jeste da više može da koristi onome ko zna pravo i bavi se njime, nego onome ko ne zna. "

Da stavim laički +1 na deo za, je li, laike.

Bezbedni su pravnici, advokati i ostali kao profesionalci - moje mišljenje. Nema šanse da bih AI poslušao bez konsultacije sa diplomiranim. Moje iskustvo, naglašavam.

14 hours ago, Krošek said:

to nista nema u zakonu. sa stanovista zakona oba scenarija su ista

Onda baza prakse Vrhovnog suda pruža besplatnu pravnu pomoć kada mi da odluku na osnovu upita. Pravnu pomoć dobija stranka koja se obratila advokatu, a kada neki ai advokatu pomaže u tome to je isto kao kada mu pomaže pripravnik ili neki spoljni saradnik.