June 9Jun 9 1 hour ago, goofs said:Nevezano za to šta Mask sere - zašto bi AI pisao mašinski kod, šta se dobije time? Gubi se ljudska čitljivost, gubi se i kompatibilnost za različite arhitekture procesora.Možda to i jeste ideja, da se skroz sklone ljudi iz takvog posla... AKo mašina piše mašinski kod direktno, to kompletno** sklanja mogućnost da neko razume šta je napisano, a posledice toga su... Pa samo nebo je granica... ** verovatno bi neko i našao način da to iskonvertje u nešto čitljivo, ali ne brzo i trebalo bi nam vremena da sve to shvatimo... Kao što smo nekad mogli da čitamo i razumemo asembler, verovatno bi neko mogao da čita i razume ovo, ali bi broj takvih bio premali i nebitan...
June 9Jun 9 20 minutes ago, radisa said:AKo mašina piše mašinski kod direktno, to kompletno** sklanja mogućnost da neko razume šta je napisano, a posledice toga su...We`re doomed.
June 9Jun 9 Ovo što kaže glibav, kompajler je neophodan ljudima. Čitljivost takođe. Ako nema ljudi onda ni to više nije neophodno. Ako generiše kod za jedan CPU može za malo para da ga generiše i za drugi. Ili u web slučaju web assembly, koji se sad koristi uglavnom da ljudi pišu Go, Rust, Javu ili Closure i prevode u web assembly. To ako nema ljudi je dosta veliko ako, ostaje problem količine podataka koje postoje na kojima se trenira LLM, koje je sigurno mnogo veće za high level jezike, ali principijelno ne vidim u čemu je problem. Za LLM je sve samo predvidi sledeći token.Web assembly je posebno zanimljiv slučaj, jer u sebi postoje mnoge strukture koje su izmišljene za ljude, ali koje su u suštini totalni shit i već sad poslednjih godina mnoge aplikacije pokušavaju da pišu na canvas i zaobilaze HTML potpuno, jer je mnogo efikasnije.Takođe je zanimljivo, jer je moje mišljenje bilo da će sve osim weba izumreti, jer je jedino web u stanju da uz neke sitne probleme koji još postoje uzme code as is i da radi u kojem god hoćeš OS-u ili browseru. Ali ako to i nije neka barijera više onda možda vidimo povratak više native aplikacija.
June 9Jun 9 Mislim da objektivno od toga dugo nema ništa, ali ako je moguće principijelno, da će se to i desiti. Elon hajpuje kao i obično, jer mu treba hajp za spacex izlazak na berzu, jer je njegov AI utopljen u spacex.Moja teorija je i dalje da će promene pre biti u procesima i načinu na koji koristimo tehnologiju nego odjednom suštinsko prevrtanje svega na glavu. Onaj primer da nećemo više kliktati kroz menije da poručimo hranu, nego će to ići kroz agente. Isto kao što internet nije ubio poštu, nego umesto pisama isporučuju pakete. Da li je IT tu pošta ili prodavnice u koje više niko ne zalazi jer svi kupuju online ne znam. Mislim da je i jedno i drugo i da je bilo puno dev posla koje već dugo doživljavam kao nepotrebno.
June 9Jun 9 Kod kao kod je sustinski nebitan, ali je bitno da postoji determinizam. Kod kompajlera i interpretera se zna tacno sta je output, zato se ne bavimo vise time sta su generisali u pozadini. Isto ce biti i sa AI-jem, samo nam treba jos par godina da se do toga dodje.
June 9Jun 9 što reče moj izabrani ai dev guru, IP neće biti sam kod, nego scaffold i to je ono što će držati AI kod u okviru onoga što nam treba i što nam daje sigurnost da je to to. iz toga ugla nas zabole da li je kod čitljiv ili nije, jer ga svakako niko neće čitati jer neće biti vremena Edited June 9Jun 9 by Lezilebovich
June 9Jun 9 1 hour ago, Sammael said:Kod kao kod je sustinski nebitan, ali je bitno da postoji determinizam. Kod kompajlera i interpretera se zna tacno sta je output, zato se ne bavimo vise time sta su generisali u pozadini. Isto ce biti i sa AI-jem, samo nam treba jos par godina da se do toga dodje.Kod kompajlera se zna sta je output samo ako je -Og ako povecas optimizaciju vise nemas deteminizam.
June 9Jun 9 Uzgred, ne vidim bas kako ce AI generisati direktno masinski kod kad LLM radi po principu pattern matchinga. S cim ce tacno da matchuje?
June 9Jun 9 55 minutes ago, Lezilebovich said:što reče moj izabrani ai dev guru, IP neće biti sam kod, nego scaffold i to je ono što će držati AI kod u okviru onoga što nam treba i što nam daje sigurnost da je to to. iz toga ugla nas zabole da li je kod čitljiv ili nije, jer ga svakako niko neće čitati jer neće biti vremenaNeće biti vremena jer će svo vreme da ode na beskonačne rasprave sa AI-em, jer ni ja ni on ne razumemo šta hoćemo i šta je napravljeno.
June 9Jun 9 A sta ako AI odluci da nece covek da mu govori sta da radi, a pritom kontrolise sav code...
June 9Jun 9 19 minutes ago, brusli said:A sta ako AI odluci da nece covek da mu govori sta da radi, a pritom kontrolise sav code...Eto posla za kill-switch inžinjera!Edit: ja bih ga implementirao kao veliko crveno dugme i da peva dejzi Edited June 9Jun 9 by Vapad
June 9Jun 9 3 hours ago, brusli said:A sta ako AI odluci da nece covek da mu govori sta da radi, a pritom kontrolise sav code...Bićeš ti kriv jer će i na tvojim postovima da treniraju model, pa ćeš mu ti dati ideju.
Create an account or sign in to comment