ChatGPT

[Amelija]

3 minutes ago, Tpojka said:

 

 

 

Nisam iščit'o svu temu nego se pojavljuju razmišljanja o zamjeni ljudskog resursa (radne snage) u pogledu donošenja odluka. Bar se može naići na teze takve.

 

E to već jeste tema, šta se sve namerava prepustiti mašinama (bilo jezičkim bilo drugim), i koliko im treba verovati.

 

Po meni, mašine mogu da pomognu dosta ali samo u kooperaciji s ljudima (uz nadgledanje ljudi). 

I ljudi treba da budu dobro svesni šta sve mašine mogu dobro da rade a šta pak ne.

[Amelija]

inače ludilo mi je i što za jezičke modele treba dosta teksta za obučavanje, i dugo je bio problem gde naći tekstove, e a pošto jezički modeli sada mogu da generišu ogromne količine čitljivog i gramatički ispravnog teksta -- zašto ne koristiti i te tekstove za obučavanje jezičkih modela

 

i tako...

 

inače namerno nisam rekla "smislenog" teksta nego čitljivog i gramatički ispravnog, jer smislenost mož da bidne ali ne mora da znači

[Tpojka]

1 hour ago, Amelija said:

E to već jeste tema, šta se sve namerava prepustiti mašinama (bilo jezičkim bilo drugim), i koliko im treba verovati.

 

Pa to vjerovanje se upravo odnosi na statistiku. Zato (se) i pitam.

 

Edit: djeluje da je potentan pos'o budućnosti (u pogledu automatizacije mašina i prepuštanja odluka istima) upravljanje rizicima i osiguranje.

 

[Weenie Pooh]

3 hours ago, Spooky said:

Ma smaraju sa nepotrebnim gotovo semantičkim pitanjima.

Da li je plivački stil Delfin (Butterfly) analogan sa kretanjem delfina ili leptira. Pa neke analogije očigledno postoje, ali tvrditi neku čvrstu analogiju nema smisla i sad bi mogao da nam se javi neki biolog, ismeje nas i naše pogrešno nazvane plivačke stilove, pokaže kako su pokreti delfina i leptira mnogo jeftina imitacija i veze to nema sa pravom biomehanikom pokreta delfina ili leptira.

Slično tako, ljudi su imitirali životinje kad su pravili aerodinamičke oblike, ali neki pristupi npr. imitiranje životinjskih krila da bi se napravila leteća mašina su bilo slepi put... Tako i sa neuralnim mrežama, neke analogije rade posao, neke ne rade, neke totalno sintetičke stvari (ReLU aktivatori) zamene neke nature-looking aktivatore i daju bolji rezultat... Niko to ne nastupa sa stava da je sve u vernom imitiranju prirode, niti iz obratnog stava, već prosto koriste šta im radi posao.

 

Poslednji put, problem nije u vernosti aproksimacije već u epistemologiji, tačnije u granicama ljudskog saznanja. 

 

Mehaniku pokreta delfina ili leptira prilično dobro razumemo, pa zaludni ljudi mogu da se spore oko toga koji stil šta bolje aproksimira. (Ako žele. Apsolutno ne moraju.) Dakle, tu semantička pitanja jesu nepotrebna. 

 

Funkcionisanje ljudskog mozga mi fundamentalno ne razumemo. Stalno se formiraju nove ideje koje osporavaju stare, a ni jedne ni druge nemaju empirijsku komponentu. Štaviše, postoji škola mišljenja po kojoj nikad neće biti moguće sagledati svest kroz fizičke procese, tj. prići joj analitički, jer nas njena priroda ograničava. 

 

Sad ti možeš da kažeš, "ma to je sve nebitno jer mi ne aproksimiramo ljudsku svest, mi gradimo nešto sasvim novo samo loosely inspirisano ljudskom svešću."

 

Ali pobogu, ljudska svest je ta koja AI koncipira, koja AI kreira, koja AI trenira, koja AI validira, koja će morati jednog dana sa AI da ostvari smislenu komunikaciju.

 

Ne možeš da apstrahuješ ljudsku svest iz AI diskusije, da kažeš "nije bitno kako radi dok rešava probleme", jer si ti taj koji treba da odluči šta je problem i šta je validno rešenje. 

 

Ja ne umem ovo jasnije da objasnim, žao mi je. Ti slobodno otpiši primedbu sa "smaraš, nepotrebna semantička pitanja". Ali znaš kako kažu, ko igra za tehnokratiju i zanemaruje semantiku, završiće karijeru u kultnoj postapokaliptičnoj priči Harlana Elisona.

 

[Peter Fan]

3 hours ago, Amelija said:

E to već jeste tema, šta se sve namerava prepustiti mašinama (bilo jezičkim bilo drugim), i koliko im treba verovati.

 

Po meni, mašine mogu da pomognu dosta ali samo u kooperaciji s ljudima (uz nadgledanje ljudi). 

Ima to dosta dobro obradjeno u ovoj knjizi: ,Amazon.com: The Humachine: Humankind, Machines, and the Future of Enterprise: 9781138571341: Sanders, Nada R., Wood, John D.: Books

 

3 hours ago, Amelija said:

I ljudi treba da budu dobro svesni šta sve mašine mogu dobro da rade a šta pak ne.

a oni se izmedju ostalog pozivaju na Moravec's paradox - Wikipedia i Kasparov’s Law – Court of the Grandchildren

[Peter Fan]

 a kad sam vec ovdje, jedno iskustvo sa DALL-E2.

 

Na postavaljeni zadatak "Three-Dimensional Cartesian Coordinate System:" sam dobio ovo:

 

[Budja]

10 hours ago, Amelija said:

inače ludilo mi je i što za jezičke modele treba dosta teksta za obučavanje, i dugo je bio problem gde naći tekstove, e a pošto jezički modeli sada mogu da generišu ogromne količine čitljivog i gramatički ispravnog teksta -- zašto ne koristiti i te tekstove za obučavanje jezičkih modela

 

i tako...

 

inače namerno nisam rekla "smislenog" teksta nego čitljivog i gramatički ispravnog, jer smislenost mož da bidne ali ne mora da znači

 

Sad, da li je generisanje teksta dovoljno da ljudi koji ga koriste bolje citaju i pisu i da razumeju tekst i da se preokrene sadasnji trend vracanja komunikacije na likovno pismo, ne znam.

[Lucia]

On 21. 4. 2023. at 11:50, Amelija said:

analogije sa ljudskim mozgom uglavnom dolaze upravo od onih koji ne rade sa neuronskim mrežama

 

Ako je to kriterijum Ilya Sutskever bi bio isfiltriran  i ne bi bio jedini. Nije neophodno da svi vidimo iste analogije, meni se ova namece iz svega sto sam kao laik za NN cula od predavaca iz te oblasti. Naravno zna se gde se takva analogija sa neuronima & sinapsama zavrsava . Ne verujem da neko zamislja bukvalno 1:1 mapiranje. 

[Lucia]

Dva nedavna, poduza ali zanimljiva intervjua:
 

Sam Altman o svemu i svacemu re AGI ukljucujuci OpenAI & Microsoft partnership:

Bill Gates i njegova perspektiva:
Bill Gates on AI and the rapidly evolving future of computing - YouTube

 

Edited April 22, 2023 by Lucia

[Dnaralaske]

Kaze klinac da se pita neko vreme da li stvari imaju svest i da li mogu da osecaju, samo drugacije. Ja citao nesto da pcele imaju svest, mogu cak i "depresivne" da budu, a i rekao bih i da je ova macka sto je imam isto svesna. Tako da se meni to nekako razdvojilo od ove nase inteligencije bioloske i mehanicko elektronske.

 

Sa druge strane, laicki, ako je na primer ovaj danasnji model treniran da knjigama pre Tolkiena, kakav mu upit treba zadati da napise takve knjige. Da li bi taj upit morao biti previse precizan, tj sadrzati delo u principu ili jok?

 

E i ne znam jel ovo mesto za vesti:
https://www.science.org/doi/10.1126/sciadv.adg3289

https://phys.org/news/2023-04-nanowire-networks-human-brain.html

Edited April 22, 2023 by Dnaralaske

[kipo]

1 covjek ne moze da shvati sta je i da li postoji svijest, i ne moze se sloziti sa drugim covjekom po tom (i drugim) pitanjima. Masina sa svojim informacijama moze samo da usere stvar totalno, glede svijesti. Medjutim, masina moze doseci konsezus oko SVIH nedoumica, jednostavno birajuci najbolju mogucu opciju dovoljno puta. To ce covjecima^tm napraviti problem nekada.

[Ratamahatta]

[Weenie Pooh]

Sa druge strane, laicki, ako je na primer ovaj danasnji model treniran da knjigama pre Tolkiena, kakav mu upit treba zadati da napise takve knjige. Da li bi taj upit morao biti previse precizan, tj sadrzati delo u principu ili jok?

Pisao je ChatGPT u prethodnim verzijama razne fiktivne narativne, kratke priče itd. Obično nisu bile ni za šta, ali to važi i za većinu stvari koje čovek napiše.

Kakav upit se mora zadati, možeš sam da isprobaš u malom. Zadaj svom telefonu par početnih reči i ostavi da autocomplete funkcija završi rečenicu u pitanju je kompletan operativni sistem uz koga dolaze aplikacije koje omogućavaju primenu računara u svim zemljama u razvoju i unapređenju kvaliteta i cene sa svojim partnerom i doprinosa po visini od oko dva miliona evra za kilogram žive mere za sprečavanje pranja novca i finansiranja terorizma i doprinosa po visini od oko dva miliona evra za kilogram...

[Weenie Pooh]

Khm, pardon, htedoh reći, ostavi da završi rečenicu koju si ti to je prilično jasno da je to već uradilo pola timova sa kojima se govori o tome da se ne svađaš sa mamom i te kako je to stav o tome šta će biti u stanju da se ne istroše prerano I am not sure what you mean by the fact that you are not the only one who has been in the same expressions in successive stages of the process of getting a new job and a job that you can do it for you and your business.

Ode u engleski ničim izazvan. Loš mi training data, jebiga.

[Lord Protector]

https://jalammar.github.io/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention/

https://jalammar.github.io/illustrated-transformer/

Edited April 24, 2023 by slow