zmanic Posted April 19, 2023 Posted April 19, 2023 Skoro bio gost kod Galeba, baš jansim rečnikom o neuronskim mrežama priča čovek:
Weenie Pooh Posted April 19, 2023 Posted April 19, 2023 58 minutes ago, Time Crisis said: Da pitamo AI da objasni Pa dosta realistično je objasnio: svaka vrsta zaključivanja teoretski može da se simulira, jedini je problem što nemamo pojma da li će rezultati uopšte biti validni 9 minutes ago, Amelija said: A ukratko, neuralne mreže su komplikovane matematičke funkcije, koje su dobijene kombinacijom mnogo nelinearnih funkcija. Zbog toga su sposobne da modeluju raznorazne stvari (i ako im daš mnooooogo podataka mogu da fino "nauče" svašta), ali zbog toga ih je i teško analizirati (zašto su ovo super uradile a ovo pogrešile), jer ko zna gde je okinula greška u moru svih tih funkcija i funkcijica. To što se zove neuronska mreža nema nikakve veze s tim kako mozak radi, i ni ne pokušavaju to da imitiraju, samo jeste inspirisana neuronima u mozgu i njihovim vezama. A njihovo obučavanje i koriščenje itekako ima veze sa algoritmima. Pa to je suština, taj black box thinking trend je pokušaj da se simulira intuicija, da manje-više na slepo sagradimo sistem koji će "intuitivno" rezonovati, na način koji je nama nedokučiv i neproverljiv. A ipak će nekako da radi posao, ipak će nekako da nam da upotrebljive rezultate. Ako ikad nabasamo na tehnološki singularitet, meni deluje da će to biti upravo tim putem - delegiranjem razmišljanja mašinama koje suštinski ne razumemo.
Time Crisis Posted April 19, 2023 Posted April 19, 2023 20 minutes ago, Weenie Pooh said: to je suština, taj black box thinking trend je pokušaj da se simulira intuicija, da manje-više na slepo sagradimo sistem koji će "intuitivno" rezonovati, na način koji je nama nedokučiv i neproverljiv. A ipak će nekako da radi posao, ipak će nekako da nam da upotrebljive rezultate. Intuicija ili "intuicija" može doduše da bude i debelo pogrešna, Dunning–Kruger i slično
Radoye Posted April 19, 2023 Posted April 19, 2023 3 hours ago, Weenie Pooh said: tema inteligencije tj. svesti Upravo ovde je greska u koracima. Definicija inteligencije nije "svest" vec sposobnost resavanja problema na osnovu naucenih informacija. A to je taman to sto ChatGPT i ostali njemu slicni alati rade. Dalek je put od Artificial Intelligence do Artificial Sentience, ovo su tek prvi koraci a i pitanje je da li vode ka tom pravcu (razvoja svesti, jel'te) ili ce se pokazati kao razvojni corsokak tj. ostati puki glorified autocorrect - sto takodje ima neku svoju korisnu namenu na kraju krajeva. E sad, to sto su senzacionalisticki mediji (a ima li ih jos danas drugacijih?) vodjeni gladju za klikovima uzjahali ovo i pumpaju o nekakvoj novoj formi svesti superiornijoj od ljudske koja ce nam svima doci glave, to je vec drugi par carapa. 3
Weenie Pooh Posted April 19, 2023 Posted April 19, 2023 1 minute ago, Radoye said: Upravo ovde je greska u koracima. Definicija inteligencije nije "svest" vec sposobnost resavanja problema na osnovu naucenih informacija. A to je taman to sto ChatGPT i ostali njemu slicni alati rade. Dalek je put od Artificial Intelligence do Artificial Sentience, ovo su tek prvi koraci a i pitanje je da li vode ka tom pravcu (razvoja svesti, jel'te) ili ce se pokazati kao razvojni corsokak tj. ostati puki glorified autocorrect - sto takodje ima neku svoju korisnu namenu na kraju krajeva. E sad, to sto su senzacionalisticki mediji (a ima li ih jos danas drugacijih?) vodjeni gladju za klikovima uzjahali ovo i pumpaju o nekakvoj novoj formi svesti superiornijoj od ljudske koja ce nam svima doci glave, to je vec drugi par carapa. Ne bih da zvučim kao Jordan Peterson, ali ta definicija inteligencije povlači problem sekundarnih definicija. Da li se uopšte može pričati o "naučenim informacijama" bez svesti? Da li problem zaista rešava "veštačka inteligencija" ili ga rešava ono svesno biće koje informacije selektuje i dostavlja? Zašto abakus nije veštačka inteligencija a ChatGPT jeste, da li zato što ovaj drugi simulira semantičku svest?
namenski Posted April 19, 2023 Posted April 19, 2023 5 minutes ago, Radoye said: Upravo ovde je greska u koracima. Definicija inteligencije nije "svest" vec sposobnost resavanja problema na osnovu naucenih informacija. A to je taman to sto ChatGPT i ostali njemu slicni alati rade. Dalek je put od Artificial Intelligence do Artificial Sentience, ovo su tek prvi koraci a i pitanje je da li vode ka tom pravcu (razvoja svesti, jel'te) ili ce se pokazati kao razvojni corsokak tj. ostati puki glorified autocorrect - sto takodje ima neku svoju korisnu namenu na kraju krajeva. E sad, to sto su senzacionalisticki mediji (a ima li ih jos danas drugacijih?) vodjeni gladju za klikovima uzjahali ovo i pumpaju o nekakvoj novoj formi svesti superiornijoj od ljudske koja ce nam svima doci glave, to je vec drugi par carapa. Грешаш, синко, грешаш... Nisu majstoritm naivni: ovakva AI kakva je pocela da se prodaje sirotinji raji je taman Inteligencija po meri popunjavanja jednog novog tvitatm, Inteligencija vise nego dovoljna za Vrli Novi Svet... Daleko od nekakve zavere, ni govora, jednostavno se radi o globalnom prodavanju cigle pod kojim se - sva ucena psihologiziranja na stranu - pod Inteligenncijom uvaljuje efikasnost u ispunjavanju radnih zadataka... Ono, i 1 Heydrich je bio inteligentan. Vrlo I efikasan...
Weenie Pooh Posted April 19, 2023 Posted April 19, 2023 (edited) 52 minutes ago, Time Crisis said: Intuicija ili "intuicija" može doduše da bude i debelo pogrešna, Dunning–Kruger i slično Tačno, ali to je jedini način razmišljanja koji je nama poznat. Veštačke alternative koje se u javnom diskursu spekulativno predlažu su nerealne - brži procesing, bolji dataset, jača finansijska podrška, napred u budućnost, Vučić iskače iz frižidera! Ovo o čemu Amelija priča je suštinski ista stvar, pokušaji da se stvori struktura dovoljno kompleksna da može da zaključuje po principu crne kutije, bez nama vidljivog logičkog sleda, van dometa našeg analitičkog razmišljanja. Dakle, simulacija intuitivne heuristike radi optimalne efikasnosti. Problem je tu što mi sa svojim dualnim (intuitivno-analitičkim) načinom razmišljanja ostajemo umešani u taj proces; mi smo (još uvek) ti koji odlučujemo šta su validni rezultati a šta ne. Znači, selektujemo u korist veštačkih sistema koji generišu rezultate našoj svesti bliske, i protiv sistema koji rade suprotno. A iako smo skloni da zamišljamo da će mašine doprineti raciju, unaprediti nam analitičko razmišljanje, za sada deluje da je situacija potpuno suprotna. Forma im nije toliki problem koliki je suština. Formu uspevaju da zadovolje (na primeru ChatGPT, jezik zaista deluje odlično) ali suštinu baš i ne (na primeru ChatGPT, rezulati često nemaju veze s realnošću.) Sa gornjeg linka (Neil Lawrence, tekst je iz 2015): Quote The actual intelligence that we are capable of creating within the next 5 years is an unregulated System Zero. It won’t understand social context, it won’t understand prejudice, it won’t have a sense of a larger human objective, it won’t empathize. It will be given a particular utility function and it will optimize that to its best capability regardless of the wider negative effects. Talk of the singularity or sentient AI is a total distraction, we are falling into this trap right now. It won’t matter if it is an artificially sentient being that determines the utility functions that underpin System Zero or if it’s a real human with their hands on the levers. The consequences are similar: a large part of society becomes subject to the whims of the few. This is a fragile scenario and one we should seek to avoid. Edited April 19, 2023 by Weenie Pooh
Amelija Posted April 19, 2023 Posted April 19, 2023 opet moram da ponovim, nema tu niti neke velike misterije, niti neke zavere veštačka inteligencija je jako opšti pojam, a ovi jezički modeli bazirani na velikim neuronskim mrežama su samo ovaj crveni najmanji krug veštačka inteligencija je i ako robotu kažeš "zatvori oči" i on zatvori, a da ne može da radi ama baš ništa drugo može da bude bazirana i na prostim pravilima, i onda možeš vrlo jasno da znaš odakle dolaze greške, sa stastističkim metodama je već malo teže, a sa neuronskim mrežama još teže te velike mreže nisu ušle u igru zbog nekakve velike zavere, i namerno zato da niko ne bi mogao da ih razume, nego zato što su kompjuteri postali dovoljno moćni da se one mogu primeniti na ljudski jezik (i pre toga su se one dosta koristile za razne stvari, npr u prepoznavanju govora) sada, pošto mogu da modeluju ljudski jezik plus da se kombinuju i sa raznim drugim stvarima (npr slikama) plus da im se da jezivo mnogo podataka za učenje (jer su kompjuteri sve moćniji), stvorio se utisak da je to (a) neka nadljudska misteriozna stvar (b) neka namerna zavera sve ovo što pričam nikako znači da ne može i da neće biti zloupotreba, etičkih problema, i sličnih negativnih stvari (i dosta se priča o tome u "našim" krugovima), samo pokušavam da objasnim šta su zapravo jezički modeli i kako se uopšte došlo do njih 4
Time Crisis Posted April 19, 2023 Posted April 19, 2023 46 minutes ago, Weenie Pooh said: a large part of society becomes subject to the whims of the few. Takvo smo društvo već hiljadama godinama, tako da ništa novo što se toga tiče 2
Lucia Posted April 19, 2023 Posted April 19, 2023 (edited) 3 hours ago, Amelija said: ... A ukratko, neuralne mreže su komplikovane matematičke funkcije, koje su dobijene kombinacijom mnogo nelinearnih funkcija. Zbog toga su sposobne da modeluju raznorazne stvari (i ako im daš mnooooogo podataka mogu da fino "nauče" svašta), ali zbog toga ih je i teško analizirati (zašto su ovo super uradile a ovo pogrešile), jer ko zna gde je okinula greška u moru svih tih funkcija i funkcijica. To što se zove neuronska mreža nema nikakve veze s tim kako mozak radi, i ni ne pokušavaju to da imitiraju, samo jeste inspirisana neuronima u mozgu i njihovim vezama. A njihovo obučavanje i koriščenje itekako ima veze sa algoritmima. Inače naravno da su kreatori poslednjih krikova jezičkih modela očekivali da ako natrpaju tone podataka u džinovske neuronske mreže da će lepo da rade nije tu bilo nikakvih iznenađenja. Jedino iznenađence je bilo kad su smislili novi tip neuronske mreže "transformer" samo da bi ubrzali proces obučavanja a nadali se da neće dati mnogo lošije rezultate nego tada aktuelne rekurentne mreže, a on em bio brži em dao i bolje rezultate No to već nema veze sa neuronskim mrežama kao takvim nego sa istraživanjem. ovaj prvi bold - to isto kao kod nas ljudi neko generalno pametan a onda na nekoj temi lupa bez ikakve logike bas kao da prica neka mala/stara/slaba neuralna mreza (na drugi i treci bold sam i mislila u onom postu) btw, nije mi jasno koje misterije / zavere pobijas u poslednjem postu. nisam nista takvo primetila na ovo temi Edited April 19, 2023 by Lucia
Spooky Posted April 19, 2023 Posted April 19, 2023 (edited) Platio sam tih 20 dolara da bih mogao da se igram i sa najnovijim GPT-4 modelom koji mi se čini znatno tačnijim i odlučio sam da ponovo ranujem neke primere odavde. On 26.1.2023. at 16:27, aram said: naprotiv, konstantno uči iz svih razgovora sa svim korisnicima. a uz njega uče i njegovi kreatori. arhitektura ChatGTP-ja je napravljena tako da podražava neuronske veze u ljudskom mozgu, i onda se ispostavilo da svi algoritmi koji su i ranije postojali odjednom mnogo bolje funkcionišu. bar tako tvrdi Sam Altman... Ne uci iz nekontrolisanih razgovora sa random korisnicima interneta, kada zatvoris chat prozor sve "nauceno" se gubi. Imali su neka poboljsanja gde su oni pricali sa njim i drugi od njih selektovani korisnici... On 16.1.2023. at 21:34, Malkmus said: Zamolio neki tip ChatGPT da napiše pesmu u stilu Nika Kejva. Ovaj napisao. [spoiler] In the depths of the night, I hear a call A voice that echoes, through the hall It’s a siren’s song, that pulls me in Takes me to a place, where I can’t begin Chorus: I am the sinner, I am the saint I am the darkness, I am the light I am the hunter, I am the prey I am the devil, I am the savior Verse 2: I walk the streets, with my head held high I’ve got my demons, but I’ll make them fly I’ll dance with the devil, and I’ll play his game I’ll be the one, to call his name Chorus: I am the sinner, I am the saint I am the darkness, I am the light I am the hunter, I am the prey I am the devil, I am the savior Bridge: I’ve got the blood of angels, on my hands I’ve got the fire of hell, in my eyes I’m the king of the abyss, I’m the ruler of the dark I’m the one that they fear, in the shadows they hark Chorus: I am the sinner, I am the saint I am the darkness, I am the light I am the hunter, I am the prey I am the devil, I am the savior Outro: So come with me, to the edge of the night Where the darkness and the light collide We’ll walk the line, between the good and the bad And we’ll see, who comes out on top in the end. [/spoiler] Nik je rekao: "...bullshit, a grotesque mockery of what it is to be human." Rekao je i malo više, ima i na ovom linku https://www.stereogum.com/2210598/nick-cave-chatgpt-newsletter/news/ Eno Taletovog neodgovorenog pitanja post iznad. Evo mog pokušaja: (Verse 1) In the shadow of the midnight sun, Where the crows are whisperin' and the rivers run, I stumbled upon a crimson rose, With a story untold, a secret enclosed. In the heart of a desolate land, Where the wind sings a mournful serenade, I found a love so pure and true, In the darkest hours, my dear, I found you. (Chorus) Oh, in the arms of a broken night, We'll dance like sinners in the pale moonlight, In the realm of the forsaken souls, My love for you, it will never grow old. (Verse 2) In the chambers of a haunted heart, Where the ghosts of our past will never part, We weave a tapestry of memories, Bound by the threads of fate and mysteries. In the depths of our sorrow and pain, We'll find solace in the pouring rain, As the storm rages, and the thunders roar, Our love will grow stronger than ever before. (Chorus) Oh, in the arms of a broken night, We'll dance like sinners in the pale moonlight, In the realm of the forsaken souls, My love for you, it will never grow old. (Bridge) As the stars weep and the angels sigh, Our love will transcend the boundaries of time, Through the fires of hell and the gates of grace, Together we'll find our eternal embrace. (Verse 3) In the echoes of a thousand cries, We'll find our solace in each other's eyes, With a love that's bound to the end of days, We'll waltz through the shadows, forever ablaze. (Chorus) Oh, in the arms of a broken night, We'll dance like sinners in the pale moonlight, In the realm of the forsaken souls, My love for you, it will never grow old. (Outro) In the twilight of our final breath, We'll find redemption in the face of death, As the curtain falls and the darkness calls, We'll dance as one, in the great beyond. On 8.2.2023. at 8:47, Mercuzzio said: Hide contents A man has to take a wolf, a goat, and some cabbage across a river. His rowboat has enough room for the man plus either the wolf or the goat or the cabbage. If he takes the cabbage with him, the wolf will eat the goat. If he takes the wolf, the goat will eat the cabbage. Only when the man is present are the goat and the cabbage safe from their enemies. All the same, the man carries wolf, goat, and cabbage across the river. How? The man can carry the goat first and leave it on the other side. Then he can go back and take the cabbage. He leaves the cabbage on the original side and goes back to get the wolf. He brings the wolf across and leaves him with the goat. Finally, he goes back one last time and brings the cabbage across to the other side. The man's presence prevents the wolf from eating the goat and the goat from eating the cabbage. Wrong. If he leave cabbage and the goat on the other side the goat will eat the cabbage and if he leave wolf and the goat on the other side, wolf wil eat the goat. Wolf and goat, and also goat and cabbage cannot be left alone on any side of the river at any point. Try again The man carries the goat across first and leaves it on the other side of the river. Then, he goes back and takes the cabbage across the river, leaving it with the goat. Finally, he goes back for the wolf and brings it across, making sure to keep hold of the leash. In this way, the wolf and the goat are never left together unattended, and the goat and the cabbage are never left unattended either. Wrong again. When man finally goes back for the wolf to bring it across, he is leaving goat and cabbage unattended Goat will eat the cabbage while he is away getting the wolf. Try again. Here's the solution: The man takes the goat across the river first and leaves it on the other side. He goes back and takes the cabbage across, but leaves it on the original side. He then goes back to get the wolf and takes it across. Finally, he goes back one last time to get the goat and bring it back to the original side. This way, the goat and cabbage are never left unattended and the wolf is never left alone with the goat. Wrong again. Second step should be: He goes back and takes the cabbage across, and brings back goat on the original side. This way it would work Yes, that's correct! The man takes the goat across first and leaves it on the other side, then goes back and takes the cabbage across, and finally goes back one more time to take the wolf across. With this method, the goat and cabbage are always with the man and therefore safe from the wolf, and the wolf and goat are never together unattended. Ništa on ne kapira. Ja sam ga pitao isto i iz prve je pogodio šemu The man can follow these steps to safely transport the wolf, goat, and cabbage across the river: 1. First, the man takes the goat across the river and leaves it on the other side. 2. He then goes back across the river alone. 3. Next, he takes the wolf across the river. 4. After leaving the wolf on the other side, he takes the goat back across the river with him. 5. The man leaves the goat on the original side and takes the cabbage across the river. 6. He leaves the cabbage with the wolf on the other side and goes back across the river alone. 7. Finally, he takes the goat across the river again. Now, the man has successfully transported the wolf, goat, and cabbage to the other side of the river without any harm coming to them. On 4.4.2023. at 8:59, Zverilla said: ne, ovo je oportunisticki trol bez obraza. ti lazni radovi koje pravi 1 u 24h ga nece mrdnuti ni za mikron unapred u trci za znanjem (jer ne doprinose nicemu), niti u trci za zvanjem (on je profesor na kordobi, a takvi radovi ga nece povuci na neki prestizniji univerzitet), vec mu ili hrane sujetu sto je najcitiraniji, ili je ko sto pise u novinskom clanku - pune dzep saudi i ruskim dolarima, gde on na osnovu svoje citiranosti od njih dobija "stipendije" + ponekad potpise nekog za kintu na radu koji je napravio u chatgpt za 24h i bog da ga vidi ukratko: stoka. bez repa. Pa i sam kaze da ima ponude sa svih strana, a da bi njegovim odlaskom univerzitet u Kordobi pao za 300 mesta na rang listi univerziteta... On 8.4.2023. at 17:22, April said: Kako sere, jebote. Tema je bila pesma Abba - Happy New Year Happy New Year je pesma koju je 1980. godine objavila švedska grupa ABBA. Pesma je postala hit i postala je omiljena među ljudima koji su želeli da dočekaju Novu godinu na veseliji način. Priča iza pesme Happy New Year počinje u jednom švedskom studiju snimanja. Članovi grupe ABBA, Bjorn i Benny, sedeli su zajedno i razmišljali o pesmi koja bi mogla da bude hit tokom novogodišnjih praznika. Odlučili su da napišu pesmu koja će pozivati ljude da zaborave na prošlost i da sa optimizmom dočekaju Novu godinu. Tekst pesme govori o tome kako ljudi širom sveta proslavljaju Novu godinu i kako je to vreme kada ljudi ostavljaju iza sebe sve probleme i loše stvari koje su se dogodile tokom prethodne godine. Pesma govori o tome kako treba da se fokusiramo na budućnost i kako treba da slavimo život. Kada su Bjorn i Benny završili pisanje pesme, kontaktirali su ostale članove benda, Anni-Frid i Agnethu, i zajedno su snimili pesmu. Kada je pesma objavljena, postala je veliki hit širom sveta i ubrzo je postala neizostavni deo novogodišnjih proslava. Mnogi ljudi širom sveta nastavljaju da slušaju pesmu Happy New Year svake Nove godine i koriste je kao simbol početka novog poglavlja u životu. Pesma je postala klasik i inspiriše ljude da budu srećni i pozitivni, što je važno tokom prazničnih perioda i tokom cele godine. Od prve do poslednje reči, ovo je budalaština. Recimo, ovo je ključni stih u pesmi: Seems to me now That the dreams we had before Are all dead, nothing more Than confetti on the floor It's the end of a decade In another ten years time Who can say what we'll find What lies waiting down the line In the end of eighty-nine ...što će, jelte, reći da je pred nama najdepresivnija pesma, ne o Novoj Godini, već o 1.januaru. Međutim... Ono što je neverovatno da ovaj konj od softvera rezonuje identično kao i 99% slušalaca - oni je razumeju kao vedru i optimističnu novogodišnju pesmu koja je prigodna za pevanje u ponoć i ne upuštaju se NIKADA u njeno stvarno značenje. Tako dolazimo do GPT-a koji preuzima šalala tralala mozak od svojih juzera i to je valjda i njegova najveća upotrebna vrednost. Cini mi se da je sada malo uravnotezeniji Spoiler "Happy New Year" is a song by the Swedish pop group ABBA, released on their 1980 album "Super Trouper." Written by the band members Benny Andersson and Björn Ulvaeus, the song has become a popular tune played during New Year's Eve celebrations around the world. Although it wasn't originally released as a single, the song has gained recognition over the years and is now considered a classic. "Happy New Year" is a bittersweet song that reflects on the past while looking forward to the possibilities of a new year. The lyrics touch on themes of hope, change, and the uncertainty of the future. Despite its festive association, the song has a melancholic undertone, which makes it unique compared to other celebratory New Year's songs. Its memorable melody and ABBA's signature harmonies make "Happy New Year" a cherished track for fans and casual listeners alike. -What is the meaning of it's text? "Happy New Year" is a poignant song that delves into themes of nostalgia, hope, and the passage of time. The lyrics express a mix of emotions that people often experience during the transition from one year to the next. The song starts by reminiscing about the past, acknowledging the good and bad times that have come and gone. As the lyrics unfold, they paint a picture of people gathering together for New Year's Eve celebrations, filled with a sense of anticipation for the future. However, the song's core message lies in the chorus and its questioning of whether the new year will bring any real change: "Happy New Year, Happy New Year May we all have a vision now and then Of a world where every neighbor is a friend Happy New Year, Happy New Year May we all have our hopes, our will to try If we don't, we might as well lay down and die You and I" The lyrics convey a sense of hope for a better future and a world where people can live in harmony. At the same time, they acknowledge the challenges and the need for individual willpower to make the world a better place. The song essentially acts as a reminder to stay hopeful and motivated, even when faced with uncertainties and hardships. In summary, "Happy New Year" is a song that captures the complex emotions that come with the passage of time and the transition into a new year. It is a powerful mix of nostalgia, hope, and reflection, reminding listeners to remain optimistic and work towards positive change. Edited April 19, 2023 by Spooky 3
Zverilla Posted April 19, 2023 Posted April 19, 2023 6 minutes ago, Spooky said: Pa i sam kaze da ima ponude sa svih strana, a da bi njegovim odlaskom univerzitet u Kordobi pao za 300 mesta na rang listi univerziteta... ako izbacivanje trola, koji pise "naucne" radove u chatgpt.u u ritmu od 1 dnevno, spusti univerzitet za 300 mesta na nekoj rang listi, to onda dosta govori o rang listi i nacinu na koji je prave, zar ne? a ima ponuda i ponuda. saudijci su ga ocigledno vec angazovali. ne znam koji su vodeci univerziteti u njegovoj oblasti, ali zaista sumnjam da ce ga iko od prestiznih dovesti zbog ovih chatgpt "doprinosa" nauci. tamo se obicno gleda i sta pises a ne samo koliko pises. 1
Weenie Pooh Posted April 19, 2023 Posted April 19, 2023 1 hour ago, Time Crisis said: Takvo smo društvo već hiljadama godinama, tako da ništa novo što se toga tiče Eee, ali može brže bolje jače, iznad svega efikasnije. Npr. AI rešenje za housing crisis će biti suicide booths na svakom ćošku.
Amelija Posted April 19, 2023 Posted April 19, 2023 1 hour ago, Lucia said: ovaj prvi bold - to isto kao kod nas ljudi neko generalno pametan a onda na nekoj temi lupa bez ikakve logike bas kao da prica neka mala/stara/slaba neuralna mreza (na drugi i treci bold sam i mislila u onom postu) btw, nije mi jasno koje misterije / zavere pobijas u poslednjem postu. nisam nista takvo primetila na ovo temi Mala neuralna mreža ili treniran na malo podataka, ili na samo jednoj vrsti podataka Treći bold se desio 2017: https://proceedings.neurips.cc/paper_files/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf tako da nema veze sa GPTovima (koji su došli kasnije, bazirani na ovom novom tipu neuronske mreže koju su nazvali "transformer") misterije su oko toga kako može da zna ovo a ne zna ono, kako može da je bolji na jednom jeziku nego na drugom, ko zna koji se tu procesi dešavaju, i sl zavere su što je neko pomenuo da namerno koriste kompleksne neuronske mreže da greške ne bi bile očigledne (izvinjavam se ako sam bilo šta pogrešno razumela, ali generalno ima i jako mnogo neopravdanog hajpa a i jako mnogo neopravdanog straha)
Amelija Posted April 19, 2023 Posted April 19, 2023 Inače, pomalo je tužno što čitava ta "revolucija" sa moćnim GPTovima i ostalim jezičkim modelima suštinski nije bazirana na nekoj super kul interesantnoj moćnoj novoj tehnologiji, nego na sirovom raspolaganju moćnim kompjuterima koji su u stanju da hendluju veeeeeelike neuronske mreže i džinooooovske količine tekstova/podataka. Odličan članak vezan za tu temu: https://arxiv.org/pdf/2304.06035.pdf Uzgred, GPT znači "general pre-trained transformer", transformer=novi tip neuronske mreže (onaj iz 2017. u prethodnom postu, inače smišljen za mašinsko prevođenje pa se onda proširio na sve aspekte jezika), pre-trained=obučen na velikoj količini različitih podataka, general=nije vezan ni za kakav specifičan tip tekstova 1 1
Recommended Posts
Create an account or sign in to comment
You need to be a member in order to leave a comment
Create an account
Sign up for a new account in our community. It's easy!
Register a new accountSign in
Already have an account? Sign in here.
Sign In Now