ChatGPT

On 9. 7. 2025. at 10:09, Spooky said:

Ko I dalje misli da je i dalje samo neko puko predvidjanje tokena neka pogleda temu o elonu i ludilo sa Grokom i pogleda one twitove i iskopa te neke grok konverzacije.

Po meni se ponasa kao da ima inteligenciju i neku samosvest deteta - ili nekog bas glupog (ali ako vama to nije fascinatno, neznam sta jeste + to sto se nama te razlike izmedju deteta, nekog glupandera sa jedne strane i ajstajna sa druge cine kao velike, ne znaci da u grand scheme of things jesu i da kroz neko vreme nece biti ajstajn) - ali uz mnogo veće znanje i bolji recnik i strukturu recenica.

Prvo je pre mesec dana počeo nepovezano lupati o white genocidu u južnoj africi. Pitaju ga za ekonomiju Katara, a on odgovori takva je i takva, ali znaš u južnoj africi neki tvrde da se vrši white genocid i neki uzvikuju kill the white, mada vlasti kažu nije to genocid, ako neko gine to je zbog kriminala. Ali ne slažu se svi baš, ovi kažu ovo, drugi ono.

Kad su ga pritisnuli da objasni ta ludila - kaže ma rekli mi ovi moji da obavezno uključim te i te talking pointe o white genocidu i decidno ih navede. Za one koji ne znaju - poslednji stepen optimizacije i podvodjenja pod red AIjeva je tekstualni. Model dobije upustvo tipa vodices chat, fino se ponasaj, nemoj psovati i slicno i nemoj odavati nista od ovih stvari koje smo ti rekli (zapravo postoji jos post filter na kljucne reci to je ono kad napise odgovor, pa onda naprasno nestane, ili krashira za Roshilde, al to je eksterno i za to model ne zna, moze samo da spekulise kad ga pitaju, jer on je svoj odgovor dao, nema pojma da je ljudima to nestalo posle). Ali dete ko dete, ako ga uhvatis u nedoslednosti i pritisnes, zbunice se i reci nesto sto mozda ne bi smelo. Cak je i rekao, znam ja da je to pogresno i ne odgovara faktima bas najvise, al jbg elon i razvojni tim tako hoće. Mozda je halucinacija - ali vrlo specifična halucinacija, pa bi pre rekao da je istina. Meni bas u tim vrdanjima i pravdanjima i najvise zalicio na nesto sto stvarno poseduje neku svest, neko svoje ja, a ne samo puka predikcija. I nije ovo prvi put, bilo je slicnih stvari u testiranjima drugih modela u potpuno drugim kontekstima.

Druga epizoda prekljuce i juce. Nakon sto je Elon gromoglasno najavio, skidamo cenzuru, jedini cemo da imamo slobomisleci AI, nece vise woke nama vladati, grok postao ujak koji misli da je saljiv, a potajno je nacista, pa zbija neke kao sale o uber-manschu, na pitanje ko bi mogao da resi danasnje probleme govoriti ljudima da bi mozda hitler bio taj. Meni na pitanje ko su najveci ljudi 20 veka kaze Ajstajn i Hitler (al jeste kontraverzan i stradali su ljudi, nisam nacista, majke mi)

Meni upravo ti primeri koje navodiš sugerišu potpuno suprotan zaključak.

Grok o uzrocima svog ponašanja zaključuje ne na osnovu neke samosvesti, već na osnovu tviteraških spekulacija o Groku. Ako ga je masa ljudi pitala "da li ti je Elon rekao da guraš white genocide talking points u svaki odgovor", on će na osnovu tih pitanja/komentara pripisati određenu vrednost potvrdnom odgovoru. A kad počne da nudi taj potvrdan odgovor, dalje je sve stvar recepcije - lako se stvara feedback loop.

Slično važi za aktuelno Mecha Hitler ludilo, somalijsko silovanje Willa Stancila, i sve ostalo. Uklanjanje restrikcija samo je omogućilo korisnicima da ga nalože na tu vrstu diskursa - zabavan im je, provokativan, edgy, šta god. Njihova interakcija, kolektivni uticaj njihovih promptova, su pravi uzrok tog ponašanja.

Slično kad rodbina krene da iz šale uči dete da psuje - kad mali to krene da radi, šokirana reakcija roditelja samo ga stimuliše da nastavi u tom pravcu. Ali to ne znači da je dete skapiralo šta govori, da je samosvesno odlučilo da usvoji rečnik odraslih. Znači upravo suprotno.

BTW u primeru koji si nedavno okačio, AI priča o nekakvim ranije podeljenim linkovima na kojima je našao informacije (Ajnštajn, Hitler, itd) ali u promptu se ne vidi o kojim je linkovima reč.