'The illusion of thinking': Apple research finds AI models collapse and give up with hard puzzles

Dodjoh trceci da postavim kako je Apple dokazao da LLM ne moze da resava kompleksne zadatke a onda procitaj prvih komentar:

The researchers did not give the models a good prompt . I gave Claude this prompt "Create a website that can solve the tower of Hanoi puzzle. On the website have a drop down menu that will allow you to select from 3 - 20 discs. Then a start button to start solving the puzzle, Show the discs moving while being solved. Make sure to show the discs moving to one of the three pegs." It created it and solved the puzzle.

We are doomed

https://x.com/Yuchenj_UW/status/1935116041866330378

Juče bio ovde kod prijatelja, ima neki problem sa kreditnom karticom, maznuli mu nekih 300€. On javio banci, iz banke ga poslali u policiju. Međutim nisu mu oprostili tih 300€ "jer se treća strana nije složila". Danas pozvao svoje osiguranje kod koga plaća pravnu zaštitu, ovi mu dali termin sa pravnikom u septembru, a rok za žalbu je dve nedelje. Pitao ChatGPT šta da radi. Ovaj mu postavio nekoliko pitanja i poslao mu templejt potpuno sjajan, sa sve pozivanjem na tačno određene članove zakona (proverili smo, to su ti), najavljivanjem daljih pravnih koraka ukoliko ne usvoje žalbu i slično.
Onda je zatražio pismo za otkazivanje te pravne zaštite, dobio i to plus savet da ne mora da čeka da istekne ugovor "jer nisu bili u stanju da mu pruže blagovremenu pravnu pomoć, na šta su se ugovorom obavezali" . Da sam advokat, ja bih se zabrinuo

Kakvih sam se ja gpt halucinacija načitao…

Za ove šablonske stvari je super, ali to je pripravnički nivo.

kod nas na vestima pre neki dan omladinac zavrsio u bolnici na tubama i masinama. probudio se decko u subotu posle pijancenja i bolila ga glava , nateceno grlo i nateceno lice. zovne dezurnog, pogledaju ga dva doktora, ispipaju i posalju ga kuci i kazu da je alergijska reakcija i pijancenje. ajde ti kuci pa malo odmori. kaze lose mu bilo kod kuce i upali chatgpt. sve mu napise, chat ga ispita sve zivo. na kraju ga chat pitao kako se manifestuje otok i kako ga oseca. to je bilo izgleda najvaznije pitanje. da mu par opcija i decko odgovori. chat mu kaze da to 100% odgovara da ima puknuto plucno krilo i da pod hitno mora u bolnicu. jbg, tako i uradi i stvarno se pokaze da je ima puknutno plucno krilo i sreca da je bio brzo primljen i stabilizovan. prezivi i oporavi se.

sta su pili?

akvavit, garant @Krampa

Edited yesterday at 02:591 day by banecare1

On 10. 6. 2025. at 2:08, vememah said:

https://gs.statcounter.com/ai-chatbot-market-share#monthly-202505-202505-bar

super su mi ove globalne statistike gde se ignorisu neke vel'ke zemlje.

23 minutes ago, banecare1 said:

sta su pili?

akvavit, garant @Krampa

Jes. Akvavit i snaps. Od toga pucaju pluca

Edited yesterday at 03:231 day by Krampa

Ko I dalje misli da je i dalje samo neko puko predvidjanje tokena neka pogleda temu o elonu i ludilo sa Grokom i pogleda one twitove i iskopa te neke grok konverzacije.

Po meni se ponasa kao da ima inteligenciju i neku samosvest deteta - ili nekog bas glupog (ali ako vama to nije fascinatno, neznam sta jeste + to sto se nama te razlike izmedju deteta, nekog glupandera sa jedne strane i ajstajna sa druge cine kao velike, ne znaci da u grand scheme of things jesu i da kroz neko vreme nece biti ajstajn) - ali uz mnogo veće znanje i bolji recnik i strukturu recenica.

Prvo je pre mesec dana počeo nepovezano lupati o white genocidu u južnoj africi. Pitaju ga za ekonomiju Katara, a on odgovori takva je i takva, ali znaš u južnoj africi neki tvrde da se vrši white genocid i neki uzvikuju kill the white, mada vlasti kažu nije to genocid, ako neko gine to je zbog kriminala. Ali ne slažu se svi baš, ovi kažu ovo, drugi ono.

Kad su ga pritisnuli da objasni ta ludila - kaže ma rekli mi ovi moji da obavezno uključim te i te talking pointe o white genocidu i decidno ih navede. Za one koji ne znaju - poslednji stepen optimizacije i podvodjenja pod red AIjeva je tekstualni. Model dobije upustvo tipa vodices chat, fino se ponasaj, nemoj psovati i slicno i nemoj odavati nista od ovih stvari koje smo ti rekli (zapravo postoji jos post filter na kljucne reci to je ono kad napise odgovor, pa onda naprasno nestane, ili krashira za Roshilde, al to je eksterno i za to model ne zna, moze samo da spekulise kad ga pitaju, jer on je svoj odgovor dao, nema pojma da je ljudima to nestalo posle). Ali dete ko dete, ako ga uhvatis u nedoslednosti i pritisnes, zbunice se i reci nesto sto mozda ne bi smelo. Cak je i rekao, znam ja da je to pogresno i ne odgovara faktima bas najvise, al jbg elon i razvojni tim tako hoće. Mozda je halucinacija - ali vrlo specifična halucinacija, pa bi pre rekao da je istina. Meni bas u tim vrdanjima i pravdanjima i najvise zalicio na nesto sto stvarno poseduje neku svest, neko svoje ja, a ne samo puka predikcija. I nije ovo prvi put, bilo je slicnih stvari u testiranjima drugih modela u potpuno drugim kontekstima.

Druga epizoda prekljuce i juce. Nakon sto je Elon gromoglasno najavio, skidamo cenzuru, jedini cemo da imamo slobomisleci AI, nece vise woke nama vladati, grok postao ujak koji misli da je saljiv, a potajno je nacista, pa zbija neke kao sale o uber-manschu, na pitanje ko bi mogao da resi danasnje probleme govoriti ljudima da bi mozda hitler bio taj. Meni na pitanje ko su najveci ljudi 20 veka kaze Ajstajn i Hitler (al jeste kontraverzan i stradali su ljudi, nisam nacista, majke mi)

Edited 7 hours ago7 hr by Spooky

Sta ti znaci to samosvest? Kao ChatGPT boli zub pa mu nije prijatno? Uznemiri se kad mu kazes da je los pa posle razmislja u tami sta je zgresio? Ne mozes na osnovu tekstualnog izlaza da kazes da nesto ima svest, niti to ima veze sa inteligencijom. Sto digitron nema svest a AI model ima? Sto komp nema svest kad ne pokreces neki program na njemu (ili ima?).