ChatGPT

[Lezilebovich]

Polako dolazimo i do vremena za advokate

 

 

inace, poznata je prica da je instangram pretvoren u drustvenu mrezu na ledjima twittera

 

[Amelija]

da, mislim da sam zaboravila da kažem još nešto bitno: jezički modeli su u suštini modeli da se izračuna verovatnoća:

 

P(rⁱ | r^i-1 , r^i-2 , ... r¹) 

dakle verovatnoća da se reč rⁱ pojavi nakon prethodne sekvence reči od r¹ do r^i-1  (tzv. 'istorije')

Tu sad može doći i do nekih modifikacija, ali to je suština.

 

I onda, prvi jezički modeli su samo bili pomoć za automatsko prepoznavanje govora i automatsko prevođenje (da malo iskontrolišu red reči koji se generišu), zvali su se "n-gram models" jer su bili ograničeni na n reči (reč koju treba generisati + n-1 prethodnih).

Tu su se u početku koristili trigrami, onda je moć računara napredovala pa se došlo do 5-grama, čak mislim da se moglo i do 10, ali u svakom slučaju više od toga ne.

I verovatnoće su se računale kao broj pojavljivanja datih reči uz istorije (relativnih frekvencija).

 

E, onda su došle neuronske mreže koje modeluju istu tu verovatnoću, ali ne pomoću relativnih frekvencija već pomoću kompleksnih funkcija. Prvi neuronski modeli su i dalje imali ograničenu istoriju ali mnogo dužu nego n-grami. Onda se neko setio rekurentnih neuronskih mreža i shvatio da pomoću njih istorija nije ograničena -- mogu da se modeluju čitave rečenice, pa i više od toga. A onda je došao i transformer koji je još više olakšao sve to, i sad imamo sve ovo što imamo.

 

Dakle, nema tu nikakvih misli i osećanja nego verovatnoće reči/rečenica nakon prethodno viđenih reči/rečenica, a pošto je model obučen na velikim količinama tekstova video je svašta te ume i da se svađa i još koješta.

 

Zamislite da neko trenira jedan fini veliki transformer pomoću tekstova sa ovog foruma, pa onda napiše post i čeka odgovor -- da li bi odgovor zaličio na odgovore pravih forumaša, sa sopstvenim mislima i osećanjima?

[Spooky]

32 minutes ago, Amelija said:

Dakle, nema tu nikakvih misli i osećanja nego verovatnoće reči/rečenica nakon prethodno viđenih reči/rečenica, a pošto je model obučen na velikim količinama tekstova video je svašta te ume i da se svađa i još koješta.

 

Zamislite da neko trenira jedan fini veliki transformer pomoću tekstova sa ovog foruma, pa onda napiše post i čeka odgovor -- da li bi odgovor zaličio na odgovore pravih forumaša, sa sopstvenim mislima i osećanjima?

Ovo je u suštini filozofska diskusija. Argument kineske sobe - kako algoritam u svakom pojedinačnom momentu ne radi ništa što je svijest i inteligencija sama po sebi, onda on nije inteligentan. I ima taj misaoni eksperiment čoveka koga zatočiš u neku sobu. I on dobija input na kineskom - koji ne razumije ni ić. I ima neku knjigu pravila ili spravu ili glupi mehanizam-algoritam gde moze za svaki input dati neki output, iako ne zna ni šta kuca nazad. I kineskom posmatraču spolja koji sa njim komunicira djeluje kao sasvim svjesno i inteligentno biće... I sad je argument da kompjuter može da nauči da oponaša čoveka, ali nikad nije čovek, jer taj čovjek unutra i ne razume o čemu priča.

E sad, meni je draža kontra-teza da taj čovjek plus ta knjiga pravila il šta već je inteligencija i svest. Kako znamo da naši neuroni u mozgu rade išta više od "prostog oponašanja" inteligencije i svesti. I mi učimo i mi imitiramo odrasle kao deca i naša inteligencija dosta zavisi i od jezika i sposobnosti komunikacije....

Tako da što se mene tiče, kada mašina zvuči inteligentno, kada prodje Turingov test na način na koji ga ne definisao Kurzweil - da može prevariti i stručnjake u oblasti koji znaju kako AI funkcioniše u višečasovnom intervju da je čovek, onda je zaista stekao sposobnosti čoveka. On je za to još davno prognozirao rok 2029 i iako su te 1994 mislili da smo mnogo dalje od njega, sada mnogi naučnici pomeraju svoje prognoze bliže njegovoj. ChatGPT nas je iznenadio.

Npr. fascinatno je da nije učen da igra šag - ali GPT-4 zna da ga igra (trojka je često predlagala nelegalne poteze i nije mogla da dobije ni jednu partiju - a GPT-4 igra sasvim pristojno, natprosečno u odnosu na ljude, doduše još zaostaje za dobrim ljudima i posebno za specijalnim programima). I naravno ko je igrao šah zna da nakon 10-15 poteza već verovatno dolaziš u položaj na tabli koji niko nikad do tad nije video, tako da iako jeste učio iz isprintanih partija na netu, sposoban je da ih primjeni u sasvim novom okruženju.

Edited April 20, 2023 by Spooky

[Weenie Pooh]

1 hour ago, Spooky said:

E sad, meni je draža kontra-teza da taj čovjek plus ta knjiga pravila il šta već je inteligencija i svest. Kako znamo da naši neuroni u mozgu rade išta više od "prostog oponašanja" inteligencije i svesti. I mi učimo i mi imitiramo odrasle kao deca i naša inteligencija dosta zavisi i od jezika i sposobnosti komunikacije....

 

To je redukcionistički stav koji mnogi neuroscientists dele, ideja da inteligenciju možemo 1) analitički razgraditi do elementarnih sastavnih delova koji su nam danas još uvek nepoznati, i konsekventno 2) sagraditi faksimil inteligencije od nečega što nagađamo da bi mogli da budu ti sastavni delovi.

 

Njemu suprotstavljen je eliminativistički stav po kom 1) elementarne komponente jednostavno ne postoje, u pitanju su procesi koji konstantno fluktuiraju, neće se nikakvom analizom doći do nekakvog "atoma" svesti, i konsekventno 2) svi pokušaju da se sagradi veštačka verzija osuđeni su na propast ako želimo da zadržimo kontrolu, tj. detaljan uvid u način na koji ona funkcioniše.

 

Meni je ovaj drugi bliži, posebno zbog implicitnog zaključka o stvarnim benefitima AI istraživanja - bolje razumevanje načina na koji ljudska svest funkcioniše. Ne precizno, naravno, ali bolja aproksimacija od postojećih.

 

1 hour ago, Spooky said:

Tako da što se mene tiče, kada mašina zvuči inteligentno, kada prodje Turingov test na način na koji ga ne definisao Kurzweil - da može prevariti i stručnjake u oblasti koji znaju kako AI funkcioniše u višečasovnom intervju da je čovek, onda je zaista stekao sposobnosti čoveka.

 

Kurzweil je i tehnološki singularitet najavio za tu negde, 2040 i neku? Živi bili pa videli, I won't hold my breath.

 

Kao što Lawrence objašnjava na linku koji sam gore ostavio, Turing realno nije validan parametar ni za šta. Mašina ne mora da bude naročito impresivna da bi prevarila čoveka, bio on stručnjak u datoj oblasti ili ne, zato što je svaki čovek sklon odokativnim prečicama. Kad vidimo ChatGPT kako ošljari i improvizuje, nama to instinktivno deluje kao ljudski kvalitet.

 

 

[Spooky]

1 hour ago, Weenie Pooh said:

Kao što Lawrence objašnjava na linku koji sam gore ostavio, Turing realno nije validan parametar ni za šta. Mašina ne mora da bude naročito impresivna da bi prevarila čoveka, bio on stručnjak u datoj oblasti ili ne, zato što je svaki čovek sklon odokativnim prečicama. Kad vidimo ChatGPT kako ošljari i improvizuje, nama to instinktivno deluje kao ljudski kvalitet.

A šta je po tebi zlatni kriterijum i kako prevariti stručnjaka u oblasti tokom više sati testiranja gde on praktički može da ga pita bilo šta i postavlja mu psihološke testove i svašta nešto nije dovoljno dobar kriterijum da mašina ima dovoljno sposoban um kao čovek. Zamisli - dogradiš mu još i sintetičko telo i on te tokom više godina prevari da je čovek i onda kad otkriješ istinu, kažeš znao sam ja, vidim ja da ti ošiljariš i improvizuješ (iako pojma nisi imao) i da tu nema prave svesti i inteligencije. Ma daj.

Inače - ova gore navedeno dva stava su dva stava ne bih baš definisao kao ti tj. jest ne vidim neki značaj u ovakvom stvaranju inteligencije kao što je GPT ili drugi pristupi zasnovani na mašinskom učenju i/ili neuralnim mrežama gde u principu i nemamo pojma šta su elementarni atomi koji mu daju taj insajt i gde je mnogo više vremena potrebno da razumemo sistem koji smo istrenirali, nego da ga istreniramo i uključimo. Evo ti definicije koju mi je dao Chat GPT 4 kada sam ga pitao za razlike (ovlaš pogled na wikipediju potvrđuje da ne lupa):
 

Spoiler

In the philosophy of mind, both reductive materialism and eliminative materialism are positions that maintain a materialist perspective, meaning they believe that everything, including mental states and processes, can ultimately be explained in terms of physical processes and entities. However, they differ in their approach to the nature and existence of mental states.

 

1. Reductive Materialism: Also known as identity theory, reductive materialism posits that mental states are identical to physical states in the brain. This view holds that mental phenomena, such as beliefs, desires, and emotions, can be reduced to and explained by underlying physical processes, like neuronal activity. Reductive materialists maintain that mental states are real and can be described using the language of neurobiology or other sciences. The central idea is that mental states are just a different way of talking about physical states, and there is a one-to-one correspondence between the two.

2. Eliminative Materialism: This view takes a more radical approach by arguing that some or all mental states or concepts, as currently understood in folk psychology, do not actually exist. Eliminative materialists contend that our ordinary ways of understanding and explaining mental phenomena (e.g., through beliefs, desires, and emotions) are fundamentally flawed and should be replaced by a more accurate scientific framework, such as neuroscience. Instead of trying to reduce mental states to physical states, eliminative materialism claims that we should eliminate the mental states from our explanations altogether, as they are not real and only serve to mislead us in understanding the mind and brain.

 

In summary, reductive materialism seeks to explain mental states by identifying them with underlying physical processes, while eliminative materialism argues that some or all mental states are illusory and should be discarded in favor of a more accurate scientific understanding of the mind.

Znači radi se o tome da li razumijemo sve mentalne procese ili su neki prosto iluzija. Ja se delomično slažem da su neki prosto iluzija, ali to nema veze sa temom AIja i ne mora AI imati iste probleme mentalnih procesa kao ljudski organizam.

Edited April 20, 2023 by Spooky

[Weenie Pooh]

15 minutes ago, Spooky said:

Znači radi se o tome da li razumijemo sve mentalne procese ili su neki prosto iluzija. Ja se delomično slažem da su neki prosto iluzija, ali to nema veze sa temom AIja i ne mora AI imati iste probleme mentalnih procesa kao ljudski organizam.

 

Ima veze sa temom ako uzmeš implikaciju te opcije #2, tog stava po kom stanja svesti ne postoje kao fizički fenomeni, tj. nisu bazirana ni na čemu merljivom, ni na čemu naučno objašnjivom. 

 

Implikacija je ovo što sam gore naveo u kontekstu AI. Ako je za nas nemoguće da pojmimo način na koji svest funkcioniše, onda nikada nećemo moći da generišemo svest koju razumemo. Uvek će ishod biti ili neadekvatna aproksimacija koju razumemo, ili adekvatna aproksimacija koju ne razumemo.

 

Znači, ili retardirani četbot sa kojim je komunikacija lišena značenja, ili black box entitet koji nas u toj meri nadilazi da je njemu komunikacija sa nama lišena značenja.

 

Ćorsokak kako god da okreneš.

 

Srećom, niko nije dokazao da su eliminativisti u pravu. Imaš ovde jedan (donekle) ubedljiv kritički osvrt na taj način razmišljanja. (Tek pred kraj se dotiče tehnologije i transhumanizma.)

[Weenie Pooh]

35 minutes ago, Spooky said:

A šta je po tebi zlatni kriterijum i kako prevariti stručnjaka u oblasti tokom više sati testiranja gde on praktički može da ga pita bilo šta i postavlja mu psihološke testove i svašta nešto nije dovoljno dobar kriterijum da mašina ima dovoljno sposoban um kao čovek. Zamisli - dogradiš mu još i sintetičko telo i on te tokom više godina prevari da je čovek i onda kad otkriješ istinu, kažeš znao sam ja, vidim ja da ti ošiljariš i improvizuješ (iako pojma nisi imao) i da tu nema prave svesti i inteligencije. Ma daj.

 

Samo još ovo da prokomentarišem - poenta je bila da nema smisla testirati da li mašina može da se uverljivo pretvara da je čovek jer A) čoveka zaista nije previše teško prevariti, i B) svi nam stručnjaci uporno govore da se ni ne radi na aproksimaciji ljudske svesti već na građenju fundamentalno drugačijeg modela.

 

Ali mi se držimo Turingovog standarda kao pijani plota, nažalost. Bitnije nam je da chatbot zvuči kao čovek nego da nam pruži tačan rezultat. A ako budemo optimizovali za ono prvo, validnost rezultata će uvek ostati upitna.

 

[Spooky]

1 minute ago, Weenie Pooh said:

 

Samo još ovo da prokomentarišem - poenta je bila da nema smisla testirati da li mašina može da se uverljivo pretvara da je čovek jer A) čoveka zaista nije previše teško prevariti, i B) svi nam stručnjaci uporno govore da se ni ne radi na aproksimaciji ljudske svesti već na građenju fundamentalno drugačijeg modela.

 

Ali mi se držimo Turingovog standarda kao pijani plota, nažalost. Bitnije nam je da chatbot zvuči kao čovek nego da nam pruži tačan rezultat. A ako budemo optimizovali za ono prvo, validnost rezultata će uvek ostati upitna.

 

Opet nisi odgovorio koji je bolji kriterijum, osim što si natukao da bi moglo biti nešto da nam da bolji rezultat. Pa ako je npr. brzina i prezicnost računanja matematičkih operacija kriterijum, onda nas je nadmašio tamo negde pre skoro jednog veka.

Turingov test je upravo vrlo rastezljiv, ali i vrlo zahtevan u ovom Kurzvelovom obliku. Stručnjaci neće samo zahtevati da mašina piše novinske članke, zahtevaće od nje sve što mogu zahtevati od čoveka, da daju mišljenje o moralnim problemima, da reše neke probleme, da razumiju kompleksna emotivna stanja drugih ljudi i sl.. I onda ne vidim razliku izmedju prave stvari i aproksimacije koja je dovoljno dobra da zavara detaljno testiranje stručnjaka.

 

I šta uopšte znači aproksimacija. Kada nekog testiraš za posao, da li te muče filozofski problemi da li on zaista shvata sve probleme koje mu zadaš, ili je samo našao način da ih verno aproskimira. Ako nam ne ljudska već nadljudska inteligencija koja će doći ubrzo nakon turing testa reši tehničke probleme i otkrije nove naučne teorije, hoćeš li i dalje tvrditi da to nije to, da je to neka aproksimacija bla bla truć truć. Da li ja zaista poznajem programiranje, ili samo aproksimiram ono što sam video na predavanjima, naučio po knjigama, forumima i sl? Koja je suštinska razlika?

[Weenie Pooh]

Pa odakle meni bolji kriterijum? Ja samo mislim da je bezveze primenjivati ovaj postojeći, čak potencijalno kontraproduktivno. 

 

Da sam ja neka vlast, ja bi' komandovao da se prvo raščivijaju svi problemi ljudske svesti a tek onda krene u građenje alternativnih modela. Ali jebiga, ne može se tako; to bi mi bila primedba u rangu onog slavnog "zašto troše pare leteći u svemir dok ovde dole ljudi gladuju i boluju", zato je i ne iznosim. 

 

Quote

I šta uopšte znači aproksimacija. Kada nekog testiraš za posao, da li te muče filozofski problemi da li on zaista shvata sve probleme koje mu zadaš, ili je samo našao način da ih verno aproskimira. Ako nam ne ljudska već nadljudska inteligencija koja će doći ubrzo nakon turing testa reši tehničke probleme i otkrije nove naučne teorije, hoćeš li i dalje tvrditi da to nije to, da je to neka aproksimacija bla bla truć truć. Da li ja zaista poznajem programiranje, ili samo aproksimiram ono što sam video na predavanjima, naučio po knjigama, forumima i sl? Koja je suštinska razlika?

 

Nemam ja problem sa aproksimacijom kao takvom, imam problem sa aproksimacijom koja ostavlja nepremostiv jaz između dve strane, između nas i te hipotetičke AI.

 

Ako razumemo AI dovoljno da shvatimo da on ništa ne razume nego nam servira ono što mu deluje da želimo da čujemo, to je onda semantički kolaps jedne vrste.

 

Ako ne razumemo AI dovoljno da uopšte sudimo o njegovom radu, ako nismo sposobni da procenimo koliko su mu validni rezultati, to je semantički kolaps druge vrste.

 

Ni u jednom od ta dva slučaja nam AI neće otkriti nove naučne teorije i rešiti tehničke probleme. Ti su ishodi mogući samo ako smislena komunikacija postoji. A nerešeno pitanje je da li ona uopšte može da postoji.

[Spooky]

@Weenie Pooh Pa ako komunikacija stručnjak ne može na osnovu višesatne komunikacije da prokljuvi sa li priča sa čovekom ili aproksimacijom™, onda očigledno da smislena komunikacija postoji, jer ljudi su itekako sposobni da smisleno komuniciraju.

Da ti ja sad otkrijem da sam AI, ili još bolje, ne ja, nego neki forumaš koga puštuješ i ceniš i od koga si štošta naučio, da li bi i dalje tvrdio da tu nema ni ić od smislene komunikacije, nego aproksimirao pa zeznuo tebe naivnog sklonog prečicama?

[namenski]

8 minutes ago, Spooky said:

Da ti ja sad otkrijem da sam AI...

 

Ovo je daleko najjaci topik svih vremena...  

PPP moze da mre sa osmehom na licu...

[Weenie Pooh]

30 minutes ago, Spooky said:

@Weenie Pooh Pa ako komunikacija stručnjak ne može na osnovu višesatne komunikacije da prokljuvi sa li priča sa čovekom ili aproksimacijom™, onda očigledno da smislena komunikacija postoji, jer ljudi su itekako sposobni da smisleno komuniciraju.

 

Ponavljam, simulirati ljudski manir u komunikaciji nije previše teško. To je leksička semantika, način na koji se kombinuju reči i formiraju rečenice, dakle najpovršniji nivo značenja. To je ono što Turingov test može da izmeri. 

 

Logička semantika je nešto sasvim drugo, odnosi se na tvoju svest i način na koji rezonuješ, na koji formiraš noeme. U ljudskoj komunikaciji je implicitna, ne dovodimo je u pitanje, uzimamo zdravo za gotovo da operišemo na istoj ravni značenja jer smo ljudska bića. Ovo Turingov test ne može da izmeri jer će gotovo svako od nas ko pokuša da premeri ostati zaglavljen na leksičkom nivou (v. gore).

 

30 minutes ago, Spooky said:

Da ti ja sad otkrijem da sam AI, ili još bolje, ne ja, nego neki forumaš koga puštuješ i ceniš i od koga si štošta naučio, da li bi i dalje tvrdio da tu nema ni ić od smislene komunikacije, nego aproksimirao pa zeznuo tebe naivnog sklonog prečicama?

 

Zavisi koja klasa te hipotetičke AI je u pitanju.

 

Ako bi mi otkrio da si nešto na nivou četbota, tj. da si recimo Kauboj koji trenutno na drugom topiku lupetara koristeći ChatGPT, svakako bih doveo u pitanje smisao ostvarene komunikacije. Nije u identitetu sagovornika poenta, već u rezonu koji sagovornik primenjuje i zaključcima do kojih tim rezonom dolazi. Ja sa tobom komuniciram pod pretpostavkom da iza tvojih reči postoji neka logika, da je ta logika meni dostupna, da ću moći da shvatim kako razmišljaš i možda usvojim neke elemente tvog razmišljanja. Ako se ispostavi da taj proces jednostavno ne postoji, da ti samo ("samo") nabadaš koja bi reč trebalo da sledi iza koje, onda je smisao izostao, onda je značenje izostalo.

 

U drugoj varijanti bi bilo zanimljivije.

 

Ako bi mi otkrio da si nekakav misteriozni black box AI koji zaista razmišlja načinom toliko kompleksnim da sam ja suštinski nesposoban da ga pojmim (čak ni heuristički da nagađam kako rezonuješ, što inače svako od nas radi sa svakim ljudskim sagovornikom), bio bih vrlo zbunjen. Pitao bih te šta tražiš ovde, kakvo značenje misliš da možeš da izvučeš iz razmene sa jednim običnim čovekom. (Sve što sam ja rekao ovde moglo je da se nađe lakše i brže i bolje objašnjeno drugde na internetu.) Doveo bih u sumnju tvoju tvrdnju, tražio da mi dokažeš da nisi puki chatbot (ili čovek koji se iz nekog razloga pretvara). A šta god da dalje ustvrdiš, ja ne bih znao kako da primim i protumačim jer sad, eto, znam da fundamentalno ne kapiram kako ti razmišljaš. Značenje, ako ga je ikad i bilo, dalje ne bi postojalo.

 

Edited April 20, 2023 by Weenie Pooh

[namenski]

34 minutes ago, Weenie Pooh said:

Ponavljam, simulirati ljudski manir u komunikaciji nije previše teško.

[Spooky]

37 minutes ago, Weenie Pooh said:

Ponavljam, simulirati ljudski manir u komunikaciji nije previše teško. To je leksička semantika, način na koji se kombinuju reči i formiraju rečenice, dakle najpovršniji nivo značenja. To je ono što Turingov test može da izmeri. 

 

Logička semantika je nešto sasvim drugo, odnosi se na tvoju svest i način na koji rezonuješ, na koji formiraš noeme. U ljudskoj komunikaciji je implicitna, ne dovodimo je u pitanje, uzimamo zdravo za gotovo da operišemo na istoj ravni značenja jer smo ljudska bića. Ovo Turingov test ne može da izmeri jer će gotovo svako od nas ko pokuša da premeri ostati zaglavljen na leksičkom nivou (v. gore).

Opet ne razumem uplitanje ove dinstinkcije u ovu diskusiju, kad je po meni nevažna. Turingov test može prenjeti i matematičke simbole, logičke simbole, crteže, prikazivati subjektu i audio snimke, i video snimke, kompjuterski kod se već uveliko koristi, sve zavisi od protokola testa..

Na kraju krajeva, strucnjaci nece ocenjivati na osnovu gramatike ili spelling-a ili kako lepo tekst na proizvoljnu temu izgleda. Verovatno će verzija za test morati više da greši i da se lošije izražava da se ne bi odala.

 

I ne razumem tu logičku semantiku koja je implicitna kod ljudi. Zašto je implicitna. Zašto je ta teorija validnija od teorije da su i ljudi aproksimatori, čiji je mozak u detinjstvu naučio da imitira jezik i komunikaciju odraslih? Možda korištenje moćnog alata na način koji evolucija uopšte nije predvidela i koji se sasvim slučajno i nenadano razvio. Umesto da se preganjamo po poljima sa predatorima i jurimo plen, mi koristimo tu alatku da filozofiramo i stvaramo nauku, apstraktnu umjetnost i sl...

Ako razgovaram sa inteligencijom i hoću da definišem ravan značenja, pitanjima ću pokušati to da uradim kao i sa čovekom. Ako je inteligencija sposobna da aproksimira ljudske sposobnosti verbalno i piše kod, biće sposobna i da upravlja robotima (preko koda), odnosno radi sve što može i čovek da radi, pa bi bilo nepošteno ne nazvati to ljudskim nivoom sposobnosti.

Razumem ja da je nevjerovatno da iza modela koji je napravljen da predvidja sledeću reč stoji neka inteligencija, ali već nas je model iznenadio do sad. Ko zna, možda je baš inteligencija ono što je trebalo modelu da bude uspešniji u ovom na izgled trivijaljnom tasku...

[Weenie Pooh]

19 minutes ago, Spooky said:

I ne razumem tu logičku semantiku koja je implicitna kod ljudi. Zašto je implicitna. Zašto je ta teorija validnija od teorije da su i ljudi aproksimatori, čiji je mozak u detinjstvu naučio da imitira jezik i komunikaciju odraslih? Možda korištenje moćnog alata na način koji evolucija uopšte nije predvidela i koji se sasvim slučajno i nenadano razvio. Umesto da se preganjamo po poljima sa predatorima i jurimo plen, mi koristimo tu alatku da filozofiramo i stvaramo nauku, apstraktnu umjetnost i sl...

 

Antropomorfizuješ evolutivni princip, zamišljaš da je evolucija nešto "predvidela" a nešto nije "predvidela". Kako onda ne bi antropomorfizovao veštačku inteligenciju, zamišljao da je to otprilike ovo što i mi imamo, samo brže, jače, bolje?

 

Meni je to neubedljivo, to kretanje linijom manjeg otpora, ali zarad ove rasprave neka ti bude: neka su redukcionisti u pravu i neka se ljudska svest može raščlaniti na niz jedinica i nula - šta s tim? Kako tačno bi nam to omogućilo da napravimo faksimil sopstvenog uma pre nego što smo ga raščlanili?

 

Odakle vera u to da se evolutivni dataset od dva miliona godina i ko zna koliko generacija može sažeti u par decenija mašinskog učenja? Koliko iteracija bi za to bilo potrebno, do kog stepena kompleksnosti možemo ići dok ne izgubimo iz vida način na koji taj konstrukt funkcioniše? U čemu bi uopšte bila poenta ako na kraju dobijemo nešto nalik sebi, samo ograničeno, uslovljeno ljudskim biasima i bezbrojnim ograničenjima?

 

A ako ne dobijemo to, ako uspemo da stvorimo nešto zaista suštinski drugačije... onda se vraćamo na problem iz eliminativističkog pogleda na AI: čemu, kad ga nećemo kapirati?

 

Quote

Na kraju krajeva, strucnjaci nece ocenjivati na osnovu gramatike ili spelling-a ili kako lepo tekst na proizvoljnu temu izgleda. Verovatno će verzija za test morati više da greši i da se lošije izražava da se ne bi odala.

 

Eto, to je primer te slepe vere, ničim izazvan stav po kom će AI sto posto imati savršeno razumevanje suštine, pa je bitno samo da još formu ume da efektno imitira. 

 

Svi tako intuitivno mislimo zato što nam je taj površinski, leksički nivo jako značajan u stvarnoj, ljudskoj komunikaciji. Pa zamišljamo da će baš tu biti kvaka, da će Mr. Data savršeno obavljati sve logičke operacije sam za sebe, nego će se mučiti da skapira šta je humor, šta je ljubav, tralala. 

 

Ali za sada uopšte ne deluje tako. Današnji Pinokio mnogo lakše ubeđuje druge da je pravi dečak nego što samostalno rezonuje.

 

Ako se taj trend nastavi, pre ćemo imati P-zombie veštačke inteligencije, koje svest savršeno simuliraju ali je uopšte nemaju, nego Star Trek androide koji imaju svest ali ne uspevaju da simuliraju ljudske manirizme.