AI

[Lil]

1. Postoji li mogućnost da izgradimo umetnu inteligenciju koja nas ne bi uništila?

 

2. Prema evolucijskoj psihologiji ljudski cilj je reprodukcija i sva delovanja su usmerena tom cilju, koji bi bio cilj bića sa umetnom inteligencijom? Gde bi ležao njihov interes? Isto u ekspanziji? 

 

 

 

http://www.ted.com/talks/sam_harris_can_we_build_ai_without_losing_control_over_it

[bigvlada]

Pitanje na koje ljudska rasa još nije odgovorila je zašto bi AI imao želju da nas uništi? Sa druge strane, ljudska rasa se plaši svega što ne može da kontroliše a samim tim ima i želju da ga uništi. Takođe, ako imaš inteligentnu radnu snagu koju ne plaćaš i tretiraš kao roblje ona će se pre ili kasnije pobuniti, i neće biti usamljena u svom buntu. Kapitalisti koji misle da je rešenje proizvodnih problema moderna verzija robovlasništva se već češu unapred a neki su prilično paranoični po tom pitanju. 

 

Ako AI budu nešto nasledili od svojih tvoraca onda će to biti želja za istraživanjem, radoznalost, što i jeste najbolja ljudska osobina. 

[Skyhighatrist]

Neuralink Has Arrived

 

After weeks of anticipation, details on Elon Musk’s brain-computer interface company Neuralink have finally been revealed. In a detailed report on the website Wait But Why, Tim Urban recounts insights gleaned from his weeks meeting with Musk and his Neuralink team at their San Francisco headquarters. He offers an incredibly detailed and informative overview of both Musk’s latest venture and its place in humanity’s evolution

 

“I think we are about 8 to 10 years away from this being usable by people with no disability.” – Musk

[Gospodin Slucaj]

ovo je sjajna vest 

to kačenje na superinteligenciju je jedan od načina da ne budemo pregaženi od strane iste

kurzvejl to naziva neoneokorteksom ili tako nešto

[hazard]

Kurcvejl je sarlatan ekstra klase, ako hocete da citate nesto ozbiljno o AI klonite se njega i njegovih trtljanja

[Gospodin Slucaj]

ne bih da hajdžekujem temu pričom o krzvejlu ali zašto šarlatan?

što se tiče baš ai zar se nije google kladio na tog "šarlatana"?

[hazard]

ne bih da hajdžekujem temu pričom o krzvejlu ali zašto šarlatan?

što se tiče baš ai zar se nije google kladio na tog "šarlatana"?

 

jer

 

 

It's as if you took a lot of very good food and some dog excrement and blended it all up so that you can't possibly figure out what's good or bad. It's an intimate mixture of rubbish and good ideas, and it's very hard to disentangle the two, because these are smart people; they're not stupid.

 

i

 

Ray Kurzweil is wrong: The Singularity is not near

 

How Ray Kurzweil Sells His Junk Science

 

i ima jos milion kritika. Elem, on u Guglu radi nesto sasvim drugo poslednji put kada sam o tome citao (masinsko prepoznavanje jezika ili tako nesto), mozda gresim. Nije da je on totalna prevara, svasta je uradio u tehnoloskom svetu sto je bilo konkretno i uspesno, ali trtljanja o AI i "singularitetu" su pseudo-religijske fantazmagorije.

[Gospodin Slucaj]

a pa ja ga pratim upravo zbog pseudo-religijske fantazmagorije haha

 

ali to sam samo ja koji se oduševljava jednim frank j tiplerom koji na primer govori da je dokazao postojanje boga matematički 

but i proooved it

[Aion]

Kurcvejl je sarlatan ekstra klase, ako hocete da citate nesto ozbiljno o AI klonite se njega i njegovih trtljanja

Imam dva pitanja:

 

1) Da li smatras da je i Marvin Minsky sarlatan?

2) Da li se kritike na racun jake AI hipoteze, najcesce upucuju upravo sa jakih teoloskih pozicija?

 

Koliko god "naucno" zvucale fraze o sarlatanstvu, jedini naucni (zapravo matematicki) pokusaj za koji znam, da se ova hipoteza ospori je Penrouzova kritika. Pri tome, deluje mi da nikome nije bas najjasnije na cemu se (osim neospornog naucnog autoriteta) njegova kritika zasniva. Bez obzira na sve, cak i ako je Penrouz u pravu, stvari se samo pomeraju iz svere klasicni u sveru kavntnih racunara, te zapravo opet nemamo kritiku koja ne ukljucuje boga, dusu, ...

[Lord Protector]

Imam dva pitanja:

 

1) Da li smatras da je i Marvin Minsky sarlatan?

2) Da li se kritike na racun jake AI hipoteze, najcesce upucuju upravo sa jakih teoloskih pozicija?

 

Koliko god "naucno" zvucale fraze o sarlatanstvu, jedini naucni (zapravo matematicki) pokusaj za koji znam, da se ova hipoteza ospori je Penrouzova kritika. Pri tome, deluje mi da nikome nije bas najjasnije na cemu se (osim neospornog naucnog autoriteta) njegova kritika zasniva. Bez obzira na sve, cak i ako je Penrouz u pravu, stvari se samo pomeraju iz svere klasicni u sveru kavntnih racunara, te zapravo opet nemamo kritiku koja ne ukljucuje boga, dusu, ...

 

1) Marvin Minsky nije šarlatan, ali je imao velikih grešaka, neki ga direktno optužuju za AI zimu i pogrešne zaključke u vezi mogućnosti neuralnih mreža. 

2) Ne. Postoje po meni logičke i matematičke prepreke, ovde posebno mislim na rad Kurta Gedela.

Edited April 22, 2017 by slow

[mei]

Elem, on u Guglu radi nesto sasvim drugo poslednji put kada sam o tome citao (masinsko prepoznavanje jezika ili tako nesto), mozda gresim. 

samo mali komentar, ne o njemu, nego generalni komentar o mašinskom učenju i AI. mašinsko učenje jeste >95% sadašnjeg AI sveta (pošto AI trenutno ne postoji, postoji mašinsko učenje), tako da nije nešto sasvim drugo u pitanju nego ipak neki rad u AI.  

[hazard]

samo mali komentar, ne o njemu, nego generalni komentar o mašinskom učenju i AI. mašinsko učenje jeste >95% sadašnjeg AI sveta (pošto AI trenutno ne postoji, postoji mašinsko učenje), tako da nije nešto sasvim drugo u pitanju nego ipak neki rad u AI.  

 

Mislio sam na price o singularitetu. To je tema po kojoj je Kurcvajl najvise poznat u javnosti, a koliko mi je poznato, Gugl njega ne placa da radi na tome (bio je hajp kada su ga zaposlili, Gugl ulaze u singularitet i sl.). Izmedju deep learning-a koji "uci" da prepoznaje obrasce i Kurzvajlovih prica spajanju ljudi i kompjutera u neku besmrtnu superinteligenciju postoji provalija od nekoliko svetlosnih godina, rekao bih

[Aion]

1) Marvin Minsky nije šarlatan, ali je imao velikih grešaka, neki ga direktno optužuju za AI zimu i pogrešne zaključke u vezi mogućnosti neuralnih mreža. 

2) Ne. Postoje po meni logičke i matematičke prepreke, ovde posebno mislim na rad Kurta Gedela.

1) U cemu se sustinski razlikuje stav Minskog od Kurzweil-ovog. Minski se nije usudjivao da previdja godine? Ipak se Odiseja odigrava 2001. godine sto je, kada je snimana, bilo veoma optimisticno predvidjanje. Ovo za AI zimu je potpuno bez veze, naknadna pamet od 40 godina. Skoro sam odgledao kurs AI Patrika Vinsotna (MIT). Kurs je snimljen 2011. godine, pri cemu su predavanja o neuralnim mrezama zamenjena novijim (mislim iz 2015.) Vinston priznaje da je jednostavno pet godina ranije potcenio razvoj neuralnih mreza, Minskom se stavljaju na dusu sto ih je podcenio jos sedamdesetih.

 

2) Razumem Gedelovu teoremu, ali mi nije bas jasno koliko se ona uklapa u sve ovo. Imas (netrivijalan) formalni sistem, po gedelovoj teoremi imas iskaze u sistemu ciju istinitost ne mozes da dokazes unutar samog sistema, argument koji zastupas (Penrouz) kaze da samo prirodna inteligencija moze da ima sposobnost introspekcije i da se uzdigne iznad formalnog sistema i tako nadje resenje problema. Principijelno pitanje je mihanizma koji prirodnoj inteligenciji omogucava bekstvo iz Gedelove zamke. Ja sam cuo samo za dva odgovora Penrouzov koji kaze da se nas um (ne secam se sad tacno, mozda svest) bazira na kvantnim pricipima. Drugi je da pored fizickog tela, posedujemo u dusu koja je odgovorna za (neke) misaone procese. Vera (ateizam) mi zabranjuje da se bavim ovim drugim objasnjenjem, ostaje mi prvo. S njim je problem sto nema nikakvu empirijsku potvrdu, a nije da se ne rade istrazivanja u oblasti neurologije.

[hazard]

Imam dva pitanja:

 

1) Da li smatras da je i Marvin Minsky sarlatan?

2) Da li se kritike na racun jake AI hipoteze, najcesce upucuju upravo sa jakih teoloskih pozicija?

 

Koliko god "naucno" zvucale fraze o sarlatanstvu, jedini naucni (zapravo matematicki) pokusaj za koji znam, da se ova hipoteza ospori je Penrouzova kritika. Pri tome, deluje mi da nikome nije bas najjasnije na cemu se (osim neospornog naucnog autoriteta) njegova kritika zasniva. Bez obzira na sve, cak i ako je Penrouz u pravu, stvari se samo pomeraju iz svere klasicni u sveru kavntnih racunara, te zapravo opet nemamo kritiku koja ne ukljucuje boga, dusu, ...

 

1) Mislim da Minski i Kurcvajl ne treba da se spominju u istoj recenici. Mislim da je Minski pristupao problematici ozbiljno, ali da je jednostavno bio ogranicen vremenom u kom je radio. Poslednje stvari koje je pisao (The Emotion Machine) nisam citao, tako da o tome nemam misljenje.

 

2) Ne. Kritike najcesce dolaze sa racionalne, skepticne, vrlo materijalno utemeljene strane. Price o "jakom AI" i "masinama koje misle" ili "su svesne" nemaju nikakvo rigorozno utemeljenje, u sustini. A nemaju jer mi ne mozemo naucno da objasnimo sta to zapravo znaci "misliti" i "biti svestan". Mi ne znamo koji su tacno preduslovi za tako nesto (osim u nekim najsirim crtama), pa i tako ne znamo sta bi bilo potrebno da se napravi kako bi masine postale svesne. Vecina prica o "jakom AI" taj deo zapravo nekako i preskace - imas tonu ljudi koji teoretisu sta bi bilo kad bi bilo moguce napraviti masinu koja misli i koja je samosvesna, kako tu masinu programirati, kako se prema njoj odnositi, itd. A sve pocinju s pretpostavkom "recimo da kompjuteri postanu dovoljno mocni da to omoguce" ili tvrdnjom "u bliskoj buducnosti, kompjuteri ce postati dovoljno mocni da to omoguce".

 

Interesantno je da spominjes teoloske pozicije, jer price o singularitetu i super inteligentnom AI jesu upravo nekakva post-moderna eshatologija. Umesto svemoguceg Boga koji ce nas spasiti, covecanstvo ce naci spasenje u tehnologiji koja ce omoguciti besmrtnost. Umesto svevisnjeg Boga koji ce se vratiti na zemlju da vlada u raju na zemlji, super-inteligentni benevolentni AI ce preuzeti kontrolu i urediti sve da bude potaman. Umesto sudnjeg dana i Apokalipse, zli super-inteligentni AI ce nas sve pobiti. I tako dalje.

 

Ja ne tvrdim da je nemoguce sagraditi masinu koja ce biti svesna - to bi bila neka teoloska pozicija. Ali mislim da smo vekovima daleko od toga, i da je to nemoguce sa postojecom tehnologijom i sa postojecim nacinom na kom kompjuteri danas rade i bivaju projektovani. Ako neko dokaze da mozak radi na nekom najnizem nivou na binarnom sistemu recimo, mozda cu da promenim misljenje, ali koliko mi je poznato, to nije slucaj. Meni se cini (daleko od toga da sam strucnjak za mozak) da je to daaaleko vise jedno "analogno" nego "digitalno" kolo :)

 

Svakako treba brinuti o sve vecem efektu slabog AI na zivot, privredu i sl., ali ne mislim da treba da se plasimo Terminatora. Treba da se brinemo o "glupom" AI kome je dato suvise kontrole, npr.

 

 

Instead of worrying about theoretical risks, we should focus on being “smart about what control we give over to our systems”, Shadbolt said.

 

“We've got to think ethically about how technology is being used – in drones, or even in financial markets. You have to put in a set of rules of behaviour to bring technology into line,” he explained.

 

As we hand over more tasks to AI, there are also serious questions to ask about accountability, according to Shadbolt.

 

“When there's a crash between those two first driverless cars, what will the legislation and judgements be? Who's responsible?” he said.

 

“If we're stupid and decide to put lots of AI technology into seek and destroy robots, and we don't have a way of reinserting ourselves in the loop or deciding when they should or shouldn't hit the kill button, then we have been really stupid,” he added.

 

Like nuclear technology, biological science and chemistry, AI is not morally 'good' or 'bad' in and of itself, Shadbolt said.

 

“People can use AI to do great things, or it can be used on the battlefield or as a gas agent. And that's our decision. That's not the machines',” he added.

 

http://www.techworld.com/big-data/artificial-intelligence-fears-overblown-says-ai-expert-sir-nigel-shadbolt-3622100/

 

Inace, citao sam skoro jednu interesantnu knjigu na ovu temu sa esejima raznoraznih mislioca i eksperata (i onih koji veruju u mogucnost jakog AI i onih koji ne veruju), pa kad nadjem vremena, okacicu po nesto.

[Aion]

samo mali komentar, ne o njemu, nego generalni komentar o mašinskom učenju i AI. mašinsko učenje jeste >95% sadašnjeg AI sveta (pošto AI trenutno ne postoji, postoji mašinsko učenje), tako da nije nešto sasvim drugo u pitanju nego ipak neki rad u AI.  

Otkud ti ovo? ML jeste popularan, ali se itekako radi na razvoju i ostalih AI disciplina. Sigurno korstis Matematiku ili neki slican program za simbolicko "racunanje", oni su klasicni primeri heuristickog pretrazivanja. U drugim oblastima korste se i jedni i drugi metodi, cesto u simbiozi. Ako imas prepoznavanje slike (osobe, predmeti, ...) nerualne mreze (ML) su trenutno zakon. Sasvim druga stvar je ako je potrebno da se na osnovu slike napravi model fizckog sveta, da bi se na osnovu njega, recimo, isplaniralo kretanje robota. Dobar primer simbioze je ovaj program koji je pobedio svetskog sampiona u GO-u, sah sa druge strane je cist ne-ML AI.