Prevozna sredstva bez vozača, da ili ne?

[Peter Fan]

 Prije neki dan, pariska linija 1 koja je od prije dvije godine kompletno automatizovana (driverless), pokvarila se. 

Flame on: pa niko nije ni rekao da ce Peugot da nas odveze u driverless buducnost  :P

[omiljeni]

Pa upravo je to jedan od razloga. Dokle god je saobraćaj takve heterogene prirode, da imam službenika googla u svom hi-tech autu koji u njemu gleda slike maca i pijanog Milivoja koji je seo u svoj golf dvojku ispred "Dva pijana vola", više verujem kombinaciji ljudske intuicije i kvalitetne tehnike.

 

Na prvi pogled rešenje toga je podizanje kompletnog saobraćaja na taj viši nivo, otprilike internet of things. Što čisto teorijski zvuči dobro, baš kao što je i internet u početku zvučao fenomentalno. Ali taj softver koji je lepo umrežen je podložan ne samo lošem kodu, nego i malveru. Recimo da dobri generatori koda mogu da ispeglaju flagrantno loš kod priučenog programera sa kursa kompijutera, ali ne mogu da eliminišu ljudsku zlobu. Kao što danas imamo malver koji radi hajdžek telefona ili bankovnog računa, stvarno ne želim da razmišljam pri brzini od 120 km/h da li će mi se to isto desiti i sa autom ili ću biti meta ddosa komšije zato što sam mu juče parkirao ispred njegove kuće. Kad god se razmišlja o nekoj novoj tehnologiji, uvek se posmatra kroz neke roza cvikere i gledaju samo pozitivne strane, jer u toku konceptualnog razvoja sve ionako radi u laboratorijskim uslovima i ne možeš predvideti šta će sve u budućnosti kretenima pasti na pamet kad pustiš taj proizvod into the wild.

 

A potpuno na stranu to što sam generalno netrpeljiv prema kompjuterizaciji kompletnog aspekta življenja u smislu privatnosti i ostalog. Ne želim da mi se u svakoj sitnici pojave adsense reklame, ako ništa drugo - za sad sam zadovoljan time što takav uređaj imam samo na stolu i mogu da ga isključim kad hoću i da piljim u plafon.

 

Možeš i sad, dok ručno voziš, da razmišljaš o istom tom komšiji i pitaš se da li će da te upuca iz pištolja, kada se sledeći put sretnete, zbog tog parkiranja. Ili da li ti je postavio bombu pod auto. Ili ti čačkao nešto po kočnicama. Zloba će te ubiti nevezano da li voziš ti ili vozi robot.

A valjda će da postoje firewall isl zaštite, tehničke kontrole bi bile stroge, a kazne predviđene i za najmanju sabotažu sistema da budu drakonske itd itd, pa da to ne bude baš tako loše.

[Muwan]

Živ nisam da vidim softver koji je u stanju da predvidi moguće akcije turskih vozača, prvo na praznom autoputu a onda u krkljancu u kojem se mili 5kmh i vodi zverska borba za svaki metar prostora koji neiskusni amateri ostave izmedju sebe i vozila ispred njih.

 

Mene kopka nešto drugo: driverless cars će naravno poštovati sve propise. I sad, ako je na autoputu propisano ograničenje od 120kmh a nema žive duše, ja ću vala da nagazim 140-150. U gradu ću da vozim 40 tamo gde je neki genije stavio 20. Ponekad ću da okrenem polukružno tamo gde je zabranjeno, ako je neko gluvo doba i nema žive duše. Ponekad ću da se prestrojim u traku za skretanje u zadnjih 10 metara kada je linija puna i ne bi trebalo to da radim, opet ako znam da nema žive duše a predomislio sam se u poslednji čas. Ima dosta tih sitnih pravila koja kršimo svakog dana, ne zato što smo bahati i ludi nego zato što donosimo racionalnu odluku da u datoj situaciji to kršenje neće ugroziti ni nas ni bilo koga drugog, a pri tome nigde u blizini nema žbuna pa da pomisliš da iza njega čuči saobraćajna patrola i odustaneš od ideje.

 

Ali softver nema tu opciju i poštovaće sve propise i ograničenja. A ja ću blago da poludim gledajući to, osim ako ne otvorim laptop i forum da ubijem vreme.

 

Obaška što puštanje driverless vozila into the wild zahteva ogromna ulaganja u saobraćajnu signalizaciju na svim putevima u zemlji. Koliko zemalja će to moći da priušti? Ja ne bih da razmišljam na temu šta će biti kada se takvo vozilo isključi sa E-70 na neku egzotičnu magistralu i da li na toj magistrali postoji sva signalizacija koja je softveru potrebna ili je pola toga pokradeno u roku od tri dana nakon postavljanja. Možda će svi ti podaci biti embedovani u mape koje softver koristi ali ja opet ne bih da razmišljam na temu da li je partijska firma koja je u Srbiji dobila da radi mapiranje putne mreže pravilno ucrtala sve krivine i unela sva propisana ograničenja ili su to radili neki sendvičari po sistemu "lako ćemo".

[Shan Jan]

Beowl, te stvari se jako lako rese.

 

Za signalizaciju je dovoljno napraviti elektronsku map, sa svim signalizacijama ukljucenim u nju (kao sto sada postoje mape sa ogranicenjima brzine). To uopste i nije tako veliki zadatak ako ga npr. uporedis sa google maps koji je vec odradjen sasvim korektno, direktno od gugla (dakle nema zajebancije sa lokalnim igracima i ja sam siguran da ce isto vaziti za ove mape jer je bezbednost apsolutni prioritet inace pisi propalo automatizovanim automobilima).

 

Sto se tice brzine, tu je odgovor vrlo jednostavan. Ogranicenje brzine je napravljeno za ljude vozace i njihove reflekse kao i za starije automobile sa losijim kocenjem. Kako bude napredovao softver i sam hardver automobila tako ce ova granica moci da se dize. To ce u pocetku zbog skepse ici jako sporo ali ne sumnjam da ce se desavati. Moze se cak desiti da se pravila promene tako da u slucaju prazne raskrsnice (u krugu od par stotina metara) automatizovano vozilo ima pravo da prodje, jer za razliku od ljudi koji misle da je raskrsnica prazna pa im izleti neko i tresne ih, ovde auto zaista zna da ima dovoljno fore da to uradi pa sve da ovaj iz drugog kraja juri 200 na sat.

 

Na kraju, sve to moze jos vise da napreduje. Npr. moze se softver povezati sa semaforima pa u slucaju prazne raskrsnice prebaciti zeleno na sebe, cisto za svaki slucaj. Ili, u nekoj jos daljoj buducnosti gde bi imao samo driverless cars, mogao bi potpuno ukinuti i semafore i signalizaciju, jer ce automobili u svojoj mrezi komunikacije odredjivati ko ima prednost, tako da saobracaj ide najbrze.

Edited February 23, 2016 by Shan Jan

[čekmeže]

Daj bilo šta samo da više ne gledam kamikaze na putu iz fraze koji je iz sada neutvrđenih razloga prešao u suprotnu kolovoznu traku.

[Dionysos]

ali ne mogu da eliminišu ljudsku zlobu. Kao što danas imamo malver koji radi hajdžek telefona ili bankovnog računa, stvarno ne želim da razmišljam pri brzini od 120 km/h da li će mi se to isto desiti i sa autom ili ću biti meta ddosa komšije zato što sam mu juče parkirao ispred njegove kuće. Kad god se razmišlja o nekoj novoj tehnologiji, uvek se posmatra kroz neke roza cvikere i gledaju samo pozitivne strane, jer u toku konceptualnog razvoja sve ionako radi u laboratorijskim uslovima i ne možeš predvideti šta će sve u budućnosti kretenima pasti na pamet kad pustiš taj proizvod into the wild.

није то ни сад немогуће

[Razzmatazz]

 

 

A valjda će da postoje firewall isl zaštite, tehničke kontrole bi bile stroge, a kazne predviđene i za najmanju sabotažu sistema da budu drakonske itd itd, pa da to ne bude baš tako loše.

 

Vidim da svi imate idealističko poverenje u softver, ali ja koji se time bavim imam osećaj kao da sam tip u Mitrosu koji zna ne samo šta se sve stavlja u paštetu, nego i gleda svaki dan kako Milanče lopatom za sneg vraća prosuto sa patosa nazad u kazanče.

 

Nema prave zaštite, postoji samo iluzija zaštite. Plus, *nema* softvera bez bagova i uzroci mogu biti svakakvi - od nemara ili ljudskog faktora, preko tehničkih do korporativnih, kao što nam je Apple Maps ne tako davno lepo demonstrirao - "nije softver baš spreman, ali nama je važno uzimanje tržišnog kolača".

 

Čak i kad bih prenebregao bagove i druge tehničke probleme, čovek je stoka i to se neće skoro promeniti. Ili da budem konkretniji - nije samo onaj za volanom stoka, kako eliminisati onu stoku u volanu? "Ali ovo je važno, u pitanju su životi i zdravlje ljudi, ne bi se s tim zajebavali", reći će neko. Mislite, kao što se nisu zajebavali ti isti proizvođači automobila do sada sa lažiranjem podataka izduvnih gasova recimo? Ili sa (manje opasnom) potrošnjom? Što se ni malom prodavcu ne može verovati da neće flešovati softver - "vožen samo do crkve, neudaran", a da airbag ne radi ćeš saznati tek kod sledećeg čukanja.

 

Da ne budem pogrešno shvaćen, ovo jeste progres i nezaustavljiv je, asistencija i nadoknađivanje ljudskih ograničenja su dobra stvar, nema oko toga šta da se diskutuje. Meni samo malo smeta to što ljudi vide to test vozilo na poligonu sa nekim cvikerašom koji nadzire logove i odmah krene onaj vau efekat, ova tehnologija će eliminisati žrtve i nahraniti gladne (ptičice cvrkuću u pozadini). Mislim da neće. Mislim da će ljudi i dalje ginuti u saobraćaju, verovatno će se neki uzroci nesreća smanjiti ili čak eliminisati, ali da ćemo uvesti i neke nove. Kapiram i to da na neke stvari gledamo iz različitih vizura - da nekome kome je samo beogradski ili srpski saobraćaj pred očima, kao otelotvorenje lunaparka u okviru Laze Lazarevića, kontrola ili pijani Milisav imaju različitu težinu ili prioritet nego negde drugde. Mada, iskreni da budemo, pijani Milisav bi mogao da se reši i zabranom alkohola (ha ha) ili realnije obaveznim detektorom za alkohol u okviru sistema paljenja, ali to nekako ne deluje da je prioritet.

[borris_]

Zato u londonskom koriste za to pakovanje od Pringlsa.

 

 

Flame on: pa niko nije ni rekao da ce Peugot da nas odveze u driverless buducnost  :P

 

 

Njemacki je sistem, Siemens.  -_-

[Prokleto Djubre]

Mozes ti reci da "ne postoji softver bez bagova" i biti u pravu, nema sta. Samo ima softvera i softvera i neki od njih teraju vozila po mesecu, a mnogi od njih su vec zaduzeni za mnoge sitne stvari koje ni ne primecujemo i za sve prakticne potrebe slobodno mozemo reci da jesu bez bagova. Pricam o gomili primena u avio transportu, vojsci, vozovima, pametnim zgradama, a zasto ne pomenuti i da nismo videli da nuklearne glave polete zbog softverskog baga.

Cinjenica je da se bug-free softver moze napraviti ako je to prioritet, samo sto se najcesce ne isplati. Cak bih rekao da toliko visoki standardi nece biti potrebni za autopilote u kolima, ako bude radilo vecinu vremena bice i dalje ok uz mogucnost prepustanja komandi coveku (posto ce to svakako biti zahtev u sledecim godinama). Takav sofver ce jednostavno godinama biti apgrejdovan u odnosu na realne probleme koji se dese i eto ga bug-free kroz life driven development (ok, ovaj termin sam upravo izmislio i zelim neki novac za to).

[Venom]

Mozes ti reci da "ne postoji softver bez bagova" i biti u pravu, nema sta. Samo ima softvera i softvera i neki od njih teraju vozila po mesecu, a mnogi od njih su vec zaduzeni za mnoge sitne stvari koje ni ne primecujemo i za sve prakticne potrebe slobodno mozemo reci da jesu bez bagova. Pricam o gomili primena u avio transportu, vojsci, vozovima, pametnim zgradama, a zasto ne pomenuti i da nismo videli da nuklearne glave polete zbog softverskog baga.

Cinjenica je da se bug-free softver moze napraviti ako je to prioritet, samo sto se najcesce ne isplati. Cak bih rekao da toliko visoki standardi nece biti potrebni za autopilote u kolima, ako bude radilo vecinu vremena bice i dalje ok uz mogucnost prepustanja komandi coveku (posto ce to svakako biti zahtev u sledecim godinama). Takav sofver ce jednostavno godinama biti apgrejdovan u odnosu na realne probleme koji se dese i eto ga bug-free kroz life driven development (ok, ovaj termin sam upravo izmislio i zelim neki novac za to).

 

Upravo to i jeste problem; sto ce neki bean counter da proceni da je isplativije isplatiti 500 miliona dolara odstete porodicama poginulih nego da potrose jos godinu dana na razvoj softvera. Mislim, mozda nece, ali kao sto rekoh, do sada se proizvodjaci automobila nisu proslavili softverskim resenjima. I prva dva robota poslata na Mars su propala zbog softverske greske - prvi put su deo racuna radili u miljama, a deo u kilometrima pa su promasili skroz, a drugi put su senzori od silnog tumbanja procenili da je sleteo, pa su izbacili jadnicka napolje na nekoliko kilometara visine.

 

Da li je bitno da li cu poginuti zato sto je senzor pogresio, ili zato sto sam vozio prebrzo ili nisam video stop znak, pa me pokupio sleper? Kad se podvuce crta verovatno nije, ali u drugom slucaju i dalje imam izbor i na kraju krajeva, sam sam kriv. I drugo, ono sto rekoh na pocetku, da li ce funkcionisati ili ne ce se utvrditi manje-vise empirijski. Slazem se sa Razzom - ceo proces je verovatno neminovnost, ali licno cu prepustiti drugima da budu zamorcici.

[Muwan]

Radi se o tome da za ovakvu primenu čak i savršen softver zavisi od nekih spoljnih unosa i adekvatne komunikacije sa spoljnim bazama podataka. Ako se u celoj zemlji vozi driverless onda u svakom trenutku mora da postoji relevantan unos informacija na nivou cele zemlje. Lako je testirati sistem po bulevarima sa 6 traka, ajde da vidimo da li će sistem znati da je neki uzan sokak jutros vanredno raskopan zbog nečega, pa softver uvuče auto tamo, pa na 30 metara skonta da ima prepreku na putu, mesta za manevrisanje nema pa sad ajde izvlači se u rikverc, pa se posle pet metara ispostavi da je drugo vozilo iza tebe i sad nemaš kud, a pošto su oba vozila driverless njihovi softveri će da urade... šta? Ispregovaraće između sebe da onaj drugi takođe treba da se izvuče u rikverc, i to pod uslovom da se ne pojave i treći/četvrti/peti?

 

Sistem je naprosto toliko dinamičan, sa toliko parametara koji se menjaju u realnom vremenu, da će u nekom prelaznom periodu (od prvih driverless vozila na ulicama pa do nekog konačnog izumiranja manuelne vožnje od strane ljudi) gotovo izvesno praviti više štete nego koristi. A na sve to treba dodati činjenično stanje koje kaže da će neke zemlje uvoditi sistem mnogo brže, neke mnogo sporije (moguća je čak i neravnomerna primena unutar jedne zemlje, ono, bogatiji i siromašniji gradovi/regije) a za neke je pitanje da li će ga ikada primeniti. I još uvek nisam siguran da softver, pa kakva god da mu je kriva učenja, može da ovlada sposobnošću donošenja strategijskih odluka koju ima ljudski mozak. Ponekad se ne radi samo o proračunu zadatih parametara već ima i malo "šire slike" (jbg ne mogu da smislim bolji izraz).

Edited February 23, 2016 by beowl

[Prokleto Djubre]

Mislim da je taj primer sa sistemom mera u stvari iz Apolo misije i odnosi se na neke materijale. Nije ni bitno na kraju.

Ja mislim da se proizvodjaci automobila bas jesu proslavili softverom. Najbolji dokaz za to je sto je uvodjenje softvera u toliko veliki broj vozila prosao skoro nezapazeno. Prakticno su samo ljudi shvatili da ne mogu rasturiti svoj auto nego da mora da se ode kod majstora koji ima spravu za ocitavanje kad se upale lampice. To je softver i to je jebeno dobar softver po mojim kriterijumima.

A te ustede se desavaju i na kocnicama i na izduvnim gasovima i desavale su se na gomili primera. Ono zasto ja mislim da se u ovoj fazi softverizacije nece desavati je sto je ekonomski momenat takav da bas igraci koji nisu u igri pokusavaju da udju. Apple, Google i Tesla su oni od kojih ocekujem da pokidaju kvalitetom, zato sto GM moze sasvim lepo da zivi i bez svega toga (kad im se desi sranje, svakako ce dobiti pare od vlade, ko sto smo videli). Oni ako ne naprave to da bude jebeno dobro i da u stvari bude daleko iznad margine problema koje imamo danas - pa bez veze se igraju. Ubice ideju u javnosti i prolongirati celu revoluciju za par decenija verovatno.

 

Minusi koje vidim s njima: Gugl je poznat po tome sto ulozi tonu para u nesto, proba i batali. Apple da im marketinski tim utice na rokove, pa ispadne sprdnja ko s mapama. Tesla daje obecanja koja su preoptimisticna.

 

Plusevi: Svi su ogromni igraci koji mogu to da izvedu. Nije im izvan tehnoloske moci, mada realno i dalje moraju da dokazu neke stvari oko masovne proizvodnje. Deluje da je trenutak ispravan, nije slucajno sto su se bas svi u istom trenutku prihvatili posla. Na kraju - ima ih tri i skroz su odvojeni, to mnozi sanse.

 

P. S. Posto vec nekoliko puta nalecem na ovaj argument, samo da pomenem: Niko vam nece traziti da bas vi budete taj na kome se uce. Trenutno se uce na ljudima koji su platili stotine hiljada dolara za tu privilegiju (pazarili Teslu), tako da je neucestvovanje ne samo jednostavno nego za vecinu nemoguce. Slicno se niko ne mora plasiti da ce Kejt Apton vezbati pusenje kurca na njemu.

[Time Crisis]

Što se nas tiče, kod nas je još uvek misterija kako napraviti put, a da se ne pojave rupe i pukotine posle mesec dana, tako da smo mi u svakom slučaju još uvek daleko od toga. :)

[Prokleto Djubre]

Radi se o tome da za ovakvu primenu čak i savršen softver zavisi od nekih spoljnih unosa i adekvatne komunikacije sa spoljnim bazama podataka. Ako se u celoj zemlji vozi driverless onda u svakom trenutku mora da postoji relevantan unos informacija na nivou cele zemlje. Lako je testirati sistem po bulevarima sa 6 traka, ajde da vidimo da li će sistem znati da je neki uzan sokak jutros vanredno raskopan zbog nečega, pa softver uvuče auto tamo, pa na 30 metara skonta da ima prepreku na putu, mesta za manevrisanje nema pa sad ajde izvlači se u rikverc, pa se posle pet metara ispostavi da je drugo vozilo iza tebe i sad nemaš kud, a pošto su oba vozila driverless njihovi softveri će da urade... šta? Ispregovaraće između sebe da onaj drugi takođe treba da se izvuče u rikverc, i to pod uslovom da se ne pojave i treći/četvrti/peti?

 

Sistem je naprosto toliko dinamičan, sa toliko parametara koji se menjaju u realnom vremenu, da će u nekom prelaznom periodu (od prvih driverless vozila na ulicama pa do nekog konačnog izumiranja manuelne vožnje od strane ljudi) gotovo izvesno praviti više štete nego koristi. A na sve to treba dodati činjenično stanje koje kaže da će neke zemlje uvoditi sistem mnogo brže, neke mnogo sporije (moguća je čak i neravnomerna primena unutar jedne zemlje, ono, bogatiji i siromašniji gradovi/regije) a za neke je pitanje da li će ga ikada primeniti. I još uvek nisam siguran da softver, pa kakva god da mu je kriva učenja, može da ovlada sposobnošću donošenja strategijskih odluka koju ima ljudski mozak. Ponekad se ne radi samo o proračunu zadatih parametara već ima i malo "šire slike" (jbg ne mogu da smislim bolji izraz).

Hajde da uzmemo ovaj tvoj primer:

Zavukli smo se u ulicu i moramo svi u rikverc, hajde da apstrahujemo cinjenicu da to i s ljudima najcesce bude haos, ali ako si vec prihvatio da taj prvi auto krene nazad kad vidi da nema napred, zasto je toliko veliki leap pomisliti da i svi ostali u nizu imaju istu reakciju. Ni oni ne mogu napred od automobila pred njima i imaju samo jedan moguc put. Za vecinu je i taj put unazad nemoguc i oni stoje, ali onaj prvi ima opciju i onda onaj drugi dobije opciju itd... Isto kao i s ljudima.

 

Trenutno se uopste ne radi o vozilima koji su potpuno kontrolisani od strane nekog sireg sistema. Upravo suprotno - potpuno autonomni objekti koji donose odluke iskljucivo na osnovu onoga sto vide oko sebe (btw - upravo onako kako je sada s ljudima na putu). Naravno da postoje timovi koji zamisljaju neke sire sisteme, ali tu se uglavnom (ne i iskljucivo) radi o pomocnom sistemu, ne necemu sto bi zamenilo autonomni automobil. Za sada deluje da je vecina napora usmerena na nesto sto moze da se stavi u infrastrukturu koja zaista postoji u realnosti a ne da se ocekuju velike promene i investicije u promenu komplet saobracaja odjednom.

 

Hajde da pokusamo pogled iz druge perspektive - kad zamislite neku situaciju u saobracaju za koju vam deluje da je nezgodna a znate da covek moze da je resi, probajte to resenje da svedete na banalne korake. Najcesce cete provaliti da to sto smatrate ljudskim razmisljanjem nije bas nesto neopisivo jednostavnim logickim koracima. Beowljev primer je dobar za to: ne mogu napred, ici cu nazad da se izvucem i svaki od njih tako i resena situacija. Covek pored puta se tetura - usporicu, malo se pomeriti ka sredini puta ocekujuci da postoji sansa da padne na ulicu. Deca s loptom pored puta - usporicu na brzinu koja mi omogucava da u trenutku kad dete izleti stanem. Covek iz kontra smera pretice, priblizicu se maksimalno desnoj strani ulice i usporiti ako mu to daje bolju sansu da prodje pre mene...

Hocu da kazem da gomila onoga sto ljudi smatraju iskusnim i dobrim ponasanjem u saobracaju moze da se svede na jednostavan set veoma logicnih poteza koji se krse u veoma jasnim i logicnim situacijama. U stvari, pametna i iskusna voznja se 90% zasnivaju na nepostojanju panike. Pogodite ko je bolji i od najiskusnijih ljudi u nepanicenju? 

[Razzmatazz]

 

 

Ja mislim da se proizvodjaci automobila bas jesu proslavili softverom. Najbolji dokaz za to je sto je uvodjenje softvera u toliko veliki broj vozila prosao skoro nezapazeno. Prakticno su samo ljudi shvatili da ne mogu rasturiti svoj auto nego da mora da se ode kod majstora koji ima spravu za ocitavanje kad se upale lampice. To je softver i to je jebeno dobar softver po mojim kriterijumima.

Čekaj, ti upoređuješ softver za očitavanje registara odnosno loga sa softverom koji bi trebalo da ima maltene AI u junitu i koordinira se sa milionima drugih junita u okviru jedne zemlje? Mogao si da navedeš onda i Notepad kao jebeno dobro parče softvera.