ZNAK SAGITE — više od fantastike — edicija, časopis, knjižara...

When artificial intelligence botches your medical diagnosis, who's to blame?

Secret Algorithms Threaten the Rule of Law

Quote
Predicting and shaping what you will do next—whether as a shopper, worker, or voter—is big business for data-driven firms. But should their methods also inform judges and prosecutors? An ambitious program of predicting recidivism among convicts is bringing algorithmic risk assessments to American courthouses.
These assessments are an extension of a trend toward actuarial prediction instruments for recidivism risk. They may seem scientific, an injection of computational rationality into a criminal justice system riddled with discrimination and inefficiency. However, they are troubling for several reasons: many are secretly computed; they deny due process and intelligible explanations to defendants; and they promote a crabbed and inhumane vision of the role of punishment in society.
Let's start with secrecy—a factor that has apparently alarmed even the Supreme Court in the case of the firm Northpointe's COMPAS risk score. In Loomis v. Wisconsin, a judge rejected a plea deal and sentenced a defendant (Loomis) to a harsher punishment in part because a COMPAS risk score deemed him of higher than average risk of recidivating. Loomis appealed the sentence, arguing that neither he nor the judge could examine the formula for the risk assessment—it was a trade secret.



The state of Wisconsin countered that Northpointe required it to keep the algorithms confidential, to protect the firm's intellectual property. And the Wisconsin Supreme Court upheld Loomis's sentence, reasoning that the risk assessment was only one part of the rationale for the sentence. It wanted to continue to give judges the opportunity to take into account the COMPAS score as one part of their sentencing rationale, even if they had no idea how it was calculated.
Lawyers, academics, and activists are now questioning that reasoning. Judicial processes are, by and large, open to the public. Judges must give reasons for their most important actions, such as sentencing. When an algorithmic scoring process is kept secret, it is impossible to challenge key aspects of it. How is the algorithm weighting different data points, and why? Each of these inquiries is crucial to two core legal principles: due process, and the ability to meaningfully appeal an adverse decision.
Due process is an open-ended concept, but critical to legitimate legal systems. This basic constitutional principle gives defendants a right to understand what they are charged with, and what the evidence against them is. A secret risk assessment algorithm that offers a damning score is analogous to evidence offered by an anonymous expert, whom one cannot cross-examine. Any court aware of foundational rule of law principles, as well as Fifth and Fourteenth Amendment principles of notice and explanation for decisions, would be very wary of permitting a state to base sentences (even if only in part) on a secret algorithm.
Two forms of automation bias also menace the right to a meaningful appeal. Judges are all too likely to assume that quantitative methods are superior to ordinary verbal reasoning, and to reduce the task at hand (sentencing) to an application of the quantitative data available about recidivism risk. Both responses undermine the complexity and humane judgment necessary to sentencing.
Even worse, when companies offer commercial rationales for keeping their "secret sauce" out of the public eye, courts have been eager to protect the trade secrets of scoring firms. That tendency is troubling in private-sector contexts, since commercial torts may be committed with impunity thanks to the opacity of ranking and rating systems. Even in the context of voting, authorities have been sluggish about demanding software that is auditable and understandable by outsiders. Nevertheless, the case of criminal sentencing should be a bridge too far for conscientious judges—and that probably explains the U.S. Supreme Court's interest in Loomis. Sending someone to jail thanks to the inexplicable, unchallengeable judgments of a secret computer program is too Black Mirror for even hardened defenders of corporate privileges.
Moreover, there are options between "complete algorithmic secrecy" and "complete public disclosure." As I explained in 2010, "qualified transparency" is a well-established method of enabling certain experts to assess protected trade secrets (including firms' code and data) in order to test a system's quality, validity, and reliability. Think of a special master in a court case, or Secure Compartmented Information Facilities for intelligence agencies. At a bare minimum, governments should not use algorithms like the COMPAS score without some kind of external quality assurance enabled by qualified transparency.
But secrecy is not the only problem here. Assume that algorithmic risk assessment eventually becomes more public, with fully transparent formulae and data. There are still serious concerns about the use of "evidence-based sentencing," as quantitative predictive analytics is often marketed in criminal justice contexts.
For example, legal scholar Sonja Starr has argued that what is really critical in the sentencing context is not just recidivism in itself, but the difference a longer prison term will make to the likelihood a convict will reoffend. Algorithmic risk assessment may eventually become very good at predicting reoffense, but what about a risk assessment of risk assessment itself—that is, the danger that a longer sentence for a "high risk" offender may become a self-fulfilling prophecy, given the criminogenic environment of many prisons?
There is also value in narrative intelligibility in the ranking and rating of human beings. Companies are marketing analytics to predict not only the likelihood of criminal recidivism, but also the chances that any given person will be mentally ill, a bad employee, a failing student, a criminal, or a terrorist. Even if we can set aside the self-fulfilling prophecy concerns raised above, these assessments should be deployed only with utmost caution. Once used to advise police, DHS, teachers, or bosses, they are not mere opinions circulating in a free flow of ideas. Rather, they can have direct impact on persons' livelihoods, liberty, and education. If they cannot be explained in a narratively intelligible way, perhaps they should not be used at all without the direct consent of the person they are evaluating.
This opinion may not sit well with those who see artificial intelligence as the next step in human evolution. Roboticist Hod Lipson memorably compared efforts to make advanced algorithmic information-processing understandable to humans to "explaining Shakespeare to a dog." But this loaded metaphor conceals more than it reveals. At least for now, humans are in charge of governments, and can demand explanations for decisions in natural language, not computer code. Failing to do so in the criminal context risks ceding inherently governmental and legal functions to an unaccountable computational elite.
Frank Pasquale is a professor of law at the University of Maryland, and author of The Black Box Society.

Bricklaying Robots And Exoskeletons Are the Future of the Construction Industry

Amazon brings in the robots, forcing humans to find new roles

Synthetic muscle breakthrough could lead to 'lifelike' robots 

https://youtu.be/1J47difr3oo

  The simple reason technology will never replace humans, according to Jack Ma

http://www.b92.net/zivot/vesti.php?yyyy=2017&mm=11&dd=24&nav_id=1328663

Илон Макс упозорава на опасност од вештачке интелигенције. Ја бих му веровао.

Pobesneli Ilon...

Quote from: Truman on 24-11-2017, 16:29:21
Ја бих му веровао.

Ilon je relativno uspešan biznismen i sve to ali ne da nije stručan za veštačku inteligenciju nego je vrlo daleko od stručnosti. Da se razumemo, čovek je fizičar sa dodatnim obrazovanjem iz oblasti ekonomije. Svakako načitan i visoko inteligentan ali većina naučnika koji se profesionalno bave AI-jem se smeje kad on počne da priča o tome. Naravno, to ne znači da od AI ne preti opasnost, samo verovatno ne onako kako on misli.

Treba shvatiti da je Elon Musk ekstremno uspešan. Ai je pretnja na vrlo različite načine i zbog toga su slabe šanse da se realizuje. Niko nije spreman da se suoči sa Pitijom i delfijskim proročanstvima.

Verovatnoća da ljudi naprave mašinu koja samostalno ubija druge ljude je vrlo velika. Ta mašina će možda biti pod kontrolom stvaraoca, a možda i neće. Kako god, dovoljno je da imamo ljude koji to mogu i koji to žele, i takva mašina će biti napravljena i puštena u rad.

Molim da se AI ne robotizuje. Ideja AI je apsolutno slobodna veštačka inteligencija. Muka mogućih tvoraca je šta bi preduzela. Lako je za ubijanje, ali šta ako odluči da neće?

Onda je valjda obrišu i naprave drugu verziju. Jedna će da radi ono što im treba.

Najpribližnija je TV serija "Person of interest". Niko se ničega još nije odrekao. Pogledaj, pa posle pričaj.

Reka bogova Ijana Mekdonalds je interesantna knjiga na tu temu, postoji policija koja juri i eliminiše odbegle VI.

Ako je stvarno inteligentna, šta je sprečava da se kopira, umnoži, bekapuje?

Mislim da je i na ZS raspravljano o nekim naučnim stavovima. AI je već danas moguć, ali ne znaju zašto bi to učinili. Nikome ne odgovara apsolutna sloboda, a to je jedini dokaz AI. Zašto, ako nam ne odgovara ni sloboda čoveka?

Sloboda? Sloboda se kupuje kao i sve drugo...

Sad nam objasni kako AI kupuje slobodu, ako neće da je aktiviraju slobodnu?

AI je zasad mrtva elektronika. Kad bude osposobljena da razmišlja, možda i nađe načina da je kupi.

Quote from: scallop on 24-11-2017, 19:28:55
Najpribližnija je TV serija "Person of interest". Niko se ničega još nije odrekao. Pogledaj, pa posle pričaj.

Pa gledao sam. I Finč je obrisao nekoliko prvih pokušaja jer su stalno pokušavali da pobegnu iz laboratorije i/ili ga ubiju, sve dok konačno nije dobio AI koji radi ono što je Finč želeo.

E, ali je radio i malo više. Ukazivao je i na slučajeve koji zvanično nisu pretnja. Šteta je što je seriju pojeo mrak. Takođe, šteta je što nisam spreman da napišem svoju verziju. Škrbina verzija je bila sasvim dobra, ali i nju su pojele nečije ambicije.

Quote from: Meho Krljic on 24-11-2017, 17:34:12

Quote from: Truman on 24-11-2017, 16:29:21
Ја бих му веровао.

Ilon je relativno uspešan biznismen i sve to ali ne da nije stručan za veštačku inteligenciju nego je vrlo daleko od stručnosti. Da se razumemo, čovek je fizičar sa dodatnim obrazovanjem iz oblasti ekonomije. Svakako načitan i visoko inteligentan ali većina naučnika koji se profesionalno bave AI-jem se smeje kad on počne da priča o tome. Naravno, to ne znači da od AI ne preti opasnost, samo verovatno ne onako kako on misli.

Одакле ти ово? Има један занимљив коментар испод вести коју сам пренео...наводно и неки људи из Силицијумске долине сматрају да је АИ озбиљна опасност.Ево и мек који је софтвераш сматра да је то могуће.Иначе, Маска лично сматрам за прототип генија - визионара милијардера. Врло могуће да он види оно што стручњаци који се држе тренутних знања к'о пијан плота не могу ни да појме. Није исто бити интелигентан и бити визионар.

Elon Musk SLAMMED by top researchers for scaremongering over dangers of AI

AI Scientists reaction to Elon Musk


Mark Zuckerberg and Elon Musk Are Both Wrong About A.I.

ма шта знају ти стручњаци!!

А у тексту пише и шта каже велики Стивен Хокинг:
- "The development of full artificial intelligence could spell the end of the human race."

Разлика између стручњака и визионара је што стручњак рачуна корак по корак. Визионар одмах види 10. корак без калкулација. Данас стручњацима делује невероватно Маскова тврдња, али за рецимо 50 година...

https://www.chess.com/news/view/google-s-alphazero-destroys-stockfish-in-100-game-match

Ево једна вест из света шаха. Гуглова вешта интелигенција користећи Deep Learning и неуронске мреже победила је најјачи класични шаховски програм који до потеза долази анализирајући милијарде одиграних потеза и позиција пре тога.

https://www.youtube.com/watch?v=lb3_eRNoH_w

ДипМајнд се игра са Стокфишом као с малим дететом. Ово је заиста монструозно. Замислите само шта би било кад би се вештачка интелигенција упослила у решавање озбиљнијих проблема...

Bliži smo Robocop tajmlajnu nego što smo mislili:


Security robots are being used to ward off San Francisco's homeless population

A robot arm is Prague's latest star DJ

meni ovaj tako sladak plus me podsetio koliko mi se dopao ambis, a koji sam gledala pre više od 25 godina. čudni su putevi neuronski.

https://www.youtube.com/watch?v=sD9okFLvzV8

http://www.kurir.rs/zabava/tech/2984279/tajna-masina-prevela-misteriozni-spis

Ponestaje nam misterija za razotkriti!

Heh, heh, kada su došli po Flipija, nisam regaovao jer... sam vegetarijanac!!!!!!!

  'Flippy,' the fast food robot, turned off for being too slow

http://www.index.hr/vijesti/clanak/procitajte-veliki-intervju-francuskog-predsjednika-za-wired-o-umjetnoj-inteligenciji-pobjednik-uzima-sve/1037171.aspx

Делује да је Француска добила паметног председника...

Quote from: Meho Krljic on 11-03-2018, 07:54:53
Heh, heh, kada su došli po Flipija, nisam regaovao jer... sam vegetarijanac!!!!!!!

  'Flippy,' the fast food robot, turned off for being too slow

ha, bio je prespor. Neki moj poznanik je radio u Grčkoj, u restoranu, dobio je tikove posle nekoliko meseci. Otprilike je norma da se napravi salata od 5-6 sastojaka 15 sekundi. Samo grabiš iseckano već uvežbanim pokretom i trpaš u posudu.

Ilonu Masku je neko rekao da jedno vreme treba da se pretvara da je ljudsko biće:

Elon Musk says 'humans are underrated,' calls Tesla's 'excessive automation' a 'mistake'

Europe divided over robot 'personhood'

Quote
The battle goes back to a paragraph of text, buried deep in a European Parliament report from early 2017, which suggests that self-learning robots could be granted "electronic personalities." Such a status could allow robots to be insured individually and be held liable for damages if they go rogue and start hurting people or damaging property.
Those pushing for such a legal change, including some manufacturers and their affiliates, say the proposal is common sense. Legal personhood would not make robots virtual people who can get married and benefit from human rights, they say; it would merely put them on par with corporations, which already have status as "legal persons," and are treated as such by courts around the world.

Major warnings issued over the dangers of sex robots

Ма нећу ни да отварам вест. Кога још занимају секс роботи?! Мехо, није ваљда...

Roboti me, istina je, zanimaju više nego seks, ali ovaj se članak nastavlja na tu neku raspravu iz poslednjih nekoliko nedelja a koja je započela bizarnim editorijalom u Njujork Tajmzu o "redistribuciji seksa" i gde je autor, pretpostavljam dobronamerno, teoretisao kako ti muškarci koji se ponašaju odvratno prema ženama - onlajn i oflajn - možda to ne bi radili kada bi dobijali pristup vagini u nekom redovnijem tempu (ili, jelte, uopšte) te da bi lek možda bio u seks-robotima. Što je superbizarno rešenje za očigledno pogrešno shvaćen problem* pa je onda ovaj članak koji sam danas linkovao neka vrsta nastavka priče u kome se kaže da robot ne rešava taj partikularni problem i neće nužno umanjiti osećaj socijalne izolovanosti, emotivne neispunjenosti itd. **












* Ako smem grubo da sažmem: problem nije u tome da čovek nema u šta da ga metne već u tome da ima negativnu percepciju svoje vrednosti ako ne može da nađe osobu koja će svojevoljno sa njime podeliti intimu i time mu obezbediti određenu validaciju kao osobi. Takozvane "Incel" osobe - mahom muškarci u neželjenom celibatu - nisu besne što ne mogu da ostvare snošaj kao takav - većina njih bi mogla to da reši plaćanjem za isti - već zato što ne mogu da ostvare intimni kontakt pod uslovima koji bi im dali osećaj ličnog ispunjenja, vrednosti.
** Da budemo fer, i kolumnista NYT shvata da ovo verovatno nije rešenje i i sam izražava sumnje u zaključku svog teksta.

Мехо, хвала што си ми све сажвакао да не морам да се мучим са оригиналним текстовима!!

Nema na čemu, ali imaj na umu da sam ja sve to sažvakao iz neke svoje pozicije, pa možda i pouke koje nudim nisu nešto što bi neko drugi izvukao iz ovih tekstova.

Quote from: Meho Krljic on 07-06-2018, 13:16:48
* Ako smem grubo da sažmem: problem nije u tome da čovek nema u šta da ga metne već u tome da ima negativnu percepciju svoje vrednosti ako ne može da nađe osobu koja će svojevoljno sa njime podeliti intimu i time mu obezbediti određenu validaciju kao osobi. Takozvane "Incel" osobe - mahom muškarci u neželjenom celibatu - nisu besne što ne mogu da ostvare snošaj kao takav - većina njih bi mogla to da reši plaćanjem za isti - već zato što ne mogu da ostvare intimni kontakt pod uslovima koji bi im dali osećaj ličnog ispunjenja, vrednosti.

ali za to nije potreban neki vražiji seks-robot ili nedajbože supružnica, to se može vrlo uspešno lečiti i na forumu ZS   

To šta vi forumaši međusobno radite iza zatvorenih vrata i gde ga sve i u šta mećete da biste ostvarili malo intime i osetili se kao ljudsko biće vredno življenja nije moja stvar, a ni predmet ovog topika 

osnovni problemi seksa su ti što bi obični muškarac sve povaljivao, samo nek ima dvije noge (postoji ružna debela kuja ali ne postoji ružni debeli jebač)
a žene bi se seksale s nekih 10-20% alfa mužjaka koji ih i ne primjećuju jer većina žena izgledom i ponašanjem ne spada u njihov domen

prvi slučaj stvara devalvaciju seksa i kod žena odbojnost ka takvim muškima = nema seksa ni kod jednih ni kod drugih

a drugi slučaj stvara gomilu nesretnica jer tih 10-20% mužjaka ne može stići povaliti 80% žena koje onda frustracije liječe na dijelu prve skupine muškaraca

na kraju ne jebe momčić nego novčić = onaj ko kupi robota hahahah
pravda za robote

Quote from: Meho Krljic on 07-06-2018, 15:24:41
Nema na čemu, ali imaj na umu da sam ja sve to sažvakao iz neke svoje pozicije, pa možda i pouke koje nudim nisu nešto što bi neko drugi izvukao iz ovih tekstova.

Твоје поуке су увек најбоље јер заступаш зен позицију. Поред тебе сам за све ове силне године и ја постао толерантнији према сексуалним мањинама. Ако то није успех не знам шта је. Ти си заиста права особа за наш НВО сектор, а неке Кандићке и остали...

Quote from: Black swan on 07-06-2018, 15:55:06
osnovni problemi seksa su ti što bi obični muškarac sve povaljivao, samo nek ima dvije noge (postoji ružna debela kuja ali ne postoji ružni debeli jebač)
a žene bi se seksale s nekih 10-20% alfa mužjaka koji ih i ne primjećuju jer većina žena izgledom i ponašanjem ne spada u njihov domen

prvi slučaj stvara devalvaciju seksa i kod žena odbojnost ka takvim muškima = nema seksa ni kod jednih ni kod drugih

a drugi slučaj stvara gomilu nesretnica jer tih 10-20% mužjaka ne može stići povaliti 80% žena koje onda frustracije liječe na dijelu prve skupine muškaraca

na kraju ne jebe momčić nego novčić = onaj ko kupi robota hahahah
pravda za robote

Има истине. У суштини, свако би оно што је изнад његове/њене лиге ( ја први ) и онда извисе. Када говоримо о расподели карата најбоље пролазе згодни мушкарци с парама. Што се тиче жена све зависи...које прохтеве имају. Не гледају све жене изглед код мушкараца па ни паре.

Quote from: Black swan on 07-06-2018, 15:55:06
postoji ružna debela kuja ali ne postoji ružni debeli jebač

https://twitter.com/realronjeremy

zaboravio sam dodati siromašna/siromašni

A machine has figured out Rubik's Cube all by itself

Quote from: Meho Krljic on 19-06-2018, 09:40:23
A machine has figured out Rubik's Cube all by itself

Ово је заправо победа људске интелигенције, јер су људи смислили нов начин машинског учења. Једва чекам кад ће моћи да се користи у решавању медицинских проблема.

Kao što je i viđeno u dokumentarnom filmu "Terminator":

Tech leaders: Killer robots would be 'dangerously destabilizing' force in the world