ZNAK SAGITE — više od fantastike — edicija, časopis, knjižara...

Čovek ima čitav serijal takvih blogova. Razradio je sistem, kornerovao je market eseja gde se strawmanima preti hipernasiljem, i sad ubire profit.

U pravu je što se tiče investitorskog hajpa, ali kao što kaže onaj Mađar sa Jutjub kanala Two Minute Papers, "Don't not look at where we are, look at where we will be two more papers down the line"

Da, meni je ključno to da ovde imamo čoveka koji se actually bavi podacima koji jasno pokazuje da je - kao i blokčejn pre par sezona - gomila ponuđenih aplikacija za ono što se naziva veštačkom inteligencijom rešenje u potrazi za problemom. A često neadekvatno, nepouzdano rešenje.

Evo malo akademije sad:


Two AI Truths and a Lie

Quote
Industry will take everything it can in developing Artificial Intelligence (AI)
systems. We will get used to it. This will be done for our benefit. Two of these things
are true and one of them is a lie. It is critical that lawmakers identify them correctly.
In this Essay, I argue that no matter how AI systems develop, if lawmakers do not
address the dynamics of dangerous extraction, harmful normalization, and
adversarial self-dealing, then AI systems will likely be used to do more harm than
good.
Given these inevitabilities, lawmakers will need to change their usual approach
to regulating technology. Procedural approaches requiring transparency and
consent will not be enough. Merely regulating use of data ignores how information
collection and the affordances of tools bestow and exercise power. A better
approach involves duties, design rules, defaults, and data dead ends. This layered
approach will more squarely address dangerous extraction, harmful normalization,
and adversarial self-dealing to better ensure that deployments of AI advance the
public good.

Google: AI Potentially Breaking Reality Is a Feature Not a Bug

QuoteUnlike self-serving warnings from Open AI CEO Sam Altman or Elon Musk about the "existential risk" artificial general intelligence poses to humanity, Google's research focuses on real harm that generative AI is currently causing and could get worse in the future. Namely, that generative AI makes it very easy for anyone to flood the internet with generated text, audio, images, and videos. 

Much like another Google research paper about the dangers of generative AI I covered recently, Google's methodology here likely undercounts instances of AI-generated harm. But the most interesting observation in the paper is that the vast majority of these harms and how they "undermine public trust," as the researchers say, are often "neither overtly malicious nor explicitly violate these tools' content policies or terms of service." In other words, that type of content is a feature, not a bug.



(...)


As the researchers explain later in the paper, "The widespread availability, accessibility and hyperrealism of GenAI outputs across modalities has also enabled new, lower-level forms of misuse that blur the lines between authentic presentation and deception. While these uses of GenAI—such as generating and repurposing content at scale and leveraging GenAI for personalised political communication—are often neither overtly malicious nor explicitly violate these tools' content policies or terms of services, their potential for harm is significant."

Neoliberalizam

To se valjda podrazumeva? Evo rad iz 2019:

The Political Affinities of AI

QuoteThe operations of AI act in harmony with a neoliberalism that perceives the world as an atomised set of inputs into a market mechanism that will necessarily produce the optimum result.

to je popularno viđenje neoliberalizma gdje još djeluje da neoliberali misle da će sve to uspostaviti izvjesni poredak

i onda kad se požale da im nešto izaziva haos, da su platforme poludjele, da te zasipaju smećem, da je svuda postistina, da Ai baca simulakrume i mlati po gloginjama, onda kao mogu da se žale de su red, rad i disciplina

a jedina istina je da hoće još haosa. Svaki glič, svaki error, svako čudo kad se zapitate što vas maltretira algoritam, to je namjerna disfunkcija sa ciljem da potrošimo pola života da im društvene mreže dovedemo u red

mi sami, ne neka tehnologija, jer to tehnologija i ne može. Tehnologija samo smećari a mi čistimo, i to besplatno ostavljajući podatke

i onda nas još uvjeravaju kako generalna Ai samo što je iza ugla. A ono neko malo čeljade u motoru snowpiercera odrađuje poso

Neoliberalizam

Mnogo reči, a dovoljna je jedna: enšitifikacija 

Ali AI vremenom postaje bolji. Evo pitam ovj novi ChatGPT koji glavni gradovi su na visinama između 1800 i 1900 metara. I krene ono da odgovara pogrešno, kaže u opsegu 1800-1900 su Adis Abeba i Bogota. Ali onda nekako shvati da je to pogrešno (što prethodna verzija nije radila) i kaže "however" u opsegu 1800-1900 metara je La Paz. Onda opet shvati da je pogrešio pa se ispravi "however" ovo pitanje je challenging, ali u opsegu 1800-1900 metara su Sucre i Asmara. Na kraju kaže nema takvih glavnih gradova (što nije tačno), ali kao ima nekih koji su blizu.


Dakle sve je ishalucinirao, ali sada i sam vidi da halucinira.

Ovo je najdobronamernija definicija "postajanja boljim" koju sam video u životu. 
Enivej, ja mislim da su i ChatGPT i slični LLM-ovi neupotrebljivi za bilo šta drugo sem za sumiranje teksta. Mislim, doslovno samo to je stvar u kojoj mi je ChatGPT dao upotrebljive rezultate. Ne savršene, naravno, ali upotrebljive.

Quote from: Meho Krljic on 05-07-2024, 14:35:10
Ovo je najdobronamernija definicija "postajanja boljim" koju sam video u životu. 
Enivej, ja mislim da su i ChatGPT i slični LLM-ovi neupotrebljivi za bilo šta drugo sem za sumiranje teksta. Mislim, doslovno samo to je stvar u kojoj mi je ChatGPT dao upotrebljive rezultate. Ne savršene, naravno, ali upotrebljive.

Tačno Meho. To što unapređenija verzija daje malo preciznije podatke nikako ne znači da je reč o inteligenciji.

Inače, pošto poslednjih meseci slušamo kako je Sora toliko moćan AI da praktično cele filmove napravi i da su ozbiljni holivudski investitori stopirali investicije u studije jer, jelte, sad svako sa Sorom može da napravi čudo, nije zgoreg da podsetimo da su ljudi u principu naivni i nemaju ni ukusa, pogotovo kada se radi o uzgrednoj zabavi i da su recimo klipove kao što je ovaj ispod, iz serijala PARODIJA na AI video, smatrali za autentični AI produkt. Dakle, ovo dole u napisali i napravili ljudi i očigledno parodira AI brljivost, ali, eto, Poov zakon...

https://youtu.be/WZzbxNoMjGM

Evo, ko ima interesovanja i snage:


The reanimation of pseudoscience in machine learning and its ethical repercussions

O budućnosti veštačke inteligencije još možemo da pričamo, al sadašnjost je tragična. To da ChatGPT ne ume da uporedi dva broja i odredi koji je veći je valjda sjajan primer kako su neuralne mreže i mašinsko učenje kidnapovane od strane griftera u potrazi za lakomim investtitorima i od respektabilnih naučnih disciplina trasformisane u rešenje u potrazi za problemom, a koje ćak i nije tačno rešenje:

Ajme me! Pa ovo je i za mene AI skeptika razočarenje. Da li bi neko mogao da proveri je li ovo zaista odgovor GPT-a ili neko samo širi dezinformacije.

Evo ti Fraserov tviter pa gledaj, on se generalno bavi ne samo ChatGPT-jem već većinom LLM-ova i na njegovom nalogu ćeš videti gomilu njihovih gluposti:


https://x.com/colin_fraser

Stvarno je tako. Pa valjda imaš nalog na chatgpt.com? Možeš i sam da otkucaš ovaj prompt od slova da slova. Ako malo promeniš prompt, onda odgovor bude drugačiji, ali za ovaj gramatički razbarušen prompt ja sam dobio odgovor koji vrlo razložno objašnjava da je 9.11 veće od 9.9.

Quote from: mac on 15-08-2024, 18:29:23
Stvarno je tako. Pa valjda imaš nalog na chatgpt.com? Možeš i sam da otkucaš ovaj prompt od slova da slova. Ako malo promeniš prompt, onda odgovor bude drugačiji, ali za ovaj gramatički razbarušen prompt ja sam dobio odgovor koji vrlo razložno objašnjava da je 9.11 veće od 9.9.

Proveriću, nego radim do kasno.

Meni izbacuje tačan odgovor. Ne znam šta da vam kažem...

Pa ništa, poenta i jeste da LLMovi greše nekonzistentno i da ne znamo šta u njihovim kompleksnim algoritmima treba da se dotegne da ne greše ili da makar greše konzistentno.

Možda su ispravili grešku u međuvremenu. U OpenAI neko prati vesti i po potrebi gasi male požare.

Quote from: mac on 18-08-2024, 11:28:03
Možda su ispravili grešku u međuvremenu. U OpenAI neko prati vesti i po potrebi gasi male požare.

Da, vrlo moguće. No to samo potvrđuje tezu da se tim chatbotovima ne može mnogo verovati.

Ako ništa drugo, ChatGPT nam je doneo puno smeha i dobrog raspoloženja a ima li šta vrednije od toga?

https://x.com/RobDenBleyker/status/1828157720736002527

Evo skrinšotovi:

Onda imate i na bis ovo ispod. Da se ne zaboravi ova stvar troši struje koliko i grad od sto hiljada stanovnika (odnosno, podatak o 1,248 megavat časova za 26 dana rada je važio za ChatGPT 3.0 tako da sada troši i više). I doslovno ne ume da prebroji slova u rečenici.

Da, to razbijanje tokena na činioce nije baš predviđeno modelom. Reči su tokeni, a tokeni su jedinice. Nije bilo predviđeno da razbijaš jedinice u sitnije podjedinice. Rade na tome. A i brojanje je i dalje problem za AI. AI radi sa tokenima, a brojeva ima beskonačno. Ne možeš da imaš beskonačno tokena. Verovatno AI mora da konsultuje kalkulator za matematiku.

Ali evo, pitam ga da mi napiše neki primer programa, i lepo mi odgovara, i objasni razne nedoumice. Izmenim zahtev, i ChatGPT promeni odgovor, i objasni šta je promenjeno. Odgovori deluju korektno. Ostalo je samo da ih testiram...

Ted Gioia nije "computer scientist" niti, uopšte, jelte, scientist, ali je pametan i cenjen publicista. Ovo su njegova predviđanja za narednih par godina na polju veštačke inteligencije:


Eleven Predictions: Here's What AI Does Next

I generalno tekst je odličan a nešto od predviđanja je baš zanimljivo, tipa ovo:

Quote

---

5. The bots will actually get dumber, despite trillions of dollars in investment. This huge spending actually accelerates the degradation. The decline is already evident.


Even OpenAI admits that users will notice "tasks where the performance gets worse" in its latest generation chatbot. Many already see troubling instances of bots getting lazier and dumber. And catastrophic failures are increasingly common.


This isn't a flaw in AI, but a limitation in the training materials. The highest quality training sources have already been exhausted—so AI is now learning from the worst possible inputs: Reddit posts, 4Chan, tweets, emails, and other garbage.

It's going to get worse. Experts believe that AI will have used up all human-made training inputs by 2026. At that point, AI can learn from other bots, but this leads to a massive degradation in output quality.

In other words, AI will soon hit a brick wall—and face a dumbness crisis of epic proportions. That will happen around the same time that AI will have pervaded every sphere of society.

Najnoviji OpenAI model, zvan "o1" deluje impresivno. Sve radnje radi; čuva malu decu.

OpenAI o1 STUNNING Performance - Crushes Coding, Math and Physics (TESTED)

Kako je moguće da plaćeni gpt ne ume da generiše sliku koju mu opisujem do najsitnijeg detalja, već stalno pravi iste greške, i pritom mi napiše "izvoli sliku..." i onda napiše sve ono što sam ja napisao? Ja sam mislio da to funkcioniše kako treba, ono žešći kanal. Nisam uplatio gpt zbog toga čisto da se razumemo, trebalo mi je zbog nekih drugih stvari.

Sent from my SM-A715F using Tapatalk

To će zauvek ostati misterija dokle god ne vidimo tvoj prompt i njegovu sliku, a verovatno i posle...

Nećemo videti prompt i sliku, nema potrebe, zaista, pogotovo ako će to biti misterija i posle. Neće da crta ono što mu napišem i toeto. Razne IT probleme rešava i razume jako dobro, al' nikakav je umetnik.

Sent from my SM-A715F using Tapatalk

Postoje drugi AI servisi koji su specijalizovani za slike.

Ma jasno mi je to, nego sam ovo uplatio pa sam hteo da se malo (bezuspešno) poigram.

Sent from my SM-A715F using Tapatalk

Microsoft's Hypocrisy on AI 

Tekst je dugačak i tretira dosta aspekata problema ali pančlajn je dovoljno deskriptivan:

Quote

Therein lies the crux of the problem: In this new generative-AI paradigm, uncertainty reigns over certainty, speculation dominates reality, science defers to faith. The hype around generative AI is accelerating fossil-fuel extraction while the technology consumes unprecedented amounts of energy. As Joppa told me: "This must be the most money we've ever spent in the least amount of time on something we fundamentally don't understand."

Bendž Edvards:


Due to AI fakes, the "deep doubt" era is here 

Quote
Deep doubt is skepticism of real media that stems from the existence of generative AI. This manifests as broad public skepticism toward the veracity of media artifacts, which in turn leads to a notable consequence: People can now more credibly claim that real events did not happen and suggest that documentary evidence was fabricated using AI tools.

Kako izgleda AI intergacija na novim verzijama Appleovog operativnog sistema:

Apple Intelligence: Promising, but still has a lot to learn

AI threatens to rewrite history. Here's how to protect it

Čovek je decenijama želeo da vidi rimejk animiranog filma Princeza Mononoke, samo sa živim glumcima i onda, pošto niko neće to da napravi, potrošio 745 dolara na Kling, dakle, na AI sistem koji mu je napravio ovaj trejler:

https://youtu.be/XRG4c-Pik8s


Naravno, ima ovde mnogo toga impresivnog na čisto, jelte, fenomenološkoj ravni. Ali što već reče dosta ljudi, Mijazaki bi se doslovno ubio da ovo vidi. For d rekord ja ovo ne bih gledao.


Edit, trejler, je, naravno, baziran na jednom od trejlera za originalni animirani film i na autorovok tviteru ima video gde ob aidu jedan ispod drugog da se vidi da je u pitanju "shot for shot2 rekonstrukcija. Ne moram ni da kažem da se čovek rastuži kad to vidi i pomislli ono poznato:

Odlična reportaža:



'I Applied to 2,843 Roles': The Rise of AI-Powered Job Application Bots 

Quote
The sudden explosion in popularity of AI Hawk means that we now live in a world where people are using AI-generated resumes and cover letters to automatically apply for jobs, many of which will be reviewed by automated AI software (and where people are sometimes interviewed by AI), creating a bizarre loop where humans have essentially been removed from the job application and hiring process. Essentially, robots are writing cover letters for other robots to read, with uncertain effects for human beings who apply to jobs the old fashioned way. 

Ја сам врло задовољан како је ChatGPT урадио превод титлова за неке домаће филмове.
Међутим, спремам се за један прости испит из италијанског и ту је почео да брља, не разликује глаголе кретања од других.

Ma, mislim, pravilo je i dalje da AI ne treba koristiti ni za šta što ti treba da bude ozbiljno. Ja sam prošle nedelje imao, recimo, obuku iz toga kako koristiti AI u reportingu (u okviru moje, jelte, branše) i ta žena koja je demonstrirala ChatGPT i Perplexity je sve smisleno rekla i pokazala (tipa, ChatGPT koji podatke iz teksta uspešno razvrsta u tabelu, Perplexity koji ti daje savršene sažetke nesreće u BiH itd.) i kad nju gledaš sve deluje kao da smo dve godine u budućnosti. Ali onda sam ja koristio perplexity da nađem odgovor na jednstavno pitanje i nije problem što nisam dobio odgovor - daljim ručnim pretragama sam shvatio da taj podatak ne postoji u javnoj dokumentaciji - nego što mi je perplexity sa puno samouverenosti dao porešan odgovor. Dakle, tražio sam ko je autor partikularne kompozicije u igri Astro Bot (juče sam objavio tekst na odgovarajućem podformu) pošto je većinu kompozicija uradio Kenny Young ali nekoliko je uradilo nekoliko japanskih kompozitora, ali Sony nigde ne kaže ko je tačno napisao koju. Perplexity mi je tvrdio da je tu konkretnu kompoziciju napisao kompozitor koji ne samo da ne radi u Sonyju nego nije ni frilenser (kao npr. Young) nego koji je stalo zaposlen u Konamiju i skoro sigurno nije napisao kompoziciju za Sonyjevu igru plus, naravno, na linkovima koje Perplexity nudi kao reference nigde nema njegovog imena. Dakle, oprez.

Quote from: Васа С. Тајчић on 17-10-2024, 09:46:35
Ја сам врло задовољан како је ChatGPT урадио превод титлова за неке домаће филмове.
Међутим, спремам се за један прости испит из италијанског и ту је почео да брља, не разликује глаголе кретања од других.

Mogu li da ga nekako prevarim da mi prevede jedan prevod odjednom, ili moram da mu seckam? Neće ceo prevod odjednom, kaže mnogo mu je. Free verzija je u pitanju.

Sent from my SM-A715F using Tapatalk

Quote from: Meho Krljic on 17-10-2024, 11:27:42
Ma, mislim, pravilo je i dalje da AI ne treba koristiti ni za šta što ti treba da bude ozbiljno. Ja sam prošle nedelje imao, recimo, obuku iz toga kako koristiti AI u reportingu (u okviru moje, jelte, branše) i ta žena koja je demonstrirala ChatGPT i Perplexity je sve smisleno rekla i pokazala (tipa, ChatGPT koji podatke iz teksta uspešno razvrsta u tabelu, Perplexity koji ti daje savršene sažetke nesreće u BiH itd.) i kad nju gledaš sve deluje kao da smo dve godine u budućnosti. Ali onda sam ja koristio perplexity da nađem odgovor na jednstavno pitanje i nije problem što nisam dobio odgovor - daljim ručnim pretragama sam shvatio da taj podatak ne postoji u javnoj dokumentaciji - nego što mi je perplexity sa puno samouverenosti dao porešan odgovor. Dakle, tražio sam ko je autor partikularne kompozicije u igri Astro Bot (juče sam objavio tekst na odgovarajućem podformu) pošto je većinu kompozicija uradio Kenny Young ali nekoliko je uradilo nekoliko japanskih kompozitora, ali Sony nigde ne kaže ko je tačno napisao koju. Perplexity mi je tvrdio da je tu konkretnu kompoziciju napisao kompozitor koji ne samo da ne radi u Sonyju nego nije ni frilenser (kao npr. Young) nego koji je stalo zaposlen u Konamiju i skoro sigurno nije napisao kompoziciju za Sonyjevu igru plus, naravno, na linkovima koje Perplexity nudi kao reference nigde nema njegovog imena. Dakle, oprez.

AI bez domenskog znanja onog ko ga koristi može dobro da zajebe.

Dao upit skoro, i tražio reference, odnosno knjige koje se tiču re teme, predložio 5 knjiga, nijedan naslov nisam našao. Velim mu ja ćorak i kažem daj ISBN brojeve, uredno da, ništa google ne prepozna. Kažem mu ja opet si promašio, daj linkove na amazonu, dadne odma, al nijedan link ne vodi na knjigu. I ja kažem opet neće, on se uredno izvinjava.

Znaš kako je JPEG format kompresija slike sa greškom? E pa GPT baza je kompresija znanja sa greškom. Da nema grešaka onda ne bi moglo tako dobro da se kompresuje.

Quote from: Petronije on 17-10-2024, 19:35:37

Quote from: Васа С. Тајчић on 17-10-2024, 09:46:35
Ја сам врло задовољан како је ChatGPT урадио превод титлова за неке домаће филмове.
Међутим, спремам се за један прости испит из италијанског и ту је почео да брља, не разликује глаголе кретања од других.

Mogu li da ga nekako prevarim da mi prevede jedan prevod odjednom, ili moram da mu seckam? Neće ceo prevod odjednom, kaže mnogo mu je. Free verzija je u pitanju.

Sent from my SM-A715F using Tapatalk

Постоји ограничење у броју карактера како по упиту тако и по верзији. Када се прекорачи број карактера за верзију 4.0, прелази се на 3.5 и то траје неколико сати што пише у поруци.

Hvala.

Sent from my SM-A715F using Tapatalk

Даље, прави логичке грешке. У овом врло просторм примеру склапања дијалога, купцу је приписао две реченице једну за другом:

GPT ne rezonuje, ne koristi logiku u strogom smislu, i stoga ne može ni da pravi logičke greške. GPT "sanja", i to što sanja često ima logike, ali nije obavezno.

Do zabune je došlo kad su programe mašinskog učenja krenuli da nazivaju veštačkom inteligencijom.

Well, jedna od definišućih karakteristika inteligencije je da ima kapacitet za učenje, tako da NIJE TO SLUČAJNO.

Tjah, znaš za onu "džaba ti bubanje kad ne koristiš mozak".