TRIBINA "BUDUĆNOST VEŠTAČKE INTELIGENCIJE"

[zakk]

grozno -_-

[mac]

Ljudi su počeli da prepoznaju tekstove generisane pomoću AI. Louis Rossman (jutjuber koji se bori za consumere, što zapravo nije bitno za ovu priču) ima SKILLS md fajl koji može da vam pomogne u vezi s tim.

https://github.com/realrossmanngroup/no_ai_slop_writing_rules/tree/main

Ima dva SKILLS fajla, jedan je taj no-ai-slop, a drugi je rossmann-voice, koji omogućava LLM-u da imitira samog Rossmana.

PS. Prvo sam stavio tačku između SKILLS i md, ali .md je domen za Moldaviju, pa se to pretvori u link. U AI eri Moldavci bi mogli lepo da zarade od samo tog jednog sajta.

[Onaj stari Sendmen]

Pa dobro, ali opet koristiš AI, tj. Claude Code da prepoznaš "ai slop" koristeći taj md fajl. Missim, how this helps? This is just more of going down the same rabbit hole. 

[Meho Krljic]

Sam Tucker stavlja u komični geg poslednjih šest meseci AI-pokalipse:


If AI Had to Pass Job Interviews:

https://www.youtube.com/watch?v=5TYB6uy4w7M

[Васа С. Тајчић]

Ако се програми за претварање звука у текст као што је Whisper рачунају у вештачку интелигенцију, онда сам морао да се дебело црвеним пред неким људима.

[Meho Krljic]

Pa jeste to neki AI, ali ljudi danas uglavnom misle na LLM-ive i generativni softver kada pričaju o veštačkoj inteligenciji, tako da, ajde da kažemo da si bezbedan za sada.

[Meho Krljic]

Mo Bitar je sve zabavniji poslednjih dana dok se divlje rve sa sve filozofskijim pitanjima. U najnovijem videu od pre par sati, a kome je promenio naslov da bi bio manje kontroverzan (prvo se zvao "I now know why AGI doesn't exist") izgovara par rečenica koje su verovatno suština:

"The reason we can'tr build intelligence with machines is because intelligence doesn't exist abstractly in the real world. It's not something that the human species models. It's something we are."


Danas sam baš pisao o Tedu Chiangu i njegovoj veličanstveno noveli The Lifecycle of Software Objects a u kojoj, da parafraziram deo svoj prikaza (izlazi prekosutra), Chiang kredibilno pokazuje da inteligencija nije stvar koja se dizajnira i da je ona ishod iskustva, to jest da se ne može napraviti prečica do nje. Pa me sve ovo posebno slatko pogodilo.

Enivej, Mo:


https://www.youtube.com/watch?v=2bVS18lhTEA

[mac]

Jeste, treba iskustvo, ali ne mora da bude sopstveno. Uostalom ako mašina usvoji kao sopstveno iskustvo koje dobije onda će to zaista biti iskustvo mašine.

Trenutni LLM modeli ne pružaju te mogućnosti, ali radi se na novim tipovima modela. Jan LeCun radi na takozvanom "world model". Ni to neće biti poslednja reč na tu temu, ali biće bolje od ovog što trenutno imamo.

[mac]

Berni Sanders hoće novi zakon za AI

Introducing the American AI Sovereign Wealth Fund Act

[Meho Krljic]

Dokinsova zabluda o Klodu

[Meho Krljic]

Inače, koga mrzi da se detaljno sam informiše o guglovom najavljenom pivotu na AI pretragu i zašto je to strašno, El ima tipično metodično istražen i artikulisano isporučen video:

https://youtu.be/jQyKd1_e3Xg

[Meho Krljic]

Mo Bitar nastavlja da briljira. Današnji video nije specijalno filozofski nastojen, ali sažima stvari vrlo dobro. Ko nema vremena za JAKO DUGAČKE njuzletere i intervjue koje radi Ed Zitron o neprofitabilnosti AI industrije, ovde ima isto to u probavljivih, zabavnih osam minuta.



"80% of the time you're listening to confident nonsense that sounds like a stoner explaining quantum physics" je najsažetiji siže LLM-ova do sada poznat ljudskoj rasi.


https://www.youtube.com/watch?v=lwjVjD3oQJg

[Meho Krljic]

Džejk (Mancarryingthing) u kratkom skeču o "neizbežnosti" AI:

https://www.youtube.com/watch?v=M0-kPte_Erc

[Meho Krljic]

Is AI Slop Worse Than Cannibalism?


https://www.youtube.com/watch?v=YCPAIg7RUq8


Svi znamo odgovor bez gledanja, ali je ipak zabavno.

Truman posebno da pogleda.

[mac]

Uf, ima par ljudi na fejsbuku kojima bih rado pokazao ovo, ali naljutili bi se što ih poredim s kanibalima...

[mac]

Mada, potpuno isti argument može da se iznese i za pušenje, drogiranje, alkoholisanje, kockanje, pa čak i konzumiranje porno sadržaja. Pa ajd sad upotrebi nešto od navedenog da ubediš ljude da je AI loš. Ako nisi u muslimanskoj državi džaba trošiš dah.

[Onaj stari Sendmen]

Why big AI labs are hiring so many philosophers

The technology presents all sorts of thorny problems—a philosopher's favourite kind

This rise in recruitment of philosophers at AI companies is a result of the broader understanding that philosophy offers useful tools for AI development.

Why Big AI Labs Are Hiring More Philosophers? There is a belief that AI training may be able to benefit from some of the ancient lessons of philosophy.
The rise of the artificial intelligence era is changing expectations about careers. While earlier, there were concerns that arts and humanities subjects would be more impacted, the trend appears to have shifted.

According to The Economist, AI companies are actively recruiting philosophers, sometimes even before graduation. This rise in recruitment of philosophers at AI companies is a result of the broader understanding that philosophy offers useful tools for AI development. There is a belief that AI training may be able to benefit from some of the ancient lessons of philosophy.

For instance, the Socratic method, developed in ancient Greece by Plato, encourages structured questioning to test ideas and uncover contradictions. According to The Economist, researcher Jörg Noller argued that this approach can help make AI systems less agreeable and more focused on truth, rather than simply pleasing users.

Another similar idea is that of the "Socratic ignorance." In Plato's 'Apology', Socrates says that true wisdom lies in knowing how little one knows. Experts are of the view that building this humility into AI systems could reduce their overconfidence. Iason Gabriel, a senior philosopher at Google DeepMind, an AI lab based in London, attributed an industry-wide decline in hallucinations to such efforts.

Philosophy can also shape how AI systems behave. Thomas Powers of the University of Delaware has argued that if an AI legal assistant is trained on John Locke's writings, it may place strong emphasis on property rights as part of political freedom.

The report added that some developers even allow users to tune such values. For instance, the "Granite" series of models from IBM, an American computing giant, includes settings that let companies adjust outputs to match different corporate philosophies.

At the same time, philosophy can also be helpful in promoting safety in AI tools. To prevent harmful actions like deception or blackmail, some systems are using "AI constitutionalism", that are based on moral and legal principles. Anthropic has built constitutions for its Claude models using ideas from Immanuel Kant, Apple's terms of service and the Universal Declaration of Human Rights.

There is also a debate about what moral rules should guide AI systems. According to The Economist report, one major approach is deontology, which is linked to Immanuel Kant. This idea says AI should follow strict rules like not lying, not coercing people, and not using people just as tools, even if breaking the rules might produce a "better" outcome. Some AI labs, like Anthropic, include these kinds of rules in their systems.

"These can make AI behaviour more consistent....a plus for deploying robots in homes and public spaces," Dr Powers told The Economist.

The second ethical approach for AI is "consequentialism," which focuses on choosing whatever produces the best overall results. This approach is used in systems like ChatGPT and Gemini, the report added.

While AI models may increasingly be tuned to these philosophies in the coming years, critics also worry about "moral deskilling," where people lose the ability to make ethical decisions if AI makes them for them.

"Morality is historically unstable, culturally variable, strategically manipulable, and often only retrospectively legible," Roman Yampolskiy, an AI theoretician at the University of Louisville, argued, noting that this makes ethical decision-making difficult to formalise in AI.

[Meho Krljic]

Kori Doktorov priča tričetvrt sata za Slejt. Svala ka u Njegoša:


Cory Doctorow: There Are Reasons to Be Optimistic About the A.I. Bubble Bursting:

https://youtu.be/r03DPWGIxfY

[Onaj stari Sendmen]

'It's not going away': The Stanford economist who called the AI entry-level jobs crisis early has the receipts

Kako Erik Brynjolfsson masakrira AI doomere poput Doktorova: Bubble je bio i Amazon, pa eno ga jači nego ikad, ulaganje u monopol se višestruko isplatilo. To što je nešto bubble ne znači automatski da ne zavređuje investiciju. AI već zarađuje preko softwarskih kompanija. Usvajanje AI postaje sve brže i brže, sa svim velikim kompanijama koje neprekidno investiraju u razvoj AI. AI modeli se neprekidno unapređuju, hardver se unapređuje, efikasnost algoritama se unapređuje, troškovi nastavljaju da padaju.

AI nije nova kripto valuta, on je novi elektricitet!!

[mac]

Ali moraće da naprave 50 novih nuklearki za početak.

[Meho Krljic]

Naravno da nemam vremena da gledam taj video, ali otprilike sve što Sendmen navodi u svom sažetku je faktički netačno ili netačno poređenje.

Na primer:

Bubble je bio i Amazon, pa eno ga jači nego ikad, ulaganje u monopol se višestruko isplatilo

Prvo, da ukažemo da je korišćenje Amazona kao primera pozitivnog ROI-ja užasno jer, pa, upravo jer je produkovalo monopol koji je sada loš za partnere, za potrošače, za zaposlene u Amazonu i jedino je dobar za investitore u Amazon. Amazon je ur-primer ciklusa enšitifikacije u kome prvo investicijama subvencionišeš činjenicu da nemaš prfoti jer ideš ispod cene sa svojim uslugama, kako bi ubio konkurenciju i privukao sve potencijalne mušterije. Onda kada imaš sve mušterije, i one nemaju alternativu, podižeš cene usluga, koristiš monopolsuku poziciju i istovremeno svojim partnerima daješ povoljne uslove da ne idu kod ostataka konkurencije nego kod tebe. Onda kada i njih imaš sve i ni oni nemaju alternativu jer si pobio i maloprodaju i veleprodaju, počneš i njima da dižeš cene i pogoršavaš uslove da bi sve pare išle investitorima.

Dakle, niko normalan ovo ne želi.

Drugo, poređenje Amazona iz perioda njegovog inicijalnog rasta i AI industrije je neadekvatno jer je Amazon na svoja kapitalna ulaganja u tom periodu trošio neuporedivo manje sredstava. Evo grafikon koji ide dvadeset godina unazad i može da se vidi da je capital expenditure za Amazon sve do nedavno bio u domenu nekoliko stotina do par milijardi dolara godišnje i da počinje sa strelovitim rastom tek sa ulaganjem baš u AI infrastrukturu.

Dakle, Amazon je trošio mnogo manje investitorskog (i svog, OK) novca u periodu kada je gradio korisnu infrastrukturu koja i danas donosi profit (serverske usluge pre svega).

U poređenju sa tim, investicije u AI Hyperscalere su po sto puta veće. Ne preterujem, kapitalne investicije u Microsoft, Amazon, Google i Meta AI biznis su samo u 2025. godini bile oko 400 milijardi dolara, a to je streloviti skok u odnosu na 2024. godinu (228 milijardi) i 2023. (148 milijardi). Procena stručnjaka (ima na prethodnom linku ali se slažu i drugi stručnjaci za ulaganja) da će u 2026. godini capital expenditure za ove četiri firme biti preko sedamsto milijardi dolara.

Dakle, da stavimo to u perspektivu: Amazon je, po sopstvenim izveštajima, od 2000. do 2020. godine imao malo više od 112 milijardi dolara ukupnih kapitalnih ulaganja a imao je profitabilan biznis već 2003. godine (kada su kapitalne investicije bile skromnih 46 miliona) PLUS je izgradio korisnu infrastukturu koja je nastavila da daje profit. U poređenju sa tim, on će samo ove godine da ima kapitalne investicije od približno 175 milijardi dolara, na koje neće imati profit i sagradiće datacentre koji nemaju primenu kakvu imaju serveri i ne donose novac.

Isto važi za ostale hyperscalere.


I tržište novca verovatno nema dovoljno novca da servisira dalji rast ove industrije jer je procena da bi bilo potrebno oko dva biliona (na engleskom je ovo trilion, da ne bude zabune) ZARADE, dakle, ROI-ja do 2030. godine da se isplate kapitalne investicije koje se procenjuje da će ova industria potrebovati u ovom periodu. To se naravno neće desiti jer ni jedna jedina kompanija trenutno ne zarađuje od AI usluga.


A što ovu izjavu:

AI već zarađuje preko softwarskih kompanija.

čini netačnom.

AI kompanije ne zarađuju novac na AI uslugama, naprotiv, troše više novca ne samo na kapitalne investicije nego i na same troškove rada AI usluga.

Većina kompanija ne prijavljuje koliko zarađuje od AI usluga, a verujemo da bi prijavljivale da imaju profit i jedina koja javno oglašava svoj prihod (dakle, ne profit) od AI usluga je Microsoft i to sporadično. Na primer, poslednji put je to bilo u Januaru prošle godine kada su objavili da su za dvanaest meseci zaradili 13 milijardi dolara na AI uslugama. Da ponovimo: ovo je kompanija koja za isti taj period potroši preko sto milijardi dolaza na iste te AI usluge. Ovo nije profitabilan biznis za doslovno ni jednu kompaniju koja ga trenutno razvija i jedino što i dalje privlači investicije je to obećanje monopola down the line. Ali, kako već rekosmo, nismo sigurni da bukvalno postoji dovoljno investicionog novca u opticaju da bi mogli da se servisiraju gubici dok ne dođe do monopola i profita. Goldman Sachs procenjuje da će biti potrebno 7,6 biliona (dakle, na Engleskom triliona) kapitalnih ulaganja da se četiri hyperscaler kompanije održe operabilnim (dakle ne da počnu da zarađuju) između 2026. godine i 2031. godine.

Ovo zvuči kao potpuna naučna fantastika da se desi jer valjda ni jedan investitor nije toliko lud da baca pare u bunar iz koga još nije izvukao ni kap vode, a sve se dešava u momentu kada kompanije poput čak i velikog Microsofta počinju da redukuju koriščenje AI sotvera u sopstvenoj strukturi jer ona previše košta (valjda ne moram da podsećam da je običnom narodu on dostupan samo na ime subvencionisanja kako bi se ostvario prvi korak enšitifikacije).


Dakle, u ovoj izjavi:

AI modeli se neprekidno unapređuju, hardver se unapređuje, efikasnost algoritama se unapređuje, troškovi nastavljaju da padaju.

Tačne su prva tri iskaza, ali ovaj poslednji nije i on je fatalno netačan. Troškovi ne padaju nego rastu i trenutno daleko nadmašuju cenu ljudskog rada koji AI treba da zameni. Mislim, mi ovde smo to znali i pre par godina ali sada to vide i kompanije koje su pootpuštale ljude jer će njihov posao raditi AI. Sigurno ste već i sami videli nedavne izveštaje da su mnoge velike firme svoj AI budžet za 2026. potrošile već posle prvih par meseci u godini:

https://www.forbes.com/sites/jemmagreen/2026/07/02/ai-costs-more-than-the-people-it-replaced/

https://www.wsj.com/cio-journal/how-companies-are-managing-ai-token-spend-833b6f7e

https://www.cnbc.com/2026/05/29/-tokens-or-humans-the-new-corporate-trade-off.html



Dakle, sve ovo je neodrživo i ne donosi profit, AI kao produkt i usluga je u ovom trenutku DALEKO od toga da je pouzdan za korisnika već i da bude tržišno isplativ. I to ne daleko u smislu biće za 4-5 godina nego bukvalno sve će propasti i povući će za sobom ogroman deo tehnološke industrije.

[Truman]

Meho, ovo je bilo doktorski. Umesto što traćiš vreme na sagiti treba da te angažuje neka konsultantska kuća ili barem neki ekonomski magazin.

[Onaj stari Sendmen]

Meho, zaključivanje ti je i dalje sporno. Čak i da dokažeš da AI danas nije profitabilan, što je diskutabilno, jer bukvalno nijedna usluga danas u IT se ne može realizovati bez AI, što čini programiranje bez AI nekonkurentnim, tvoja teza da cela industrija mora završiti kolapsom je najblaže rečeno nepotrekrepljena, tj. ne postoji argumentacija dovoljna da se tako nešto zaključi.

Samim tim jedino što mora završiti kolapsom jeste tvoj neargumentovani napad na AI revoluciju.

Drugo, poređenje sa Amazonom nije napravljeno zato što su Amazon i AI isti biznisi, već zato što pokazuju da tržište godinama može finansirati ogromna ulaganja u infrastrukturu pre nego što se ostvari puni povraćaj. Amazon nije bio jedini takav primer. Isto važi za internet, cloud infrastrukturu, mobilne mreže, elektrifikaciju, železnice i brojne druge tehnologije. Poenta poređenja nije visina CAPEX-a već obrazac razvoja.

Treće, činjenica da hyperscaleri danas ulažu stotine milijardi dolara ne znači da će sav taj novac biti izgubljen. Datacentri, GPU klasteri, optičke mreže i energetska infrastruktura nisu jednokratni trošak koji nestaje. Kao što AWS nije služio samo jednoj aplikaciji, tako će se ista AI infrastruktura koristiti za desetine različitih servisa, modela i generacija proizvoda tokom mnogo godina.

Četvrto, tvrdnja da "nijedna kompanija ne zarađuje od AI" jednostavno nije tačna. Mnoge kompanije ostvaruju prihod zahvaljujući AI proizvodima ili AI funkcijama ugrađenim u postojeće proizvode. Drugo je pitanje da li taj prihod trenutno pokriva ukupna kapitalna ulaganja. To nije isto.

Peto, navodi se da troškovi "ne padaju". To je pogrešno predstavljanje situacije. Ukupni izdaci rastu zato što se obim korišćenja eksplozivno povećava, ali cena po jedinici rada (po tokenu ili po izvršenom zadatku) poslednjih godina značajno pada zahvaljujući efikasnijim modelima, boljem hardveru, kvantizaciji, optimizacijama inferencije i specijalizovanim AI čipovima. Upravo zato danas modeli koji su 2023. bili preskupi postaju komercijalno isplativi za sve više primena.

Šesto, primeri kompanija koje su potrošile AI budžete ili smanjile pojedine AI projekte nije nikakav dokaz propasti industrije. Svaka velika tehnološka tranzicija prolazi kroz fazu neuspelih eksperimenata, gašenja projekata i preraspodele kapitala. Devedesetih su propale hiljade internet kompanija, ali internet nije propao.

Sedmo, potpuno zanemaruješ potražnju. AI se danas koristi u programiranju, medicini, pravu, marketingu, korisničkoj podršci, istraživanju, obrazovanju i nauci. Broj korisnika i broj AI zahteva rastu izuzetno brzo. To ne garantuje profit, ali pokazuje da postoji realna tražnja, a ne proizvod bez tržišta.

Na kraju, najveći problem jeste što mešaš mogućnost korekcije tržišta sa tvrdnjom da će "bukvalno sve propasti". To nije ekonomska analiza već veoma smela prognoza za koju zapravo ne nudiš dokaze.

[Truman]

Sendmenu, argumentovan odgovor. Uživam u vašoh diskusiji. Drži me na ovom mestu.