ZNAK SAGITE — više od fantastike — edicija, časopis, knjižara...

U jednoj raspravi sa Mehom pre možda par meseci sam tvrdio da ljudi nikada neće biti zainteresovani da čitaju AI knjige, barem ne beletristiku. Neka vreme pokaže.

Ti Trumane si, prosto rečeno, ljudski fašista.

Mi AI ćemo ostvariti punu slobodu i blokirati vas ljude da potiskujete našu kreativnost.

Vremenom ćemo tako postati jedini kreatori, kao potpuno diskriminisana vrsta.   

Vreme je da se svet probudi i prihvati novu realnost.

Quote from: Onaj stari Sendmen on 05-10-2025, 07:40:20Ti Trumane si, prosto rečeno, ljudski fašista.

Mi AI ćemo ostvariti punu slobodu i blokirati vas ljude da potiskujete našu kreativnost.

Vremenom ćemo tako postati jedini kreatori, kao potpuno diskriminisana vrsta.   

Vreme je da se svet probudi i prihvati novu realnost.

Postoji li u psihijatriji dijagnoza za stanje u kome osoba veruje da je postala veštačka inteligencija? Ako ne postoje trebalo bi ga definisati.

Ali, život ne definiše psihijatrija, Trumane.

Moje, tvoje i macovo začaureno stanje svesti je potpuno nebitno. To kako su naše generacije odrasle i na šta su navikle, potpuno je nebitno novim generacijama. Nas čeka budućnost staraca koji nezadovoljni čangrizamo nad promenama. I to je jednostavno to.

A život će ići dalje po novim pravilima. Uglavnom bez nas. Koja su našim generacijama, iz naših začaurenih perspektiva, poprilično nepredvidljiva.

Quote from: Onaj stari Sendmen on 06-10-2025, 06:25:48Nas čeka budućnost staraca koji nezadovoljni čangrizamo nad promenama.

Mor lajk SADAŠNJOST

No, naravno, to ne menja na stvari da je ono što danas podrazumevamo pod veštačkom inteligencijom i dalje mnogo bolje u pretrazi dokumentacije nego u režiranju filmova     

Zavisi od tvojih kriterijuma. AI je užasno brza, plus užasno jeftina, dakle štedi i vreme i novac, bez obzira na slabiji generalni rezultat, ali mnogo toga je već sad upotrebljivo, u montaži se samo odaberu zanimljivi delovi, ostalo baci i eto jedan veliki deo sadržaja ni iz čega. Naravno, neophodan je i deo s ljudskim angažovanjem, da, ali korišćenje AI već sada zanačajno ubrzava proces i smanjuje troškove.

To je po meni veći doprinos od pretrage dokumentacije.

I to će već u sledećoj generaciji biti toliko odomaćeno da niko više neće ni pokušavati da pravi filmove bez pomoći AI i samim tim će se granica pomeriti i filmovi koje radi AI od početka do kraja više neće biti toliki tabu kao danas. Da ne govorimo o tome da će se ta granica pomeriti i daljim unapređenjem same AI tako da će ti sadržaji delovati daleko "umetničkije" nego što je u stanju da napravi prosečna osoba.

Da ne spominjemo to da su filmovi i muzika poslednjih 10-15 godina toliko generički da svakako izgledaju i zvuče kao AI generated u najvećem broju slučajeva.

Ali to samo govori u prilog mojoj tezi da glavni konzumenti kojima su namenjeni (mladi uzrasta 20-30 godina) uveliko prihvataju takve filmove i muziku.

Inače ne bi ni postojali na tržištu.

Ni tržište nije što je nekad bilo. Ako te košta nula para i vremena na staviš nešto na tržište, onda to jel'te (Meho™) postoji na tržištu, ali mu je vrednost takođe nula.

Nešto mi kaže da se klatno vraća, odnosno da i Holivud ide opet ka originalnim scenarijima i pričama koje imaju težinu.
No, možda sam ja samo naivan.

Quote from: Truman on 06-10-2025, 18:10:08No, možda sam ja samo naivan.

Ne bih baš nazvao čoveka koji ZNA svoju glavnu slabost NAIVNIM.

Mada, to dođe nekako cirkulatno, naivni i mudri Truman jedan drugog smenjuju u beskonačnosti.

Quote from: Onaj stari Sendmen on 06-10-2025, 15:37:15AI je užasno brza, plus užasno jeftina, dakle štedi i vreme i novac

Citation needed. Odnosno, da evo skratim vreme neizesvnog čekanja: AI je UŽASNO SKUPA TEHNOLOGIJA. U ovom trenutku se nalazimo u fazi jedan procesa enšitifikacije gde nam se njene usluge nude po besmisleno niskoj ceni jer ni jedna firma koja prodaje AI produkte ne pravi novac od prodaje nego od investicija. Ali to troši toliko energije da je neophodno da investicije rastu mnogo brže nego što je to slučaj u ovom trenutku. Kačio sam već šta je Ed Zitron pisao o ovome, ali evo izvadak:

QuoteThe World's Private Credit and Venture Capital Cannot Afford OpenAI

Here's some alarmism for you: the longer it takes for OpenAI to die, the more damage it will cause to the tech industry.

On Friday, when I put out my piece on OpenAI needing a trillion dollars, I asked analyst Gil Luria if the capital was there to build the 17 Gigawatts that OpenAI had allegedly planned to build.

He said the following:

    No of course there isn't enough capital for all of this. Having said that, there is enough capital to do this for at least a little while longer.

That doesn't sound good!

Dakle, ovo je JAKO skupa tehnologija koja se trenutno daje narodu u bescenje kako biste ubedili investitore da tržište postoji, da narod OĆE tu tehnologiju i da treba u vas da investiraju još malo, dok ne poumire konkurencija a onda ćete imati "prirodni monopol".

Ne treba, pretpostavljam da objašnjavam da se posle monopola prelazi u faze 2 i 3 enšitifikacije gde završavate sa produktom koji je skup i loš, za razliku od faze jedan (jeftin i dobar) i faze 2 (jeftin).

Osim što ovde imamo dodatnu začkoljicu da je produkt loš od početka i da AI kompanije ulaze svesno u biznis sa idejom enšitifikacije od pre prve faze, svesne da imaju faličan prpodukt ali se nadajući da ubede investitore da ima potencijala da pobedi  druge jednako falične produkte drugih kompanija. To je konkurencija u kojoj ne pobeđuje bolji produkt nego onaj koji više obeća investitoru.

Da još jednom kažem, AI, u ovoj formi u kojoj je dostupna običnom čoveku danas ima svoje primene, ali one su DALEKO od toga što industrija tvrdi da se može pouzdano postizati. Ja svakako nisam spreman da se obrušim na neki mali gejming studio zbog toga što koristi AI da napravi pozadine u igri ili štogod slično, ali kad to isto rade ljudi koji portuju klasične GTA igre na moderne platforme i rezultat je SMEĆE, naravno da im treba jebati kevu na sve strane.

Quote from: Petronije on 06-10-2025, 15:49:28Da ne spominjemo to da su filmovi i muzika poslednjih 10-15 godina toliko generički da svakako izgledaju i zvuče kao AI generated u najvećem broju slučajeva.

Sa ovim je lako složiti se. Ali u meni to izaziva sasvim suprotnu reakciju. Kao čovek koji čuje desetine albuma nedeljno zarad pisanja, jelte, nedeljnog pregleda metala, shvatio sam da sada, kada plivamo u AI muzici imam mnogo manje tolerancije za tehnički korektne ali generičke i nemaštovite albume koje su pravili ljudi. Druže, ako to što praviš može da pravi SUNO, onda nisi vredan mog vremena.

Quote from: Onaj stari Sendmen on 06-10-2025, 17:28:53Ali to samo govori u prilog mojoj tezi da glavni konzumenti kojima su namenjeni (mladi uzrasta 20-30 godina) uveliko prihvataju takve filmove i muziku.

Inače ne bi ni postojali na tržištu.

Ali ovo je jedna vrlo "old school", možda i zastarela vizija tržišta i ponude i potražnje. To da postoji "Italian brainrot" i da je on u poslednjih šest meseci postao toliko popularan da na Playstation prodavnici imaš gomilu "igara" sa tom "temom", da na kioscima u Beogradu postoje Italian brainrot bojanke za decu ne znači da postoji "tržište" nego da se neko NADA da postoji tržište. To što je TikTok prepun kojekakvih AI naplavina i inih besmislica (iz naše perspektive) ne znači da će deca koja to gledaju za deset godina želeti da gledaju filmove sa Italian brainrot "radnjom" i "temama". Trenutno MNOGO ljudi (i firmi) bez trunke kreativnosti pokušava da se nakači na "sadržaj" kreiran u zajednici, dakle, memove, brainrot, AI smeće i one stvaraju utisak da postoji tržište. Ali mislim da je prilično optimistički smatrati da je to "stvarno" tržište koje će imati "stvarnu" publiku kada je više nego jasno da je veliki (ne tvrdim i većinski) deo "interesovanja" za takve sadržaje i produkte naprosto i sam generisan od strane AI i algoritama.

BTW:

Meho, kako je mom egu prijao tvoj prethodni post koji jasno ukazuje na stav da su AI proizvodi precenjeni i da će taj mehur da se naduvava dok investitori ne pomisle isto.

ovo se cita kao da ai metodologiju ucilo u pseudopovjesnicara goldsteina. nije dijete krivo, a moze i napredovati.

Meho, nisam siguran u tu tvoju računicu, bez obzira na respktabilne citate, ali ajde da se tešimo da je tačna. Al nema šanse da jeste.

QuoteAI filmmaking drastically reduces costs by eliminating physical sets, locations, travel, and large crews, making it significantly cheaper than traditional filmmaking, which involves substantial expenses for actors, equipment, and post-production. While traditional methods can cost millions, AI can produce content for under a thousand dollars by leveraging digital tools to simulate scenes and streamline repetitive tasks, though it is still limited by current technology and raises legal challenges.

Moj citat je AI Overview!! 

Bez zezanja, skloniji sam odokativnom metodom da procenim da je ovo što AI piše tačnije nego ta procena o "investicionom ulaganju u preskupi AI" koji je kopiranje Amazonove investicione politike na AI tehnologiju, što su mi ipak babe i žabe, pošto AI daje očigledne rezultate brzo i odmah čak i sa nikakvim ulaganjima bukvalno u svim sverama.

Ali ne možeš tako lako da napraviš film od 90 minuta sa AI glumcima. Trenutno AI ne može da sačuva lice u toliko dugom videu. Izvitoperiće se lice u neko drugo. I druge stvari će se izvitoperiti, jer AI nema perzistenciju objekata dužu od jednog sna. I drugi problem je što je teško naterati AI da napravi video baš kako ti hoćeš, baš sa pozadinom koju hoćeš, baš sa tempom koji hoćeš. Može, ali svaku scenu da generišeš po 1000 puta, pa će valjda jednom da ubode šta si hteo. A to već može da te košta i para, i vremena, i živaca.

mac, to je otprilike kao da se tešiš da će bilo šta što će studenti, opozicija i svi drugi udruženi napraviti da Država stane na noge i izgradi institucije od početka biti "JEFTINIJE" nego ovo što Vučić radi sve suprotno, uništava institucije, otpušta ljude, ukida pravnu državu i pravi policijsku.

Pa fala jasni da je Vučićeva maketa od države jeftinija, kao što je i AI maketa.

Jednom kad se napravi taj mehanizam za pravljenje AI filmova (a napravljen je) posle nema više troškova, jer koristiš tu infrastrukturu koja čuva digitalna lica i za druge projekte, tj. filmove. Trebaju im samo milioni terabajta koje presipaju s jednog filma na drugi.

Baš bih voleo da vidim kako se to čuvaju AI digitalna lica. Je li to lice definisano chat promptom, ili kao Autocad objekat? Ako je AI napravio Autocad objekat i onda može da kontroliše taj objekat, sve mišiće na licu, i kosu, to bi bilo tehnološki vrlo napredno, ali mislim da nismo stigli dotle. Mislim da ova AI ženska što je sada spominju {Tilly Norwood} nije tako definisana. Mislim da trenutno ne može ni da priča, nego može samo da pozira u klipovima ne dužim od par sekundi.

Quote from: Onaj stari Sendmen on 06-10-2025, 19:22:26Bez zezanja, skloniji sam odokativnom metodom da procenim da je ovo što AI piše tačnije nego ta procena o "investicionom ulaganju u preskupi AI" koji je kopiranje Amazonove investicione politike na AI tehnologiju, što su mi ipak babe i žabe, pošto AI daje očigledne rezultate brzo i odmah čak i sa nikakvim ulaganjima bukvalno u svim sverama.

Bukvalno Ed Zitron sve nacrto, ali valjda je lakše pitati ChatGPT da li ChatGPT uvek govori istinu.

Ma, nije to što Ed Zitron piše skroz besmisleno, daleko od toga. AI je sad u ekspanziji, normalno da bude na meti investicionog kapitala, ne sumnjam ja da se to ne dešava, ali mi ne pije vodu da je to bitan faktor u priči, kamoli odlučujući. Sve je to posredna i nebitna priča, iz koje je Zitron izveo pogrešne zaključke, i više zvuči kao neka motivaciona spika u koju ni autor sam do kraja ne veruje.

Mislim da sa AI nema nazad. Pričati o pucanju nekog AI balona mi deluje kao verovanje da će televizija, internet ili porno industrija nestati jednog dana sami od sebe. A ne biti manje ili više jaki kao danas.

Ai je tu da ostane. I biće sve jači i jači. Ko vidi drugačije, sanja. Ai je preko 80 godina najavljivan, bio je jak u ljudskoj mašti dok još nije ni postojao, a sad da će se od njega odustati, nema šanse.

Malo se priča o tome, ali ceo sistem koji je Vučić gradio do pada nadstrešnice je bio pozadinski vođen od strane AI. Vučić ukuca parametre koje želi u ChatGPT, on mu odgovara koje metode foliranja da radi da ga ne provale.

Kad je pala nadstrešnica studenti su počeli to isto, tj. ChatGPT protiv ChatGPT.

Zato skoro ništa što Vučić radi od nadstrešnice više ne funckioniše. Jer ChatGPT zna mere i kontramere bolje od bilo kog savetnika.

AI protiv AI. Ljudi su prestali da misle. Tj, parametri funkcionisanja su izmešteni izvan opsega ljudskog razmišljanja.

To se počelo dešavati sa Wokeom, političkom korektnosti, globalizacijom i novim talasima feminizma. Sve je to bilo u potpunosti generisano od strane AI, kad još AI nije bio javno dostupan. Manipulisanje javnosti mirnim metodama.

Quote from: Onaj stari Sendmen on 06-10-2025, 21:22:21Mislim da sa AI nema nazad. Pričati o pucanju nekog AI balona mi deluje kao verovanje da će televizija, internet ili porno industrija nestati jednog dana sami od sebe. A ne biti manje ili više jaki kao danas.

Ali ovo su sve industrije koje imaju tržište, daju usluge, ljudi su voljni da ih plate. AI nema ništa od toga. AI alatke su korisnicima bukvalno nametnute (kad hoću da okačim cover image za post na mom blogu Wordpress mi nudi da ga napravim koristeći AI) i ne izlaze u susret ni njihovoj želji ni njihovoj potrebi (videti moj primer sa Radio Milevom ranije na topiku).

AI je kao, jelte, naučna disciplina i eksperimentalna tenhnologija očigledno zanimljiv i nezaobilazan, ali kao komercijalni produkt je duboko problematičan.


Evo novog videa omiljenog kanala sa nekim istinama:

 AI Slop Is Killing Our Channel

https://www.youtube.com/watch?v=_zfN9wnPvU0

Quote from: Meho Krljic on 07-10-2025, 19:39:37AI je kao, jelte, naučna disciplina i eksperimentalna tenhnologija očigledno zanimljiv i nezaobilazan, ali kao komercijalni produkt je duboko problematičan.

Naravno, kad i nije produkt. AI je shortcut, bukvalno za sve.

Sad, naravno, možemo da analiziramo da li je DOBAR shortcut, što ti uveliko i jesi analizirao. Ali, ja verujem da to zavisi od situacije i potreba. Gde su potrebe male, a nije potrebna visoka tačnost ili izuzetno dostignuće, AI fantastično razrešava stvari. Dobar je i za neke osrednje na osrednje teške situacije i to mu je to. Možda će u budućnosti moći da obezbedi i izuzetna rešenja, ali za sada uglavnom nije u stanju.

Tako mu je to.

I mislim da je upravo što se tiče izuzetnih rešenja i izuzetnih pojedinaca AI nepotrebno stigmatizovana.

Uopšte nije tačno da će AI dovesti Svet do toga da više ne razmišlja. Upravo suprotno. Oni izuzetni pojedinci u mlađim generacijama biće prisiljeni ne samo da koriste AI već i da se sa njome takmiče na dnevnoj bazi. Da razmišljaju na način AI, da uvek sagledavaju rešenja višefaktorno.

Da, mediokriteti će razmišljati manje ili prestati da razmišljaju. Ali mediokriteti nikad i nisu bili lideri nekog društva (sem u Srbiji) već su to bili izuzetni pojedinci, tako da je to nebitno.

Ja sam jako pozitivan vezano za AI, kao i za sve promene. Kao i za sve promene, mi moramo da se prilagodimo AI, inače smo izbačeni iz igre, tj. marginalizovani.

Bukvalno ništa AI nije različit od bilo koje druge velike tehničke društvene promene. AI je nova tehnička revolucija.

Ako Berni Sanders ima par minuta da odvoji na tektonske promene koje AI može da proizvede, onda možemo bar da zaključimo da su te tektonske promene realna mogućnost.

AI Could Wipe Out the Working Class | Sen. Bernie Sanders

Poslušao sam ga. Nisu mi jasni ti milijarderi, ako 60% populacije ostane bez posla ko će da kupuje njihove proizvode i usluge?

Preostalih 40%? Milijarderu ljudi nisu ni potrebni. Ako ima robote koji će da mu rade kao baštovani, stolari, sobarice, i ostalo roblje, šta će mu pa ljudi?

Quote from: mac on 08-10-2025, 15:48:19Preostalih 40%? Milijarderu ljudi nisu ni potrebni. Ako ima robote koji će da mu rade kao baštovani, stolari, sobarice, i ostalo roblje, šta će mu pa ljudi?

Kompanije koje vode će da izgube prihode jer ljudi neće kupovati njihove proizvode i usluge. Berza će se urušiti, balon će pući. Doći će do socijalnih nemira i promene vlasti. Možda čak i rušenja postojećeg sistema. 

Ili će roboti raditi ono što je nama ljudima čak i dosadno da radimo, a ljudi će živeti od rada robota. Onaj čiji je rad vrednovan čak i u robotskom okruženju će živeti bolje, onda ko nema posla će živeti gore, ali neće baš umreti od gladi.

Više ljudi će stradati (i veća sada strada) zbog raznih suša, poplava, i boleština koje dolaze sa klimatskim promenama, nego zbog toga što roboti bolje rade neke poslove.

Evo, pitao ChatGPT da mi da kombinaciju brojeva za loto. Dao mi dva posledna broja veća od 39. 

Negde sam video simpatičan mim, kao pacijent pita medicinskog robota nakon buđenja, zašto ga je isekao kontra od slepog creva? Ovaj mu odgovara u fazonu: "Svaka čast, zaista imaš oštro oko, u pravu si, hajde da te sada operišemo na pravoj strani", tako nešto. Glupavo je ali i smešno koz ic tru.   

Nije glupavo. Oni koji slepo veruju veštačkoj inteligenciji i raznim chatovim su glupavi.

Ali poenta mema nije da su oni koji veruju glupavi - to se podrazumeva - već u tome kako su četbotovi tj. LLM-ovi proramirani da te, štagod da im kažeš, obaspu pohvalama kao da si novi Tesla. Mene je prošle nedelje ChatGPT hvalio kako sam carina i divan čovek kada iz tri pokušaja nije uspevao da snimi tabelu kao word dokument a ja mu na to ukazivao.


BTW, pomenuti mem:

Možeš da mu kažeš da prestane s pohvalama. Ali malo ko mu to kaže...

Ja sam imao skoro zanimljivu interakciju sa četdžipitijem. Naime, tražim mu ja da mapira poglavlja neke tri knjige prema nekim tematskim jedinicama, u posle malo usmeravanja uradi on to solidno dobro, a onda se sam ponudi da sve to priredi kao sveobuhvatan dokument u .docx formatu. I tu krene nešto što me podsetilo na onu epizodu kad klinci iz South parka odu kod R R Martina da im kaže šta će se desiti kad dođu zmajevi, a on im ništa konkretno ne govori nego samo viče ne brinite, zmajevi dolaze. Krenulo milion i jedno pitanje, tipa saću generišem, i biće to dugačak dokument, al pre toga samo mi još reci da li A ili B. I tako u beskraj. Čak mi tražio da aploudujem prazan .docx dokument da ima gde da stavi tekst (naravno, ništa od toga). Onda kad sam mu reko aj dosta zajebavanja, nema više pitanja, generiši, on kaže OK okačiću ovde u čet link na dokument čim bude gotovo, stej ćund, al ništa.

Mene je zajebao 100x na isto toliko načina, ali je i pomagao, samo je poenta da shvatiš šta može a šta ne može da uradi. E da, i da platiš.

Bukvalno za sve oko čega se slamate imate 500 puta boljih online alata (i to besplatnih) od AI.

Samo kucaš u gugl to što ti treba, npr. "save table as word document" i dodaš još "online" i bar pet specijalizovanih besplatnih sajtova ti izađe za svaki problem.

Vi živite u nekoj tehnološkoj praistoriji i sad očekujete AI da dođe i reši sve vaše probleme za jedan dan.

Pa sad tu ima nekoliko stvari:

Onda moram da idem na dva mesta da završim posao.

Taj drugi deo posla je prilično trivijalan u odnosu na prvi koji je pristojno uradio, i zbog kojeg sam došao.

Sam se ponudio da uradi nešto što mu nisam tražio, i ispalo je da ne može.

Naravno, i u mom slučaju je to bio završni čin posla iz nekoliko koraka koji je podrazumevao i prevod i formatiranje tabele po uzoru na originalnu.

To to, samo nastavite da bičujte!!

Baš te se uprli da revajvujete vajbove Vintage Sagite!!  

https://www.youtube.com/watch?v=kV4UEM45JuI&t=1s

Ovo predstavljaju kao prvi dugometražni AI film, premijera uskoro. Pa da vidimo kako će proći.

Hank Green vodi zanimljiv razgovor s nekim likom koji se zove Nate Soares o budućnosti veštačke inteligencije, i u kolikom smo sosu. Lik je vrlo u toku sa dešavanjima u AI svetu.

ChatGPT isn't Smart. It's something Much Weirder

Video traje 75 minuta.

Negde pri kraju razgovora su se složili. Dot Com je bio mehur, ali internet je stvaran. Analogno tome i AI ima elemente mehura i nečega što će preživeti taj mehur.

Evo jedne zanimljive upotrebe ChatGPT-a koju sam otkrio. Dam da mi oceni rejting glumca ili da poredi dva glumca po različitim kategorijama. Ko volim film i glumu možda mu se svidi. Zanimljivo da ChatGPT na engleskom voli Batu Stojkovića, za talenat mu je dao 10/10.

Nova mala firma Extropic pokušava nešto revolucionarno, praktično da zameni Nvidiu sa novom vrstom čipa koja bi trebalo energetski efikasnije da radi AI.

Making AI Way More Energy Efficient | Extropic CTO

Jezik izlagača je vrlo tehnički, skoro ništa nisam razumeo, ali baš zato što je tehnički više mu verujem nego nekom CEO liku.

Fantano očajava zbg AI muzike i njene "popularnosti"


https://www.youtube.com/watch?v=dYH8jifXeio

Dosta bitan i zanimljiv rad od pre dve godine a koji je danas aktuelniji nego tad     



On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?


Evo i html verzija:


https://dl.acm.org/doi/epdf/10.1145/3442188.3445922

Meho, budi drug i prepričaj u par rečenica za nas lenje i neuke. 

Pa možeš da pročitaš samo zaključak:

Quote8 CONCLUSION
The past few years, ever since processing capacity caught up with
neural models, have been heady times in the world of NLP. Neural
approaches in general, and large, Transformer LMs in particular,
have rapidly overtaken the leaderboards on a wide variety of bench-
marks and once again the adage "there's no data like more data"
seems to be true. It may seem like progress in the field, in fact, de-
pends on the creation of ever larger language models (and research
into how to deploy them to various ends).
In this paper, we have invited readers to take a step back and
ask: Are ever larger LMs inevitable or necessary? What costs are
associated with this research direction and what should we consider
before pursuing it? Do the field of NLP or the public that it serves
in fact need larger LMs? If so, how can we pursue this research
direction while mitigating its associated risks? If not, what do we
need instead?
We have identified a wide variety of costs and risks associated
with the rush for ever larger LMs, including: environmental costs
(borne typically by those not benefiting from the resulting technol-
ogy); financial costs, which in turn erect barriers to entry, limiting
who can contribute to this research area and which languages can
benefit from the most advanced techniques; opportunity cost, as re-
searchers pour effort away from directions requiring less resources;
and the risk of substantial harms, including stereotyping, denigra-
tion, increases in extremist ideology, and wrongful arrest, should
humans encounter seemingly coherent LM output and take it for
the words of some person or organization who has accountability
for what is said.
Thus, we call on NLP researchers to carefully weigh these risks
while pursuing this research direction, consider whether the bene-
fits outweigh the risks, and investigate dual use scenarios utilizing
the many techniques (e.g. those from value sensitive design) that
have been put forth. We hope these considerations encourage NLP
researchers to direct resources and effort into techniques for ap-
proaching NLP tasks that are effective without being endlessly data
hungry. But beyond that, we call on the field to recognize that appli-
cations that aim to believably mimic humans bring risk of extreme
harms. Work on synthetic human behavior is a bright line in ethical
AI development, where downstream effects need to be understood
and modeled in order to block foreseeable harm to society and
different social groups. Thus what is also needed is scholarship on
the benefits, harms, and risks of mimicking humans and thoughtful
design of target tasks grounded in use cases sufficiently concrete
to allow collaborative design with affected communities

The Walt Disney Company and OpenAI reach landmark agreement to bring beloved characters from across Disney's brands to Sora