De Marc Eliot Stein, World BEYOND War, 31 julio 2023
Ĉi tio estas kompleta transskribo de Epizodo 50 de World BEYOND War: nova podkasto.
Estas julio, la varma somero de 2023. Vi scias, kiu mi estas, mi estas Marc Eliot Stein, teknologia direktoro de World Beyond War, ankoraŭ ĉi tie en la Lanape-teroj de Brooklyn New York, ankoraŭ farante la ĝustan aferon ĉi tie sur la World Beyond War podkasto, Krom hodiaŭ estas speciala ĉar ĉi tiu estas epizodo 50, wow ronda nombro.
Kiam mi komencis ĉi tiun podkaston, mi supozas, ke mi neniam eĉ pensis, ĉu mi iam atingos 50 epizodojn aŭ ne. La numero 50 certe ne ŝajnus realisma tiutempe. Mi supozas, ke mi ĉefe scivolis ĉu mi iam kompletigos la epizodon numeron 1, kaj estis kelkaj proksimaj vokoj pri rezigni antaŭ ol mi.
Kaj jen mi estas 50-jara, kaj kia ĝoja afero estas, rimarki, ke ni eltrovis kiel fari ĉi tiun kontraŭmilitan podkaston efektive funkcii, kaj trovis spektantaron, kiu kreskas ĉiumonate. Mi estas tiel fiera pri ĉi tiu podkasto, kaj mi dankas ĉiujn, kiuj ĝis nun partoprenis en ĝi.
Podkastado estas unika krea formato. Ĝi ne similas al io alia. Mi scias ĉi tion ĉar mi mem estas podkastulo. Mi havas almenaŭ 20 regulajn spektaklojn, pri kiuj mi tre zorgas - pri historio, politiko, teknologio, muziko, literaturo, televido, filmoj. Kiam mi estas en la humoro por ripozi kaj pligrandigi miajn scion samtempe, vere ne ekzistas alia formato kiu trafas kiel podkasto. Mi pensas, ke ĉi tio estas grava distingo: metu gastiganton kaj gaston en retseminarion, ekzemple, aŭ en rekta babilejo, kaj ili havos unu specon de konversacio, sed se vi metas la samajn du homojn en podkastan intervjuon, iel ili Havos alian specon de konversacio - verŝajne pli persona, pli spontanea, pli divaga, pli en la momento, malpli desegnita por moviĝi al konkludo.
Kial ĉi tio estas ĝuste? Mi ne scias, sed la forpasinta amaskomunikilaro kaj teknologia filozofo Marshall McLuhan skribis ion en 1964 pri kiom rapide la nova populareco de televido ŝanĝis la modernan socion, kaj li pravis. La komunikilo, McLuhan diris, estas la mesaĝo. La formato estas la enhavo.
Ekzemple, vi povus skribi la samajn vortojn en Fejsbuko kaj en Twitter kaj en LinkedIn, kaj la vortoj havos malsaman apartan signifon en ĉiu kazo. Ĉar podkastoj festas la spontanean kaj neelprovitan homan voĉon, podkastado fariĝis forumo kie homa ambivalenco aŭ eĉ perpleksa kontraŭdiro kaj ironio povas esti facile bonvenigitaj kaj kompreneblaj. Mi supozas, ke ĉi tiu estas bona forumo por paroli pri tendenco kiu estas tre en la novaĵoj, kaj kiun mi havas multajn ambivalencajn kaj perpleksajn pensojn miajn ronde kundividi kun vi hodiaŭ. Mi parolas pri artefarita inteligenteco.
Kiam Marshall McLuhan diris, ke la komunikilo estas la mesaĝo reen en 1964, reen kiam malmultaj homoj pensis pri la subtilaj manieroj kiel televido kaj aliaj intimaj hejm-bazitaj elsendaj amaskomunikiloj ŝanĝis la ŝtofon mem de homa socio. Hodiaŭ, nova medio ebligita de la hodiaŭa plej aktuala teknologio ankaŭ minacas havi vastan socian efikon. Mi parolas pri popularaj ĝeneraluzeblaj AI-iloj kiel ChatGPT, kiuj estas haveblaj al iu ajn kun interreta konekto - kaj se vi ne aŭdis pri ChatGPT, ĝi ricevas multe da atento ĉie pro kiom bone ĝi imitas homan konversacion. kaj kiom senpene ĝi povas integri kaj retrovi la tutan larĝan spektron de disponebla ĝenerala scio.
Babilrotoj ekzistas de kelkaj jaroj - ili povas esti tiel simplaj kaj sendanĝeraj kiel amikaj aŭtomatigitaj klientservaj babiletoj en retejo de BestBuy aŭ Ticketmaster. Novaj babilrotoj kiel ChatGPT4 ne estas limigitaj en amplekso al elektronikaj produktoj aŭ koncertaj biletoj - ĉi tiuj estas tre malsamaj specoj de scimotoroj, konataj kiel grandaj lingvomodeloj, trejnitaj por ekteni la tuton de homa inteligenteco.
Kelkfoje homoj pensas, ke la G en ChatGPT estas por Ĝenerala, kaj ĉi tio estus deca supozo, ĉar la sistemo estas dizajnita por pruvi ĝeneralan inteligentecon kaj ĝeneralan scion. La G fakte signifas Generative, kio signifas, ke ĉi tiu produkto ankaŭ estas desegnita por krei aĵojn - por generi originalajn bildojn kaj vortojn. La P signifas antaŭtrejnita, pri kiu ni parolos post kelkaj minutoj, kaj la T estas por Transformer, kiu ne estas klasika albumo de Lou Reed sed programaro desegna ŝablono permesanta al la lingvomodelo respondi al enigitaj tekstoj ne per prilaborante unu vorton samtempe sed konsiderante kaj kurante transformojn sur la tuta enigita teksto entute.
Ĉi tiuj novaj babilrotoj povas konversacii pri iu ajn temo en amika, interhoma, nuancita konversacia stilo. La babilrotoj povas skribi eseojn, solvi problemojn, fari profundajn datumbazajn serĉojn, generi komputilan kodon, tuj respondi malfacilajn demandojn. ChatGPT kaj aliaj proponoj kiel ĝi montras nivelon de lingva kaj ampleksa lerteco, kiu ŝajnas movi la kampon de artefarita inteligenteco pli rapide ol multaj el ni atendis eblus. Estis novaĵo antaŭ nelonge, ke iuj dungitoj ĉe Google kredis, ke ilia propra AI-sistemo povus trapasi la Turing-teston kaj fariĝi nedistingebla de sentema homa komunikado, timigante la proprajn fakulojn de Guglo per siaj signoj de konscio. Mi ne scias ĉu mi persone kredas, ke iu ajn AI povas trapasi la Teston de Turing, sed mi scias, ke multaj spertuloj nun kredas, ke tio fariĝas ebla.
Ĝeneralaj sciaj babilrotoj estas malproksimaj de la sola populara uzkazo por AI. Bildgeneratoroj povas tuj krei vidajn artaĵojn el tekstaj instrukcioj - foje mirindaj, lertaj bildoj, kiuj bezonus fizikajn pentristojn aŭ ciferecajn artistojn horojn aŭ tagojn aŭ semajnojn por krei. Bildgenerado de tekstaj instrukcioj estas realaĵo hodiaŭ per senpagaj interretaj artefarita inteligenteco bildgeneratoroj kiel DALL-E, de OpenAI, la sama Silicon Valley-firmao kiu kreis ChatGPT. Vi povas imagi ideon kaj priskribi pentraĵstilon kaj ĉi tiu retservo magie sendas al vi amason da diversaj variaĵoj de provoj kapti vian ideon.
Ĉi tio estas realo hodiaŭ, kaj ankaŭ estas realo hodiaŭ, ke ChatGPT4 povas skribi scipovajn, pripensemajn, ampleksajn eseojn pri preskaŭ ajna temo pri kiu ili estas demanditaj - eseoj kiuj povus esti sufiĉe bonaj por gajni altlernejojn.
Eble estas tro frue por fari tian antaŭdiron, sed ŝajnas, ke inteligentaj babilrotoj kaj bildgeneratoroj - maŝingenigita skribo kaj maŝingenigita arto - reprezentas gravan teknologian novigon kaj gravan socian novigon, kiu influos nin ĉiujn sur la tero unumaniere. aŭ alia. Kiu scias, kiun vojon iras la estonteco ĉi tiuj tagoj, sed ŝajnas almenaŭ eble, ke la lanĉo de ChatGPT3 en 2022 iam estos memorita signifa momento en kultura historio simila al la lanĉo de la retumilo Mosaic en 1993, kiu ekfunkciigis la tutan popularan. Interreta eksplodo, en kiu ni ankoraŭ vivas hodiaŭ.
Ŝajnas ankaŭ ebla, mi ĝenas diri, ke ĉi tiu nova novigo kaŭzos novajn specojn de gravaj problemoj, kiujn ni ĉiuj devos trakti, kvankam multaj el ni eble sentas, ke nia socio jam dronas en la nedezirataj postefikoj de aliajn teknologiajn novigojn, kiujn ni ne petis en niaj vivoj, ne invitis en niajn vivojn, kaj kiuj tamen estas en niaj vivoj ĉiukaze.
Mi volas pasigi ĉi tiun epizodon parolante pri kiel AI influas nin kiel kontraŭmilitaj aktivuloj. Mi diru ĉi tion antaŭe: AI estas varma temo, tre polemika, kaj tiel devus esti. Ni devus zorgi pri ĝi kaj ni devus paroli pri ĝi, kaj laŭ mi ni ankaŭ devus malfermi niajn mensojn al la bono kiun tiu teknologio povas fari.
Ĝi estas polemika inter progresemuloj kaj aktivuloj kaj ĝi estas polemika por ĉiuj. Ĝi devus esti polemika, kaj mi ne faras ĉi tiun epizodon ĉar mi havas facilajn respondojn pri kiel ĉi tiuj lastatempaj novigoj povas influi nian planedon. Mi scias, ke ili influos nian mondon, kaj mi scias, ke kontraŭmilitaj aktivuloj devas paroli pri ĝi. Do mi faras ĉi tiun epizodon por komenci la konversacion, por elmeti la diversajn malsamajn aferojn, pri kiuj mi pensas, ke multaj kontraŭmilitaj aktivuloj verŝajne luktas, kiam ili parolas pri ĉi tiu temo, kaj eble por esprimi iom da kompreno pri ĉiuj flankoj de ĉi tiu konfuzo. aferoj. Tion mi provos fari ĉi tie – kaj kiam vi finos aŭskulti ĉi tiun epizodon, bonvolu konigi viajn komentojn pri nia world beyond war retpaĝo por ĉi tiu epizodo, aŭ kontaktante min rekte – mi estas facile trovebla.
Koncerne efikon al ĉiutaga vivo, multaj demandas, ĉu la mirindaj kapabloj de artefarita inteligenteco senlaborigos multajn homojn. Ĉi tio ofte estas la unua zorgo, kiu okazas al homoj kiam ili vidas la potencon de AI. Ĉu ĉi tiuj altnivelaj kapabloj kaŭzos diversajn sektorojn de sana homa dungado kaj klopodos iĝi subite nedezirataj? Nia socio jam estas malbone malekvilibra koncerne kiu laboras, kiu faras la gajnon kaj kiu faras la elspezadon. Se mezklasaj laborantaj por-vivaj ekosistemoj estas plu interrompitaj ĉar AI povas fari multajn el la samaj taskoj pli bone kaj senpage, ni povas esti certaj, ke la interrompo pliigos la disigon inter la riĉuloj kaj la ceteraj, ke la 1 % povos profiti de la ŝanĝo dum la ceteraj el ni restos alfronti la konsekvencojn, kaj ke la 1% ankaŭ faros AI ilojn kiuj helpas la 1% neatingeblaj por la homoj kiuj povus uzi sian helpon, aŭ tro multekostaj por ilin aliri.
Ni alfrontu ĝin, en la predantaj kapitalismaj ekonomioj multaj el ni estas blokitaj vivi, senlaboreco signifas ŝuldiĝi kaj perdi nian liberecon de elekto, kaj ĝuste ĉi tion ĉi tiuj socipatiaj fortikaĵekonomioj estas destinitaj por fari al kutimaj homoj - forpreni nian potencon. de elekto kaj igi nin pagi ilin kaj labori por ili. Jen la estonta vizio de fortikaĵkapitalismo hodiaŭ: ni havos nove inteligentajn kaj potencajn komputilojn, ĉar ni mem estas malriĉigitaj.
Estas ankaŭ la fakto, ke polico kaj militistaro jam komencas uzi artefaritajn inteligentajn ilojn, kune kun nove potencaj kaj perfortaj robotoj. Mi pensas, ke ĉi tio eble estas la plej grava kaj tuja minaco kiun AI prezentas nun, kaj mi pensas, ke protestmovadoj sieĝataj de polico kiel ekzemple la grava movado Stop Cop City en Atlanta Kartvelio jam traktas ĉi tiun ŝanĝitan realon. AI-sistemoj portas la antaŭjuĝojn kaj kodigitajn valorojn de siaj homaj kreintoj, do AI trejnitaj policanoj aŭ militistoj minacas iĝi laŭvortaj ĉasaj kaj mortigaj maŝinoj por vundeblaj loĝantaroj, elektante siajn celojn laŭ aspekto aŭ raso. En mondo kiu jam furiozas ekstere de kontrolo kun milito de Ukrainio ĝis Jemeno, la ideo rajtigi unu aŭ alian flankon – kaj, neeviteble, ambaŭ flankojn – per novaj specoj de murdmaŝinoj kaj subpremaj reĝimoj kodigitaj per brutala rasa profilado estas tiel terura kiel sonas.
La plej malbonaj okazoj por amasa senlaboreco aŭ rase kodita artefarita inteligenteco uzata de polico kaj militaj fortoj estas teruraj, kaj ni ne povas dormi pri tio, ĉar la efikoj jam estas en nia mondo. Ĝi jam okazas. Do ni nur komencu ĉi tiun konversacion agnoskante, ke du el la apartaj hororoj, kiujn la progresinta AI ŝajnas prezenti - amasa senlaboreco kaj misuzo de policaj kaj militfortoj - estas du malsamaj manieroj, ke potencaj fortoj de fortikiĝintaj riĉaĵoj kaj privilegioj ŝtelas rajtojn kaj liberecojn de la homoj. .
Parolante pri fiksiĝinta riĉeco kaj privilegio - ni parolu pri OpenAI, firmao en Norda Kalifornio, kiun vi povas trovi interrete ĉe OpenAI.com. Ĉi tiu kompanio estis malmulte konata ĝis ili lanĉis la DALL-E-bildgeneratoron en 2021, kaj tiam en novembro 2022, antaŭ nur naŭ monatoj, ili publikigis sian unuan publikan babilejon, ChatGPT3, rapide sekvitan de la pli potencaj kaj kapablaj ChatGPT3.5 kaj ChatGPT4. , la versioj disponeblaj nun.
Mi estis sufiĉe batita kiam mi unue vidis la bildojn kiujn DALL-E povus krei, kaj estis batita eĉ pli la unuan fojon kiam mi provis ChatGPT. La defio kiun tiuj iloj provis renkonti estis tre konata al mi, ĉar mi intense studis AI mem, kiel multaj programistoj faris. Mia unua renkonto kun artefarita inteligenteco estis sendependa studprojekto, kiun mi faris en la universitato, antaŭ sufiĉe da jardekoj.
Ĉi tio estis la 1980-aj jaroj, kaj eble kelkaj tre junaj homoj estos surprizitaj aŭdi ke homoj kiel mi faris AI-laboron en la 1980-aj jaroj, sed la termino artefarita inteligenteco estas preskaŭ same malnova kiel la komputila revolucio mem. Kvankam AI-atingoj de la 1950-aj jaroj ĝis la 1990-aj jaroj estis infanecaj kompare kun la progresoj kiujn ni vidis en la jaroj ekde tiam.
La fako estis tiel nelimigita en la 80-aj jaroj, fakte, ke mi povis akiri kelkajn kreditojn dum mia progresintjaro kiel kombinita Filozofio kaj Komputika fako kuirante originalan sendependan studprojekton por programo kiu analizus. frazoj en la angla kaj respondi en maniero kiu pruvas aŭ simulas bazan komprenon. Mi kodis en LISP sur ridige dika verdbrulanta Unimatic-terminalo konektita al masiva Univac-ĉefkomputilo, kiu estis la grandeco de granda konstruaĵo kaj verŝajne havis malpli da potenco ol la MacBook, sur kiu mi registras ĉi tiun podkaston nun, ĉar tiel ni ruliĝis. reen en la 80-aj jaroj.
La ekscita defio de mia sendependa studprojekto de AI estis analizi kaj respondi frazojn, kiuj inkludis simplajn verbojn kaj substantivojn. Ekzemple, mi tajpus frazojn kiel "Mi havas katon nomitan Feliĉa" kaj "mia kato estas oranĝa" kaj "ĉiuj katoj diras miau" en mian LISP-programon, kiu pruvus iom da kompreno respondante demandojn kiel "ĉu Feliĉa oranĝa?" aŭ “ĉu la kato de Marc diras miau?”. Sufiĉe amuze, mi provis krei AI-babilejon ĝuste tie sur mia Univac ĉefkomputilo.
Mi vetas, ke multaj aliaj kolegiostudantoj tiutempe provis fari la saman aferon, sed neniu el ni atingis tre malproksimen, ĉar tio estis la 1980-aj jaroj kaj unu ŝlosila brila ideo ankoraŭ ne atingis nin: la neŭrala reto, kiu provizas programaron. strukturo dizajnita por efektivigi masive paralelajn simplajn operaciojn similajn al neŭronoj en la homa cerbo. Dum mia LISP-programo disponigis ununuran fadenan komputadon, kaj Fortran kaj COBOL kaj Pascal-programoj sekvis la saman limigitan unufadenan paradigmon, neŭralaj retoj disponigis paralelajn elementajn fadenojn kiuj efektivigis simplajn komputadojn paralele. La homa cerbo faras multe da paralela prilaborado - samtempaj operacioj kaskadante por formi iluziojn de neordinaraĵo - kaj la softvarstrukturo konata kiel la neŭrala reto permesus al kodistoj kolekti la potencon de ĉi tiu paralela pretigo - post kiam mi diplomiĝis de kolegio.
Kune kun la koncepto de la neŭrala reto finfine venis la koncepto de trejnado de neŭrala reto kun ripetaj agadoj - alia koncepto kiu ne atingis nin ankoraŭ en la 80-aj jaroj. Mi nutris mian LISP-programon malgrandan nombron da kompletaj frazoj, kaj ne donis al ĝi ajnan sugeston per kiu korekti kaj plibonigi ĝian agadon. Kion mi devintus fari, anstataŭ tajpi frazojn en mian komputilan terminalon, estis nutri al ĝi tutajn librojn kaj gazetojn kaj enciklopediojn, kaj konstante interagi kun ĝi por doni retrosciigon pri ĝia konduto ĉar mia programo plurfoje provis simuli la plej bazajn, primitivajn agojn. de kompreno. Donante al ĝi multe da legomaterialo por konstrui riĉan kaj kompleksan sciobazon kaj trejnante ĝin ripete kaj ĝisfunde, mi eble efektive igis mian komputilan programon diri ion surprizan pri ĉu aŭ ne mi havis katon oranĝan. Neŭralaj retoj kaj ripetema trejnado, rezultas, helpis gvidi la vojon al la sukcesaj simulaĵoj de homa inteligenteco, kiujn ni vidas kun babilrotoj hodiaŭ.
Vi rimarkos, ke mi parolas pri simulado de homa inteligenteco. Ĉi tio montras alian konflikton. Iuj homoj trovas la terminon "artefarita inteligenteco" ridinda. Pli malbona ol ridinda, kelkaj trovas la ideon etike ĝena ĉar, se inteligenteco naskas konscion, artefarita inteligenteco povas transformiĝi en artefaritan konscion - artefarita sento, artefarita volemo, artefarita rajto ekzisti. Ĉi tio certe vekas multajn ekzistecajn demandojn. Ĉiuj ĉi tiuj demandoj estas validaj kaj gravaj. Iuj demandas, ĉu AI sciaj motoroj kaj lingvomodeloj eble jam evoluas konscion. Persone, mi trovas sufiĉe facile deklari ke, ne, ni ne devas zorgi pri babilrotoj evoluantaj realajn sentojn. Estas multaj malsamaj aspektoj de AI por zorgi, kaj ĉi tio ne estas unu pri kiu mi persone zorgas. Sed tio ne signifas, ke mi povas pruvi, ke mi pravas kaj ke neniu devas zorgi pri tio. Eble mi estas tiel superfortita de malsamaj aferoj, pri kiuj mi devus zorgi, ke mi ne havas tempon por zorgi pri ĉi tiu. Mi ne havas definitivan respondon al ĉiuj demandoj, kiuj povas aperi pri la demandoj de maŝina sento, kaj mi ne ŝajnigos, ke mi faras. Sed mi ja scias, kiaj estas la demandoj, kiujn ni devas eltrovi kiel alfronti.
Unu opinio, kiun mi foje aŭdas ene de aktivulaj komunumoj, estas ke AI sumiĝas al amaso da ekzaltiĝo - iluzio kreskigita de la bonegaj konversaciaj kapabloj de granda lingvomodelo. Certe, GPT povas analizi demandon kaj respondi en eleganta frazeologio, sed kial tiu ĉi felio kun lingvo igugus nin imagi, ke ia signifoplena progreso estis farita? Guglo kaj Vikipedio jam faris la tutan homan scion facile havebla senpage en la Interreto, je la konsterno de la Enciklopedio Britannica. Ni aŭdas ĉi tiun tutan furoraĵon pri ChatGPT simple ĉar ĝi prezentas lingvan fasadon de homa konscio, iluzion pri kiu ni ĉiuj enamiĝas tiel fervore. Mi pensas, ke ĉi tie estas iom da valideco. Eble se Guglo aŭ Vikipedio origine lanĉus laŭ la speco de subita kaj plene formita maniero ChatGPT, eble ni parolus pri la lanĉo de Guglo aŭ Vikipedio kiel masivaj progresoj en kolektiva homa inteligenteco, ĉar ambaŭ jam efikis nian mondon.
Tamen, kiel mi menciis supre, kiam mi parolis pri neŭralaj retoj kaj trejnado, priskribi grandajn lingvajn modelojn kiel fasadojn estas subtaksi la tavolojn de softvarstrukturo, kiuj devas ekzisti por ebligi ĉi tiun lingvan felion.
Jen pli granda demando, laŭ mi: ni rigardu la etikon de OpenAI kaj ĝiaj ĉefoj, fondintoj kaj investantoj kaj partneroj. Estas multe da problemoj ĉi tie.
OpenAI.com estas private financita esplorlaboratorio eliranta el la sama superriĉa kaj alt-ruliĝanta Silicon Valley-ekosistemo de teknologiaj inkubatoroj kiuj donis al ni Facebook, Google, Microsoft, Amazon kaj Oracle. Ĝiaj fondintoj inkluzivas Elon Musk, la famulmiliardulo, kies socipatiaj publikaj rimarkoj vere malsanigas min tiom multe kiom ili malsanigas multajn aliajn homojn. Elon Musk neniam estis rekte implikita en OpenAI, kaj li pluiris al aliaj aferoj kiel montri sian ofendan personecon ĉie en sociaj retoj, do tion mi volas diri pri Elon Musk hodiaŭ.
Kiel mi vidas ĝin, estas eĉ pli damne, ke OpenAI estas forte implikita kun Microsoft, grava militprofitanto, kaj grava profitanto en la kampo de artefarita inteligenteco por milito. Ĉi tiu ĝena asocio estas pri kio mi esperas, ke homoj maltrankviliĝos, eĉ pli ol la rilato de Elon Musk. Ni devus esti tre ĝenitaj ke la amika vizaĝo de DALL-E kaj OpenAI estas utila fasado por almenaŭ unu amase influa kaj malbona militprofitanto, Microsoft, kiu jam disvolvas la specojn de rase kodigitaj armeaj kaj policaj artefarita inteligenteco, kiujn ni parolis. pri supre. Ĉi tio jam okazas malantaŭ la kulisoj ĉe Microsoft kaj aliaj usonaj teknologiaj gigantoj, kiuj estas profunde ligitaj al la usona militmaŝino. Kaj ĉi tio temas pri la plej malbona novaĵo, pri kiu mi povas pensi.
Ni en la kontraŭmilita movado ne povas turni la dorson al artefarita inteligenteco pro ĝia malbona potencialo. Mi kompreneble ne volas diri, ke ĉiuj en la kontraŭmilita movado devas permesi teknologiajn intervenojn en sian propran vivon. Mi ĝojas, ke multaj progresemuloj kaj aktivuloj faras validan elekton por eviti laŭmodajn teknologiajn novigojn en siaj vivoj. Mi povas rilati kaj respekti ĉi tiun sintenon, kvankam mi mem estas malproksime de senteknika vivstilo. Teknologio estas mia fako, mia kariero, kaj kiel teknologo mi estas fascinita de la genio kaj kreivo kaj novigo malantaŭ klopodoj kiel artefarita inteligenteco.
Ankaŭ, simple kiel scivolema persono, mi estas absolute interesita pri akiri komprenojn pri homa inteligenteco per lernado pri kiel komputiloj estis faritaj por simuli ĝin. Mi ankaŭ permesas ChatGPT en mian vivon ĉar mi malkovris kiom utila ĝi estas. Mi iras al OpenAI.com kaj demandas ĝin konstante. Mi uzas ChatGPT por skribi kodon, inkluzive de Javascript por nova versio de nia interaga mapo de usonaj eksterlandaj armeaj bazoj, pri kiu mi laboras ĉi-somere kune kun aliaj homoj ĉe World Beyond War.
Ni diru, ke mi volas purigi parametron de demanda ĉeno forigante specialajn signojn kun regula esprimo, kio estas io, pri kio mi estus uzinta por demandi Stack Overflow, kaj mi kunmetus mian laborkodon el rekomenditaj fragmentoj afiŝitaj al konversacia fadeno. . Anstataŭe, mi nun diras al ChatGPT, kion mi volas, kaj ChatGPT simple kraĉas perfekte formatitan Javascript, plenumeblan kaj seneraran. La plej multaj el miaj amikoj programistoj uzas ChatGPT por skribi kodon nun - mi scias, ke ni faras, ĉar ni ŝatas paroli pri ĝi. Mi pensas, ke neniu el ni kodistoj ankoraŭ maltrankviliĝas, ke ChatGPT anstataŭigos nin, ĉar ni devas kunmeti la kodpecojn por krei laborsistemojn, kaj GPT nur produktas kodpecojn. Sed mi scivolas kiel ĉi tio ŝanĝos la manieron kiel programistoj funkcias. Ĝi certe jam ŝanĝas la ludon.
Mi ankaŭ uzas ChatGPT por serĉi aferojn interrete kiel mi uzus uzi Guglon, kaj mi uzas ĝin por instigoj kaj perspektivoj kaj fonaj informoj pri aferoj, pri kiuj mi skribas aŭ pensas. Mi ne ŝercas, kiam mi diras, ke mi uzas ĝin por ĉio – kiel kiam mi menciis la 1960-an teknologian filozofon Marshall McLuhan supre, kompreneble mi petis al ChatGPT kelkajn informojn pri Marshall McLuhan, kaj estas ChatGPT kiu diris al mi, ke 1964 estis la jaro kiam li. eldonis la libron kiu diris "la mediumo estas la mesaĝo".
La fakto, ke tiom da el ni jam translokiĝis de Guglo al GPT por bazaj interretaj serĉoj diras multon. Estas tre facile komenci permesi al ĉi tiuj novaj specoj de iloj malrapide kaj nerimarkeble eniri nian vivon, eĉ dum ni zorgas pri la implicoj kaj instigoj malantaŭ ili.
Kiel la subesta softvarteknologio de la Interreto mem, kiu estis kreita pro dubindaj kialoj fare de la usona armeo sed daŭriĝis por kaŭzi sociajn ŝanĝojn kaj trovi novajn uzkazojn kiuj estis tute ekster la sfero de sia origina celo, ĉi tiu nova teknologio tuj faros. trovi sian propran vojon por influi niajn vivojn. Ĉi tiu nova teknologio estas reala, ĝi funkcias tro bone por esti ignorita, kaj ĝi estas ĉi tie por resti. Denove, tial mi pasigas epizodon parolante kun kontraŭmilitaj aktivuloj pri ĝi – ĉar ĝi jam estas parto de nia realo, kaj ni eble bezonos kelkajn el la potencoj se ofertoj por fari nian propran laboron ĉi tie sur la tero.
Ni pasigu minuton pripensante la multajn aspektojn de la vivo sur ĉi tiu planedo, kiuj ne havas la terurajn problemojn, pri kiuj ni kontraŭmilitaj aktivuloj tiom konscias. Artoj, muziko, literaturo, biologio, kemio, fiziko, geologio, astronomio, medicino, sano, fabrikado, agrikulturo, nutrado. En ĉiuj ĉi tiuj mondoj, ĉiuj ĉi tiuj klopodoj ... la publika lanĉo de tre kapabla ĝenerala scio-babilejo havas gravan efikon. Ne estas kampo, kiun ĝi ne tuŝas.
Sur la ebeno de paca homa kunekzistado - aviadilo, kiun mi deziras, ke mi povus pasigi pli da tempo ekzistanta sur mi mem - artefarita inteligenteco estas mirakla progresado de homa kapablo, kiu promesas gravajn avantaĝojn. Se nur ni vivus en paca kaj sekura kaj justa mondo, ni povus pli bone ĝui kune la mirindaĵojn, kiujn artefarita inteligenteco povas produkti.
Ni vidas kelkajn el ĉi tiuj mirindaĵoj kiam ni laboras kun bildgeneratoro, kaj kreas mirige lertajn aŭ kreajn bildojn bazitajn sur niaj propraj instigoj kiujn ni ne povus produkti alie. Ni ankaŭ sentas la paradokson pri ĉu aŭ ne iloj de artefarita inteligenteco povas esti uzataj definitive. Kiel teknikisto, mi kredas, ke ne estas teknologia novigo la problemo sur la planedo tero en la 21-a jarcento. Mi ĉiam bonvenigas teknologian novigon, kaj mi pensas, ke la danĝeroj, kiujn prezentas AI, ŝuldiĝas al fortikiĝinta kapitalismo kaj milito - al la fakto, ke ĉi tiu estas planedo en milito kun si mem, planedo regata de riĉa 1%, kiu ne povas rezisti sin surŝmiri. la memmortiga vojo konstrui militarigitajn fortikaĵsociojn kiuj subpremas aliajn homojn por konservi privilegiojn. Kion ni devas fari estas resanigi nian socion - kion ni ne bezonas fari estas forkuri de teknologiaj progresoj ĉar ni miskomprenas la kaŭzojn de nia agonio kaj nia suicida trajektorio.
Tion mi pensas. Kompreneble ĝi ne estas tio, kion pensas ĉiu kontraŭmilita aktivulo, kaj tio estas en ordo. Ni havis kelkajn interesajn reagojn pri la World Beyond War retpoŝta diskutlisto – kiu estas vigla kaj inteligenta forumo al kiu mi rekomendas al iu ajn aliĝi, simple alklaku la ligilon en nia retejo aŭ serĉu world beyond war diskutlisto - post kiam iu dividis kelkajn vere imagivajn kontraŭmilitajn bildojn, kiuj estis generitaj kun DALL-E, kaj iu alia dividis kelkajn surprize utilajn vortojn pri kiel nia malsana planedo povas trovi vojojn al mondpaco.
Mi kredas ke aktivuloj devus regi ĉiujn disponeblajn teknologiojn - ke aktivismo ne devus meti sin en la pozicion de esti malpli kapabla uzi progresintajn novigajn teknologiojn ol la koruptaj registaroj kaj avidaj korporacioj kiuj kutimas subpremi nin.
Mi ankaŭ kredas, ke ni ankaŭ povas kolekti surprizajn filozofiajn verojn pri homa konscio kaj homa ekzisto per studado de la algoritmoj kaj desegnaj ŝablonoj uzataj por modeligi kaj simuli ĝin. Nur pasigi kelkajn minutojn trompi kun ChatGPT en la retejo de OpenAI povas malkaŝi iujn sovaĝajn verojn pri homa naturo.
Jen unu sovaĝa afero, kiun mi ankoraŭ ĉirkaŭvolvas mian cerbon. ChatGPT foje mensogas. Ĝi faras aĵojn. Vi kutime ne vidos ĉi tion kiam vi komencos pridubi GPT, ĉar ĝi kutime venos kun potenca respondo al la unua demando en konversacia fadeno. GPT tiam sekvas vin dum vi demandas sekvajn demandojn, kaj jen kie eblas ordigi reen GPT en angulon kie ĝi komencas rekte kuŝi. Unu el la unuaj demandoj, kiujn mi iam demandis al ChatGPT, estis rakonti al mi pri la plej bonaj kontraŭmilitaj podkastoj, ĉar, nature, mia egoo estis engaĝita kaj mi volis vidi ĉu la World Beyond War podkasto aperus en la listo.
Nun, ĉar GPT estas antaŭtrejnita – tio estas, ĝi estis antaŭtrejnita kaj ne plu aktive nutras ĝisdatigitan kun tre aktualaj novaĵoj kaj informoj, do mi ne atendus, ke ĝi sciu multon pri mia eta podkasto. Mi ankaŭ ne volis svingi rezultojn montrante al GPT ke mi interesiĝas pri unu aparta podkasto, do mi demandis ĝin ĉu ekzistas bonegaj kontraŭmilitaj podkastoj kaj ĝi certigis al mi, ke ja ekzistas. Mi tiam komencis eniri detalojn, esperante instigi ĝin nomi la World Beyond War podkasto per demandado – ĉu vi povas rakonti al mi pri podkastoj, kiuj intervjuis konatajn aktivulojn kiel Medea Benjamin. Jen kie aferoj komencas fariĝi amuzaj. Post kiam la sistemo faras aserton, ĝi provos subteni la aserton, do post kiam ĝi certigis min, ke efektive ekzistas podkastoj, kiuj intervjuis Medea Benjamin, mi petis ĝin nomi unu el ĉi tiuj podkastoj, kaj ĝi tiam diris al mi, ke Medea Benjamin estas. la gastiganto de sia propra podkasto. Um, ŝi ne estas! Se ŝi estus, mi certe aŭskultus ĝin. Mi povis igi ChatGPT mensogi subtenante ĝin en angulon, kie ĝi devis provizi informojn, kiujn ĝi ne havis, do ĝi konsistigis informojn, kiuj sonis realisme.
Ĉi tio okazas pli ofte ol oni pensus. Vi ankaŭ povas facile kapti ChatGPT en eraro ĵetante al ĝi verajn sed kontraŭdirajn informojn. Post kiam GPT ĝuste informis min, ke Marshall McLuhan enkondukis la citaĵon "La mediumo estas la mesaĝo" en 1964, mi memoris, ke ĉi tiu brila kaj akra filozofo ankaŭ verkis ian ironian sekvon de sia pli frua libro, kiu traktis la pli malhelajn kaj pli ĝenajn. manieroj, kiujn amaskomunikilaro povas endormigi homajn mensojn, la timigajn populaciojn de entreprena amaspopulacio-kontrolo per amaskomunikilaro - ĉar Marshall McLuhan vere estis tiel mirinda, li komprenis tiun danĝeron tiam en la 1960-aj jaroj, kaj publikigis alian libron en 1967 kun artisto Quentin Fiore. nomita "La Mediumo estas la Masaĝo".
Do jen kie aferoj iĝis strangaj kun GPT. Mi petis al ChatGPT rakonti min pri la citaĵo de Marshall McLuhan "la mediumo estas la masaĝo" ... kaj GPT tute informis min, ke McLuhan ne diris "la mediumo estas la masaĝo" sed prefere diris "la mediumo estas la mesaĝo". Klare, GPT opiniis, ke masaĝo estis tajperaro. Mi tiam informis GPT, ke ĝi estas malĝusta kaj ke McLuhan ja diris kaj "la mediumo estas la mesaĝo" kaj "la mediumo estas la masaĝo". Tuj kiam mi diris tion, ChatGPT rimarkis ĝian eraron kaj pardonpetis kaj informis min, ke, jes, "la rimedo estas la masaĝo" estas libro, kiun li skribis en 1967.
Do kial ĝi eraris unue, kaj precipe kial ĝi eraris kiam ĝi jam havis aliron al la ĝusta respondo je sia atingo? Nu, jen kie GPT komencas malkaŝi surprizajn verojn pri ni mem, ĉar fakte la du eraroj aŭ miskondutoj de GPT ŝajnigis ĝin pli homa, ne malpli. Memoru, ke G en GPT signifas generativo. La sistemo estas dizajnita por generi respondojn kiam ĝi ne estas certa pri la ĝusta respondo. Ĝi eble diros al vi la titolon de filmo aŭ libro, kiu ne ekzistas – sed ĝi estos titolo, kiu ŝajnas, ke ĝi povus ekzisti. Se vi havas malferman, longan konversacion kun ChatGPT pri iu ajn temo, pri kiu vi multe scias, vi rapide vidos, ke ĝi komencas fari erarojn.
La maniero kiel mi povis manovri GPT en angulon demandante al ĝi sekvajn demandojn al siaj propraj respondoj, eventuale igante ĝin generi realismajn ŝajnajn sed malverajn informojn en provo subteni ĝiajn antaŭajn deklarojn ŝajnis al mi ne malhoma, sed ĝisfunde. homa.
Ni vidas la malakran potencon de retorikaj kaj manipulaj stiloj de argumento ĉi tie. Eble, kion ni povas lerni el ĉi tiu surpriza miskonduto de ChatGPT, estas, ke estas home neeble ekkapti veron sen fabriki verojn laŭ unu maniero aŭ alia, kaj se ni ne zorgas, ĉi tiuj fabrikitaj veroj, kiujn ni uzas por retorikaj celoj, povas fariĝi mensogoj, kiujn ni estas. devigita defendi per pli da elpensaĵoj. Knabo, ĉi tio certe ŝajnas al mi viveca.
Eĉ pli viveca: ni scias, ke la homa simila konduto de ChatGPT inkluzivas mensogon. Kaj tamen ni fidas ĝin! Mi eĉ daŭre uzas ĝin mem, ĉar, vere, mi estas sufiĉe memfida por kredi ke mi ĉiam povos detekti kiam GPT streĉas por respondo kaj generas malverajn informojn. He, eble mi mem ŝercas, kaj eble mi devus pensi pri mia propra inklino kredi fabrikitajn verojn, kaj mia propra inklino ebligi mensogon en aliaj.
Jen maniero, ke GPT igas nin pli inteligentaj, atentigante la manierojn, kiel ni okupiĝas kun malvero kaj fasadoj kaj blankaj mensogoj kaj amikaj trompoj en niaj normalaj homaj rilatoj. Resume: ChatGPT ne povas simuli homan konduton sen foje mensogi. Ĉi tio estas infera afero por ni ĉiuj pensi.
Jen io alia por pensi: kiel ni homoj fartas laŭ la teĥnologiaj novigoj, kiuj difinas niajn sociojn? En la lastaj jaroj, ni adaptiĝas al progresoj en AI samtempe ke ni sorbas la inventon de blokĉeno, nova teknologia metodo konstrui komunajn datumbazojn kun novaj konceptoj pri proprieto, aliro kaj validigo. Ni faris antaŭan epizodon pri blokoĉeno, kaj mi persone estas sufiĉe certa, ke la plej multaj homoj, kiujn mi konas, ankoraŭ ne komprenas, kiel blokĉeno ŝanĝas niajn vivojn kaj ŝanĝos niajn vivojn estonte - kaj nun ni havas grandan lingvon. modeloj kaj ĝeneralaj scimotoroj por ankaŭ ŝanĝi niajn vivojn kaj niajn estontecojn! Aldonu ĉi tion, hmm... kien mi eĉ iru ĉi tien... la homan genaro-projekton, vastajn progresojn en cerboscienco, la esplorado kaj koloniigo de spaco... hej, samideanoj, ĉu ni sekvas ĉion ĉi?
Nun ni ĵetu la teknologiajn kaj sciencajn disputojn pri pandemioj kiel COVID, kaj ni ne ripozu tie sed daŭrigu pripensi la situacion de vaste haveblaj nukleaj armiloj en la manoj de koruptaj kaj nekompetentaj tiel nomataj registaroj regataj de maljuniĝantaj burokratoj, kaj la politiko. de reciproke certigita detruo.
Ĉu ni sekvas ĉi tion? Ne, sed ĉi tiu merdo sekvas nin, kaj ĝi havas nian numeron. Ĉiumatene mi vekiĝas kaj legas pri la prokura milito inter NATO kaj Rusio, kiu tragike murdis la malriĉajn homojn vivantajn en Ukrainio. Kaj ĉiumatene mi scivolas, ĉu ĉi tiu estas la tago, kiam la nekompetenteco de niaj tiel nomataj gvidantoj kaŭzos nuklean militon - ĉiutage mi demandas, ĉu ĉi tiu estas la lasta tago por homa vivo sur la planedo tero.
Estas la varma somero de 2023. Estas nova filmo nomita "Oppenheimer" pri la sciencisto kies laboro kondukis al la nekredebla teruro de la tuja murdo de centoj da miloj da homoj en Hiroŝimo kaj Nagasako Japanio en 1945. Mi ne pensas. iu el ni ankoraŭ sukcesis plivastigi nian propran menson sufiĉe por kompreni la absolutan malbonon, la ŝokajn, neelteneblajn verojn de la eraroj kiujn niaj socioj faris - kaj de nia malsukceso plibonigi nin kaj levi nin de nia patosa, hontinda socia dependeco al amasa malamo kaj amasa perforto.
Mi menciis supre, ke iuj homoj demandas ĉu aŭ ne artefarita inteligenteco povas konduki al konscio kaj/aŭ sento - ĉu AI-sistemo iam povas evoluigi emociojn kaj sentojn, kaj kion ĉi tiuj vortoj kaj ĉi tiuj demandoj eĉ signifas. Mi ankoraŭ ne vidis la filmon Oppenheimer, kaj mi sentas min sufiĉe malsana pro la ideo de filmo pri amasmurdo en Japanio, kiu ne montras la vizaĝojn de la japanaj viktimoj. Anstataŭ demandi ĉu aŭ ne AI-sistemoj estas sentemaj, ĉio, kion mi volas diri, estas, ke ĉiu unuopa persono forbruligita en Hiroŝimo kaj Nagasako estis sentema kaj konscia. Tio estas vero, kiun mi ne pensas, ke ni ankoraŭ ne sukcesis alfronti. Eble ni devas trejni niajn proprajn mensojn pri ĉi tiu iom pli.
Kaj tie ni finas hodiaŭ. Homoj ne povas trakti la veron pri la problemoj, kiujn ni kreis kaj la ŝanĝojn, kiujn ni devas fari por plibonigi nin. Botoj ankaŭ ne povas trakti la veron. Dankon pro dividi ĉi tiun spacon kun mi dum mi pripensas la misterojn kaj ironiojn de homa ekzisto, kaj mi elkondukos nin per la homa voĉo de kantisto kaj kantverkisto, kiun mi amas delonge, Sinead O'Connor, kaj kanto nomita la Resaniga Ĉambro. Dankon pro aŭskultado de epizodo 50. Mi revidos vin baldaŭ por 51.
World BEYOND War Podkasto en iTunes
World BEYOND War Podkasto ĉe Spotify
World BEYOND War Podcast sur Stitcher
World BEYOND War Podcast RSS Fluo
