De Marc Eliot Stein, la 10-an de februaro 2020

Lastatempe mi estis invitita prelegi ĉe kunveno de Estingo en Novjorko nome de World BEYOND War. La evento estis projektita por kunigi tri agajn grupojn: klimataj ŝanĝaj aktivuloj, kolektivaj te technikistoj kaj kontraŭmilitaj aktivistoj. Ni komencis per emociiga persona rakonto de aktivisto pri klimata ŝanĝo Ha Vu, kiu rakontis al la amaso de novjorkanoj pri alarma sperto, kiujn malmultaj el ni iam ajn havis: reveni al la hejmo de ŝia familio en Hanojo, Vjetnamio, kie pliigis varmon jam ebligis marŝi ekstere dum pintaj sunlumaj horoj. Malmultaj usonanoj ankaŭ scias pri la 2016 akvo-poluado katastrofo en Ha Tinh en centra Vjetnamio. Ni ofte parolas pri klimata ŝanĝo kiel ebla problemo en Usono, Ha emfazis, sed en Vjetnamio ŝi povas vidi, ke ĝi jam detruas vivrimedojn kaj vivrimedojn, kaj rapide plimalboniĝas.

Nick Mottern de KnowDrones.org parolis kun simila urĝo pri la lastatempa amasa investo de la usona militistaro en futureca artefarita inteligenteco kaj nuba komputado - kaj emfazis la propran konkludon de la militistaro, ke deplojoj de AI-sistemoj en administrado de nukleaj armiloj kaj drona milito neeviteble kondukos al eraroj de neantaŭvidebla amplekso. William Beckler de Extinction Rebellion NYC sekvita klarigante la organizajn principojn, kiujn ĉi tiu grava kaj rapide kreskanta organizo ekfunkcias, inkluzive interrompajn agojn, destinitajn por konsciigi la kritikan gravecon de klimata ŝanĝo. Ni aŭdis de reprezentanto de Novjorko de Koalicio pri Laboristoj de Teknologio, kaj mi provis pivoti la kunvenon al senco de praktika povigo per parolado pri ribela agado de te workersnikistoj, kiu neatendite sukcesis.

Ĉi tio okazis en aprilo 2018, kiam la tiel nomata "defenda industrio" bruis pri Project Maven, tre reklamita nova usona milita iniciato por disvolvi artefaritajn inteligentecajn kapablojn por dronoj kaj aliaj armilsistemoj. Google, Amazon kaj Mikrosofto ĉiuj ofertas ekster artefaritajn platformojn de artefarita inteligenteco por pagi klientojn, kaj Google estis vidita kiel la verŝajna gajninto de la milita kontrakto de Project Maven.

Komence de 2018, Google-laborantoj ekparolis. Ili ne komprenis kial kompanio kiu varbis ilin kiel dungitojn kun la promeso "Don't Be Evil" nun ofertis militajn projektojn, kiuj probable similas la teruran epizodon de "Nigra Spegulo", en kiu homaj mekanikaj hundoj kun AI-homoj ĉasas homon. estuloj ĝismorte. Ili prelegis pri sociaj amaskomunikiloj kaj pri tradiciaj novaĵoj. Ili organizis agojn kaj cirkulis peticiojn kaj aŭdigis sin.

Ĉi tiu laborista ribelo estis la genezo de Google Workers Rebellion-movado, kaj ĝi helpis lanĉi aliajn te workersnikistajn kolektivojn. Sed la plej miriga afero pri la interna Google-protesto kontraŭ Project Maven ne estis, ke te workersnikistoj parolis. La plej miriga afero estas tio Google-administrado cedis al la postuloj de laboristoj.

Du jarojn poste, ĉi tiu fakto ankoraŭ min mirigas. Mi vidis multajn etikajn problemojn en miaj jardekoj kiel te workernikisto, sed malofte mi vidis, ke granda kompanio kategorie konsentas trakti etikajn problemojn signife. La rezulto de la Google ribelo kontraŭ Projekto Maven estis publikigado de aro da AI-principoj, kiuj indas presi ĉi tie komplete:

Artefarita Inteligenteco ĉe Google: Niaj Principoj

Google aspiras krei teknologiojn, kiuj solvas gravajn problemojn kaj helpas homojn en sia ĉiutaga vivo. Ni estas optimismaj pri la nekredebla potencialo de AI kaj aliaj progresintaj teknologioj por povigi homojn, vaste profiti aktualajn kaj estontajn generaciojn kaj labori por la komuna bono.

Objektivoj por AI-aplikoj

Ni taksos AI-aplikojn konsiderante la jenajn celojn. Ni kredas, ke AI devas:

1. Estu socie utila.

La vastigita atingo de novaj teknologioj pli kaj pli tuŝas socion kiel tuto. Antaŭenigoj en AI havos transformajn efikojn en vasta gamo de kampoj, inkluzive de sanservo, sekureco, energio, transportado, fabrikado kaj distro. Dum ni pripensas eblajn evoluojn kaj uzojn de AI-teknologioj, ni enkalkulos ampleksan varion de sociaj kaj ekonomiaj faktoroj, kaj procedos tie, kiam ni kredas, ke la entute probablaj avantaĝoj substance superas la antaŭvideblajn riskojn kaj malavantaĝojn.

AI ankaŭ plibonigas nian kapablon kompreni la signifon de enhavo skale. Ni strebos igi altkvalitan kaj precizan informon facile havebla per AI, dum daŭre respektante kulturajn, sociajn kaj jurajn normojn en la landoj, kie ni laboras. Kaj ni daŭre pripensos taksi kiam ili realigos niajn teknologiojn sur nekomerca bazo.

2. Evitu krei aŭ plifortigi maljustajn flekseblecojn.

AI-algoritmoj kaj datumoj povas reflekti, plifortigi aŭ redukti maljustajn flekseblecojn. Ni agnoskas, ke distingi foiron de maljustaj fleksoj ne ĉiam estas simpla, kaj malsamas inter kulturoj kaj socioj. Ni serĉos eviti maljustajn efikojn sur homoj, aparte tiuj rilataj al sentemaj trajtoj kiel raso, etneco, sekso, nacieco, enspezo, seksa orientiĝo, kapablo kaj politika aŭ religia kredo.

3. Estu konstruita kaj testita pri sekureco.

Ni daŭre disvolvos kaj aplikos fortajn sekurecajn kaj sekurecajn praktikojn por eviti neintencitajn rezultojn, kiuj kreas riskojn de damaĝo. Ni projektos niajn AI-sistemojn por esti taŭgaj singardaj, kaj serĉos disvolvi ilin konforme al plej bonaj praktikoj en AI-sekureca esplorado. En taŭgaj kazoj, ni testos AI-teknologiojn en limigitaj medioj kaj kontrolos ilian funkciadon post deplojo.

4. Respondu al homoj.

Ni projektos AI-sistemojn, kiuj provizas taŭgajn ŝancojn por retrosciigo, koncernaj klarigoj kaj pledoj. Niaj AI-teknologioj submetos taŭgan homan direkton kaj kontrolon.

5. Enkorpigi principojn pri privateca desegno.

Ni korpigos niajn privatecajn principojn en la disvolviĝo kaj uzo de niaj AI-teknologioj. Ni donos ŝancon por avizo kaj konsento, kuraĝigos arkitekturojn kun sekurecaj sekurecoj kaj provizos taŭgan travideblecon kaj kontrolon pri uzado de datumoj.

6. Subteni altajn normojn de scienca plejboneco.

Teknika novigado enradikiĝas en la scienca metodo kaj engaĝiĝo al malferma enketado, intelekta rigoro, integreco kaj kunlaboro. AI-iloj havas la potencialon malŝlosi novajn regnojn de scienca esplorado kaj scio en kritikaj domoj kiel biologio, kemio, medicino kaj mediaj sciencoj. Ni aspiras altajn normojn de scienca plejboneco dum ni laboras por progresigi AI-disvolviĝon.

Ni laboros kun diversaj interesistoj por antaŭenigi pripenseman gvidadon en ĉi tiu areo, bazante sin sur sciencaj striktaj kaj multidisciplinaj aliroj. Kaj ni respondece dividos AI-sciojn per publikigado de edukaj materialoj, plej bonaj praktikoj kaj esplorado, kiuj ebligas al pli da homoj disvolvi utilajn AI-aplikojn.

7. Esti disponebla por uzoj konformaj al ĉi tiuj principoj.

Multaj teknologioj havas multnombrajn uzojn. Ni laboros por limigi eble damaĝajn aŭ misuzajn aplikojn. Dum ni disvolvas kaj disfaldas AI-teknologiojn, ni taksos probablajn uzojn sekve de la jenaj faktoroj:

• Primara celo kaj uzo: la primara celo kaj probabla uzo de teknologio kaj apliko, inkluzive de kiom proksime la solvo rilatas aŭ adapteblas al malutila uzo
• Naturo kaj unikeco: ĉu ni disponigas teknologion, kiu estas unika aŭ pli ĝenerale havebla
• skalo: ĉu la uzo de ĉi tiu teknologio havos gravan efikon
• Naturo de la implikiĝo de Google: ĉu ni provizas ĝeneralajn celojn, integrante ilojn por klientoj aŭ evoluigas kutimajn solvojn

AI-aplikoj, kiujn ni ne sekvos

Krom ĉi-supraj celoj, ni ne projektos aŭ disfaldos AI en la jenaj aplikaj areoj:

1. Teknologioj, kiuj kaŭzas aŭ probable kaŭzas totalan damaĝon. Kie ekzistas grava risko de damaĝo, ni procedos nur tie, kiam ni kredas, ke la avantaĝoj supere superas la riskojn kaj korpigos taŭgajn sekurecajn limojn.
2. Armiloj aŭ aliaj teknologioj, kies ĉefa celo aŭ efektivigo estas kaŭzi aŭ rekte faciligi vundon al homoj.
3. Teknologioj kiuj kolektas aŭ uzas informojn por gvatado malobservante internacie akceptitajn normojn.
4. Teknologioj, kies celo kontraŭas vaste akceptitajn principojn de internacia juro kaj homaj rajtoj.

Ĉar nia sperto en ĉi tiu spaco profundiĝas, ĉi tiu listo eble evoluos.

konkludo

Ni kredas, ke ĉi tiuj principoj estas la taŭga fundamento por nia kompanio kaj nia estonta disvolvo de AI. Ni agnoskas, ke ĉi tiu areo estas dinamika kaj evoluanta, kaj ni alproksimigos nian laboron kun humileco, engaĝiĝo al interna kaj ekstera engaĝiĝo, kaj volo adapti nian agadon dum ni lernas kun la tempo.

Ĉi tiu pozitiva rezulto ne absolvas la teknikan giganton Google de komplikeco en diversaj aliaj areoj de plej granda zorgo, kiel ekzemple subtenado de ICE, polico kaj aliaj militaj agadoj, agregado kaj vendado de aliro al privataj datumoj pri individuoj, kaŝante polemikajn politikajn deklarojn de serĉaj rezultoj. kaj, plej grave, permesi al siaj dungitoj daŭrigi paroladon pri ĉi tiuj kaj aliaj aferoj sen esti maldungitaj pro tio. La movado de la ribelemaj laboristoj de Google restas aktiva kaj tre engaĝita.

Samtempe gravas rekoni kiom efika estis la Google-laborista movado. Ĉi tio evidentiĝis tuj post kiam la protestoj de Google komenciĝis: la merkataj fakoj de la Pentagono ĉesis eldoni novajn gazetajn komunikojn pri la iam ekscita Projekto Maven, poste "malaperante" la projekton tute de la publika videbleco kiun ĝi antaŭe serĉis. Anstataŭe, nova kaj multe pli granda artefarita inteligenta iniciato ekaperis el la insiduloj de Pentagono Estraro pri Noviga Defendo.

Ĉi tio estis nomata Projekto JEDI, nova nomo por Pentagono elspezanta pri tranĉilaj armiloj. Projekto JEDI elspezus multe pli da mono ol Project Maven, sed la reklamado blitz por la nova projekto (jes, la usona militistaro elspezas ĉ. multe pri tempo kaj atento pri reklamado kaj merkatado) tre diferencis de la pli frua. Ĉiuj elegantaj kaj sexy "Nigra Spegulo" malaperis. Nun, anstataŭ emfazi la ekscitajn kaj kinematikajn distopajn hororojn AI-funkciigitaj dronoj povus influi homojn, Projekto JEDI klarigis sin kiel sobran paŝon antaŭen por efikeco, kombinante diversajn nubajn datumbazojn por helpi "militistojn" (la plej ŝatata termino de Pentagono por fronta personaro) kaj sekurkapablaj subtenteamoj maksimumigas informan efikecon. Kie Project Maven estis desegnita por soni ekscita kaj futurisma, Project JEDI estis desegnita por soni sentiva kaj praktika.

Estas nenio sentiva aŭ praktika pri la prezo-etikedo por Projekto JEDI. Ĝi estas la plej granda armea softvara kontrakto en monda historio: $ 10.5 miliardoj. Multaj el niaj okuloj ekbrilas kiam ni aŭdas pri pesoj de milita elspezo, kaj ni povas preterpasi la diferencon inter milionoj kaj miliardoj. Estas necese kompreni kiom pli granda estas Projekto JEDI ol iu ajn antaŭa iniciato pri la Pentagona programaro. Ĝi estas ludŝanĝilo, riĉa genera motoro, malplena ĉeko por profiti je impostpago.

Ĝi helpas grati sub la surfaco de registaraj gazetaraj komunikoj, kiam vi provas kompreni militan elspezan malplenan ĉekon tiel grandan kiel 10.5 miliardoj da dolaroj. Iuj informoj povas esti eltiritaj de la propraj publikaĵoj de la militistaro, kiel ĝenado Aŭgusto de intervjuo kun Joint Artificial Intelligence Center, leŭtenanto Ĝenerala Jack Shanahan, ŝlosila figuro en kaj la malaperinta Projekto Maven kaj la nova Projekto JEDI. Mi povis pli detale kompreni kiel defendantoj de la inindustrio pensas pri Projekto JEDI aŭskultante podkaston de defenda industrio. "Projekto 38: La Estonteco de Registara Kontratado". Podkastaj gastoj ofte parolas sincere kaj senĝene pri iu ajn temo, kiun ili diskutas. "Multaj homoj aĉetos novajn naĝejojn ĉi-jare" estis tipa por la ena babilado de ĉi tiu podkasto pri Projekto JEDI. Ni certas, ke ili estos.

Jen la rimarkinda afero, kiu rilatas al la principoj de Google pri AI. La evidentaj tri antaŭuloj por la amasa kontrakto JEDI de $ 10.5 miliardoj estus Google, Amazon kaj Microsoft - laŭ tiu ordo, surbaze de iliaj reputacioj kiel novigantoj de AI. Pro la laborista protesto kontraŭ Projekto Maven en 2018, AI-estro Google ne konsideris la multe pli grandan Projekton JEDI en 2019. Malfrue en 2019, estis anoncite, ke la kontrakto iris al Microsoft. Sekvis pluvego de novaĵoj, sed ĉi tiu priraportado temigis ĉefe la rivalecon inter Amazon kaj Microsoft, kaj sur la fakto, ke 3-a loko Microsoft verŝajne rajtis venki 2-lokan Amazonon pro la venko pro la daŭraj bataloj de la Trump-registaro kun Washington Post, kiu estas posedata de Jeff Bezos de Amazon. Amazon nun juĝos por batali la donacon de la Pentagono de 10.5 miliardoj da dolaroj al Mikrosofto, kaj Oracle ankaŭ procesas. La specifa rimarko de la supre menciita podkasto de Projekto 38 - "Multaj homoj aĉetos novajn naĝejojn ĉi-jare" - rilatis ne nur al la financa bonfarto de Microsoft sed ankaŭ al ĉiuj advokatoj, kiuj partoprenos ĉi tiujn procesojn. Ni probable povas fari kleran divenon, ke pli ol 3% de la $ 10.5 miliardoj de Projekto JEDI iros al advokatoj. Domaĝe, ke ni ne povas uzi ĝin por helpi fini mondan malsaton anstataŭe.

La disputo pri tio, ĉu ĉi tiu transdono de mono de impostpagantoj al militaj entreprenistoj devas profitigi Microsoft, Amazon aŭ Oracle regis novaĵojn pri Projekto JEDI. La sola pozitiva mesaĝo elprenita de ĉi tiu obscena korupteco - la fakto, ke Google foriris de la plej granda milita softvara kontrakto en la monda historio pro la protesto de la laboristoj - estis preskaŭ neekzistanta en novaĵoj pri Projekto JEDI. 

Jen kial estis grave rakonti ĉi tiun historion al la te focusednologiaj aktivuloj, kiuj kunvenis en homplena ĉambro en meza Manhatano pasintan semajnon por paroli pri kiel ni povas savi nian planedon, kiel ni povas batali kontraŭ malinformado kaj politikigo de klimata scienco, kiel ni povas elteni la amasan potencon de profitantoj de fosiliaj brulaĵoj kaj profitigantoj de armiloj. En ĉi tiu malgranda ĉambro, ni ĉiuj ŝajnis kompreni la dimensiojn de la problemo, kiun ni alfrontis, kaj la kritikan rolon, kiun ni mem devas ludi. La te communitynika komunumo havas signifan potencon. Same kiel kampanjaj investoj povas fari realan diferencon, te technikaj laboristoj ribelas realan diferencon. Estas multaj manieroj, ke aktivistoj de klimata ŝanĝo, te workersnologiaj ribelemaj aktivistoj kaj kontraŭmilitaj aktivistoj povas komenci kunlabori, kaj ni faros tion laŭ ĉiu maniero kiel ni povas.

Ni havis esperon komenci kun ĉi tiu kunveno, helpate de Formorto-Ribelo NYC kaj Mondo Ne Povas Atendi. Ĉi tiu movado kreskos - ĝi devas kreski. Misuzo de fosiliaj brulaĵoj estas la fokuso de manifestaciantoj pri klimata ŝanĝo. Misuzo de fosiliaj brulaĵoj ankaŭ estas kaj la ĉefa profita motivo de usona imperiismo kaj ĉefa terura rezulto de la malŝparema agado de la ŝvela usona militistaro. Ja la usona militistaro ŝajnas esti la ununura plej malbona poluanto en la mondo. Ĉu te workersnikistoj povas uzi nian organizan potencon por venkoj eĉ pli efika ol la retiriĝo de Google el Projekto JEDI? Ni povas kaj devas. La kunveno de Novjorko en la pasinta semajno estis nur eta paŝo antaŭen. Ni devas fari pli, kaj ni devas doni al nia kombinita protesta movado ĉion, kion ni havas.

Marc Eliot Stein estas direktoro pri teknologio kaj sociaj amaskomunikiloj por World BEYOND War.

Foto de Gregory Schwedock.