谷歌員工對抗美國五角大樓:拒絕為軍方研發(fā)人工智能
摘要: 你能否解釋一下這場活動的緣起,事情是怎么開始的?Google剛簽完Maven項目的合同在內(nèi)部就引起了爭議。事情大概是2017年9月開始的,10月開始加速。到了2018年1月,至少已經(jīng)有12支團隊知道了
你能否解釋一下這場活動的緣起,事情是怎么開始的?
Google剛簽完Maven項目的合同在內(nèi)部就引起了爭議。事情大概是2017年9月開始的,10月開始加速。到了2018年1月,至少已經(jīng)有12支團隊知道了Maven項目的事情。來自公司的云、AI、通信、Google Brain、DeepMind等幾個不同部門的一群Google人強烈反對此事。他們聚在一起試圖通過官方渠道以及向Google Cloud負責(zé)人Diane Greene提出自己的關(guān)切。
但是公司的人力資源和道德合規(guī)團隊對這些關(guān)切不予理睬。Google人幾個月的努力顯然收效甚微。公司開始全力推進項目。于是他們決定換種做法。他們在公司內(nèi)部的社交媒體平臺發(fā)帖,披露了項目的情況并列舉了他們的擔(dān)心。
文章引起了大量回應(yīng)。員工普遍強烈反對Maven項目。Diane Greene被迫接入進來,試圖平息代價的擔(dān)心,她堅稱Maven項目嚴(yán)格用于非攻擊性的目的。但這個理由未能說服大家,其中的許多人在評論中對Diane發(fā)起了直接挑戰(zhàn)。
其他員工這種壓倒性的反響是不是令你們感到吃驚?
絕對的。但在看到這樣的反應(yīng)之后,寫那篇文章的Google人深受鼓舞。他們看到了內(nèi)部有大量的支持。于是他們給Google CEO Sundar Pichai寫了一封公開信,請求他取消Maven的合同,并在內(nèi)部分享出來。
大家反應(yīng)如何?
那天晚上只得到了100份簽名。但次日開始爆發(fā)。不到24小時內(nèi)得到了1000份簽名。
那一天是全員大會舉行的日子。Diane Greene發(fā)布了一份特別公告作為對員工對Maven項目指責(zé)的響應(yīng)。但她顯然沒有準(zhǔn)備好,其回應(yīng)并不能令人信服。
然后在問答環(huán)節(jié)期間,有幾個問題是跟Maven項目有關(guān)的。領(lǐng)導(dǎo)層挨了一記悶棍。這完全是在計劃之外的,我想任何人都沒料到會有如此強烈的員工反應(yīng)。一位女性站起來說了類似這樣的話,“嘿,我離開國防部就是為了不想再碰這樣的東西。除了這場答問以外我們還有什么樣的聲音去解釋為什么這個項目是不行的?”
第一個出來回答的是Google聯(lián)合創(chuàng)始人之一的Sergey Brin。他的話的確也是事實?!白屇銈兲岢鲞@個問題本身就是你們能發(fā)出的聲音。很少有公司會允許你們做這件事?!?/p>
的確,Google的內(nèi)部文化是比其他公司更開放點。質(zhì)疑公司決策是一個既有的傳統(tǒng)。但在每一個聽見他說話的Google人看來這完全是不了解情況的回應(yīng)。
全員大會是不是這場運動的轉(zhuǎn)折點?
這當(dāng)然有幫助。我認為這表明了在這個問題上有很多的支持在繼續(xù)對公司施加壓力。
在那次會議之后,簽名數(shù)量開始激增。光是那一天我們就收集到了500到600份簽名。次日,簽名又增加了1000。公開信就像野火一樣蔓延開來。
運動開始有了自己的生命。從山景城到西雅圖到紐約、蒙特利爾、都柏林、蘇黎世,大家開始在全球各地的辦事處組織自己的活動。
那些都是什么樣的行動?
有很多不同的形式。一個小組開始跟蹤因為反對Maven項目而辭職的員工清單。另一個小組則跟蹤所有有關(guān)Maven項目的媒體報道——主要是因為Gizmodo的Kate Conger的推動,這方面的文章開始增多。還有一個小組讓員工在每次全員大會上提交有關(guān)Maven的問題,然后讓其他員工投贊成票好讓這些問題能被提出。
還有一個小組記錄了Maven項目公司領(lǐng)導(dǎo)層與美國國防部之間召開的啟動會的時間表。有個小組征詢愿意分享的每個人對Maven項目的個人聲明,還有一個建立了支持行動的檔案相片,員工可以用來發(fā)布到公司內(nèi)部的社交媒體上。
一個小組就是為了制造迷因(meme)。Google有一個流行的內(nèi)部meme生成器叫做Memegen。每天這個小組都會利用Memegen來制造有關(guān)Maven項目的迷因并且進行廣泛的分享。這些meme很有趣很暗黑,而且往往直接呼吁領(lǐng)導(dǎo)層。我們知道這些meme產(chǎn)生了巨大影響,因為Google領(lǐng)導(dǎo)層開始用它們作為衡量內(nèi)部關(guān)于該項目討論熱度的指標(biāo)。
這些不同的行動之間有什么協(xié)調(diào)嗎?還是說大部分都是自發(fā)形成的?
大部分都是自發(fā)的,但關(guān)于策略問題一直都有對話進行。我們還有一份關(guān)于誰已經(jīng)簽名的公告清單。在這份清單上,所有不同的行動都會更新,以便鼓勵大家參與到其中。
在Google外面你們也得到了支持。
是的,今年4月,Tech Workers Coalition在Coworker。org上發(fā)起了一項請愿活動,活動得到了其他技術(shù)公司如Amazon、IBM和微軟的員工的簽名支持,他們也呼吁Google1要取消Maven項目,并且呼吁整個業(yè)界拒絕跟五角大樓合作。
然后到了5月,為了對我們反對Maven項目表示支持,International Committee for Robot Arms Control(ICRAC,國際機器人(300024,股吧)軍備控制委員會)發(fā)表了一封由Peter Asaro、Lilly Irani以及Lucy Suchman等學(xué)者撰寫的公開信。這封新得到了一些AI和計算接科學(xué)界的知名學(xué)者的簽名,其中就有Terry Winograd,他可是Larry Page當(dāng)年在斯坦福讀博士時候的導(dǎo)師。
這產(chǎn)生了大規(guī)模的影響,那些學(xué)者給我們帶來了公信力。我們有了真正的專家發(fā)出告警,說“嘿,這個有點更像是在造原子彈而不是開發(fā)Gmail。”我知道那封信給Google AI負責(zé)人,同時也是斯坦福大學(xué)教授以及AI實驗室負責(zé)人的李飛飛造成了很大壓力。
在壓力增加的情況下領(lǐng)導(dǎo)層是如何做出反應(yīng)的?
他們的主要策略是開更多的會議。
在那次全員大會幾周之后,他們決定做點更加激烈的事情。他們宣布要召開3長時長2小時的會議討論Maven項目——分別在美國、歐洲以及亞洲分支機構(gòu)舉行——公司的所有人都要參與。
這個陣仗夠大。我們從來沒見過這種情況:對每一位Google人發(fā)出公開邀請,就最高層做出的一項決定發(fā)表意見。
會議首先把我們分成了若干小組。他們說,“我們希望能傾聽到每個人的觀點——哪怕是那些非主流的觀點?!边@種口吻顯然他們知道自己的觀點才是非主流的一方,但是他們希望能得到一些員工的支持。
但這種情況并沒有出現(xiàn)。根本就沒有發(fā)生!大家都非常焦慮。會議的后半場是問答環(huán)節(jié),任何人都可以提出問題。領(lǐng)導(dǎo)層被窮追猛打。
有一位提問的女性在Google已經(jīng)呆了13年。她說:“我已經(jīng)替你們工作了這么久了。但說實話這是我第一次說我不信任你們。為什么你們不征求我們員工的意見?為什么你們不問問我們是怎么想的?”
領(lǐng)導(dǎo)層對這類批評是如何響應(yīng)的?
他們會說,“道德是很復(fù)雜的。道德是很難的?!彼麄兘?jīng)常會這么講。他們說會制訂一套道德原則來指導(dǎo)跟軍方的合作。他們說:“這是個灰色地帶。我們?nèi)匀辉谠O(shè)法找出道德的界限在哪里——但在此之前我們不能擱置業(yè)務(wù)?!?/p>
他們還試圖將項目的范圍和牽涉的內(nèi)容輕描淡寫。但在我們發(fā)現(xiàn)領(lǐng)導(dǎo)層撒謊之后這套說辭已經(jīng)沒有用了。
他們?nèi)隽耸裁粗e?
一開始他們告訴我們Maven項目是個小合同,純粹用于非攻擊目的。他們說我們不做任何定制的東西。他們說這只是一次性的項目,價值只有900萬美元,而且跟五角大樓沒有任何進一步的合作。
結(jié)果表明這全都是謊言。4月12日,DefenseOne 發(fā)表了一篇文章在公司內(nèi)部掀起了軒然大波。文章援引了跟五角大樓官員的談話,披露Maven項目其實是未來Google與軍方合作的試點項目。而且Maven項目還是Google爭取贏得Joint Enterprise Defense Infrastructure(JEDI,聯(lián)合企業(yè)國防基礎(chǔ)設(shè)施計劃)這個大單的一部分。
JEDI是軍方的下一代云設(shè)施,其計劃是將美軍在全球的力量通過AI整合到一起。這基本上就是天網(wǎng)。而所有的大型云提供商都想贏下這個合同,因為它價值100億美元。
當(dāng)我們發(fā)現(xiàn)Maven項目是JEDI的敲門磚時,大家開始變得極其擔(dān)憂。而隨著媒體對這件事情的關(guān)注度在增加,我們了解到了更多的情況。比方說,Diane Greene曾經(jīng)告訴我們Maven項目的合同只有900萬美元,但內(nèi)部他們預(yù)計會增加到每年2.5億美元。而且他們不僅允許五角大樓訪問開源軟件——他們還打算開發(fā)大規(guī)模的監(jiān)控系統(tǒng)讓軍方在類似Google Earth風(fēng)格的界面上分析人員、車輛以及建筑的實時信息。
這些謊言的被拆穿令我們很受傷,我們喪失了對領(lǐng)導(dǎo)層的信任。
然后到了6月1日,在一場公司會議上,Diane Greene宣布,在當(dāng)前合同到期后Google將不再尋求Maven項目的續(xù)約。這對你們來說是個意外嗎?
這的確是一大驚喜。有時候哪怕用心組織了,在結(jié)果出來之前你也不會知道自己離贏得勝利還有多遠。在此之前一些人開始變得士氣低落。我們的行動已經(jīng)持續(xù)了好幾個月了,但是感覺卻沒有取得太大的進展。然后我們就收獲了這個巨大的讓步。
這是一項歷史性的成就。但是事情還沒完:Maven項目還將持續(xù)到2019年3月。如果Google不打算爭取更多合同的話,那領(lǐng)導(dǎo)層現(xiàn)在就應(yīng)該取消當(dāng)前的這個合同。他們應(yīng)該說這是個錯誤。他們應(yīng)該感謝自己的員工推動他們做了正確的事情才對。
Maven,Google,支持,DianeGreene,道德






