2015年2月，谷歌公司發(fā)布了其原本內(nèi)部使用的人工智能算法 TensorFlow工具——此舉徹底改變了世界各地人工智能的研究與開(kāi)發(fā)基調(diào)。借用谷歌公司首席執(zhí)行官的說(shuō)法，這意味著全球開(kāi)發(fā)者將免費(fèi)以開(kāi)放、易用的方式利用 TensorFlow 工具進(jìn)行創(chuàng)造。人工智能技術(shù)將由學(xué)術(shù)領(lǐng)域正式入駐用戶(hù)個(gè)人筆記本電腦。

關(guān)于 TensorFlow

  TensorFlow™ 是一個(gè)采用數(shù)據(jù)流圖（data flow graphs），用于數(shù)值計(jì)算的開(kāi)源軟件庫(kù)。節(jié)點(diǎn)（Nodes）在圖中表示數(shù)學(xué)操作，圖中的線（edges）則表示在節(jié)點(diǎn)間相互聯(lián)系的多維數(shù)據(jù)數(shù)組，即張量（tensor）。它靈活的架構(gòu)讓你可以在多種平臺(tái)上展開(kāi)計(jì)算，例如臺(tái)式計(jì)算機(jī)中的一個(gè)或多個(gè)CPU（或GPU），服務(wù)器，移動(dòng)設(shè)備等等。TensorFlow 最初由Google大腦小組（隸屬于Google機(jī)器智能研究機(jī)構(gòu)）的研究員和工程師們開(kāi)發(fā)出來(lái)，用于機(jī)器學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)方面的研究，但這個(gè)系統(tǒng)的通用性使其也可廣泛用于其他計(jì)算領(lǐng)域。

TensorFlow工具野蠻生長(zhǎng)

  然而，TensorFlow 的“普及”的力量強(qiáng)大到徹底超出谷歌公司的控制范圍。TensorFlow 工具公開(kāi)發(fā)布以來(lái)，僅僅兩年多時(shí)間，盡管仍然由學(xué)術(shù)界與硅谷主導(dǎo)著軟件領(lǐng)域的發(fā)展方向，但這種力量平衡正在發(fā)生變化，其中的催化劑正是 deepfakes——某匿名的 Reddit 用戶(hù)。

你看的片兒都是誰(shuí)的臉？

  deepfakes 利用 AI 軟件成功實(shí)現(xiàn)了將任意面部圖像以幾乎無(wú)縫化方式自動(dòng)拼接至視頻當(dāng)中。deepfakes 利用深度學(xué)習(xí)技術(shù)能夠把任何人的面孔（例如電影明星）放在色情女演員身上。

  deepfakes 被披露后又建立了自己的 subreddit，并迅速積累了超過(guò)9.1萬(wàn)用戶(hù)。另一位名為 deepfakeapp 的 Reddit 用戶(hù)則發(fā)布了一款名為 FakeApp 的工具，其允許任何人下載 AI 軟件并在正確的硬件上自行使用。截至目前，Reddit 已經(jīng)禁用了該子社區(qū)，并表示其中違反了網(wǎng)站提出了強(qiáng)制性色情控制政策。

  FPC廠根據(jù) FakeApp 發(fā)布的用戶(hù)指南，該軟件以 TensorFlow 為基礎(chǔ)。谷歌公司的員工利用 TensorFlow 也打造出過(guò)類(lèi)似的解決方案，只是設(shè)置與主題略有不同，谷歌用于從零開(kāi)始訓(xùn)練算法生成圖像。此外，用戶(hù)還可以利用其發(fā)揮更為自由的想象空間，例如將尼古拉斯·凱奇放在一大堆其它電影當(dāng)中。有91000人訂閱了deepfakes的子社區(qū)，單純只是為了過(guò)把眼癮。

AI 技術(shù)的負(fù)面領(lǐng)域應(yīng)用

  雖然 TensorFlow 屬于開(kāi)源項(xiàng)目，但正如潛在的癌癥檢測(cè)算法一樣，F(xiàn)akeApp 代表著開(kāi)源領(lǐng)域的黑暗面。谷歌（以及微軟、Amazon乃至Facebook）放棄了對(duì)這股巨大技術(shù)力量的控制權(quán)，且承諾不對(duì)相關(guān)使用行為作出任何約束。任何人都能夠下載 TensorFlow 這個(gè)AI 軟件，并利用其制作自己的作品。

偽造政治演講

  這意味著從偽造政治演講（配合現(xiàn)有聲音模擬AI）到生成報(bào)復(fù)性偽造色情內(nèi)容，人工智能正以人們難以預(yù)見(jiàn)的方式發(fā)揮著極為嚴(yán)重的負(fù)面作用。

  由于軟件能夠在本地計(jì)算機(jī)上運(yùn)行，因此大型科技公司只能對(duì)這種遠(yuǎn)離中央服務(wù)器的使用行為熟視無(wú)睹。“開(kāi)源代碼”決定了企業(yè)將無(wú)法干涉人們的具體使用方法。AI 由創(chuàng)造性工具轉(zhuǎn)化為潛在的傷害性武器。

  而且各大企業(yè)也沒(méi)有動(dòng)機(jī)對(duì)此作出改變：自由軟件對(duì)其來(lái)講是種好事，因?yàn)槠湓试S更多人參與到 AI 開(kāi)發(fā)工作中來(lái)。目前每一家大型科技企業(yè)都在盡可能多地網(wǎng)羅 AI 人才，而涌入這一領(lǐng)域的人員自然越多越好。此外，更多人員的加入還能夠帶來(lái)更多新產(chǎn)品代碼以供項(xiàng)目開(kāi)發(fā)，而企業(yè)之外的人員可以人中尋找并修復(fù)錯(cuò)誤，學(xué)生則能夠在本科與博士課程當(dāng)中利用該軟件進(jìn)行教學(xué)，此外其還將幫助剛剛加入公司的新人們快速上手開(kāi)發(fā)工作。

機(jī)器學(xué)習(xí)“開(kāi)放”是必然趨勢(shì)

  AT&T 公司先進(jìn)技術(shù)副總裁、前機(jī)器學(xué)習(xí)研究員馬辛·吉爾伯特表示，“過(guò)去五年當(dāng)中，機(jī)器學(xué)習(xí)領(lǐng)域確實(shí)出現(xiàn)了重大突破，但真正的重大突破并不在于算法，其在本質(zhì)上與上世紀(jì)七十、八十乃至九十年代的算法并無(wú)區(qū)別。真正的突破在于開(kāi)源浪潮的普及。開(kāi)源降低了準(zhǔn)入門(mén)檻，使得相關(guān)技術(shù)不再是擁有雄厚財(cái)力的IBM、谷歌以及Facebook們的專(zhuān)有物。”

  當(dāng)然，開(kāi)源軟件也使AI開(kāi)發(fā)當(dāng)中的道德問(wèn)題變得更為復(fù)雜。谷歌公司目前提供的工具并不能創(chuàng)造出天網(wǎng)或者其它超級(jí)智能成果，但其仍然有可能造成實(shí)際存在的危害。谷歌與微軟等也在持續(xù)發(fā)布開(kāi)源人工智能框架，并表示人工智能在倫理層面不會(huì)造成危害的聲明。企業(yè)內(nèi)的在職科學(xué)家們已經(jīng)簽署了協(xié)議，并成立了專(zhuān)門(mén)研究這一主題的研究小組。然而，這些企業(yè)不會(huì)為下載其自由軟件的用戶(hù)提供任何指導(dǎo)或者授權(quán)。TensorFlow網(wǎng)站上展示了軟件的運(yùn)行說(shuō)明，但卻沒(méi)有提供任何與道德倫理相關(guān)、或者要求用戶(hù)確保數(shù)據(jù)集不存在偏見(jiàn)的免責(zé)聲明。

  幾個(gè)月前，在采訪微軟公司人工智能副總裁哈利·沙姆時(shí)，他表示目前還不太清楚該公司要如何引導(dǎo)那些使用開(kāi)源軟件與付費(fèi)開(kāi)發(fā)者工具的用戶(hù)創(chuàng)建出符合道德標(biāo)準(zhǔn)的機(jī)器學(xué)習(xí)系統(tǒng)。他表示，“這真的非常困難，我認(rèn)為目前還不存在簡(jiǎn)單的解決方案。我們正逐漸意識(shí)到，在設(shè)計(jì)機(jī)器學(xué)習(xí)算法的過(guò)程中，我們需要努力找到其中的盲區(qū)。”

“自我封閉”不是AI濫用的解決之道

  谷歌公司并沒(méi)有就類(lèi)似的問(wèn)題作出回應(yīng)。

  將 AI 軟件移出開(kāi)源陣營(yíng)同樣不是個(gè)理想的解決辦法。如果選擇自我封閉，那將很難了解這些科技企業(yè)如何開(kāi)發(fā)自己的人工智能算法。目前的研究成果在 ArXiv 等網(wǎng)站上免費(fèi)發(fā)布，原始代碼則在 GitHub 上直接共享，這意味著記者、學(xué)者乃至倫理學(xué)家都能夠?qū)ふ移渲械臐撛谌毕莶⒁髮?duì)方作出調(diào)整。此外，也有很多人正在利用這些AI工具包進(jìn)行生產(chǎn)性應(yīng)用——例如在應(yīng)用程序當(dāng)中實(shí)現(xiàn)標(biāo)準(zhǔn)圖像識(shí)別等。

  即將大量出現(xiàn)的其它偽造視頻將通過(guò)Facebook以及Twitte等主流平臺(tái)與世人見(jiàn)面，并在政治宣傳當(dāng)中找到新的發(fā)展空間——這絕不是什么遙不可及的妄想。盡管人工智能研究人員一直希望能夠在大型技術(shù)企業(yè)的職責(zé)范圍之外為此找到潛在的解決方案，但這樣的嘗試恐怕無(wú)法獲得成功——畢竟人工智能工具的民主化進(jìn)程已經(jīng)無(wú)法阻擋。

  由于這類(lèi)核心技術(shù)的開(kāi)發(fā)者無(wú)需為自己創(chuàng)造的內(nèi)容負(fù)責(zé)，因此很可能落在視頻與圖像共享平臺(tái)之上。例如，Gfycat刪除了其網(wǎng)站上托管的全部Deepfakes GIF動(dòng)圖。Reddit已經(jīng)關(guān)閉了該子社區(qū)。PornHub在采訪中表示，其將刪除那些經(jīng)過(guò)換臉的色情視頻。然而，在主要社交平臺(tái)范圍之外，仍有deepfakes.club這類(lèi)網(wǎng)站的存在，且很難加以監(jiān)管。

ps:部分圖片來(lái)源于網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系我們刪除