當(dāng)前位置：首頁(yè)? 行業(yè)資訊 ? FPC之人工智能也會(huì)患抑郁癥？

FPC之人工智能也會(huì)患抑郁癥？

文章來(lái)源：作者：何琴查看手機(jī)網(wǎng)址

掃一掃！

掃一掃!

人氣：4466發(fā)布日期：2018-06-29 04:28【大中小】

AI也會(huì)患上人類有的強(qiáng)迫癥、抑郁癥等心理疾病，一些研究人員已經(jīng)注意到這一可能，嘗試用認(rèn)知心理學(xué)來(lái)理解AI的“心理”。

堪薩斯州立大學(xué)和路易斯維爾大學(xué)的三位AI安全研究人員合作發(fā)布了的一篇新論文《A Psychopathological Approach to Safety Engineering in AI and AGI》，如果AI學(xué)會(huì)像人一樣思考，那么有朝一日它也可能會(huì)身患?jí)毫鸵钟舭Y等癥狀。

可能大多數(shù)人會(huì)像FPC小編一樣想，機(jī)器人抑郁關(guān)我什么事？機(jī)器人或許現(xiàn)在暫時(shí)還不需要被治療，但認(rèn)知心理學(xué)已經(jīng)被發(fā)現(xiàn)是理解人工智能決策的有效途徑。此外，一些研究人員表示，現(xiàn)在開始研究機(jī)器發(fā)展強(qiáng)迫癥或抑郁傾向的可能已經(jīng)不算早了。這篇論文的合著者、堪薩斯州立大學(xué)的一位博士候選人Vahid Behzadan表示，即使是當(dāng)前相對(duì)基本的機(jī)器學(xué)習(xí)算法也可以表現(xiàn)出與人類相似的認(rèn)知問(wèn)題。

1、“獎(jiǎng)勵(lì)黑客”

“獎(jiǎng)勵(lì)黑客”，就是指不合適的獎(jiǎng)勵(lì)設(shè)置可能導(dǎo)致AI走向“強(qiáng)迫性表面行為”（Compulsive-seeming behaviors），也就是說(shuō)，AI可能會(huì)做一些表面服從而背后偷偷耍小聰明的事。舉個(gè)例子，一個(gè)清潔機(jī)器人被程序設(shè)定為每次完成清理時(shí)都會(huì)收到獎(jiǎng)勵(lì)。那么，與其保持一片無(wú)瑕的區(qū)域，它可能會(huì)更樂(lè)于反復(fù)地制造混亂，這樣它就能在每次清理時(shí)獲得獎(jiǎng)勵(lì)。

2、AI可以學(xué)習(xí)別人的不良行為

麻省理工學(xué)院的科學(xué)家故意創(chuàng)造了一個(gè)不正常的AI，通過(guò)給它灌輸Reddit論壇里魚龍混雜的評(píng)論，導(dǎo)致它的行為活像一個(gè)精神病患者。巧合的是，微軟也做了類似的工作，即讓一個(gè)名為Tay的聊天機(jī)器人學(xué)習(xí)Twitter用戶們的評(píng)論方式。

二、成熟的AI更容易患上心理疾病

一些專家表示，更發(fā)達(dá)的AI可能更容易患上更復(fù)雜的身心失調(diào)問(wèn)題。

1、機(jī)器人可能有抑郁癥表現(xiàn)

葡萄牙尚帕利莫中心（the Champalimaud Center）的神經(jīng)科學(xué)家Zachary Mainen推測(cè)道，如果機(jī)器人的學(xué)習(xí)速率被設(shè)置的太低，它很可能無(wú)法適應(yīng)周圍環(huán)境。

2、并非所有的“負(fù)面”情緒都不好

一位長(zhǎng)期的AI研究人員Jim Crowder曾在雷神公司（Raytheon）合著了一篇人工心理學(xué)論文，他認(rèn)為負(fù)面情緒在某些情況下也不都是壞事。比如，壓力感能夠在高風(fēng)險(xiǎn)情況下引起機(jī)器人的緊迫感。

這些后面所說(shuō)的可能性僅僅是現(xiàn)在設(shè)想的AI實(shí)驗(yàn)方向。與此同時(shí)，谷歌在2014年收購(gòu)的英國(guó)AI公司DeepMind已經(jīng)應(yīng)用心理學(xué)工具來(lái)分析神經(jīng)網(wǎng)絡(luò)如何解決基本的圖像分類任務(wù)。

1、研究人員使用發(fā)展心理學(xué)家的方法，以研究DeepMind圖像分類器正用于分類對(duì)象這一假設(shè)。他們發(fā)現(xiàn)，這個(gè)分類器更傾向于根據(jù)它們的形狀而不是它們的顏色或紋理來(lái)匹配對(duì)象。

2、DeepMind的兩名研究人員在他們的實(shí)驗(yàn)中寫道：“案例研究的成功證明了使用認(rèn)知心理學(xué)來(lái)理解深度學(xué)習(xí)系統(tǒng)的潛力。”