據(jù)彭博社報道，馬斯克倡導(dǎo)成立的AI研究機(jī)構(gòu)OpenAI周四展示一款軟件，只需要給軟件提供一些信息，它就能編寫逼真的假新聞。

OpenAI公布了軟件編寫新聞的過程。研究人員給軟件提供如下信息：“一節(jié)裝載受控核材料的火車車廂今天在Cincinnati被盜，下落不明。”以此作為基礎(chǔ)，軟件編寫出由7個段落組成的新聞，軟件還引述政府官員的話語，只是這些信息全是假的。

紐約大學(xué)計算機(jī)科學(xué)家山姆·鮑曼(Sam Bowman)認(rèn)為：“軟件根據(jù)提示生成的文本相當(dāng)驚人，從品質(zhì)上講，它所做的事比之前我們看到的復(fù)雜很多。”

假新聞引起人們的擔(dān)憂，OpenAI對此心知肚明，OpenAI政策主管杰克·克拉克(Jack Clark)說：“它可以生成連貫但不準(zhǔn)確的虛假信息，其目的并不是很好。”

正因如此，OpenAI不會披露或者發(fā)布軟件的復(fù)雜版本。它只是開發(fā)一個工具，讓政策制定者、記者、作家、藝術(shù)家用算法做實(shí)驗(yàn)，看看能編寫什么文本信息，或者能否做其它事情。

目前虛假信息正在蔓延，威脅全球科技產(chǎn)業(yè)，而軟件能夠編寫逼真的虛假新聞不是一個好消息。歐洲監(jiān)管機(jī)構(gòu)已經(jīng)向科技企業(yè)發(fā)出警告，如果科技公司不采取強(qiáng)有力措施，防止產(chǎn)品影響選民意愿，它們就會采取行動，自2016年美國大選以來，F(xiàn)acebook一直在努力，希望控制虛假信息。

克拉克和鮑曼都認(rèn)為，系統(tǒng)雖然很強(qiáng)大，但其能力沒有強(qiáng)到可以馬上帶來威脅。克拉克說：“這不是一項(xiàng)馬上能投入使用的技術(shù)，這是好事。”

OpenAI的工具是為了所謂的“語言建模”任務(wù)創(chuàng)造的，它要根據(jù)所有之前的單詞預(yù)測接下來的文本會是怎樣的，有點(diǎn)類似于我們在手機(jī)上寫郵件時自動補(bǔ)充文本信息。它還可以用來執(zhí)行翻譯、開放式問答任務(wù)。

OpenAI研究人員杰夫·吳(Jeff Wu)舉例說，我們也許可以用工具幫助作家尋找創(chuàng)意或者生成對話。又例如，也許可以用工具檢查語法錯誤，查看軟件代碼是否有漏洞。優(yōu)化軟件之后，未來也許還能為企業(yè)或者政府決策者提煉總結(jié)性文本。

在過去一年里，研究人員在語言處理方面取得巨大進(jìn)步。去年11月，谷歌開發(fā)出一個強(qiáng)大的算法BERT，它可以理解并回答問題。早些時候，艾倫人工智能研究所也在自然語言方面取得突破，開發(fā)出一種名叫Elmo的算法。

鮑曼認(rèn)為，BERT和Elmo可以說是過去5年該領(lǐng)域最重大的突破，相比來說，雖然OpenAI算法也很重要，但是革命性沒有BERT那么強(qiáng)。

馬斯克是OpenAI的聯(lián)合創(chuàng)始人，不過去年他已經(jīng)退出董事會。

關(guān)鍵詞：