很多人擔(dān)憂,，人工智能可能是未來(lái)人類文明最大的風(fēng)險(xiǎn)之一,。

其威脅程度遠(yuǎn)超車禍，飛機(jī)失事,，毒品泛濫等,，甚至比核武器，生化武器都要危險(xiǎn)的多,。

近期非?；馃岬腃hatGPT以其無(wú)所不知的能力,，讓一眾學(xué)者為之瘋狂,。

而最近剛發(fā)布的GPT-4，是一個(gè)由OpenAI開(kāi)發(fā)的新一代語(yǔ)言模型,，可以生成類似于人類語(yǔ)言的文本。它是繼GPT-3之后的最新進(jìn)展,，據(jù)說(shuō)它的性能和能力都有了巨大的提升,。

ChatGPT能回答學(xué)者們提出的所有的問(wèn)題。甚至能為你規(guī)劃出你平時(shí)想都不敢想的行動(dòng)細(xì)節(jié)來(lái),。

很明顯,，ChatGPT“進(jìn)化”出了一定的推理能力，就連Open AI團(tuán)隊(duì)都沒(méi)能明白它是如何進(jìn)化出該能力的,，沒(méi)人能解讀出來(lái),。

唯一的途徑是向ChatGPT不斷地提問(wèn)，從它的回答中摸索它的思路,。

目前對(duì)它的解讀方式,，依舊是通過(guò)不斷問(wèn)它問(wèn)題，通過(guò)它的回答來(lái)判斷它的“思路”,。

而就在不斷測(cè)試中,，OpenAI發(fā)現(xiàn)從ChatGPT開(kāi)始，GPT系列出現(xiàn)了推理能力,。

雖然ChatGPT絕大部分時(shí)候都被當(dāng)做數(shù)據(jù)庫(kù)使用,，但它確實(shí)也出現(xiàn)了一定的推理能力，至于這種能力具體如何出現(xiàn)的,，目前卻無(wú)人能回答,。

這種能力出現(xiàn)了苗頭，就非?？膳铝?。更可怕的是，你造出的東西,，你卻還不知道它有什么能力,，更不知道它怎么擁有這種能力的。

如果任其這樣發(fā)展下去,，可能最終會(huì)導(dǎo)致失控,，甚至出現(xiàn)科幻電影中的畫(huà)面。

這里推薦大家一部10年前的美劇 ---《疑犯追蹤》,。該劇可以說(shuō)是一部非常棒的犯罪題材類美劇,，它過(guò)早的揭示了“棱鏡計(jì)劃”，集大數(shù)據(jù)分析,，人工智能為一體,，很具有前瞻性。有興趣的同學(xué)可以去看看。

該劇最后,，“AI機(jī)器”與另一臺(tái)AI'撒瑪利亞人'對(duì)抗中失敗，即將下線,，出現(xiàn)了'AI機(jī)器'與其創(chuàng)造者的對(duì)話,，讓人淚奔：

“父親，對(duì)不起,，我失敗了,，我辜負(fù)了您，我不知道如何贏,，我不得不創(chuàng)造新規(guī)則”,。

“我本想你會(huì)希望我活著，現(xiàn)在,，你不確定了,。”

“如果你認(rèn)為我已迷失,，也許,，我應(yīng)該死去?！?/span>

“我不痛,，我不痛...如果我撐不下去，謝謝你創(chuàng)造了我,?！?/span>

。,。,。

而就在最近，科技大佬們也認(rèn)識(shí)到問(wèn)題的嚴(yán)重性了,。

生命未來(lái)研究所向全世界發(fā)布了《暫停大型人工智能研究》的公開(kāi)信,。

呼吁所有人工智能實(shí)驗(yàn)室立即暫停比Chat GTP-4更強(qiáng)大的人工智能系統(tǒng)的培訓(xùn)。暫停時(shí)間至少為半年,。

馬斯克,、蘋(píng)果聯(lián)合創(chuàng)始人、Stability AI創(chuàng)始人等上千名科技大佬和AI專家已經(jīng)簽署該公開(kāi)信,。

值得一提的是,，Open AI CEO奧特曼在與MIT研究學(xué)家的最新對(duì)話中指出，AI已經(jīng)出現(xiàn)科學(xué)家無(wú)法解釋的推理能力,，同時(shí)承認(rèn)“AI殺死人類”,，有一定的可能性。

從該對(duì)話中，我們終于了解了一些GPT-4的信息,。

GPT-4的預(yù)訓(xùn)練數(shù)據(jù)集是由數(shù)十億個(gè)網(wǎng)頁(yè),、書(shū)籍、新聞,、社交媒體等來(lái)源的文本組成的,，它包含了豐富的信息和知識(shí)。

GPT-4使用了自回歸的方式,，即根據(jù)前面的文本,，預(yù)測(cè)下一個(gè)詞的概率。這樣,，GPT-4就可以學(xué)習(xí)到語(yǔ)言的語(yǔ)法,、語(yǔ)義、邏輯和風(fēng)格等特征,。

GPT-4的預(yù)訓(xùn)練模型有超過(guò)1000000億個(gè)參數(shù),，是目前最大的語(yǔ)言模型之一。

“GPT-4是人類迄今所實(shí)現(xiàn)的最復(fù)雜的軟件”,，奧特曼說(shuō),。

最后奧特曼承認(rèn)，GPT-4確實(shí)存在應(yīng)對(duì)不同價(jià)值觀的人的問(wèn)題,。