<p>ChatGPT是目前最新、最令人印象深刻的人工智能聊天機器人。這款應(yīng)用于兩周前發(fā)布，在短短5天內(nèi)就突破了100萬用戶。</p> <p>&nbsp;</p> <p>它被使用得如此之多，以至于它的服務(wù)器已經(jīng)達到了幾次容量。</p> <p>&nbsp;</p> <p>開發(fā)該軟件的OpenAI公司已經(jīng)被認為是潛在的谷歌殺手。當(dāng)ChatGPT可以寫出一整段來解釋答案時，為什么要在搜索引擎上查找呢?(甚至有一個Chrome擴展可以讓你同時做這兩件事。)</p> <p>&nbsp;</p> <p>但如果我們永遠不知道ChatGPT功能背后的秘密呢?</p> <p>&nbsp;</p> <p>該聊天機器人利用了過去幾十年公開科學(xué)文獻中發(fā)表的許多技術(shù)進步。但任何獨特的創(chuàng)新都是秘密。OpenAI很可能正試圖建立一條技術(shù)和業(yè)務(wù)護城河，將其他公司擋在門外。</p> <p>&nbsp;</p> <p>ChatPGT網(wǎng)站由于大量用戶涌入而多次宕機。OpenAI /截圖</p> <p>&nbsp;</p> <p>它能做什么(不能做什么)</p> <p><br />ChatGPT功能非常強大。想聽一段關(guān)于聊天機器人的俳句嗎?確定。</p> <p>&nbsp;</p> <p>聊天機器人，太聰明了</p> <p>&nbsp;</p> <p><strong><span class="h1">沒完沒了地處理</span></strong></p> <p>&nbsp;</p> <p>答案來自虛空。</p> <p>&nbsp;</p> <p>來個關(guān)于聊天機器人的笑話怎么樣?沒有問題。</p> <p>&nbsp;</p> <p>為什么聊天機器人要過馬路?</p> <p>&nbsp;</p> <p>去你屏幕的另一邊!</p> <p>&nbsp;</p> <p>ChatGPT還可以做很多其他的技巧。它可以按照用戶的要求編寫計算機代碼，起草商業(yè)信函或租賃合同，撰寫家庭作業(yè)，甚至通過大學(xué)考試。</p> <p>&nbsp;</p> <p>同樣重要的是ChatGPT不能做什么。例如，它很難區(qū)分真理和謬誤。它通常也是一個有說服力的說謊者。</p> <p>&nbsp;</p> <p>最快的海洋哺乳動物是什么?</p> <p>&nbsp;</p> <p>最快的海洋哺乳動物是旗魚。</p> <p>&nbsp;</p> <p>旗魚不是哺乳動物。</p> <p>&nbsp;</p> <p>你是對的，旗魚不是哺乳動物。我為這個錯誤道歉。最快的海洋哺乳動物是游隼。</p> <p>&nbsp;</p> <p>ChatGPT有點像你手機上的自動完成功能。你的手機是根據(jù)單詞字典進行訓(xùn)練的，所以它能完成單詞。ChatGPT在幾乎所有的網(wǎng)絡(luò)上都受過訓(xùn)練，因此可以完成整個句子甚至整個段落。</p> <p>&nbsp;</p> <p>然而，它不明白自己在說什么，只知道接下來最有可能出現(xiàn)什么詞。</p> <p>&nbsp;</p> <p><strong><span class="h1">僅按名稱打開</span></strong></p> <p><br />在過去，人工智能的進步一直伴隨著同行評議的文獻。</p> <p>&nbsp;</p> <p>例如，在2018年，谷歌Brain團隊開發(fā)了BERT神經(jīng)網(wǎng)絡(luò)，現(xiàn)在大多數(shù)自然語言處理系統(tǒng)都基于此(我們懷疑ChatGPT也是如此)，這些方法發(fā)表在同行評審的科學(xué)論文中，代碼也是開源的。</p> <p>&nbsp;</p> <p>2021年，DeepMind的蛋白質(zhì)折疊軟件AlphaFold 2被評為《科學(xué)》年度突破。該軟件及其結(jié)果是開源的，因此世界各地的科學(xué)家都可以使用它們來推進生物學(xué)和醫(yī)學(xué)。</p> <p>&nbsp;</p> <p>在ChatGPT發(fā)布之后，我們只有一篇簡短的博文來描述它是如何工作的。目前還沒有跡象表明會有相應(yīng)的科學(xué)出版物，也沒有跡象表明這些代碼將是開源的。</p> <p>&nbsp;</p> <p>要理解為什么ChatGPT可以保密，你必須了解一下它背后的公司。</p> <p>&nbsp;</p> <p>OpenAI可能是硅谷出現(xiàn)的最奇怪的公司之一。它成立于2015年，是一家非營利組織，旨在以&ldquo;造福全人類&rdquo;的方式推廣和開發(fā)&ldquo;友好的&rdquo;人工智能。埃隆&middot;馬斯克、彼得&middot;蒂爾和其他科技界領(lǐng)軍人物承諾為其目標提供10億美元。</p> <p>&nbsp;</p> <p>他們的想法是，我們不能相信以盈利為目的的公司開發(fā)出越來越強大的人工智能，與人類的繁榮保持一致。因此，人工智能需要由非營利機構(gòu)開發(fā)，而且顧名思義，需要以開放的方式進行。</p> <p>&nbsp;</p> <p>2019年，OpenAI轉(zhuǎn)型為一家有上限的營利性公司(投資者的最高回報率為投資的100倍)，并從微軟獲得了10億美元的投資，以便擴大規(guī)模并與科技巨頭競爭。</p> <p>&nbsp;</p> <p>似乎資金阻礙了OpenAI最初的開放計劃。</p> <p>&nbsp;</p> <p><strong><span class="h1">從用戶身上獲利</span></strong></p> <p><br />除此之外，OpenAI似乎正在利用用戶的反饋來過濾ChatGPT產(chǎn)生幻覺的虛假答案。</p> <p>&nbsp;</p> <p>根據(jù)OpenAI的博客，最初在ChatGPT中使用強化學(xué)習(xí)，使用昂貴的手工構(gòu)建的訓(xùn)練集來降低虛假和/或有問題的答案的排名。</p> <p>&nbsp;</p> <p>但ChatGPT現(xiàn)在似乎正在被它的100多萬用戶調(diào)整。我想，用其他任何方式獲得這種人的反饋都是非常昂貴的。</p> <p>&nbsp;</p> <p>我們現(xiàn)在面臨的前景是，使用科學(xué)文獻中沒有描述的方法，以及數(shù)據(jù)集僅限于一家似乎只是名義上開放的公司，人工智能將取得重大進展。</p> <p>&nbsp;</p> <p>下一個在哪里?</p> <p><br />在過去十年中，人工智能的快速發(fā)展在很大程度上得益于學(xué)術(shù)界和商界的開放態(tài)度。我們擁有的所有主要人工智能工具都是開源的。</p> <p>&nbsp;</p> <p>但在開發(fā)更有能力的人工智能的競賽中，這種情況可能即將結(jié)束。如果人工智能領(lǐng)域的開放性降低，我們可能會看到這一領(lǐng)域的進展放緩。我們還可能看到新的壟斷企業(yè)出現(xiàn)。</p> <p>&nbsp;</p> <p>如果歷史可以借鑒的話，我們知道缺乏透明度是科技領(lǐng)域不良行為的觸發(fā)因素。因此，當(dāng)我們繼續(xù)贊美(或批評)ChatGPT時，我們不應(yīng)該忽視它出現(xiàn)在我們身上的情況。</p> <p>&nbsp;</p> <p>除非我們小心謹慎，否則似乎標志著人工智能黃金時代的事情實際上可能標志著它的終結(jié)。</p> <p>&nbsp;</p> <p>談話</p> <p>&nbsp;</p> <p>托比&middot;沃爾什，新南威爾士大學(xué)人工智能教授，新南威爾士大學(xué)悉尼分校研究組負責(zé)人</p> <p>&nbsp;</p> <p>本文基于創(chuàng)作共用許可，從The Conversation重新發(fā)布。閱讀原文。</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學(xué)態(tài)度觀點。</p> </blockquote>