ChatGPT 的深入研究就在這里。但它真的能取代人類專家嗎？

OpenAI 的 '深入研究' 是最新的人工智能（AI） 工具掀起波瀾并承諾在幾分鐘內(nèi)完成人類專家需要數(shù)小時才能完成的工作。

作為 ChatGPT Pro 和銷售作為可以匹配訓(xùn)練有素的分析師的研究助理，它可以自主搜索 Web、編譯來源并提供結(jié)構(gòu)化報告。它甚至得分26.6% 的 Humanity's Last Exam （HLE），這是一個嚴格的 AI 基準測試，跑贏大盤許多型號。

但深入的研究并不完全符合炒作。雖然它生成的報告很精美，但也存在嚴重的缺陷。據(jù)記者報道誰嘗試過，深入的研究可能會錯過關(guān)鍵細節(jié)，與最新信息作斗爭，有時還會捏造事實。

OpenAI 在列出其工具的局限性時標記了這一點。該公司還表示“根據(jù)內(nèi)部評估，有時會在回答中產(chǎn)生幻覺或做出錯誤的推斷，盡管其比率明顯低于現(xiàn)有的 ChatGPT 模型”。

不可靠的數(shù)據(jù)可能會溜進來也就不足為奇了，因為 AI 模型不像人類那樣“了解”事物。

人工智能“研究分析師”的想法也引發(fā)了一系列問題。機器 - 無論多么強大 - 真的可以取代訓(xùn)練有素的專家嗎？這對知識工作有什么影響？AI 真的是幫助我們更好地思考，還是只是讓我們更容易完全停止思考？

什么是“深度研究”，它適用于誰？

深入研究面向金融、科學(xué)、政策、法律和工程領(lǐng)域的專業(yè)人士，以及學(xué)者、記者和商業(yè)戰(zhàn)略家，是最新的”代理經(jīng)驗“ OpenAI 已在 ChatGPT 中推出。它承諾在幾分鐘內(nèi)完成繁重的研究工作。

目前，深度研究僅適用于美國的 ChatGPT Pro 用戶，每月費用為 200 美元。開放人工智能說它將在未來幾個月內(nèi)向 Plus、Team 和 Enterprise 用戶推出，并計劃在未來推出更具成本效益的版本。

與提供快速響應(yīng)的標準聊天機器人不同，深度研究遵循多步驟流程來生成結(jié)構(gòu)化報告：

1. 用戶提交請求。這可以是從市場分析到法律案例摘要的任何內(nèi)容。
2. AI 澄清任務(wù)。它可能會提出后續(xù)問題以完善研究范圍。
3. 代理搜索 Web。它可以自主瀏覽數(shù)百個來源，包括新聞文章、研究論文和在線數(shù)據(jù)庫。
4. 它綜合了它的發(fā)現(xiàn)。AI 提取關(guān)鍵點，將它們組織成結(jié)構(gòu)化報告并引用其來源。
5. 最終報告已交付。在 5 到 30 分鐘內(nèi)，用戶會收到一個多頁文檔 –甚至可能獲得博士學(xué)位的論文– 總結(jié)調(diào)查結(jié)果。

乍一看，它聽起來像是知識工作者的夢想工具。仔細觀察會發(fā)現(xiàn)明顯的局限性。

多早測試暴露出的缺點：

• 它缺乏背景。AI 可以總結(jié)，但它并不完全理解什么是重要的。
• 它忽略了新的發(fā)展。它錯過了重大的法律裁決和科學(xué)更新。
• 它編造了一切。與其他 AI 模型一樣，它可以自信地生成虛假信息。
• 它無法區(qū)分事實和虛構(gòu)。它沒有區(qū)分權(quán)威來源和不可靠的來源。

雖然 OpenAI 聲稱其工具可與人類分析師相媲美，但 AI 不可避免地缺乏使優(yōu)秀研究有價值的判斷力、審查力和專業(yè)知識。

AI 無法取代什么

ChatGPT 并不是唯一一個只需幾個提示就可以搜索網(wǎng)絡(luò)并生成報告的 AI 工具。值得注意的是，僅僅OpenAI 發(fā)布 24 小時后中，Hugging Face 發(fā)布了一個免費的開源版本，其性能幾乎與之相當。

深度研究和其他用于“人類水平”研究的 AI 工具的最大風(fēng)險是 AI 可以取代人類思維的錯覺。AI 可以總結(jié)信息，但它不能質(zhì)疑自己的假設(shè)、突出知識差距、創(chuàng)造性思考或理解不同的觀點。

AI 生成的摘要與深度的熟練人類研究人員。

任何 AI 代理，無論多快，都只是一種工具，而不是人類智能的替代品。對于知識工作者來說，投資于 AI 無法復(fù)制的技能比以往任何時候都更加重要：批判性思維、事實核查、深厚的專業(yè)知識和創(chuàng)造力。

如果您確實想使用 AI 研究工具，有一些方法可以負責(zé)任地這樣做。深思熟慮地使用 AI 可以在不犧牲準確性或深度的情況下增強研究。您可以使用 AI 來提高效率，例如總結(jié)文檔，但保留人工判斷來做出決策。

始終驗證來源，因為 AI 生成的引用可能會產(chǎn)生誤導(dǎo)。不要盲目相信結(jié)論，而是應(yīng)用批判性思維并與信譽良好的來源交叉核對信息。對于高風(fēng)險主題 — 例如健康,正義和民主— 用專家意見補充 AI 發(fā)現(xiàn)。

盡管大量的營銷試圖告訴我們并非如此，但生成式 AI 仍然有很多局限性。能夠創(chuàng)造性地綜合信息、挑戰(zhàn)假設(shè)和批判性思考的人類將繼續(xù)受到需求——AI 目前還不能取代他們。

Raffaele F Ciriello， 商業(yè)信息系統(tǒng)高級講師，悉尼大學(xué)

本文轉(zhuǎn)載自對話根據(jù) Creative Commons 許可。閱讀原創(chuàng)文章.

寶寶起名 起名