什麼會擾亂生成人工智慧的未來？

最近有很多關於生成式人工智慧如何讓人失業的討論。 人們並沒有過度思考如何讓生成式人工智慧失業。 但他們可以——而且很可能會。

GenAI 及其所依賴的基礎模型目前正處於 Gartner 技術成熟度曲線的令人眼花撩亂的高峰。 如果 Gartner 的模型是合理的，那麼這些工具可能會陷入“幻滅的低谷”，然後在幾年後出現在有用生產力的平台上。

然而，有一種觀點認為，幻滅的低谷可能會永遠吞噬 genAI 產品。 除了依賴本質上無意識和不道德的「智慧」所蘊含的風險之外，使用者還面臨著版權和隱私問題可能對像 ChatGPT 這樣的大型語言模型 (LLM) 造成致命傷害的現實前景。

讓我們按順序排列這些內容。

國禁止刮擦登記冊？

出版商透過內容獲利。 他們不會尋求讓第三方在未經許可的情況下透過這些內容獲利，尤其是出版商可能已經為此付費。 專業作家將他們所寫的內容貨幣化。 他們也不尋求讓第三方從他們的作品中獲利而不向創作者提供任何報酬。 我在這裡所說的關於書面內容的所有內容同樣適用於圖形、影片和任何其他創意內容。

當然，我們確實有版權法來保護出版商和作者免於直接盜竊。 這些對 genAI 沒有幫助，因為它抓取瞭如此多的來源，以至於最終的輸出可能與單一來源之一不太相似（儘管這可能會發生）。

目前，出版商正在積極尋找阻止法學碩士抄襲其內容的方法。 這是一項艱鉅的技術挑戰

在這段影片中，MarTech 撰稿人 Greg Krehbiel 討論了出版商可能試圖阻止法學碩士的方式。 他也提出了修改條款和條件的理由，為未來的訴訟奠定基礎。 正如他似乎承認的那樣，他的建議都不是一勞永逸的。 例如，阻止 Google 抓取您的網站以獲取內容而不停止 Google 抓取您的網站以將其放入搜尋結果是否可行？ 此外，訴訟費用高昂。

但監管修復怎麼樣？ 您還記得電話行銷電話帶來的無盡煩惱嗎？ 全國謝絕來電登記冊阻止了這種情況。 每個關心的人都可以註冊他們的電話號碼，而電話推銷員只能冒著聯邦貿易委員會處以巨額罰款的風險繼續撥打該號碼。

在國家禁止抓取註冊機構中註冊網域可能是一項艱鉅的任務，但人們可以從一般意義上了解這種監管策略的運作方式。 每一次侵權行為都會被發現嗎？ 當然不是。 但 GDPR 也是。 GDPR 要求遵守，並不是因為每一次侵權行為都會被發現，而是因為被發現的這些侵權行為可能會導致嚴厲制裁——「前所未有的高額罰款，高達公司全球總收入的 4%」。

太晚了。 GenAI 已經有數據了

無論是否有技術或監管修復來阻止 genAI 竊取內容，那匹馬不是已經離開馬厩了嗎？ 法學碩士已經接受了令人難以置信的大數據集的培訓。 他們可能容易犯錯，但有一種他們無所不知的感覺。

好吧，他們幾年前就知道一切了。 ChatGPT-4 使用截止日期為 2021 年 9 月的資料進行了預訓練。這意味著有很多它不知道。 讓我們提醒自己我們正在處理什麼。

深入挖掘：人工智慧：初學者指南

GenAI 使用演算法根據訓練過的數百萬個文字來預測要創建的下一個最佳文字。 它之所以“智能”，是因為它可以根據反饋和響應來改進自己的演算法（人類不必修改演算法，儘管她當然可以）。

genAI 不做（也不能做）的是找出其資料訓練集之外的世界資訊。 這強調了唐納德·戴維森 (Donald Davidson) ¹等哲學家提出的觀點，即人工智慧與世界沒有因果關係。 如果我想知道是否下雨，我不依賴數據集；而是依賴數據集。 我看著窗外。 從技術上來說，genAI 可能有很好的語法（語法），但它對語義（意義）卻很陌生。

由此得出的結論是，人工智慧完全依賴像我們這樣與世界存在因果關係的生物； 誰能知道天上是否下雨、天上是否有月亮、傑佛遜是否起草了《獨立宣言》。 到目前為止，這取決於人們過去所做的事情。 為了保持相關性，它必須繼續依賴人們單獨能做什麼。

如果法學碩士繼續抓取人類創建的內容的能力明顯下降，他們將無法添加、更新、修正和擴充他們的資料集。 它們的效用的消亡可能會很緩慢，但或多或​​少是有保證的。

放開我的 PII！

除了出版商、作者和其他創作者強烈要求 genAI 遠離他們的內容之外，它在不久的將來還面臨著另一個非常現實的問題。 需要以某種方式保證，在從網路上抓取數百萬千兆位元組的資料的過程中，他們不會無意中獲取個人識別資訊 (PII) 或受現有法規保護的其他類型的資料。

• FTC 因消費者保護問題對 OpenAI 展開調查。
• 正如廣泛報導的那樣，義大利因處理個人資料以及缺乏年齡驗證控製而簡單地禁止了 OpenAI 和 ChatGPT。 在滿足義大利的要求後，營運得以恢復。
• 歐洲的挑戰遠未結束。 在波蘭提交的一項全面投訴稱 OpenAI「系統性違反」了 GDPR。

可以說，歐洲法院往往更關心公民的權利，而不是大型科技公司的利潤。

我們甚至沒有提到信任和安全。 我最近與 Gartner 人工智慧技術成熟度曲線專家 Afraz Jaffri 的談話中談到了這些擔憂，他說：

第一個問題其實是信任方面。 無論外部法規如何，仍然有一個基本感覺，即很難控制模型的輸出並保證輸出實際上是正確的。 這是一個很大的障礙。

genAI 的未來會是怎樣？ Gartner 技術成熟度曲線

這一切會觸發關閉開關嗎？

很容易說 genAI 將繼續存在。 很多人都說過了。 事實上，一項重大的（即使不是完全新穎的）技術發展不太可能被遺忘或放棄。 至少，組織將繼續在自己的資料集或謹慎確定的外部資料集上使用這些功能，這將滿足許多重要的用例。

儘管如此，由於監管障礙、法律挑戰、信任問題以及其他尚未見過的障礙的組合，genAI 受到干擾、限制和極大改變的可能性遠高於零。

1. 唐納德戴維森，“圖靈測試”， Mind 59 (1950) ↩︎