兩大AI流派角力:如何对待人工智慧的發展?
2023年11月25日(德國之聲中文網)就在奧爾特曼(Sam Altman)被ChatGPT母公司OpenAI解僱前不久,內部人士稱,該公司董事會收到了關于人工智慧領域重大發現的警告。兩位熟悉此事的人士11月22日告訴路透社,該公司開發人員在信中表示,此一發展將可能對人類構成威脅。
對「Q*」的恐懼
這封此前未公開的信是生成式人工智慧代表人物奧爾特曼遭到解僱前的一個關鍵。內部人士說,這封信是導致阿爾特曼之前被解僱的一長串不當行為其中一項。
原首席技術官、前臨時CEO穆拉蒂(Mira Murati)曾在周三向員工提及名為「Q*」的項目,並表示在上周末的奧爾特曼解僱事件發生前已向董事會發出了一封信件。
OpenAI在「Q*」項目上取得了進展,一些員工認為這代表著這家初創公司在尋求「通用人工智慧」(AGI,又稱超級智慧型)方面取得了突破。 OpenAI將「通用人工智慧」定義為比人類更智能的人工智慧系統。
迄今為止,生成式人工智慧為人類的工作提供了支持,例如總結冗長的文本。然而,一些專家警告道,這些程序可能會發展成為「通用人工智慧」,在人類不干預的情況下承擔越來越複雜的任務。他們擔心,這些軟體可能會控制國防系統、傳播政治宣傳甚至生產武器。
奧爾特曼上周於亞太經合組織峰會上曾暗示,他認為「通用人工智慧」指日可待。他當時提到:「在OpenAI的歷史上,我曾四次有幸親臨現場。最近一次是在過去的幾周裡,我們揭開了無知的面紗,推動了發現的極限,這是我一生的職業榮譽。」一天之後,監事會解除了奧爾特曼的職務。
兩派觀點的衝突
圍繞奧爾特曼被解職和重新回到OpenAI的混亂局面,是人工智慧兩大思想流派角力的結果。一派是像奧爾特曼這樣的人,他們希望推动人工智慧發展,並向大眾公開新版本。只有如此,這項技術才能得到適當的測試和完善。
另一派人則主張在這些程序公開之前,先在實驗室進行徹底測試,特別是那些可以根據幾個關鍵字創建文本、圖像或影片的生成式人工智慧。
人工智慧公司ConjectureAI 的負責人、謹慎態度的倡導者萊希(Connor Leahy)問道:「這是否只是类似社群網站或加密貨幣的另一種產品?還是說,這是一種有能力超越人類並變得無法控制的技術?」
對超級智慧型的擔憂
曾投票罷免奧爾特曼、隨後又連署希望奧爾特曼復職的董事會成員--OpenAI首席科學家蘇茨克弗(Ilya Sutskever)担心人工智慧變得無法控制,他對奧爾特曼将人工智慧整合到盡可能多的應用中的策略持批評態度。
蘇茨克弗在今年夏天的一篇部落格文章中寫道:「我們沒有辦法管理或控制潛在的超級智慧型。人類將無法可靠地監控比我們聪明得多的人工智慧系統。」
顯然,蘇茨克弗對幾周前第一屆OpenAI開發者大會上展示的一些新產品尤其憂心。不過,他並不樂見奧特曼所受到的對待,並且在周一表示:「我對參與董事會的行動感到遺憾。」
奧爾特曼被认为是人工智慧行業的代言人,他遭解僱引發了員工的公開反抗。本周初,幾乎所有將近700名 OpenAI員工都威脅道,若不讓奧爾特曼復職,他們就會辭職,同時還要求董事會所有成員辭職。短短幾日後傳來消息,奧爾特曼將回到這家ChatGPT母公司,重掌CEO大權,董事會也進行了人事洗牌。
(路透社)
© 2023年德國之聲版權聲明:本文所有內容受到著作權法保護,如無德國之聲特別授權,不得擅自使用。任何不當行為都將導致追償,並受到刑事追究。