Re: [討論] OpenAI安全專家紛紛辭職 Altman將回應

奧特曼回應:
https://x.com/sama/status/1791936857594581428
"關於 openai 最近如何處理股權的事情：

我們從來沒有收回任何人的既得股權，如果人們不簽署分居協議（或不同意不貶低協議），我們也不會這樣做。既得權益就是既得權益，句號。

我們先前的退出文件中有關於潛在股權取消的規定；儘管我們從未追回任何東西，但它絕不應該是我們在任何文件或通訊中擁有的東西。這是我的事，也是我為數不多的幾次運
行 openai 感到尷尬的事之一；我不知道會發生這種事，但我應該知道。

在過去一個月左右的時間裡，該團隊已經開始修復標準退出文件。如果任何簽署了這些舊協議的前員工對此感到擔心，他們可以聯絡我，我們也會解決這個問題。對此感到非常抱歉。"

https://x.com/gdb/status/1791869138132218351
OpenAI總裁也發了聲明:
"我們非常感謝 Jan 為 OpenAI 所做的一切，我們知道他將繼續從外部為這項使命做出貢獻。鑑於他的離職引發的問題，我們想解釋我們如何看待我們的整體策略。

首先，我們提高了對通用人工智慧風險和機會的認識，以便世界能夠更好地做好準備。我們反覆證明了擴大深度學習的難以置信的可能性，並分析了它們的影響；在此類呼籲流行之前呼籲對 AGI 進行國際治理；並幫助開創了評估人工智慧系統災難性風險的科學。

其次，我們一直在為安全部署功能日益強大的系統奠定基礎。首次弄清楚如何確保新技術的安全並不容易。例如，我們的團隊做了大量工作，以安全的方式將 GPT-4 推向世界，此後根據部署中學到的經驗教訓，不斷改進模型行為和濫用監控。

第三，未來將比過去更艱難。我們需要不斷提高安全工作水平，以適應每種新車型的風險。我們去年採用了準備框架，以幫助系統化我們的做法。

現在似乎是討論我們如何看待未來的最佳時機。

隨著模型的能力不斷增強，我們預計它們將開始更深入地與世界融合。使用者將越來越多地與由許多多模式模型和工具組成的系統進行交互，這些系統可以代表他們採取行動，而不是僅透過文字輸入和輸出與單一模型對話。

我們認為這樣的系統將對人們非常有益和有幫助，並且可以安全地交付它們，但這需要大量的基礎工作。這包括對他們在訓練時所涉及的事物的深思熟慮、解決可擴展監督等難題以及其他新型安全工作。當我們朝著這個方向建立時，我們還不確定何時會達到發布的安全標準，如果這會推遲發佈時間表也沒關係。

我們知道我們無法想像未來所有可能的場景。因此，我們需要有一個非常緊密的回饋循環、嚴格的測試、每一步都仔細考慮、世界一流的安全性以及安全性和功能的和諧。我們將繼續針對不同時間尺度進行安全研究。我們也繼續與政府和許多利益相關者在安全方面進行合作。

對於如何走上通用人工智慧之路，目前還沒有經過驗證的劇本。我們認為實證理解可以幫助指引前進的方向。我們相信，既能帶來巨大的好處，又能努力減輕嚴重的風險；我們非常重視我們在這裡的角色，並仔細權衡對我們行動的回饋。
"

不過外界不相信奧特曼不知道這條款，因為他的前公司YCR HARC解散時也有類似的協議。

--