OpenAI CEO首場中國演講：推進AGI安全治理，需要國際科技界展開合作

經濟觀察網 記者 錢玉娟正在世界各地進行旋風式訪問的“ChatGPT之父”、人工智能公司OpenAI的CEO薩姆·阿爾特曼（Sam Altman），6月10日首次“云”上參與了在中國舉行的行業峰會“2023北京智源大會”。北京智源大會是由智源研究院（全稱：北京智源人工智能研究院）主辦的年度國際性人工智能領域的專業交流活動，定位于“AI內行頂級盛會”，今年已經是第五屆。

五年前，智源研究院在科技部和北京市的支持下，聯合北京人工智能領域的優勢單位共建而成。因匯集了張宏江、黃鐵軍等國際頂尖人工智能學者，智源研究院聚焦核心技術與原始創新，旨在推動人工智能領域發展政策、學術思想、理論基礎、頂尖人才與產業生態的五大源頭創新。

【資料圖】

薩姆·阿爾特曼在名為“AI安全與對齊”的分論壇中進行了主題演講，在穿越五大洲近20個國家，與多國領導人、開發者及學生們展開交流、討論后，他發現，世界的注意力都集中在解決AI的安全問題上。

除了給OpenAI優化工具等方面工作提出寶貴意見，薩姆·阿爾特曼希望，在親眼目睹了通用人工智能（Artificial General Intelligence, AGI）發展帶來的變革，人類的想象力被迅速拓展后，防范風險，“推進AGI安全治理，是我們尋找共同立場的最重要領域之一。”

薩姆·阿爾特曼舉例稱，像根除小兒麻痹和天花等疾病，以及減少全球氣候變化等風險，大國之間經常在關鍵醫學和科學領域展開合作，以實現共同目標。在他看來，AGI安全治理同樣需要國際合作，尤其在AI開發和安全部署方面，需要建立包容的國際標準，使所有國家對AGI發展抱以一個統一且平等的準則；同時，在可驗證的方式下，全球范圍內建立起對AGI安全開發的信任。

作為首場中國演講，薩姆·阿爾特曼特意援引《道德經》中的“千里之行，始于足下”，以呼吁國際科技界能邁出建設性的第一步，合作推動AGI安全。與此同時，他也提及，要深入地思考，如何尊重和保護知識產權，推動并引導與安全研究有關的投資。

談及OpenAI當前的重點內容，“如何訓練優化模型，以使AI系統成為人類有益且安全的助手。”薩姆·阿爾特曼演講后還與智源研究院理事長張宏江進行了對話，他談到，過去的六個月時間里，人們愈發重視AGI風險和機遇，OpenAI在讓人們享受技術變革帶來的益處同時，也在努力減輕風險，但“全球合作始終是困難的”。

薩姆·阿爾特曼強調，OpenAI在依托技術消除全球合作障礙的同時，還試圖為AGI治理系統溝構建一個框架和安全標準。他認為，AI安全確實需要技術的參與，但更為關鍵的是，“要保持一致的價值觀。”為此，OpenAI要設計出一個公平、包容又具有代表性的系統，“我們需要構建安全的分類器和檢測器，以監測符合用戶規范的情況。”

中國、美國和歐洲是推動人工智能和創新的三個主要力量，當張宏江問及國際合作對于解決AI需求和決策具備怎樣的優勢時，薩姆·阿爾特曼表示，AI安全需要受益于不同國家和不同背景下的用戶偏好，因此需要融合不同的觀念來實現這一目標。

聚焦中國，薩姆·阿爾特曼認為，這里擁有世界上一些最優秀的AI系統，也從根本上使研究人員在解決AI系統問題時面臨困難，他希望未來中美兩國間的AI技術研究人員能一起為AI安全做出貢獻。

對談中，張宏江疑問，未來OpenAI的GPT源代碼會否重新開放，薩姆·阿爾特曼并未直接回答。但他對開源模型的發展以及開源這一路徑的正確性予以認可，只是伴隨模型變得越來越大，他強調，“確保正確性變得昂貴，開源一切可能不是最優路徑。”

關鍵詞：