OpenAI CEO首場(chǎng)中國(guó)演講：推進(jìn)AGI安全治理，需要國(guó)際科技界展開(kāi)合作

經(jīng)濟(jì)觀察網(wǎng) 記者 錢玉娟正在世界各地進(jìn)行旋風(fēng)式訪問(wèn)的“ChatGPT之父”、人工智能公司OpenAI的CEO薩姆·阿爾特曼（Sam Altman），6月10日首次“云”上參與了在中國(guó)舉行的行業(yè)峰會(huì)“2023北京智源大會(huì)”。北京智源大會(huì)是由智源研究院（全稱：北京智源人工智能研究院）主辦的年度國(guó)際性人工智能領(lǐng)域的專業(yè)交流活動(dòng)，定位于“AI內(nèi)行頂級(jí)盛會(huì)”，今年已經(jīng)是第五屆。

五年前，智源研究院在科技部和北京市的支持下，聯(lián)合北京人工智能領(lǐng)域的優(yōu)勢(shì)單位共建而成。因匯集了張宏江、黃鐵軍等國(guó)際頂尖人工智能學(xué)者，智源研究院聚焦核心技術(shù)與原始創(chuàng)新，旨在推動(dòng)人工智能領(lǐng)域發(fā)展政策、學(xué)術(shù)思想、理論基礎(chǔ)、頂尖人才與產(chǎn)業(yè)生態(tài)的五大源頭創(chuàng)新。

【資料圖】

薩姆·阿爾特曼在名為“AI安全與對(duì)齊”的分論壇中進(jìn)行了主題演講，在穿越五大洲近20個(gè)國(guó)家，與多國(guó)領(lǐng)導(dǎo)人、開(kāi)發(fā)者及學(xué)生們展開(kāi)交流、討論后，他發(fā)現(xiàn)，世界的注意力都集中在解決AI的安全問(wèn)題上。

除了給OpenAI優(yōu)化工具等方面工作提出寶貴意見(jiàn)，薩姆·阿爾特曼希望，在親眼目睹了通用人工智能（Artificial General Intelligence, AGI）發(fā)展帶來(lái)的變革，人類的想象力被迅速拓展后，防范風(fēng)險(xiǎn)，“推進(jìn)AGI安全治理，是我們尋找共同立場(chǎng)的最重要領(lǐng)域之一。”

薩姆·阿爾特曼舉例稱，像根除小兒麻痹和天花等疾病，以及減少全球氣候變化等風(fēng)險(xiǎn)，大國(guó)之間經(jīng)常在關(guān)鍵醫(yī)學(xué)和科學(xué)領(lǐng)域展開(kāi)合作，以實(shí)現(xiàn)共同目標(biāo)。在他看來(lái)，AGI安全治理同樣需要國(guó)際合作，尤其在AI開(kāi)發(fā)和安全部署方面，需要建立包容的國(guó)際標(biāo)準(zhǔn)，使所有國(guó)家對(duì)AGI發(fā)展抱以一個(gè)統(tǒng)一且平等的準(zhǔn)則；同時(shí)，在可驗(yàn)證的方式下，全球范圍內(nèi)建立起對(duì)AGI安全開(kāi)發(fā)的信任。

作為首場(chǎng)中國(guó)演講，薩姆·阿爾特曼特意援引《道德經(jīng)》中的“千里之行，始于足下”，以呼吁國(guó)際科技界能邁出建設(shè)性的第一步，合作推動(dòng)AGI安全。與此同時(shí)，他也提及，要深入地思考，如何尊重和保護(hù)知識(shí)產(chǎn)權(quán)，推動(dòng)并引導(dǎo)與安全研究有關(guān)的投資。

談及OpenAI當(dāng)前的重點(diǎn)內(nèi)容，“如何訓(xùn)練優(yōu)化模型，以使AI系統(tǒng)成為人類有益且安全的助手。”薩姆·阿爾特曼演講后還與智源研究院理事長(zhǎng)張宏江進(jìn)行了對(duì)話，他談到，過(guò)去的六個(gè)月時(shí)間里，人們愈發(fā)重視AGI風(fēng)險(xiǎn)和機(jī)遇，OpenAI在讓人們享受技術(shù)變革帶來(lái)的益處同時(shí)，也在努力減輕風(fēng)險(xiǎn)，但“全球合作始終是困難的”。

薩姆·阿爾特曼強(qiáng)調(diào)，OpenAI在依托技術(shù)消除全球合作障礙的同時(shí)，還試圖為AGI治理系統(tǒng)溝構(gòu)建一個(gè)框架和安全標(biāo)準(zhǔn)。他認(rèn)為，AI安全確實(shí)需要技術(shù)的參與，但更為關(guān)鍵的是，“要保持一致的價(jià)值觀。”為此，OpenAI要設(shè)計(jì)出一個(gè)公平、包容又具有代表性的系統(tǒng)，“我們需要構(gòu)建安全的分類器和檢測(cè)器，以監(jiān)測(cè)符合用戶規(guī)范的情況。”

中國(guó)、美國(guó)和歐洲是推動(dòng)人工智能和創(chuàng)新的三個(gè)主要力量，當(dāng)張宏江問(wèn)及國(guó)際合作對(duì)于解決AI需求和決策具備怎樣的優(yōu)勢(shì)時(shí)，薩姆·阿爾特曼表示，AI安全需要受益于不同國(guó)家和不同背景下的用戶偏好，因此需要融合不同的觀念來(lái)實(shí)現(xiàn)這一目標(biāo)。

聚焦中國(guó)，薩姆·阿爾特曼認(rèn)為，這里擁有世界上一些最優(yōu)秀的AI系統(tǒng)，也從根本上使研究人員在解決AI系統(tǒng)問(wèn)題時(shí)面臨困難，他希望未來(lái)中美兩國(guó)間的AI技術(shù)研究人員能一起為AI安全做出貢獻(xiàn)。

對(duì)談中，張宏江疑問(wèn)，未來(lái)OpenAI的GPT源代碼會(huì)否重新開(kāi)放，薩姆·阿爾特曼并未直接回答。但他對(duì)開(kāi)源模型的發(fā)展以及開(kāi)源這一路徑的正確性予以認(rèn)可，只是伴隨模型變得越來(lái)越大，他強(qiáng)調(diào)，“確保正確性變得昂貴，開(kāi)源一切可能不是最優(yōu)路徑。”

關(guān)鍵詞：