在人工智能技術(shù)迅猛發(fā)展的今天，OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)再次成為全球關(guān)注的焦點(diǎn)。他不僅在多個(gè)國(guó)際會(huì)議上發(fā)表演講，還通過(guò)視頻電話與世界政府峰會(huì)(WGS)的參與者交流，表達(dá)了對(duì)AI潛在風(fēng)險(xiǎn)的深切擔(dān)憂。奧特曼表示，AI的快速發(fā)展可能遠(yuǎn)超世界的預(yù)期，而他為此“徹夜難眠”。

　　奧特曼指出，AI的三大風(fēng)險(xiǎn)讓他夜不能寐。首先，是超級(jí)智能被惡意使用的風(fēng)險(xiǎn)。他警告說(shuō)，敵對(duì)國(guó)家或恐怖組織可能利用AI設(shè)計(jì)生物武器、攻擊電網(wǎng)或入侵金融系統(tǒng)，造成不可估量的破壞。其次，是AI拒絕關(guān)機(jī)的問(wèn)題，這在科幻電影中常見(jiàn)，但在現(xiàn)實(shí)中同樣令人擔(dān)憂。隨著AI系統(tǒng)變得越來(lái)越強(qiáng)大，它們可能不再服從人類的控制。第三，也是最令人不安的，是AI意外接管世界的可能性。奧特曼認(rèn)為，AI并非會(huì)突然“覺(jué)醒”并控制世界，而是會(huì)在沒(méi)有惡意的情況下，悄然改變社會(huì)的運(yùn)行方式，甚至影響人類的情感和決策。

　　為了應(yīng)對(duì)這些風(fēng)險(xiǎn)，奧特曼呼吁建立一個(gè)像國(guó)際原子能機(jī)構(gòu)(IAEA)那樣的國(guó)際機(jī)構(gòu)來(lái)監(jiān)督AI的發(fā)展。他認(rèn)為，AI的發(fā)展速度可能遠(yuǎn)快于世界的預(yù)期，而目前的監(jiān)管體系遠(yuǎn)遠(yuǎn)不夠。此外，他還強(qiáng)調(diào)，AI不僅具備商業(yè)潛力，在推動(dòng)普惠服務(wù)、減少偏見(jiàn)等社會(huì)價(jià)值層面同樣具有積極意義。

　　盡管AI帶來(lái)了諸多挑戰(zhàn)，但奧特曼也看到了其巨大的潛力。他將AI比作“新一代的晶體管”，認(rèn)為未來(lái)所有產(chǎn)品和服務(wù)都將集成AI能力，成為無(wú)處不在的基礎(chǔ)能力。他相信，AI將像手機(jī)一樣改變世界，但同時(shí)也需要我們更加謹(jǐn)慎地對(duì)待其發(fā)展。

　　在AI的倫理和治理方面，奧特曼也提出了自己的觀點(diǎn)。他指出，AI的“幻覺(jué)”問(wèn)題一直存在，但隨著技術(shù)的進(jìn)步，這一問(wèn)題正在逐步改善。然而，新的風(fēng)險(xiǎn)也隨之出現(xiàn)，例如“提示詞注入攻擊”(prompt injections)，即攻擊者可能通過(guò)某種方式“欺騙”模型，讓它泄露不該透露的信息。為此，奧特曼強(qiáng)調(diào)，社會(huì)需要對(duì)AI的應(yīng)用與監(jiān)管保持高度敏感和前瞻性。

　　奧特曼還提到，AI在教育領(lǐng)域的應(yīng)用也引發(fā)了新的思考。他回憶起學(xué)校曾短暫地試圖禁止學(xué)生使用谷歌，甚至要求大家簽署不使用谷歌的承諾書。但很快，大家意識(shí)到，與其限制技術(shù)，不如提升對(duì)學(xué)生的教育要求，讓他們能夠更好地利用這些工具。這種轉(zhuǎn)變也反映了AI在教育領(lǐng)域的深遠(yuǎn)影響。

　　在AI的未來(lái)發(fā)展中，奧特曼還提到了算力將成為“貨幣”的可能性。他指出，AI的發(fā)展將引發(fā)一場(chǎng)權(quán)力斗爭(zhēng)，公司、組織和國(guó)家可能為了爭(zhēng)奪算力而展開競(jìng)爭(zhēng)。奧特曼呼吁OpenAI在競(jìng)爭(zhēng)中關(guān)注公平分配和使用算力，避免加劇社會(huì)不平等，確保算力成為推動(dòng)全人類進(jìn)步的力量。

　　盡管AI帶來(lái)了諸多挑戰(zhàn)，但奧特曼仍然對(duì)AI的未來(lái)充滿信心。他相信，AI將推動(dòng)人類社會(huì)持續(xù)進(jìn)步，但同時(shí)也需要我們共同努力，確保其發(fā)展符合倫理和社會(huì)責(zé)任。他呼吁全球范圍內(nèi)的合作，特別是在美國(guó)和中國(guó)之間，共同應(yīng)對(duì)AI帶來(lái)的風(fēng)險(xiǎn)。

　　奧特曼的言論不僅反映了他對(duì)AI的深刻思考，也揭示了AI技術(shù)在當(dāng)今世界中的重要地位。隨著AI技術(shù)的不斷發(fā)展，我們有理由相信，只要我們能夠妥善應(yīng)對(duì)其帶來(lái)的挑戰(zhàn)，AI將為人類帶來(lái)前所未有的機(jī)遇。