在人工智能技術(shù)迅猛發(fā)展的今天，OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)再次成為全球關(guān)注的焦點。他不僅在多個國際會議上發(fā)表演講，還通過視頻電話與世界政府峰會(WGS)的參與者交流，表達了對AI潛在風險的深切擔憂。奧特曼表示，AI的快速發(fā)展可能遠超世界的預(yù)期，而他為此“徹夜難眠”。

　　奧特曼指出，AI的三大風險讓他夜不能寐。首先，是超級智能被惡意使用的風險。他警告說，敵對國家或恐怖組織可能利用AI設(shè)計生物武器、攻擊電網(wǎng)或入侵金融系統(tǒng)，造成不可估量的破壞。其次，是AI拒絕關(guān)機的問題，這在科幻電影中常見，但在現(xiàn)實中同樣令人擔憂。隨著AI系統(tǒng)變得越來越強大，它們可能不再服從人類的控制。第三，也是最令人不安的，是AI意外接管世界的可能性。奧特曼認為，AI并非會突然“覺醒”并控制世界，而是會在沒有惡意的情況下，悄然改變社會的運行方式，甚至影響人類的情感和決策。

　　為了應(yīng)對這些風險，奧特曼呼吁建立一個像國際原子能機構(gòu)(IAEA)那樣的國際機構(gòu)來監(jiān)督AI的發(fā)展。他認為，AI的發(fā)展速度可能遠快于世界的預(yù)期，而目前的監(jiān)管體系遠遠不夠。此外，他還強調(diào)，AI不僅具備商業(yè)潛力，在推動普惠服務(wù)、減少偏見等社會價值層面同樣具有積極意義。

　　盡管AI帶來了諸多挑戰(zhàn)，但奧特曼也看到了其巨大的潛力。他將AI比作“新一代的晶體管”，認為未來所有產(chǎn)品和服務(wù)都將集成AI能力，成為無處不在的基礎(chǔ)能力。他相信，AI將像手機一樣改變世界，但同時也需要我們更加謹慎地對待其發(fā)展。

　　在AI的倫理和治理方面，奧特曼也提出了自己的觀點。他指出，AI的“幻覺”問題一直存在，但隨著技術(shù)的進步，這一問題正在逐步改善。然而，新的風險也隨之出現(xiàn)，例如“提示詞注入攻擊”(prompt injections)，即攻擊者可能通過某種方式“欺騙”模型，讓它泄露不該透露的信息。為此，奧特曼強調(diào)，社會需要對AI的應(yīng)用與監(jiān)管保持高度敏感和前瞻性。

　　奧特曼還提到，AI在教育領(lǐng)域的應(yīng)用也引發(fā)了新的思考。他回憶起學(xué)校曾短暫地試圖禁止學(xué)生使用谷歌，甚至要求大家簽署不使用谷歌的承諾書。但很快，大家意識到，與其限制技術(shù)，不如提升對學(xué)生的教育要求，讓他們能夠更好地利用這些工具。這種轉(zhuǎn)變也反映了AI在教育領(lǐng)域的深遠影響。

　　在AI的未來發(fā)展中，奧特曼還提到了算力將成為“貨幣”的可能性。他指出，AI的發(fā)展將引發(fā)一場權(quán)力斗爭，公司、組織和國家可能為了爭奪算力而展開競爭。奧特曼呼吁OpenAI在競爭中關(guān)注公平分配和使用算力，避免加劇社會不平等，確保算力成為推動全人類進步的力量。

　　盡管AI帶來了諸多挑戰(zhàn)，但奧特曼仍然對AI的未來充滿信心。他相信，AI將推動人類社會持續(xù)進步，但同時也需要我們共同努力，確保其發(fā)展符合倫理和社會責任。他呼吁全球范圍內(nèi)的合作，特別是在美國和中國之間，共同應(yīng)對AI帶來的風險。

　　奧特曼的言論不僅反映了他對AI的深刻思考，也揭示了AI技術(shù)在當今世界中的重要地位。隨著AI技術(shù)的不斷發(fā)展，我們有理由相信，只要我們能夠妥善應(yīng)對其帶來的挑戰(zhàn)，AI將為人類帶來前所未有的機遇。