財聯(lián)社8月30日訊（編輯 馬蘭）美國人工智能行業(yè)正在逐步接受政府的指導。周四，OpenAI和甲骨文宣布將與美國人工智能安全研究所簽署合作協(xié)議。

該研究所隸屬于美國商務(wù)部國家標準與技術(shù)研究所。其在一份新聞稿中表示，該所將在各公司的主要新模型公開(kāi)發(fā)布之前，以及發(fā)布之后獲得這些模型的使用權。

OpenAI及甲骨文則指出，它們已經(jīng)同意向人工智能安全研究所提供新模型的測試權利，在通過(guò)測試后，模型再面向公眾發(fā)布。

OpenAI首席執行官奧爾特曼表示，很高興與人工智能安全研究所達成協(xié)議，以對該公司的模型進(jìn)行預發(fā)布測試。

該公司首席戰略官Jason Kwon也指出，公司相信該研究所發(fā)揮著(zhù)關(guān)鍵作用，以確保美國AI界負責任地開(kāi)發(fā)人工智能，希望能與研究所一起為全球其他國家提供一個(gè)可被借鑒的管理框架。

進(jìn)擊的監管

美國人工智能安全研究所成立于2023年，距離拜登發(fā)布美國史上首個(gè)人工智能行政命令不過(guò)寥寥數日。其也是白宮對人工智能進(jìn)行評估、指導以及研究的關(guān)鍵機構。

美國人工智能安全研究所所長(cháng)Elizabeth Kelly表示，與OpenAI和甲骨文的協(xié)議只是一個(gè)開(kāi)始，其代表了研究所管理人工智能未來(lái)的重要里程碑。

而就在本周三，作為美國科技前沿的加利福尼亞州議會(huì )通過(guò)了一項備受質(zhì)疑的人工智能安全法案，其強制要求公司對成本或計算能力達到一定規模的人工智能模型進(jìn)行安全測試，并提供其他保障措施。

該法案的通過(guò)可能迫使不少科技公司進(jìn)一步向監管“投誠”，以換取盡可能大的創(chuàng )新自由。

除此之外，OpenAI也一直因為安全問(wèn)題而受到批評。據該公司前雇員Daniel Kokotajlo指出，在過(guò)去幾個(gè)月里，公司出現了緩慢而穩定的離職潮，關(guān)注人工智能長(cháng)期風(fēng)險的OpenAI員工有一半已經(jīng)離職。

其可能證明了OpenAI內部對于新模型安全性能的忽視正在引發(fā)內部的普遍不滿(mǎn)。這當然也引發(fā)了美國政府部門(mén)的關(guān)注，而選擇此時(shí)與美國人工智能安全研究所合作，或許正是OpenAI打消外界疑慮的最好宣傳之一。