OpenAI、谷歌等七家 AI 頭部企業許諾：將為人工智能內容增加水印

7 月 21 日消息，據路透社報導，美國政府今日宣告，已獲得多家人工智能頭部公司的自愿許諾，將對人工智能生成的內容加水印等辦法，以幫助進步技能的安全性。

亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意進步其體系的安全性和透明度，包含答應第三方專家對其模型進行檢查。

在發給 TechRadar 的一份聲明中，美國政府表明：“正在開發這些新式技能的公司有職責保證其產品的安全。為了充分發揮人工智能的潛力，美國政府鼓舞該行業堅持高規范，以保證創新不會以獻身美國人的權力和安全為價值?！?/p>

首先，這七家公司許諾在向大眾發布 AI 體系之前，對其進行內部和外部安全測試，并與相關行業參與者、政府、學術界和大眾同享信息，以幫助辦理人工智能危險。

這些公司還將致力于網絡安全投資和內部威脅操控，以“保護專有和未發布的模型權重”，這關于驅動生成人工智能的數據模型的運轉至關重要。他們還同意促進第三方調查并報告體系中的任何安全漏洞。

七家公司還同意采納辦法進步大眾對其體系的信任，包含開發一種方法來保證讓人們知道，他們何時看到人工智能生成的內容，例如水印或其他辦法。這些公司還將優先研究人工智能模型帶來的社會危險，包含或許導致的種族歧視和其他形式的成見，以及“保護隱私”。

不過從公告中發現，這些許諾都是相關企業自愿采納的辦法，而且沒有違反的賞罰辦法，因而并不能百分百保證嚴格執行。