白宮召見 AI監管再升級

　　轉自：北京商報

　　據報道，白宮官員證實，谷歌、微軟、OpenAI和人工智能（AI）研究公司Anthropic的首席執行官，將于當地時間周四與美國副總統卡瑪拉·哈里斯和高級 *** 官員會面，討論人工智能的關鍵問題。

　　一名白宮官員透露，哈里斯和 *** 官員將在會議上告訴這些涉足AI領域的企業高管，他們有責任減輕人工智能工具的潛在危害。美國總統拜登也在邀請函中希望科技公司在向公眾提 *** 品之前必須確保其產品安全。

　　上個月，拜登已經強調了對人工智能相關產品監管的必要性，盡管他表示人工智能是否具有真正的威脅還有待進一步觀察。拜登稱，社交媒體已經說明了強大的AI技術在沒有正確保護措施的情況下可能造成的危害。

　　事實上，自去年ChatGPT問世以來，引發了巨大的社會爭議。由于AI的能力已經遠超人們的預期，批評者對快速發展的AI技術的擔憂包括侵犯隱私、偏見、欺詐以及散播謠言和虛假信息等。行業技術領導者近期也不斷呼吁警惕AI帶來的風險。

　　3月29日，上千名科技人士聯名發表了一封公開信，呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的系統，直至解決相關的風險和問題。這一呼吁得到了不少關注與回應，短短兩天，已有超過2300人簽名。

　　近日宣布離開谷歌公司的“AI教父”杰弗里·辛頓（Geoffrey Hinton）表示，他擔心互聯網將充斥虛假照片、視頻和文字，普通人“無法再辨別真假”。此外，辛頓還擔心技術的“未來版本”會對人類構成威脅，因為“它們經常從分析的大量數據中學習到意想不到的行為”，并且目前無法想象如何防止壞人利用AI做壞事。

　　辛頓稱，人工智能不僅會導致大量工作崗位消失，而且會導致人們沒辦法知道到底什么才是真實的。如果人工智能變得比人類聰明得多，就會對人類進行操控；人工智能知道怎么編程，就會想辦法繞開人類對其設置的限制。

　　事實上，威脅已經顯而易見。比如美國IBM公司將用人工智能取代7000余個工作崗位。IBM首席執行官克里希納（Krishna）5月1日表示，公司的人力資源等內部職能部門的 *** 工作將暫停或延后，這些并非直接面向客戶的崗位在IBM大約有26000個。在未來5年內，其中30%的工作崗位將被人工智能和自動化取代。這意味著約7800人將會因此失去就業機會。

　　目前，各國 *** 都在積極尋求監管措施，以追趕技術進步的步伐。美國方面，商務部于上個月正式公開征求意見，要求各界對人工智能的問責措施發表評論。除了美國外，歐盟立法者也在加快推進對人工智能技術的監管。

　　上周，歐盟已提出新的立法草案，要求ChatGPT等人工智能工具的開發商披露他們在構建AI系統時使用的版權材料。作為監管方案，歐盟委員會執行副主席、競爭專員維斯塔格提出了在AI生成的文章和圖像上顯示“用AI制作”等標簽的方案，還透露了提供生成式AI的企業有義務進行說明的想法。

　　歐盟立法者還在討論如何引入歐盟人工智能法案，并且生成式AI（AIGC）成為最受關注的內容之一。歐盟委員會將于5月11日對相關協議進行投票，如果通過，將進入下一階段的三方談判，屆時歐盟成員國將與歐盟委員會以及歐洲議會就談判內容進行辯論。

　　中央財經大學證券期貨研究所研究員楊海平表示，如對生成式人工智能不實行監管，可能產生數據安全、 *** 安全的風險，以及人工智能誤用濫用帶來的對生產秩序、生活秩序和社會秩序的沖擊。更主要的是由于生成式人工智能基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的特征，如果不強化提供者責任，不實行嚴格監管，可能導致技術創新突破科技倫理的底線，偏離科技向善的方向，造成不可估量、不可挽回的損失。

　　楊海平表示，國外科學家呼吁暫停對更強大的AI系統的開發，中國出臺生成式人工智能服務管理新規，都是在人工智能獲得關鍵突破的關鍵時點，針對人工智能可能的風險隱患，采取理智的防范措施。人工智能的監管需要國際社會經過評估，劃出統一的、清晰的安全底線，供各國共同遵守。

　　北京商報綜合報道