2023/10/31
（中央社記者張欣瑜舊金山30日專電）美國總統拜登今天簽署首項人工智慧行政命令，確保風險管控和創新發展並存。據行政命令，企業公開模型前必須告知政府安全測試結果，美國政府也將簡化簽證流程來擴充人才。
拜登（Joe Biden）簽署行政命令前表示，這是全球各個政府在人工智慧（AI）安全、保障與信任上所採取的最重大行動。他說，有一點非常明確，就是為了實現承諾和避免風險，「我們必須管理這項技術」。
英國將在11月1日至2日召開全球AI峰會，美國副總統賀錦麗（Kamala Harris）預計出席並發表美國對實現AI監管的願景。
拜登簽署的行政命令含括8項行動，對美國政府各部門做出具體指示，並根據7月時自15家企業取得的承諾來制定這套規範。
當中一項重要行動為發布政府的「AI安全新準則」（New Standards for AI Safety and Security），要求訓練模型的AI系統開發者，在「尚未對外發布模型之前」，必須事先與政府分享安全測試結果。
根據美國新聞網站Mashable，這項規範是針對「未來世代的AI模型」，而非已流通的工具如ChatGPT。此外，受到影響的會是「運算效能達最高門檻」的公司，一般學術研究訓練的AI系統不在此範圍。
例如，OpenAI、谷歌（Google）、微軟（Microsoft）等公司之後在訓練先進模型時，必須遵守此規範。
「AI安全新準則」還將針對關鍵基礎設施部門制定規範以確保公眾安全，也將設立「生物合成篩選」標準來防止AI被用來製造危險生物原料。
此外，未來運用AI生成的內容包括音訊、圖像、影片、文字將嵌入浮水印，確保民眾能分辨出哪些產品是由非人類所創建。
在行政命令當中，拜登政府也呼籲國會通過跨黨派的資料隱私立法，讓民眾、尤其是兒童受到保障。美國政府也將深入研究企業的數據政策，評估各個機構和資料仲介（Data brokers）如何蒐集和使用公眾數據。
行政命令也致力促進社會公平和公民權益，有鑑於AI演算法導致的偏見和歧視，拜登政府將為房東、聯邦福利機構和承包商制定明確規範，並解決AI在刑事司法系統中被用於判刑的問題。
在種種管控行動之外，行政命令也顧及創新發展和美國領導地位。值得注意的是，拜登指示美國政府放寬簽證標準及簡化面試和審查程序，以此來促進移民和非移民人才在美國發展，提升競爭力。
拜登表示，新簽署的行政命令是項大膽行動，但仍需要國會有所動作。
美國國會尚未通過重大科技立法。據華盛頓郵報指出，美國聯邦參院多數黨領袖舒默（Chuck Schumer）正帶領跨黨派成員小組制定AI法案，但是還需要幾個月才能公布提案，拜登預計31日與舒默和議員會面討論立法。（編輯：馮昭）1121031
拜登簽署關於人工智慧監督的廣泛的行政命令
2023年10月31日 美國之音 加弗
美國總統喬·拜登（Joe Biden）週一（10月30日）簽署了一項關於人工智慧（AI）的廣泛的行政命令，涵蓋了國家安全、消費者隱私、公民權利和商業競爭等各種主題。拜登行政當局稱讚這項命令是「在美國安全和值得信賴的人工智慧方面邁出的重要一步」。
該命令指示美國聯邦政府各部門和機構制定政策，旨在為這個正在開發更新、更強大系統的行業安裝護欄，許多人擔心該行業的發展速度超過了有效的監管。
「為了實現人工智慧的應許並避免風險，我們需要管理這項技術，」拜登在白宮舉行的簽字儀式上說。他補充說，該命令是「世界上任何地方的政府在人工智慧安全和信任方面採取的最重大行動」。
「紅隊」確保安全
新的行政命令的主要要求之一是，它將要求開發先進人工智慧系統的公司對其產品進行嚴格的測試，以確保不良行為體不能將其用於邪惡目的。這個過程被稱為“紅隊”，將評估“人工智慧系統對關鍵基礎設施的威脅，以及化學、生物、放射、核子與網路安全風險”。
美國國家標準與技術研究院（NIST）將為此類測試制定標準，人工智慧公司將被要求在向公眾發布新產品之前向聯邦政府報告其結果。國土安全部和能源部將密切參與對重要基礎設施威脅的評估。
為了應對人工智慧將導致虛假和誤導資訊——包括電腦生成的圖像和「深度偽造」的影片——的產生和傳播的威脅，美國商務部將制定指南，以創建標準，使電腦生成的內容易於識別，這個過程通常稱為“水印”。
該命令指示白宮辦公廳主任和國家安全委員會為美國國防和情報機構負責任和合乎道德地使用人工智慧系統制定一套指導方針。
隱私和公民權利
該命令提出了一系列措施建議，旨在加強美國公民在人工智慧系統存取有關他們的資訊時的隱私保護。這包括支援隱私保護技術的發展，如密碼學，並為政府機構如何處理包含公民個人識別資訊的資料製定規則。
然而，該命令也指出，美國目前需要立法來制定美國人有權獲得的各種資料隱私保護。目前，美國在製定此類規則方面遠遠落後於歐洲，該命令呼籲國會「通過兩黨支持的資料隱私立法，以保護所有美國人，尤其是兒童」。
該命令承認，使人工智慧能夠處理資訊和回答使用者問題的演算法本身可能會產生偏見，從而使少數群體成員和其他經常受到歧視的人處於不利地位。因此，它呼籲制定規則和最佳實踐規範，以解決人工智慧在各個領域的使用，包括刑事司法系統、醫療保健系統和住房市場。
該命令涵蓋了其他幾個領域，承諾採取行動保護那些其工作可能因採用人工智慧技術而受到影響的美國人；保持美國在創建人工智慧系統方面的市場領導地位；並確保聯邦政府制定並遵守自身採用人工智慧系統的規則。
沒有明確答案
專家表示，儘管行政命令範圍廣泛，但拜登行政當局在實踐中將如何對待人工智慧法規仍不清楚。
蘭德公司（RAND Corporation）政策研究員本傑明·布德羅（Benjamin Boudreaux）對美國之音（VOA）表示，雖然很明顯，行政當局正在“試圖真正應對人工智能的全套挑戰和風險”，但仍有許多工作要做。
布德羅說：「魔鬼在於細節，真正的困難在於行政部分的機構實際執行這些建議所需的資金和資源，以及這裡建議的許多規範和建議將適用於哪些模式。」國際領導地位從
國際
方面上看，該行政命令表示，美國政府將努力帶頭研發「建立強大的國際框架的努力，以利用人工智慧的益處，管理其風險並確保安全」。
美國戰略與國際研究中心（CSIS）高級副總裁兼戰略技術項目主任詹姆斯·A·劉易斯（James A. Lewis）對美國之音說，這項行政命令很好地闡明了美國在與全球人工智能發展相關的許多重要議題上的立場。
「它切中了所有正確的問題，」劉易斯說。「這在很多地方都不是開創性的，但它為公司和其他國家樹立了美國將如何對待人工智慧的標誌。」劉易斯說，這一點很重要，這是因為美國可能會在圍繞該技術發展
起來的國際規則和規範的發展中發揮主導作用。
「不管你喜不喜歡——當然有些國家不喜歡它——我們是人工智慧的領導者，」劉易斯說。「在製定規則時，成為該技術的產生地是有好處的，美國可以利用這一點。」
打上一場戰爭？
並非所有專家都確定拜登行政當局的關注是人工智慧可能對消費者和公民構成的真正威脅。
路易斯·羅森伯格（Louis Rosenberg）是一位擁有30年人工智慧開發經驗的資深人士，也是美國科技公司Unanimous AI的首席執行官，他告訴美國之音，他擔心行政當局可能正在「打上一場戰爭」。
「我認為他們大膽宣示這是一個非常重要的問題，這固然很好，」羅森伯格說。「這絕對表明行政當局正在認真對待這個問題，他們希望保護公眾免受人工智慧的侵害。」然而，他說，在消費者保護方面，行政當局似乎專注於人工智慧如何可能被用來傷害
消費者的現有威脅，例如虛假圖像和視頻以及難辨真假的不實信息——而這些東西今天已經存在了。
「在監管技術方面，政府有低估該技術新特性的記錄，」他說。
羅森伯格說，他更關心人工智慧可能被用來影響人們的新方式。他舉例提到了正在建構中的能夠與人類交談的人工智慧系統。
「用不了多久，我們就不會在Google（Google)輸入請求了。我們將與一個互動的人工智慧機器人交談，」羅森伯格說。「人工智慧系統將以談話的方式，代表某個指揮該人工智慧者，——不管這是誰，非常有效地說服、操縱，甚至可能脅迫人們。這是新的和不同的威脅，在人工智慧之前是不存在的。”
