AI 遭“圍剿”!歐洲、中國之后,美國考慮對

  網絡滲透測試     |      2023-04-15 19:03

據《華爾街日報》4 月 11 日報道,由于人們越來越擔心生成式人工智能(AI)技術可能被用來進行歧視或傳播有害信息,拜登政府已經開始研究是否需要對 ChatGPT 等人工智能工具進行審查。

作為潛在監管的第一步,美國商務部已經于美東時間 4 月 11 日(周二)正式公開征求意見,就其所謂的問責措施發表意見,包括有潛在風險的新人工智能模型在發布前是否應該通過認證程序。

《每日經濟新聞》記者注意到,北京時間周二,中國的監管機構已經對生成式 AI 技術進行過一系列的表態。其中提到,提供生成式 AI 產品或服務應當遵守法律法規的要求,尊重社會公德、公序良俗。此外,4 月 10 日,中國支付清算協會網站發布 "關于支付行業從業人員謹慎使用 ChatGPT 等工具的倡議"。

前騰訊安全技術中心專家李鐵軍在接受《每日經濟新聞》記者采訪時指出,目前各方面對(生成式)AI 的擔憂比較多,美國方面以馬斯克為代表。" 他們擔心 AI 的自我生長,可能突破人類限制。如果真的突破,或許人類干不過 AI,后果難以評估。"

擔憂生成式 AI 風險,美國擬設置 " 護欄 "

美國政府采取上述監管行動之際,新興人工智能工具的使用在過去幾個月大范圍風靡,這些工具可以快速生產類似人類產出的文字、圖片和視頻等。一些分析師估計,微軟支持的聊天機器人 ChatGPT 比歷史上任何消費類應用程序的用戶增長規模都更快。

美國國家電信和信息管理局(下稱 NTIA,美國商務部發布征求意見的機構)局長 Alan Davidson 表示," 看到這些工具在相對早期就能發揮(如此強大的)作用,真是令人驚訝。我們知道,我們需要設置一些‘護欄’,以確保這些工具被負責任地使用。"

《華爾街日報》報道截圖

Davidson 表示,上述征求意見將被用來幫助制定給美國政策制定者關于如何對待人工智能的建議。他還補充稱,NTIA 的法律任務涉及向總統提供科技政策建議,而不是編寫或執行法規。

報道中還稱,行業和政府官員對一系列潛在的人工智能危害表示擔憂,包括利用該技術進行犯罪或傳播虛假信息。美國參議員 Michael Bennet 上個月曾寫信給幾家人工智能公司,詢問在公共實驗中聊天機器人向冒充年輕人的用戶提供有害建議的情況,兒童的安全也是他們最關心的問題。

康涅狄格州民主黨參議員 Richard Blumenthal 在接受媒體采訪時也表示," 關于人工智能可能帶來的爆炸性的好處和壞處,人們正在進行非?;钴S的討論。對國會來說,這是一個終極挑戰——技術性高度復雜、事關重大,非常緊迫。"

《每日經濟新聞》記者注意到,包括特斯拉 CEO 馬斯克和 " 人工智能教父 "Geoffrey Hinton 在內的科技領袖最近也開始呼吁暫停訓練比 GPT-4 更強大的 AI 系統。GPT-4 是 OpenAI 大約在一個月前發布的聊天機器人版本。這些科技大佬警告稱,OpenAI 與 Alphabet 旗下谷歌等競爭對手之間正在展開 AI" 軍備競賽 ",但并未對潛在風險進行充分的管理和規劃。

圖片來源:futureofoffice

據悉,拜登上周在白宮也與一個科學家顧問委員會討論了這個話題。當一名記者問及生成式人工智能技術是否危險時,拜登答道:" 有可能。還有待觀察。"

據悉,這個委員會的成員包括了微軟和谷歌的代表,他們和洽談發布人工智能系統的公司表示,他們正在不斷更新安全 " 護欄 ",如通過編程避免讓聊天機器人回答某些有害問題。

中國監管機構已提前出手

前騰訊安全技術中心專家李鐵軍在接受《每日經濟新聞》記者采訪時指出," 目前各方面對(生成式)人工智能的擔憂比較多,美國方面以馬斯克為代表。這些人擔心 AI 的自我生長,可能突破人類限制。如果真的突破,或許人類干不過 AI,后果難以評估。我也看了有關討論,一部分科學家確實有這方面的擔憂,已經感覺像是《黑客帝國》里描述的東西了。"

" 美國政客的討論就是充分利用新技術確保競爭優勢,但安全方面的擔憂確實是很重要的一方面,美國網絡安全與基礎設施安全局官員上周還在一個論壇上對生成式人工智能的安全影響表示了嚴重關切,警告說需要采取立法行動來規范其使用。" 李鐵軍對記者補充道。

每經記者還注意到,就在美國政府周二就生成式 AI 的潛在監管公開征求意見之前,中國的監管機構已經對該技術進行過一系列的表態。