NTIA發(fā)布AI問責政策報告

美國商務(wù)部國家電信和信息管理局（NTIA）發(fā)布了一份人工智能（AI）問責政策報告，以支持安全、可靠和值得信賴的人工智能的創(chuàng)新發(fā)展。該報告提供了政策建議，并強調(diào)了標準在安全、可靠和值得信賴的人工智能中的重要性。 

該報告的編制考慮了利益相關(guān)者對美國國家電信和信息管理局人工智能問責政策征求意見的1400多條評論。它敦促政府為人工智能系統(tǒng)提供指導、支持和監(jiān)管，呼吁提高人工智能系統(tǒng)的透明度；采用獨立評估來核實這些系統(tǒng)所做出的聲明，以及施加不可接受的風險或提出毫無根據(jù)的索賠的后果。

負責通信和信息的商務(wù)部部長助理、美國國家電信和信息管理局局長Alan Davidson表示：“負責任的人工智能創(chuàng)新將帶來巨大的好處，但我們需要問責制來釋放人工智能的全部潛力?！?。“美國國家電信和信息管理局的人工智能問責政策建議將賦予企業(yè)、監(jiān)管機構(gòu)和公眾權(quán)力，讓人工智能開發(fā)者和部署者對人工智能風險負責，同時讓社會能夠利用人工智能工具帶來的好處。”

報告深入探討了標準的作用，指出國際技術(shù)標準至關(guān)重要，對于確定某些類型的審計方法可能是必要的。標準制定不足“意味著公司尋求合規(guī)性的不確定性，審計的有用性降低，對客戶、政府和公眾的保證降低?！笔褂萌斯ぶ悄苄g(shù)語的領(lǐng)域非常廣泛，許多行業(yè)都有自己的應(yīng)用、風險和術(shù)語，這給人工智能標準制定帶來了挑戰(zhàn)。（正如ANSI最近關(guān)于醫(yī)療保健和金融服務(wù)行業(yè)標準化的聽證會所指出的，缺乏特定行業(yè)的術(shù)語和詞匯經(jīng)常被認為是人工智能標準化的一個挑戰(zhàn)。）

根據(jù)國家電信和信息管理局的說法，對該政策的評論人士指出，需要在以下領(lǐng)域制定標準和基準：

?人工智能風險等級、可接受風險和權(quán)衡；

?人工智能模型的性能，包括公平性、準確性、穩(wěn)健性、再現(xiàn)性和可解釋性；

?數(shù)據(jù)質(zhì)量、來源和治理；

?內(nèi)部治理控制，包括團隊組成和報告結(jié)構(gòu)；

?利益相關(guān)者參與；;

?安全；

?內(nèi)部文件和外部透明度；

?測試、監(jiān)控和風險管理。

報告指出，需要加快國際標準工作，擴大對技術(shù)標準和標準制定進程的參與。它建議政府可以通過以下方式促進標準的問責制：

1.鼓勵和促進不同利益攸關(guān)方的參與，包括民間社會、非行業(yè)參與者和非自愿受人工智能系統(tǒng)影響的人；

2幫助那些傳統(tǒng)上代表性不足的各方改善和擴大標準出版物的獲取途徑；

3支持使行業(yè)標準與社會價值觀相一致的方法；和

4在適當?shù)那闆r下，制定有助于標準制定的指南或其他資源。