人工智能與機(jī)器學(xué)習(xí)——更好地管理不確定性

人工智能的結(jié)果并不總是可靠的，但可以通過測量這種不確定性，使人工智能的使用更加安全。一項新的DIN標(biāo)準(zhǔn)對此提供了初步建議。

隨著人工智能（AI）的快速發(fā)展，出現(xiàn)了信任方面的大問題：人工智能的結(jié)果有多可靠？機(jī)器學(xué)習(xí)（ML）的數(shù)據(jù)來自哪里？關(guān)于虛構(gòu)的引用和人工智能生成的以假亂真的照片的爭論需要我們在處理技術(shù)時要謹(jǐn)慎。如果它是安全關(guān)鍵應(yīng)用的一部分，例如在醫(yī)學(xué)或自動駕駛，則更是如此。

當(dāng)ML模塊在實踐中使用時，不可避免地會出現(xiàn)技術(shù)開發(fā)中未考慮的場景。因為現(xiàn)實是復(fù)雜的——如此復(fù)雜，以至于機(jī)器學(xué)習(xí)的訓(xùn)練和測試數(shù)據(jù)只能部分反映它。通過量化和評估這種系統(tǒng)的不確定性，可以使ML模塊在整個系統(tǒng)中的使用更加安全和穩(wěn)健。

工業(yè)和科學(xué)援助

這正是德國新標(biāo)準(zhǔn)DIN SPEC 92005的用武之地：在“人工智能——機(jī)器學(xué)習(xí)中不確定性量化”的主題下，德國標(biāo)準(zhǔn)化機(jī)構(gòu)（DIN）定義了所謂的機(jī)器學(xué)習(xí)中的不確定性量化的基本術(shù)語。該文件制定了要求和指南，并提供了應(yīng)用示例。其目的是就如何在實踐中處理不確定性的量化問題向行業(yè)和科學(xué)領(lǐng)域的利益相關(guān)者提供建議。

人工智能安全的重要支柱

DIN SPEC 92005的發(fā)起人、Industrieanlagen Betriebsgesellschaft mbH的Lukas H?hndorf博士指出，“不確定性的量化是一個廣泛而深入的研究領(lǐng)域。但到目前為止，還缺乏反映當(dāng)前技術(shù)水平的標(biāo)準(zhǔn)化，能夠估計與模型、算法和預(yù)測結(jié)果相關(guān)的不確定性是人工智能安全的重要支柱，尤其是在安全關(guān)鍵系統(tǒng)中。"

影響結(jié)果的因素很多

不僅不完整或不清楚的數(shù)據(jù)和場景會影響ML模塊的系統(tǒng)環(huán)境，自動駕駛過程中的極端天氣條件或應(yīng)用環(huán)境中其他參與者的非常規(guī)行為也會影響人工智能的結(jié)果。

CERTIFIED人工智能項目聯(lián)合體負(fù)責(zé)人、Fraunhofer智能分析與信息系統(tǒng)研究所人工智能保證與認(rèn)證團(tuán)隊負(fù)責(zé)人Maximilian Porechkin博士表示：“人工智能是許多傳統(tǒng)軟件無法實現(xiàn)的應(yīng)用程序的基礎(chǔ)。為了在敏感的應(yīng)用環(huán)境中使用，人工智能系統(tǒng)必須是安全、穩(wěn)健和值得信賴的。DIN SPEC 92005為確保這一點做出了重要貢獻(xiàn)“。

DIN SPEC 92005是CERTIFIED AI研究項目的成果，該項目是DIN與Fraunhofer智能分析和信息系統(tǒng)研究所（IAIS）、聯(lián)邦信息安全辦公室（BSI）以及其他科學(xué)和工業(yè)合作伙伴共同合作開展的。其目的是確保技術(shù)可靠性和負(fù)責(zé)任地使用技術(shù)。該項目由北萊茵-威斯特法倫州經(jīng)濟(jì)、工業(yè)、氣候保護(hù)和能源部資助。由來自以下組織的知名專家聯(lián)盟共同制定：Industrieanlagen-Betriebsgesellschaft mbH IABG, the Fraunhofer Institutes for Intelligent Analysis and Information Systems IAIS, for Cognitive Systems ICS as well as for Experimental Software Engineering IESE, ai.dopt, DEKRA Digital GmbH, e:fs TechHub GmbH, Giesecke+Devrient, Helsing GmbH, Leibniz University of Applied Sciences, Federal Network Agency for Electricity, Gas, Telecommunications, Post and Railways (BNetzA), Institute for Occupational Safety of the German Social Accident Insurance (IFA).