據(jù)外媒報道，約克大學(xué)（University of York）的英國計算機(jī)科學(xué)家團(tuán)隊開發(fā)出一個突破性的流程，可幫助確保機(jī)器學(xué)習(xí)（ML）和用于自動駕駛技術(shù)的AI安全。該方法可幫助工程師建立一個安全案例，在最終交付用戶時明確且系統(tǒng)地建立對ML的置信度。

隨著機(jī)器人、送貨無人機(jī)、智能工廠和無人駕駛汽車越來越普及，目前自動駕駛技術(shù)的安全法規(guī)出現(xiàn)灰色地帶。與其他高風(fēng)險技術(shù)相比，自動駕駛系統(tǒng)的全球指導(dǎo)方針并不嚴(yán)格。當(dāng)前標(biāo)準(zhǔn)在細(xì)節(jié)方面不夠明確，因此在AI和ML等新技術(shù)進(jìn)入市場時，使用這些技術(shù)改善生活可能不夠安全。

這一新指南由約克大學(xué)的保證自主國際計劃（Assuring Autonomy International Programme，AAIP）開發(fā)，名為用于自動駕駛系統(tǒng)的機(jī)器學(xué)習(xí)保證（Assurance of Machine Learning for use in Autonomous Systems，AMLAS）。AAIP與行業(yè)專家合作開發(fā)流程，將安全保證系統(tǒng)地集成到ML組件的開發(fā)中。

高級研究員、AMLAS的作者之一Richard Hawkins博士說：“目前確保自動駕駛技術(shù)安全的方法幾乎沒有指導(dǎo)或制定標(biāo)準(zhǔn)。全球各部門都在努力盡快制定新的指導(dǎo)方針，以確保機(jī)器人和自動駕駛系統(tǒng)的安全性。”

獨立性

AAIP持中立立場，可獨立將企業(yè)、學(xué)術(shù)研究、監(jiān)管機(jī)構(gòu)以及保險和法律專業(yè)人士聯(lián)系起來，為安全的人工智能、機(jī)器人技術(shù)和自動駕駛系統(tǒng)編寫新指南。

Hawkins博士表示：“AMLAS可幫助所有擁有新自主產(chǎn)品的企業(yè)或個人將安全保證（safety assurance）系統(tǒng)地集成到ML組件的開發(fā)中。我們的研究可幫助理解自動駕駛技術(shù)安全運行的風(fēng)險和限制。”

Hawkins博士還表示：“在約克，我們針對最佳實踐和流程進(jìn)行了大量研究，以收集可以評估這些新復(fù)雜技術(shù)安全性的證據(jù)。此外，我們還在安全設(shè)計、評估和機(jī)器人和自動駕駛系統(tǒng)使用方面進(jìn)行訓(xùn)練。”

AAIP是約克大學(xué)的一個安全保證小組，與勞氏基金會（Lloyd's Register的慈善機(jī)構(gòu)）合作，致力于打造一個更安全的世界。（劉麗婷）