埃森哲推出AI測試服務(wù)，深度學(xué)習(xí)算法的“黑匣子”問題或?qū)⒉辉?/h1>

作者：科技行者

2018-02-28 09:34

分享至：

• 
• 
• 

當(dāng)前人工智能的大部分算法雖然高效，卻缺乏透明度。為此，許多專家和機構(gòu)正在不斷研究，希望能夠提高對深度學(xué)習(xí)算法的透明度和可解釋性。

----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-

2018-02-28 09:34 ? 科技行者

現(xiàn)如今，AI的智能、自主及高效程度又來到了一個發(fā)展高潮，成為人類完成日常工作、改善生活、提升幸福感的得力助手。但同時，由于是人類賦予了AI系統(tǒng)自主決策的能力，因此，許多人開始提出，人類需要對AI“負(fù)責(zé)”。

如何負(fù)責(zé)？其中包括三大核心，即問責(zé)制、責(zé)任制和透明度。這三點構(gòu)成了AI的A.R.T原則。

• 責(zé)任制指的是人們在研發(fā)、生產(chǎn)、銷售和使用AI系統(tǒng)的過程中所承擔(dān)的工作，也包括AI系統(tǒng)為人類制定決策、識別錯誤等過程中承擔(dān)意外結(jié)果的能力。
• 問責(zé)制，即解釋個人行為并對其負(fù)責(zé)的能力。比如，無人駕駛汽車碰撞行人的責(zé)任應(yīng)由誰承擔(dān)？是傳感器、制動器等硬件的設(shè)計者？是自主駕駛軟件的設(shè)計師？是批準(zhǔn)無人駕駛汽車上路的權(quán)力機關(guān)？還是個性化設(shè)置汽車決策制定系統(tǒng)的車主？顯然，汽車是產(chǎn)品，其自身無法承擔(dān)責(zé)任，但一切利益攸關(guān)方都難逃其咎。因此，基于問責(zé)原則，理想的模型和算法應(yīng)該賦予AI系統(tǒng)以解釋其自主制定決策依據(jù)的能力。
• 透明度，即詮釋、檢查和展示AI系統(tǒng)諸多運行機制的義務(wù)，涉及制定決策、適應(yīng)環(huán)境、使用和管理已生成數(shù)據(jù)等方面。如今AI算法基本都是“黑匣子”。因此，我們需研發(fā)檢驗AI算法及其結(jié)果的方法。此外，還需采用透明的數(shù)據(jù)管理機制，確保合理透明地收集、生成和管理用于訓(xùn)練算法和制定決策的數(shù)據(jù)，同時減少偏見，強化數(shù)據(jù)隱私及安全。

然而，當(dāng)前的大部分算法雖然高效，卻缺乏透明度。為此，許多專家和機構(gòu)正在不斷研究，希望能夠提高對深度學(xué)習(xí)算法的透明度和可解釋型。比如，谷歌一直呼吁的就是“公平而負(fù)有責(zé)任”的AI研發(fā)。

對此，不久前普華永道（PwC）公布了一個“負(fù)責(zé)任的AI框架（Responsible AI framework）”，強調(diào)了專用AI提高結(jié)構(gòu)性能，提高AI透明度的重要性。

▲Responsible AI framework

埃森哲普華永道黑匣子深度學(xué)習(xí)