亚洲欧美中文日韩在线v日本,亚洲精品永久在线观看,亚洲av日韩av永久无码色欲,亚洲成a人片777777,亚洲人成网站在线播放942

"成果"

“開車不用手”已經(jīng)從以前的科幻電影中成功地復(fù)制到了現(xiàn)實(shí)路面上。隨著人工智能技術(shù)的不斷深入研究與應(yīng)用，這個(gè)聽(tīng)起來(lái)很酷的事情已經(jīng)變成現(xiàn)實(shí)。

我國(guó)人工智能技術(shù)在自動(dòng)駕駛、電子商務(wù)、金融、醫(yī)療等多個(gè)領(lǐng)域都得到了快速發(fā)展。人工智能正在幫助我們完成越來(lái)越多的事。

2017年7月，國(guó)務(wù)院制訂了《新一代人工智能發(fā)展規(guī)劃》，把發(fā)展人工智能上升到國(guó)家戰(zhàn)略高度。在提升勞動(dòng)生產(chǎn)，促進(jìn)經(jīng)濟(jì)發(fā)展上，人工智能的確功不可沒(méi)。

然而這項(xiàng)造福人類的技術(shù)，卻在社會(huì)新聞中頻頻出現(xiàn)，各類“事件事故”讓大眾“心驚膽戰(zhàn)”：特斯拉自動(dòng)駕駛在中國(guó)出現(xiàn)首例死亡事故；自動(dòng)駕駛汽車誤把白色卡車當(dāng)成天空；AI招聘軟件偏愛(ài)男性候選人；英國(guó)一例心臟手術(shù)，AI反饋失靈致使醫(yī)生失誤...

安全隱患、隱私泄露、人臉識(shí)別隱患、技術(shù)濫用、大數(shù)據(jù)殺熟等問(wèn)題的暴露，引發(fā)了公眾對(duì)于人工智能使能系統(tǒng)決策的信任危機(jī)，也讓市場(chǎng)各方也愈加重視人工智能的可靠性、公平性和倫理問(wèn)題。

人工智能真的智能嗎？人工智能真的安全嗎？人工智能怎樣才能更可信？

針對(duì)于這些問(wèn)題，浙江大學(xué)管理學(xué)院孔祥維教授、博士研究生王子明、王明征教授、胡祥培教授對(duì)人工智能可信決策進(jìn)行了深入研究。

他們的研究成果發(fā)表于《管理工程學(xué)報(bào)》，為探索如何讓人工智能使能系統(tǒng)決策可信提供了學(xué)術(shù)支持與引導(dǎo)方向。

這是一個(gè)怎樣的研究成果？這是一個(gè)怎樣的研究團(tuán)隊(duì)？本期【“成果”ZJUSOM】，讓我們一起走進(jìn)人工智能的研究世界...

他們?yōu)楹螌Ｗ⒂谶@項(xiàng)研究？

人工智能（artificial intelligence, AI）技術(shù)已經(jīng)滲透到許多領(lǐng)域，成為了新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力。

人工智能作為新一輪產(chǎn)業(yè)變革的核心力量，正重塑著生產(chǎn)、分配、交換和消費(fèi)等經(jīng)濟(jì)活動(dòng)各環(huán)節(jié)。從工業(yè)、農(nóng)業(yè)到基建，從衣食住行到醫(yī)療教育，AI技術(shù)正在社會(huì)經(jīng)濟(jì)各領(lǐng)域深度融合和落地應(yīng)用。

利用AI代替人類處理海量數(shù)據(jù)并迅速做出高精度的預(yù)測(cè)和決策任務(wù)，可以大大提高決策效率，降低人力成本,促進(jìn)生產(chǎn)力的提升。

人工智能在為人民生活創(chuàng)造便利，為社會(huì)發(fā)展創(chuàng)造價(jià)值的同時(shí)，在自動(dòng)駕駛和智能醫(yī)療等高風(fēng)險(xiǎn)應(yīng)用中產(chǎn)生了許多不可預(yù)知的風(fēng)險(xiǎn)和事故。這使得人們對(duì)人工智能使能系統(tǒng)決策產(chǎn)生了全球范圍內(nèi)的信任危機(jī)。

在自動(dòng)駕駛領(lǐng)域，2021年7月至2022年5月期間，12家公司向美國(guó)國(guó)家公路交通安全管理局報(bào)告了無(wú)人駕駛的367起碰撞事故，其中有11次發(fā)生嚴(yán)重傷亡。

在醫(yī)療健康領(lǐng)域，大名鼎鼎的IBM Watson Health經(jīng)常給出錯(cuò)誤的癌癥治療建議，還為已經(jīng)大出血的癌癥病人開出了可能導(dǎo)致出血的藥。

在社會(huì)生活領(lǐng)域，美國(guó)司法判決在利用COMPAS AI犯罪風(fēng)險(xiǎn)評(píng)估算法時(shí)出現(xiàn)了對(duì)黑人的系統(tǒng)性歧視偏見(jiàn)；谷歌的廣告算法展示給女性用戶的招聘職位要比展示給男性的待遇低等。

這些高風(fēng)險(xiǎn)領(lǐng)域的失誤令人難以信任人工智能決策，因?yàn)锳I在統(tǒng)計(jì)層面上0.01%的錯(cuò)誤概率，發(fā)生在每個(gè)個(gè)體上都是100%的不可承受之痛！

基于此，學(xué)者和業(yè)界人士逐漸認(rèn)識(shí)到，AI決策信任被不可解釋、不可問(wèn)責(zé)、種族或性別歧視、隱私泄露等黑云籠罩著。

如果任由不可信的AI決策繼續(xù)發(fā)展，將會(huì)造成不可估量的生命財(cái)產(chǎn)損失和嚴(yán)重社會(huì)影響。

那么，什么導(dǎo)致了人工智能決策的信任危機(jī)？人工智能使能系統(tǒng)決策如何才能可信？他們的團(tuán)隊(duì)注意到了這些亟待解決的問(wèn)題。

他們從哪些方向開展研究？

針對(duì)存在的人工智能決策信任危機(jī)和風(fēng)險(xiǎn)問(wèn)題，孔祥維教授團(tuán)隊(duì)首先分析了人工智能使能系統(tǒng)的風(fēng)險(xiǎn)和不確定性，根據(jù)其風(fēng)險(xiǎn)來(lái)源從模型、數(shù)據(jù)和信任三重視角重點(diǎn)闡述了人工智能可信問(wèn)題的研究進(jìn)展。

從模型的可解釋性和可問(wèn)責(zé)性、數(shù)據(jù)的公平性和安全性和用戶對(duì)AI信任五個(gè)維度對(duì)相關(guān)研究方法和應(yīng)用進(jìn)行了綜述分析，并按照風(fēng)險(xiǎn)來(lái)源、倫理性準(zhǔn)則和行業(yè)應(yīng)用的角度進(jìn)行歸納，對(duì)可信AI的行業(yè)異質(zhì)性和共性規(guī)律做出分析。

隨后，從管理學(xué)的視角出發(fā)，提出了在多重不確定情境中AI系統(tǒng)可信決策的挑戰(zhàn)問(wèn)題，以及貫穿人工智能系統(tǒng)生命周期的人機(jī)協(xié)同可信框架。

最后，對(duì)人工智能使能系統(tǒng)可信決策的未來(lái)發(fā)展進(jìn)行了展望，期望對(duì)解決多重不確定情境下的可信決策問(wèn)題具有理論上和實(shí)踐上的指導(dǎo)意義。

他們的研究解決了哪些問(wèn)題？

1、哪些風(fēng)險(xiǎn)導(dǎo)致了人工智能

使能系統(tǒng)決策的信任危機(jī)？

孔祥維教授團(tuán)隊(duì)的探究視角主要聚焦在了AI技術(shù)自身的內(nèi)生性風(fēng)險(xiǎn)以及在人機(jī)交互信任問(wèn)題這兩個(gè)方面。

前者主要是模型角度和數(shù)據(jù)驅(qū)動(dòng)的內(nèi)生風(fēng)險(xiǎn)，包括AI模型黑盒特性導(dǎo)致的不可解釋風(fēng)險(xiǎn)與不可問(wèn)責(zé)風(fēng)險(xiǎn)，以及數(shù)據(jù)偏差導(dǎo)致的不公平風(fēng)險(xiǎn)和數(shù)據(jù)安全引發(fā)的不可靠風(fēng)險(xiǎn)等四個(gè)方面。

后者是需要委托人工智能進(jìn)行直接決策或者采用人機(jī)協(xié)同決策時(shí)產(chǎn)生的信任風(fēng)險(xiǎn)。上述這些風(fēng)險(xiǎn)共同影響了用戶對(duì)AI系統(tǒng)的采納和決策的信任。

2、哪些因素可以增加人工智能

使能系統(tǒng)的決策可信程度？

針對(duì)人工智能使能系統(tǒng)可信決策的理論研究最早從可信AI系統(tǒng)的設(shè)計(jì)原則上開展，期望從宏觀方向上指導(dǎo)AI應(yīng)用向著可信的方向發(fā)展。

可信的AI決策通常需要兩方面的準(zhǔn)則，一是功能性準(zhǔn)則，要求AI系統(tǒng)在技術(shù)和功能上可信，即要求AI模型具有較高的準(zhǔn)確率、魯棒性和安全性等，這是AI應(yīng)用的共識(shí)前提。

二是倫理性原則，要求AI系統(tǒng)決策過(guò)程中符合倫理道德標(biāo)準(zhǔn)，才能得到人類的信任。其中，可解釋性、公平與偏見(jiàn)、安全與隱私性和可問(wèn)責(zé)性是當(dāng)前業(yè)界達(dá)成共識(shí)的最重要的四個(gè)原則，這也與上述風(fēng)險(xiǎn)緊密相關(guān)。

這些倫理原則之間的優(yōu)先級(jí)關(guān)系和內(nèi)部邊界還沒(méi)有清晰地界定。圍繞人工智能使能系統(tǒng)的AI模型、大數(shù)據(jù)和人機(jī)交互等關(guān)鍵要素，如何實(shí)施這些原則有許多值得探討的問(wèn)題和需要的解決路徑。

本項(xiàng)研究成果對(duì)AI行業(yè)有何啟迪？

1、彌補(bǔ)理論與實(shí)踐之間的鴻溝

本項(xiàng)研究對(duì)AI使能系統(tǒng)可信決策的國(guó)內(nèi)外研究最新進(jìn)展進(jìn)行了梳理，在一定程度上彌補(bǔ)了現(xiàn)有研究對(duì)人工智能可信決策的原則在理論與實(shí)踐之間的鴻溝。

研究為當(dāng)前AI使能系統(tǒng)的可信決策研究提供了嶄新視角，有效地把握提煉了該主題的關(guān)鍵方向，為從事相關(guān)領(lǐng)域?qū)W者的研究工作提供方向性的引領(lǐng)思路。

2、提出多重不確定情境中的挑戰(zhàn)

從管理視角，提出了多重不確定情境中AI可信決策的挑戰(zhàn)，包括對(duì)AI的持續(xù)信任、多重不確定性和新型人機(jī)協(xié)同團(tuán)隊(duì)的決策模式等。

在本項(xiàng)研究成果中，如何組建可信人機(jī)協(xié)同團(tuán)隊(duì)、跨組織的可信決策問(wèn)題將是人工智能使能系統(tǒng)可信決策未來(lái)發(fā)展的挑戰(zhàn)問(wèn)題。

3、人機(jī)協(xié)同可信框架

本項(xiàng)研究提出了貫穿人工智能系統(tǒng)生命周期的人機(jī)協(xié)同可信框架。從人工智能使能系統(tǒng)主要參與者之間的協(xié)同交互出發(fā)，將AI可解釋性、公平性、安全隱私性、可問(wèn)責(zé)性以及可信組件在一個(gè)連續(xù)有機(jī)的整體系統(tǒng)框架中實(shí)施，并對(duì)具體行業(yè)進(jìn)行針對(duì)應(yīng)用分析，在如何解決可信人工智能監(jiān)管難題和AI可信決策的度量和標(biāo)準(zhǔn)化等方面對(duì)AI可信決策實(shí)踐具有指導(dǎo)意義。

一方面，隨著AI不斷深入決策制定過(guò)程，需要在各種組織內(nèi)建立高效可信的人機(jī)協(xié)同團(tuán)隊(duì)，并且合理協(xié)調(diào)跨組織層級(jí)智能決策的人機(jī)權(quán)力分配。

另一方面，應(yīng)該對(duì)人工智能決策做出適當(dāng)?shù)谋O(jiān)管，建立配套的度量和標(biāo)準(zhǔn)化管理方案，在提升AI商業(yè)價(jià)值和保護(hù)公眾利益之間達(dá)成平衡，充分考慮不同決策類型、應(yīng)用場(chǎng)景、風(fēng)險(xiǎn)等級(jí)的具體要求。

研究團(tuán)隊(duì)介紹

孔祥維

浙江大學(xué)管理學(xué)院教授，博士生導(dǎo)師，博士。研究方向：可信人工智能、非結(jié)構(gòu)數(shù)據(jù)分析等

王子明

浙江大學(xué)管理學(xué)院博士研究生。研究方向：可信人工智能、非結(jié)構(gòu)數(shù)據(jù)分析等。

王明征

浙江大學(xué)管理學(xué)院教授，博士生導(dǎo)師，博士。研究方向：數(shù)據(jù)驅(qū)動(dòng)決策、大數(shù)據(jù)解析與統(tǒng)計(jì)優(yōu)化等。

胡祥培

浙江大學(xué)管理學(xué)院教授，博士生導(dǎo)師，博士。研究方向：智慧商務(wù)與物流管理、區(qū)塊鏈與數(shù)智管理等。

原文鏈接

浙江大學(xué)管理學(xué)院學(xué)者們

扎根中國(guó)大地，

基于中國(guó)社會(huì)實(shí)際問(wèn)題與實(shí)踐經(jīng)驗(yàn)

持續(xù)開展了大量的理論研究。

如今，這些理論研究成果

正指導(dǎo)著一批批中國(guó)企業(yè)

實(shí)現(xiàn)創(chuàng)新發(fā)展、走向全球行業(yè)之巔。

編輯：王婧莼

素材來(lái)源：管理工程學(xué)報(bào)

審核：佟慶