前不久，IBM首席執(zhí)行官阿里德·克里希納表示，將不會繼續(xù)研發(fā)并向客戶提供人臉識別分析軟件。另一家美國大企業(yè)亞馬遜則宣布，將暫停警方使用人臉識別技術(shù)一年，同時也為自己留了退路：“如有需要，我們將隨時準備提供幫助?！?/p>

對于人臉識別等人工智能技術(shù)，中國知名企業(yè)和專家怎么看？我們是否要在技術(shù)研發(fā)、產(chǎn)品開發(fā)及其應(yīng)用上加以限制？解放日報·上觀新聞記者采訪了曠視科技首席運營官、曠視AI治理研究院院長徐云程和中國科學(xué)院自動化研究所研究員、科技部新一代人工智能治理委員會委員曾毅。

　　技術(shù)好壞應(yīng)放在場景里討論

本周五下午1時，2020世界人工智能大會治理論壇將在線播出。在科技部戰(zhàn)略規(guī)劃司和上海市科委的指導(dǎo)下，治理論壇將以“發(fā)展負責(zé)任的人工智能”為主題，探討“技術(shù)+制度”雙輪驅(qū)動的治理綜合解決方案，探尋人工智能治理新模式。本屆治理論壇上，以各種形式演講和分享的嘉賓有30位，其中國際嘉賓近20位，包括：圖靈獎獲得者約翰·霍普克羅夫特、聯(lián)合國人工智能和機器人中心主任伊萊克利·伯利茲、中國科學(xué)院院士何積豐、曠視科技聯(lián)合創(chuàng)始人兼首席執(zhí)行官印奇等大咖。

在各種人工智能技術(shù)應(yīng)用中，人臉識別受到的爭議比較大。徐云程認為，任何一種技術(shù)的好壞都應(yīng)放在具體的場景里討論。在一些場景里，人臉識別是很有用的，可以得到公眾的廣泛認同。比如在尋找走失的兒童和老人場景里，這種技術(shù)應(yīng)用有非常強的優(yōu)越性，其效率明顯高于其他技術(shù)和方法。

而在有些場景里，采用人臉識別技術(shù)則需審慎。比如曠視AI治理研究院評選出的“2019全球十大AI治理事件”中，“中國人臉識別第一案”榜上有名：去年10月，浙江理工大學(xué)副教授、法學(xué)博士郭兵收到了杭州野生動物世界發(fā)來的短信，說年卡用戶需要“刷臉”才能入園。郭兵不愿接受被采集人臉信息，要求退卡遭拒，于是將杭州野生動物世界告上法庭，要求全額退款。11月1日，杭州富陽法院受理該案。消費者起訴商家涉及人臉識別的民事訴訟，在我國很可能是第一起。

徐云程還指出，包括人臉識別在內(nèi)的所有人工智能技術(shù)都要有它的應(yīng)用界限，這條界限在技術(shù)研發(fā)和產(chǎn)品開發(fā)時應(yīng)成為前置的考量因素?！霸谌斯ぶ悄茴I(lǐng)域，我們不能先發(fā)展后治理，而是應(yīng)邊發(fā)展邊治理?！?/p>

本著這一理念，曠視科技已成為國內(nèi)AI企業(yè)中探索人工智能治理的先行者。去年7月，這家企業(yè)發(fā)布了《人工智能應(yīng)用準則》，將正當(dāng)性、人的監(jiān)督、技術(shù)可靠性和安全性、公平和多樣性、責(zé)任可追溯、數(shù)據(jù)隱私保護等6個維度作為本公司人工智能治理的依據(jù)，并呼吁同行和合作伙伴重視這方面工作。今年1月，曠視成立AI治理研究院，開始就全球人工智能治理的共性問題與社會各界廣泛溝通。

　　企業(yè)開發(fā)產(chǎn)品要主動討論倫理

在曾毅研究員看來，我國無論是企業(yè)還是政府，近年來在人工智能治理方面都積極作為。作為科技部新一代人工智能治理委員會委員，他參與撰寫了《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》。這份去年6月發(fā)布的文件制定了中國人工智能治理的框架和行動指南，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等8條原則。

“一些西方媒體夸大了中西方在人工智能治理和倫理上的差異，其實，尊重隱私、公平公正等原則在中西方國家是共通的?！痹阏f，“儒家文化主張‘和而不同’，各個國家和地區(qū)有不同的文化，我們需要通過坦誠交流謀求共識?！?/p>

據(jù)介紹，聯(lián)合國教科文組織正在推動《全球人工智能倫理建議》制訂工作。起草倫理建議的專家由193個會員國推薦，從中再遴選出24位專家，組成起草倫理建議的專家組。曾毅是全球24位專家之一，今年參與完成了《全球人工智能倫理建議草案》。這份草案的中英文版已經(jīng)在聯(lián)合國教科文組織官網(wǎng)上發(fā)布，處于征求意見階段。根據(jù)計劃，今年年底或明年年初舉行的聯(lián)合國教科文組織大會上，193個會員國將共同簽署《全球人工智能倫理建議》同意書，用于規(guī)范人工智能技術(shù)在教育、科學(xué)、文化等各個領(lǐng)域的研發(fā)和應(yīng)用。

曾毅認為，人工智能敏捷治理體現(xiàn)了我國的一個制度優(yōu)勢。近年來，國內(nèi)發(fā)生過一些與人工智能相關(guān)、引發(fā)社會爭議的事件，中央和地方相關(guān)部門通過與涉事單位充分溝通，及時了解事件經(jīng)過、妥善應(yīng)對事件的影響，充分照顧到公眾對于事件的關(guān)切，也對技術(shù)未來的應(yīng)用進行了全面探討。這種敏捷治理的效率和效果，是顯而易見的。

人工智能治理是個社會參與度很高的話題，政、產(chǎn)、學(xué)、研等各個方面都在參與進來。其中，企業(yè)的作用不可或缺。以曠視為例，徐云程介紹說，公司正在將《人工智能應(yīng)用準則》應(yīng)用于研發(fā)、產(chǎn)品、銷售、培訓(xùn)等4個領(lǐng)域。雖然在推行中，一些員工有不同意見，認為把倫理討論引入產(chǎn)品開發(fā)為時尚早，然而經(jīng)過一年磨合，大家發(fā)現(xiàn)，把AI治理這個成本放在事前討論，比放在事后補救更有成效。漸漸地，員工愿意積極地接納治理理念，為今后企業(yè)進一步推進工作開了個好頭?！癆I治理需要理性的關(guān)注、深度的研究、建設(shè)性的討論、堅持不懈的行動。”徐云程說，“企業(yè)的AI治理，行勝于言?！?/p>