0551-63879385
13955146972

详细内容

舊金山禁用刷臉技術或冷卻人工智能狂熱

时间:2020-09-14        阅读:389

          今年2月,萬維網福克斯新聞報道稱,舊金山可能成為美國第一個禁止政府使用人臉識別技術的城市。最近,舊金山市通過了一些關于停止秘密監視的條例修正案。該條例強調:“人臉識別技術侵犯公民權利和公民自由的可能性遠遠超過其聲稱的利益;這項技術將加劇種族歧視。沒有政府的監控,我們的生存能力將受到威脅。”這意味著美國第一個禁用人臉識別軟件的城市將成為現實。

        人臉識別是當今多樣化的人工智能技術中相對較新的技術,被認為具有廣泛的用途。它對個體生物識別、安全、刑事取證和社會生活都具有重要的意義。它被一個城市所阻擋,至少可以理解為當人工智能技術突飛猛進發展時,其管理的相應規則和技術還不成熟。

        舊金山禁止人臉識別的最大原因是,它將公民置于政府的持續監控之下,侵犯了公民權利和自由,還造成了種族歧視。這些都是人工智能倫理的一部分。人類社會不能為了使用技術而發展技術,也不能違背甚至破壞人類社會以發展和使用技術為依據所承認的倫理底線。

        目前,對人工智能技術的熱情已經使這項技術失控。為此,歐盟已于4月初迅速公布了《人工智能倫理指南》,要求企業和政府機構在未來的人工智能發展中遵循七項原則。首先,人工智能不應該踐踏人類的自主性。人們不應該被人工智能系統操縱或強迫,應該能夠干預或監督人工智能軟件做出的每一個決策。舊金山市禁止使用人臉識別技術的重要原因符合這一準則。

像其他人工智能技術一樣,人臉識別仍然是一個大問題。首先,人臉識別技術不可靠。來自亞馬遜和其他公司的人臉識別技術錯誤地識別了非洲裔美國人,甚至將28名國會議員誤認為嫌疑人。美國喬治亞理工學院的喬伊·布拉姆維尼(Joey Bramwini)團隊分析了3500張不同膚色的人的照片,發現自動駕駛技術識別黑人的準確率平均降低了5%。由微軟、IBM和Facebook等大公司推出的商業人臉識別軟件系統也無法識別女性和有色人種。

        人臉識別技術也可能被模仿和用于欺詐。一種名為GAN(針對網絡生成)的新興技術可以把任何人的外表變成另一個人,并通過檢測。事實上,GAN是一種能夠自動生成圖像并對圖像進行自動篡改的生成模型,通過人臉識別技術的檢測,使得檢測欺詐和欺詐變得容易。

在類似的情況下,2017年推出的Deepfakes變臉技術,可以把《神奇女俠》主角蓋爾·加朵的臉嫁接到另一位女影星身上。它看起來是無縫的,并且使用了這項技術。任何人都有可能改變面孔和認出面孔。統計數據顯示,互聯網上有大量的人工合成信息,如合成聲音、生成的圖像、人像等人工智能合成中不存在的信息。這使得人臉識別在尚未得到廣泛應用的情況下是不可預測的。

        人臉識別的不可靠性還在于它的不安全性是長期存在的。與個人生物特征信息相比,其他用于保護個人的密碼是可以替換的,但是一旦個人生物特征信息被泄露和更改,除了影響人們的生活外,還將是終生的泄露,人們總是不安全的。

        歐盟關于人工智能的七項道德準則要求,人工智能系統收集的個人數據應是安全的、保護個人*、不應被任何人訪問,以及不應輕易被盜取。然而,目前的人臉識別技術大多為企業和政府所有,屬于專有技術,缺乏公平公正第三方的嚴格監督。

        從這個意義上講,舊金山市禁止人工智能人臉識別技術是一項遵循權衡人工智能技術利弊的立法。現在,美國參議院正在考慮一項法案來規范人臉識別軟件的商業使用,這是從管理的角度來確保人工智能技術的安全和公平使用。在未來,如果技術和法律的進步能夠確保人臉識別技術達到更安全可控的安全水平,禁令可能會被撤銷。


產品中心

行業應用

典型案例

公司地址
合肥市高新區習友路3333號中國聲谷創意孵化樓401-403樓



服務熱線:

0551-63879385

139551469722

關于我們

聯系我們

第一章教室停电就啪的小说