October 4, 2022

使用個人數據檢測用戶情緒,蘋果備受爭議


這項技術在偽科學中一直很成熟。

翻譯社是一支不到36氪的翻譯團隊,專注於科技、商業、職場、生活等新領域,專注於引進國外新技術、新視角、新趨勢。

編者按:Apple 使用 Apple Watch 和 iPhone 用戶隱私數據進行情緒檢測,但這項技術在今天不僅非常不可靠,而且對用戶隱私構成了隱患。產品。被發現了嗎?本文由原作者、Fast Company 的 Ruth Reader 翻譯,標題為 Apple 正在研究使用 iPhone 數據進行情緒檢測。批評者稱該技術存在缺陷。

根據加州大學洛杉磯分校和蘋果公司最近進行的一項研究,iPhone 製造商使用面部識別、語音和各種其他被動行為跟踪來檢測抑鬱症。該報告由《華爾街日報》的 Rollwinkler 撰寫,對該公司進入名為“情感人工智能”的領域表示擔憂。這是一種“偽科學”,因為一些科學家甚至聲稱這個領域是基於錯誤的假設。

Apple 的抑鬱症研究於 2020 年 8 月首次發布。根據之前的研究信息,該公司僅使用特定的健康數據(例如心率、睡眠以及用戶與手機的交互方式)來了解心理健康。但是華爾街日報居然把用戶的生命體徵、運動、語言、睡眠、打字習慣,甚至打字的頻率都包括在檢測範圍內,檢測壓力、抑鬱、焦慮,我報告說我在那裡。我們還收集了來自 Apple Watch 和 iPhone 相機和麥克風的數據,並將其與心理健康標準和皮質醇水平數據(從參與者的表皮毛囊中獲得)進行了比較。

圖片來源:Pexels

據《華爾街日報》報導,蘋果還參與了其他研究,旨在根據 iPhone 和 Apple Watch 數據檢測兒童的認知能力下降和自閉症。這些研究是蘋果對個人健康研究的延伸。金錢投資於跟踪用戶運動、睡眠、聽力、身體穩定性、月經、飲食等日常健康指標,以及綜合醫療數據,向用戶醫生髮送健康報告。也可以做到。

抑鬱症研究還使用健康數據來推斷用戶的情緒狀態。越來越多的應用程序聲稱引入了此功能,並使用所謂的情緒人工智能或情緒計算被動地測量情緒。出於商業目的,我們嘗試使用面部表情等各種數據來檢測用戶情緒。 根據 Grand View Research 的數據,2019 年情感計算市場規模約為 200 億美元。

丹杜爾聯合利華、嘉年華郵輪、IBM 和其他大公司開始在招聘過程中使用情感人工智能來了解候選人的個性。這項技術也已在實驗和商業上用於檢測汽車司機是否睡著了。這種技術在監獄中也被用於檢測囚犯的心理壓力,在流行病期間也被使用。網課的學生正在認真學習。

然而,這項技術受到了許多利益相關者的批評。它不僅收集了大量的敏感數據,而且這種技術的最終效果是不夠的。電子前沿基金會立法活動家“總的來說,實驗表明,能夠檢測情緒或心理健康的產品是不可靠的,”海莉·塚山說。

圖片來源:Pexels

科學家們還公開批評了情緒人工智能的問題,稱該技術基於一個固有缺陷的假設。南加州大學傳播新聞學院研究員,“人工智能圖集本書作者 Kate Crawford:人工智能的權力、政治和環境成本使這一假設成為“對源自一個人的內部狀態和外表的能力的錯誤假設,一種狂熱的衝動。”我稱之為。獲取用戶未主動披露的信息。 ”

2019 年,一組研究人員在《公共利益心理科學》雜誌上發表了一篇論文,解釋了情感 AI 面臨的挑戰。他們寫: “無論算法多麼複雜,它只是”讀取“使用面部運動分析的人的內部狀態,無論環境或其他方面如何。說好聲音是不成熟和簡單的。 “在這篇論文中,研究人員呼籲人們對這項技術進行更詳細的研究,人們如何以及如何在各種情況下使用面部運動來表現和隱藏自己的內心情緒。從他人的面部表情中推斷出他人的情緒。

隨著像 Apple 這樣的科技公司開始投資這項技術,情感 AI 的可信度將產生重大影響。去年 8 月,亞馬遜推出了一款可穿戴健康設備,能夠檢測您聲音的情緒基調。 在 Nature 的文章中,克勞福德呼籲該國製定強有力的立法,以確保情感 AI 應用背後的科學是嚴謹和透明的。一旦不可靠的測謊技術被使用了幾十年並造成了巨大的破壞,它已經被證明是不可靠的,所以這份報告對於情感人工智能技術仍然需要完善。是的,她認為測謊是過去的教訓。

塚山說,大公司有責任闡明這項技術的能力和缺點。在檢測抑鬱症時,不僅要向用戶說明人工智能的評價只是一個參考值,還要考慮外行如何解讀這個功能。 “你覺得你有這個技術就不用看醫生了嗎?”“你覺得這個技術成熟到可以治愈自己嗎?”這些誤解可能會傷害到使用者。

新罕布什爾大學法學院的技術律師兼助理教授 Tiffany C. Lee 表示,他認為蘋果的研究可能有助於推進醫學發展,但“重要的是建立了保護。她對情緒人工智能的擔憂是:這項技術使用了大量的個人數據。如果聯邦隱私法不包括保護人們的生物特徵數據: ,消費者將失去使用、處理和存儲數據的自主權。

圖片來源:Pexels

Apple 正在與學術研究合作以測試抑鬱症的檢測,該研究對參與者的透明度和知情同意有嚴格的規定。 《華爾街日報》在其報告中指出,加州大學洛杉磯分校和蘋果的研究永遠不會用於消費者應用。該調查將於 2020 年開始,為期三年。下一階段,實驗樣本將擴大到3000人。但蘋果對情感人工智能的研究表明該領域正在加速發展。評論員認為,隨著技術變得越來越普遍,需要引入更強大的監管體系。

“為了使用這個算法做出重要決策,我們需要確保它是透明的、經過審計的和被篡改的,”塚山說,“基本的問責制你需要確保有一個系統……”

譯者:激動人心

本文允許發表,不代表36氪立場。

轉載請註明出處。來源:36氪

◤ 快速搶果粉◢
新iPhone 13系列限開,買舊的,買最便宜的,現在用
開放預約參觀金澳蘋果區
Macbook Air/Pro M1 限時被殺
獲得 iPad Pro 的折扣和免費贈品



新聞來源: yahoo