只看色不看臉？谷歌Photos把黑人當成大猩猩

新浪科技訊 北京時間7月2日上午消息，谷歌堪稱人工智能和和機器學習領域的領導廠商，但該公司本周發布的Photos應用卻犯下了大錯，表明他們的電腦仍有很多東西需要學習。

Web開發者傑基·阿爾西尼(Jacky Alcine)發現，這款應用將兩位黑人用戶的照片標記為“大猩猩”，並將截圖發布在Twitter上。他在推文中寫道：“Google Photos，你太混蛋了。我朋友不是大猩猩。”

谷歌隨后對此道歉，並表示將調整算法，以修復這一問題。

“我們對此感到震驚，並致以真誠的歉意。”谷歌發言人，“圖片自動標記功能顯然還有很多改善空間，我們希望今后能避免此類錯誤再次發生。”

“大猩猩”標籤出現在谷歌Photos應用的搜索功能中，這是谷歌幾周前發布的一款品。當用戶搜索照片時，谷歌會推薦幾個由機器學習自動歸納的類別，該公司已經移除了“大猩猩”這一類別，因此同樣的建議之后不會再次出現。

“我們正在做很多工作，還有很多問題有待解決。但我們會努力的。”谷歌首席社交架構師Yonatan Zunger通過Twitter向阿爾西尼回復道。他還補充，谷歌正在努力改善膚色識別技術，在給照片中的人添加標籤時將會更加小心。

此事凸顯出人工智能和機器學習技術的不足，尤其是用於普通消費市場時。谷歌通常會發布一些仍然存在瑕疵的品，然后逐步通過軟件更新修正問題。這種模式可以盡快向用戶推出品，但如果出現嚴重漏洞，也會引發用戶的不滿。

谷歌今年早些時候推出了一款YouTube Kids應用，使用自動過濾器、用戶反饋和人工評估的方式過濾成人內容。但該系統仍然放過了一些不當視頻，引發了用戶的不滿。谷歌發言人當時稱，“几乎不可能實現100%的精確度。”

谷歌推出Photos應用時也承認該應用並不完美，但“大猩猩”標籤卻集中凸顯了這套系統的短板。

“我們需要徹底改變機器學習系統，以便提供更多的背景信息，使之理解人類所看重的文化敏感問題。”人工智能創業公司Sentient Technologies首席科學家巴巴克·霍加特(Babak Hodjat)。

他表示，機器學習並不理解不同錯誤之間的差異，把黑猩猩錯看成大猩猩沒有問題，但如果把人錯看成黑猩猩，就會非常冒犯。

谷歌的系統或許沒有“看過”足夠多的大猩猩圖片，未能了解具體差異，也無法明白這種錯誤的嚴重性。

“人類對於具有重要文化意義的偏差非常重視。”霍加特，“機器卻無法做到這一點，他們無法理解這種背景信息。”

為谷歌機器學習系統提供更多圖片可以起到一定的幫助，但也必須在特定的設置下對這類系統展開更加謹慎的訓練。

谷歌表示，隨更多的圖片加載到Photos中，加之越來越多的人修復錯誤標籤，這套照片歸類算法的效果將逐步提升。谷歌表示，該公司之所以發布這款應用，一定程度上是為了讓人們為其提供更多照片，以便提升整體識別率。

谷歌的語音搜索功能也採用了類似的模式。該服務最初有很多識別錯誤，但隨使用量的加大，識別率已經逐步改善。(書聿)