AI智能體賽道方興未艾之際,近期發布的多份團體標準警惕稱,部分智能體存在濫用手機系統底層敏感權限的嫌疑,智能體開發運營商需應對背后的數據安全和隱私保護隱患。
AI接管屏幕引擔憂
根據南都此前的報道,在手機終端上,智能體為了打開第三方App,執行用戶給出的指令,通常采取調用應用程序編程接口(API)或視覺識別來模擬用戶操作兩種技術路徑。
綜合多位業內人士的分析,基于API接口的智能體,操作上更流暢。但不少第三方App并不愿開放API接口,擔心交換共享數據會帶來數據安全隱患。
視覺識別方案則發揮大模型的視覺思考和定位的能力,通常需要借助手機底層的無障礙和錄屏等權限,為智能體提供手機界面信息和模擬點擊手機的能力。這種路線與人類查看屏幕內容、操作手機并無二致,在技術上無需第三方軟件授權。其劣勢體現為,智能體識別用戶界面存在延遲,運行速度受限,而且受手機界面的復雜程度、具體任務的交互步驟長度等影響,智能體伴有不同程度的出錯概率。
和技術層面的短板相比,視覺方案更具爭議之處在于其隱私風險:智能體調用的無障礙權限,是安卓手機系統內一項非常敏感的權限。一位互聯網合規人士稱,無障礙權限開啟后,可以讀取屏幕文本內容,監視和記錄用戶的所有操作,其中有可能包括用戶輸入的敏感信息。因此,安卓官網規定,無障礙權限必須由用戶在設備設置中明確打開后才能啟動。(詳見:當AI接管你的手機屏幕,如何規避“黑鏡”式預言?)
一位接近監管側的人士透露,工信部門已表示要嚴格管控手機的無障礙權限使用。
團體標準劃紅線
6月13日,廣東省標準化協會發布團體標準《智能體任務執行安全要求》(下稱《智能體安全要求》),為智能體開發和運營主體提供了明確的行為準則。團體標準不具有普遍性的強制約束力,由本團體成員約定采用或者按照本團體的規定供社會自愿采用。