YC科技资讯网

讲个在欧洲最近讨论很多,但国内基本无人关注的话题:Meta 最近终止了与外包公司

讲个在欧洲最近讨论很多,但国内基本无人关注的话题:Meta 最近终止了与外包公司 Sama 的一项重大 AI 训练合同,原因是 —— 这家公司的工人向媒体披露,他们需要审查 Meta 智能眼镜拍下的私密甚至露骨内容。

今年 2 月,Sama 的工人向两家瑞典报纸爆料,他们在工作中看到过智能眼镜用户如厕、啪啪、赤身等极度私密的画面。

瑞典媒体 Svenska Dagbladet 和 Goteborgs-Posten 在 2 月底发布了这项重磅调查,其中一名工人说,有一次一名男子的眼镜被留在卧室里继续录制,随后拍到一名女性正在脱衣。

也就是说,被拍到的人未必是智能眼镜的使用者,也未必知道自己被拍下,更未必同意自己的影像被送入 AI 训练。

Meta 的智能眼镜在录制时,镜框角落会亮灯,提示内置摄像头正在工作,但并不是每个人都知道这点,也并一定会注意到那个小小的灯光。

Meta 随后承认当用户把智能眼镜内容分享给 Meta AI 后,分包工人有时可能会审看相关内容。Sama 工人在这条链条里干的活是 AI 数据标注。他们通过手动标注内容,训练 Meta AI 理解图像,也会审看用户与 AI 互动的文字记录,检查 AI 是否充分回答问题。

Meta 的解释是,人工审看是为了改善客户体验、提升产品表现,而且公司称会获得用户的明确同意。它还强调,服务条款中已经告知用户,内容可能存在人工审查。

不到两个月后,Meta 就结束了与 Sama 的合作,给出的理由是:Sama 不符合我们的标准。

Sama 称,这将导致 1108 名工人被裁,对肯尼亚当地来说是一个巨大的裁员灾难。

当然,这件事情不能完全怪 Meta,毕竟向媒体泄露客户的信息,本身确实违反了保密原则,中止合同不冤。

但外包 AI 产业的问题也在这里:非常多的隐私信息流向了外包供应商,而且一旦出事,平台可以迅速切割,最后从法律上找到一个完整承担后果的对象。