本文系网易智能工作室（公众号 smartman 163）出品。聚焦AI，读懂下一个大时代！
【网易智能讯 9月8日消息】我们在很多事情上都依赖机器学习系统，从创建播放列表到驾驶汽车都是如此，但就像任何工具一样，它们也可以被扭曲成危险的、不道德的目的。今天，斯坦福大学的研究人员发表了一篇新论文，阐述了这一事实。他们发明了一种机器学习系统，他们声称可以从一些图片中分辨出一个人是同性恋还是异性恋。
这项研究令人惊讶，同样也令人不安。除了将本已脆弱的群体暴露于一种新的系统化滥用形式之外，它还直接触及了平等主义的观念，即我们不能（也不应该）通过外表来判断一个人，也不能从简单的快照或一两个简单的事物中推测出一个人的性取向。但是，论文中所报告的系统准确性似乎没有考虑到上述的层面：这不仅是可能的，而且已经实现了。
它依赖的线索显然比大多数人所能感知到的更加精细——而这些线索很多人都觉得是不存在的。它还显示了一种对隐私的威胁，这种威胁对于即将到来的计算机视觉时代来说是独一无二的。
在讨论系统本身之前，我们应该清楚地表明，这项研究的出发点是好的。任何人在评论这个话题时都应该阅读作者的一组笔记，Michal Kosinski和Yilun Wang两位作者解决了各种各样的异议和问题。最相关的或许是他们关于报纸发布时间的回答：
我们对这些结果感到非常不安，花了很多时间考虑是否应该公开这些结果。我们不想让我们所担心的风险真正发生。控制透露自己性取向的时间和对象是至关重要的，这不仅对一个人的健康有好处，而且对一个人的安全也是如此。
我们认为，有必要让政策制定者和同性恋群体(LGBTQ)意识到他们面临的风险。我们并没有创建侵犯隐私的工具，而是展示了那些得以广泛使用的基本方法会带来严重的隐私威胁。
当然，这只是众多试图获取私密信息的系统之一，这些私密信息包括性行为、情绪状态或医疗条件等。但这是一个特别令人担忧的问题，原因有以下几点。
这篇论文将发表在《人格与社会心理学》杂志上，它详细描述了一种相当普通的监督式学习方法，目的是能够从他们的面部识别出是同性恋者或异性恋者。（注：这篇论文仍在草案阶段。）
通过一个面部图像数据库（来自一个可以公开其数据的约会网站），研究人员收集了14776人的35326张照片，其中有（自我识别的）同性恋和异性恋男性和女性数量都是相同的。他们的面部特征被提取和量化：从鼻子、眉毛的形状到毛发和面部表情。
一个深度学习网络分析了所有这些特征，发现这些特征往往与特定的性取向有关。研究人员并没有对同性恋或异性恋者的长相有任何先入为主的概念，也就是说，并没有提前“植入”某种概念;该系统只是将某些特征与性取向和识别模式联系起来。
由数千张个人资料照片组合的合成脸，显示出系统所观察到的细微差别。
这些模式可以在面部图像中进行搜索，让计算机推测该主体的性取向——事实证明，人工智能系统在这项任务上明显优于人类。
当我们向机器展示一张同性恋和一张异性恋的照片时，算法多数情况下能准确判断其性向，男性准确率高达91%，女性准确率也有83%。同样的图片，61%和54%的时间都是正确的，这比扔硬币好得多。
在第二篇论文中描述了四组之间的差异，除了明显的行为差异，比如一组梳理头发或化妆，总体趋势是男同性恋者具有“女性化”特征，而女同性恋者具有“男性化”特征。
这张图表显示了哪些特征可以预测性取向。
必须指出的是，这种准确性只是在系统的理想情况下所得出的，即在两个人之间进行选择，其中一人是同性恋。当该系统评估一组1000人的面孔时，只有7%的人属于同性恋者（为了更能代表真实的人口比例），它的评估则相对较差。只有排名前10的公司才有90%的命中率。
数据中也存在偏见的可能性：约会网站可能会被某个种族的人所主导，其中包含的照片更能显示出性取向，而不是这个人在Facebook上发布的照片，或者在Snapshots上的照片。这可能会影响系统在现实世界的有效性（如果要正式使用的话，它不会以这种方式使用）。我已经向研究人员询问了关于这个话题的更多细节。
这项技术并不比“Phrenology2.0”更好，它是一种将不相关的物理特征与复杂的内部过程相结合的欺骗链接，这是可以理解的，但并不完全正确。
研究人员在论文的前言中写道：“相面术现在被普遍认为是迷信和种族主义伪装成科学的混合物，这是正确的。（我理解它们指的是颅相学，而不是相面术）。”但伪科学是失败的，因为它的从业者是在倒退。他们决定了谁在“犯罪”或“性变态”，然后决定这些人有哪些共同特征。
事实证明，人们在这类任务上表现得很糟糕——我们在人身上看到的太多，所以我们根据本能进行行动和感知。但这并不意味着可见的特征、生理或心理都是不相关的。没有人会怀疑机器能否接收到人类没有能力感知的东西，这些东西包括微小的炸弹或药物的化学痕迹，到能够提前检测出癌症的核磁共振扫描模式。
这篇论文指出，计算机视觉系统正在研究同样微妙的模式，包括人工的和自然的，但主要是后者;研究人员正在谨慎地关注那些无法轻易改变的特征。它支持这样一种假设，即性是由生理决定的，也就是说，性可能是由不同的胎儿激素所引起的，除了影响被吸引的人外，还可能导致轻微的生理差异。该系统所观察到的模式与产前激素理论所预测的模式相似。
这一系统开始趋向于大范围的社会和哲学争论中，这些争论有关于爱，性，决定论，情绪变化，以及纯粹的生物学特征。但这不是真正的时间或地点，老实说，我也不是真正的那个人。所以我要避开这个话题，转向另一个主要问题，那就是隐私问题。
从少量照片中自动判断一个人性取向的含义是巨大的，首先也是最重要的，因为它让同性恋(LGBTQ)群体在全世界某些地方置于危险的境地，在那里他们仍然是受压迫的少数群体。系统滥用的可能性是巨大的，有些人可能会不同意研究人员创建和记录这一系统的决定。
但也有争议的是，最好是将这种可能性公开，以便实施相应的对策，或者让人们为之做好准备。毕竟，通过分析Facebook或Twitter消息流，也可以确定性取向和许多其他个人特征。
不同之处在于，你可以混淆或控制你在网上发布的信息;但在这个系统之下，你无法控制谁将会看到你的脸。这是一个我们所生活的监督社会，而且监督性会越来越高。
“在我们看来，即使是保护隐私最好的法律和技术，总有一天都会失败，”研究人员写道。“数字环境很难监管;数据可以很容易地跨越国界、被窃取，也可以在未经用户同意的情况下被记录下来。”
换句话说，秘密已经被泄露了。如果是研究人员对受影响最严重的人群表示同情，而不是联邦调查局或其他一些人为了自己的目的而做这件事，这样可能会更好。
这是一个极其复杂的问题，在很多方面都是非常复杂的，但它同时也颇具吸引力，证明人工智能可以相对容易地做一些我们自己无法做到的事情。这一技术的含义一如既往地复杂，但有趣的是，这种研究将如何帮助定义和指导人类。
研究人员对这一结果的评估本身并不是乐观的，但在这个科技被认为会扮演救世主的时代，他们是非常现实的，也可能成为反派。
他们写道：“我们认为，隐私遭受进一步的侵犯是不可避免的，同性恋和其他少数群体的安全不取决于隐私权，而在于人权的执行，以及社会和政府的宽容。”“为了让后隐私世界变得更安全、更宜居，居住的人必须接受过良好的教育，而这些人无法容忍苛刻的态度。”
科技不会拯救我们自己——我们可能不得不从科技行业中拯救自己。
（选自：TechCrunch 作者：Devin Coldewey 编译：网易见外智能编译平台 审校：Simone）
关注网易智能公众号（smartman163），获取人工智能行业最新报告。
本文来源：网易智能
责任编辑：
尚永梅_NT4624
