当算法比你更了解你自己

2021-02-09 约 1714 字预计阅读 4 分钟

最近看到一篇PNAS上的研究，声称可以通过眼睛的运动是否同步，判断视频课程的学生成绩。根据对1000多名大学阶段上在线物理课的学生的眼部数据分析，发现专注的学生在观看教学视频时有相似的眼球运动，眼球运动的同步性是个人学习表现的良好预测指标。

该项研究，会让人想起之前通过视频来识别中小学生是否上课睡觉，交头接耳，根据表情判断学生是否专心听讲。然而该研究关注的是大学物理课程，取得好成绩必定不全是记忆，而涉及理解和应用知识，且使用的特征（眼球的运动是否同步）是一个不符合人类常识的特征，这意味着机器学习将人类心智当成一个黑箱，用人类未知的方式，预测了高层次思维活动的结果。

该研究作者指出，通过实时地监控学生听讲时是否专心，可以在保护个人隐私的同时，帮助在线教育动态地个性化调整课程内容，从而提升课程的质量。但针对该研究一个反对意见就是，如果课程对于某些学生太过简单，导致学生听讲不专心，是不是会导致给这个学生推送更简单的课程，毕竟该研究中并不涉及因果关系。
除此之外，更严重的问题是，该研究的成功，会被其它行业应用。如果短视频能够通过观察你的眼部运动，给你推送你感兴趣的视频，不论你是否愿意，都会由于资本的力量，而使其成为常态。到那时，算法将时时刻刻都比你自己更了解自己当前需要什么。而当你向算法要求透明性，算法给出的解释会让你一头雾水无法理解。
而另一篇PNAS的论文，则通过分析你在社交媒体平台 Reddit 发帖时的语言风格，发现分手的语言标记在分手前3个月就显现出来，在分手当周达到顶峰，之后又回到6个月才回到基线。分手相关的标志包括：认知加工词汇的增加，以及分析性思维相关词汇的使用减少。而且该研究使用的数据，来自于和婚姻完全无关的内容。通过分析代词、冠词和其他几乎看不见的词的微妙变化，算法可以揭示生活经历对心理的影响。

未来大多常人的信息输入，都来自算法的决定。你以为是低幼的弱智的内容，对于他人却看的很感兴趣。人与人的差异越来越大，除非有革命性的技术改变，这一趋势将很难逆转。
由于缺少异质性的群体，难以涌现出1+1>2的现象，这使得常人组成的群体，无法形成群体智慧，而这会进一步拉大常人和自立者的差距。一旦你决定投入算法推荐的陷阱，将会更难爬出。
该如何应对，关键还是落在选择上，是你的选择而不是能力最终决定了你成为什么样的人。对于预测个人的算法，要将其分为扩展了个人选择的，以及限制了个人选择两类。例如本文提到的提前预测是否会分手的算法，就可以帮助人们及早的干预，而预测你会对那些内容感兴趣观看的算法，则限制了个人的选择，尽管其看起来让用户更开心，但算法不应该替人做决定，毕竟限制人的选择权，就是在伤害个体，而这违背了
阿西莫夫机器人第一定律说道：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。前半部分，对应的是让用户自主做选择，而不是通过助推，构建认知框架替用户做选择。而后半部分则对应着在知道人类会做出一些有害自身的事情，例如暴饮暴食，久坐时，不去做出提醒，并督促人们做出改变。
现在的问题，在于机器人第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外被放到了第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存之后。本来生存（为创造自己的公司赚取利润），其优先级应该低于服务并赋能其直接面向的用户，但由于目前用户无法由于平台的垄断，以及成熟的奶头乐，难以选择，通过用脚投票，来保护自身的利益。
但越是在这样的环境下，越要意识到自己做选择的重要性，只有你自己不愿意被选择被定义，才能自立，这无关能力，只关乎是否愿意一次次的主动选择。

Astrostar2021-02-09 18:49:03

国内早先的新闻，AI判断学生有没认真学习的…/::~

孟祥2021-02-09 18:28:47

我们都是随机森林中的一棵棵枝杈

mia2021-02-09 18:15:57

我觉得这些也不难理解啊，我觉得一看这个结果就觉得很有意义啊。而且觉得完全理解，而且觉得他肯定是啊有这样的关联。

蓝蓝2021-02-09 18:10:54

眼动仪十几二十年前已经被美国的市场咨询机构应用了

Cabci新奇2021-02-09 18:08:24

以后AI算命不是梦