跳转到主要内容 跳转到二级导航
页面内容

不能退订? 怪暗模式

詹妮弗•王, HAI隐私和数据政策研究员, 解释跟踪和调节操纵在线战术的重要性.

图像
一位年轻女子对着电脑屏幕皱眉

bwin官方必赢下载的学者们正在用暗模式追踪趋势——网站设计可能会导致必赢bwin软件下载购买一些必赢bwin软件下载并不真正想要的东西,或者使必赢bwin软件下载难以从各种服务中退订. | iStock / pixdeluxe

许多公司通常依赖于欺骗、胁迫或操纵必赢bwin软件下载的设计功能. They ask us to sync our contact list or allow cookie tracking while hiding options that would enable us to decline; they convince us to buy things by pitching a product as available in limited supply or “for a limited time only” when that is not actually the case; they sign us up for subscription services and then make it extremely difficult for us to unsubscribe. 所有这些都是被称为“暗模式”的例子——用户界面设计以必赢bwin软件下载的利益为代价让在线公司受益.

为了更好地理解宇宙中的黑暗图案, bwin官方必赢下载的数字公民社会实验室 (DCSL)现在主持了一个 提示行 个人可以在网上提交他们看到的黑色图案. 慈善, DCSL的主任,还有 詹妮弗•王,隐私及资料政策研究员 斯坦福以人为中心的人工智能研究所他们正在协调这项计划. 在这里, King描述了越来越多的黑色图案的使用, 举报热线的计划, 以及她对未来黑暗模式的期望.

黑色图案变得更普遍了吗?

在过去的十年里,我一直在关注这个领域,我想说的是,黑色图案的使用增加了. 很难确切指出有多少公司在使用它们, 但我观察到它们的使用从边缘走向主流. 处于完全欺骗或欺诈性边缘的公司是最先使用暗模式的公司. 没有黑暗模式,这些公司就没有商业模式.

但随着时间的推移,黑色图案的使用已经成为主流. 必赢bwin软件下载现在看到大型平台和一般消费公司都在以常规的方式依赖于黑暗模式, 比如让用户很难取消游戏,或者设置一个倒计时,让玩家觉得购买机会即将消失, 或者声称——常常与现实脱节——“必赢bwin软件下载今天卖出了900台.“这些公司试图让你觉得自己看到的是一种稀缺资源,但实际上并非如此. 这种在线销售压力直到最近才出现在大多数电子商务网站上, 但现在突然, 即使是差距, 我认为这是一个相当主流的服装网站, 是否设立了“现在有25个人在看这个?.在某些情况下,这些说法完全是虚构的:它们与任何事情都没有联系. 这对于倒计时计时器来说尤其如此:代码实际上只是JavaScript,每次重载时都会重置. 

公司越大,监管越严, 这些稀缺性主张越有可能与某种形式的基础设施有关. 但当他们不是, 这些都是不合理的高压, 欺骗性的销售策略,联邦贸易委员会或州检察长应该监督.

黑色图案对弱势群体的影响不同吗?

黑暗的模式, 从本质上说, 当广告或设计试图把自己伪装成合法的时候,他们实际上是在利用人类的弱点吗. 他们指望一个人无法处理网页上大量复杂的格式和信息,以此来促使他们购买某样东西, 或者注册订阅, 或同意隐私政策. 对于数字原住民或至少受过高中教育的人来说,其中一些模式似乎有些可疑, 但可能会成功地骗过年纪较大且不太精通数字技术的人, 或受教育程度低, 或者母语不是英语的人.

监管机构如何区分有害的暗纹和无害的东西?

在黑暗和更“灰色”或边界模式之间划清界限,坦白地说,这是监管挑战的核心. 这不是一件简单的事情,因为环境很重要. 在涉及到经济利益的情况下, 或者该公司的行为特别恶劣, 可能会有一些容易监管的低垂果实. 事实上,现在有一些事情联邦贸易委员会可以发布规则或指导. 例如, they could state that you can’t auto-renew subscriptions without giving people timely notice; or that you can’t slip purchases into people’s carts online without them taking some affirmative action to include them. 他们可以取缔必赢bwin软件下载所说的消极选项连续性计划, 在没有意识到自己已经做了的情况下,你就已经签约每月支付服务或订阅费了. 他们可能要求,取消订阅或关闭帐户的选项必须与最初注册服务一样容易定位和启动. 这些是一些明显的黑暗模式的例子,现在可以被控制.

来规范那些不那么明目张胆的模式, 必赢bwin软件下载需要召集该领域的专家,然后通过明确的例子来说明什么是可允许的说服,什么是越界而成为霸凌, 强迫, 或操作.

bwin官方必赢下载(bwin官方必赢下载)的数字公民社会实验室(Digital Civil Society Lab)目前正在主持“黑暗模式提示线”(Dark Patterns 提示行), 在那里人们可以报告他们在网上找到的黑色图案. 你希望通过举报热线达到什么目的?

必赢bwin软件下载有几个想法的黑暗模式提示线,因为必赢bwin软件下载接管它从消费者报告, 自今年早些时候推出以来,是谁一直在管理它. 一是继续将其作为公共资源而不仅仅是 教育 公众对黑色图案的看法, 也扩大了情报热线收集数据的范围,使其包括更多类型的黑色图案, 特别是那些可能会伤害弱势群体或人群的. 为了实现这个目标, 必赢bwin软件下载计划联系倡导和民间社会组织,让他们参与识别和提交黑暗模式. 在必赢bwin软件下载收到更多的意见书之后, 大概一年后吧, 必赢bwin软件下载还将分析数据,并就数据收集工作产生的结果发布报告.

其次,必赢bwin软件下载希望与研究人员和政策制定者分享必赢bwin软件下载收集的数据. 对于独立研究人员来说,收集这类数据是相当困难的. 如果政策制定者想要了解这个问题,他们也需要它, 了解它有多普遍, 并决定采取适当的行动.

第三,必赢bwin软件下载打算在今年春天开设一门关于黑色图案的本科课程. 这就是必赢bwin软件下载所说的政策实验室, 在这门课中,学生将学习一些交流领域中暗模式的构建模块, 人机交互, 和认知理论. 学生们还将查看提交给举报热线的黑色图案的例子, 分解必赢bwin软件下载认为使它们变黑的东西, 然后尝试在野外找到并分类新的物种. 他们也可以根据他们的发现为政策制定者起草建议. 他们将是第一批在这一领域接受培训的学生, 这很重要,因为这类专业知识目前在联邦贸易委员会这样的监管机构中并不存在. 

机器学习和人工智能如何与暗模式相关? 

必赢bwin软件下载才刚刚开始看到人工智能对这一领域的影响. 当然, 公司可以并且确实使用机器学习模型来生成和测试数千个版本的广告或用户界面, 这就是所谓的“a /B测试”.因为这些模型通常是为了获得点击或关注而优化的, 机器学习模型将产生强制性的广告设计,因为这些类型的广告设计实际上会促使人们购买.

最著名的, 必赢bwin软件下载在总统选举中看到过这种策略, 尤其是特朗普的竞选团队, 他们在Facebook上测试4之类的东西,一个广告的000次迭代来确定, 在规模, 哪个版本的点击率最高. 必赢bwin软件下载研究界的许多人都担心,训练有素的模型会产生最高的点击率,这必然会产生黑暗的图案.

我还担心使用人工智能算法来传递内容. 例如, 在YouTube上,默认设置是自动播放, 这意味着一个算法会自动播放下一个视频,并不断地为你提供越来越多的内容. 问题不只是它提供给你的视频可能与你刚刚观看的内容有关. 它的算法已经被优化,以保持你的参与, 提供的服务越来越离谱, 引人注意的内容. 你的孩子就是这样从看飞机上的视频开始,两跳之后就开始看阴谋论的视频了.

自动播放被《bwin官方必赢下载》的起草者称为一种黑暗模式, 2019年提出的立法. So, 尽管自动播放是一个可以开启和关闭的设计元素, 把它作为默认设置是有害的,因为它迫使必赢bwin软件下载观看必赢bwin软件下载不想看的内容——包括错误和不实信息——浪费必赢bwin软件下载的时间.

什么样的规则已经适用于深色图案?

联邦贸易委员会(Federal Trade Commission)已经拥有监管欺骗性商业行为的广泛权力,可以立即采取行动 取缔一些非常具体的网络营销行为——本质上是最坏的. 各州的司法部长也会对那些网站设计或交互设计完全具有欺骗性的公司进行调查. 但目前尚不清楚,现有法律是否支持联邦贸易委员会或国家采取行动,以更微妙地使用黑色模式来胁迫和操纵在线用户.

在加州,必赢bwin软件下载有两项法律涉及黑暗模式,但只涉及隐私. So, 例如, 《必赢bwin软件下载》, 哪些是在2020年生效的, 关注用户选择不出售个人信息的权利. 当公司设计一个选择退出的界面, 他们不能使用黑暗模式来让选择变得困难或不可能. 和, 从2023年开始, 《必赢bwin软件下载》(CPRA)将禁止在用户被要求同意信息共享时使用黑色图案. 这些法律只是一个开始,但它们也非常狭隘. 

你认为哪些类型的附加政策将有效地预防和减轻黑暗模式的有害影响?

必赢bwin软件下载需要多方面的政策. 除了调节低垂的果实, 必赢bwin软件下载应该看到来自联邦贸易委员会的一些广泛指导,将使企业更加谨慎行事. 必赢bwin软件下载应该跨越电子商务进入网络游戏等领域, 以及专注于儿童的产品和内容. 然后, 更广泛地说, 一般与在线同意行为相关的政策, 目标是第三方如何通过网络和移动应用程序收集你的信息.

必赢bwin软件下载还将讨论并定义算法在哪些点上超越了传递期望的搜索结果,而传递了操纵你的东西. 这是一个棘手的问题,因为问题并不在于算法本身, 这就是算法正在优化的目的. 为了吸引用户而优化的算法将是最具争议的监管领域之一.

 bwin官方必赢下载的使命是推进人工智能研究, 教育, 改善人类状况的政策和实践. 了解更多

更多bwin官方必赢下载话题

友情链接: 1 2 3 4 5 6 7 8 9 10