
Google表示◈ღ,其新的人工智能模型系列有一个奇特的功能◈ღ:能够识别情绪◈ღ。PaliGemma 2 系列模型于本周四发布◈ღ,它可以分析图像◈ღ,使人工智能能够生成标题◈ღ,并回答它在照片中看到的人的相关问题◈ღ。
Google在与 TechCrunch 分享的一篇博文中写道◈ღ:PaliGemma 2 可以为图片生成详细的◈ღ、与上下文相关的标题◈ღ,不仅仅是简单的物体识别◈ღ,还可以描述动作◈ღ、情绪和场景的整体叙事◈ღ。
情绪识别并不是随到随用的◈ღ,PaliGemma 2 还需要为此进行微调◈ღ。 尽管如此◈ღ,一些专家们还是对公开情感检测器的前景感到震惊◈ღ。
牛津互联网研究所数据伦理与人工智能教授桑德拉-瓦赫特(Sandra Wachter)表示◈ღ:这让我感到非常不安◈ღ。我觉得假设我们可以读懂人们的情绪是有问题的◈ღ。 这就像向黑8球寻求建议一样◈ღ。
多年来◈ღ,初创企业和科技巨头们都在努力打造能够检测情绪的人工智能◈ღ,从销售培训到预防事故无所不包◈ღ。 一些公司声称已经实现了这一目标◈ღ,但科学的经验基础并不牢固农家福女温暖全本免费阅读◈ღ。
保罗-艾克曼(Paul Ekman)是一位心理学家◈ღ,他认为人类有六种共同的基本情绪◈ღ:愤怒◈ღ、惊讶◈ღ、厌恶◈ღ、享受◈ღ、恐惧和悲伤◈ღ。 然而◈ღ,后来的研究对艾克曼的假设产生了怀疑◈ღ,研究表明不同背景的人在表达自己的感受时存在很大差异农家福女温暖全本免费阅读◈ღ。
玛丽女王大学专门从事人工智能研究的研究员迈克-库克(Mike Cook)认为◈ღ:在一般情况下◈ღ,情绪检测是不可能实现的◈ღ,因为人们体验情绪的方式很复杂5357cc拉斯维加斯◈ღ。当然◈ღ,我们确实认为我们可以通过观察他人来了解他们的感受◈ღ,多年来也有很多人尝试过◈ღ,比如间谍机构或营销公司◈ღ。 我相信◈ღ,在某些情况下◈ღ,我们绝对有可能检测出一些通用符号◈ღ,但这并不是我们能够完全解决的问题◈ღ。
不足为奇的是◈ღ,情绪检测系统往往并不可靠◈ღ,而且会受到设计者假设的影响◈ღ。 在麻省理工学院 2020 年的一项研究中◈ღ,研究人员发现◈ღ,面部分析模型可能会对某些表情(如微笑)产生非预期的偏好◈ღ。 最近的研究表明5357cc拉斯维加斯◈ღ,与白人相比◈ღ,情绪分析模型赋予黑人面部更多的负面情绪◈ღ。
Google表示◈ღ,它进行了广泛的测试◈ღ,以评估 PaliGemma 2 中的人口统计偏差◈ღ,并发现与行业基准相比◈ღ,毒性和亵渎程度较低农家福女温暖全本免费阅读◈ღ。 但该公司没有提供所使用基准的完整列表◈ღ,也没有说明进行了哪些类型的测试◈ღ。
Google披露的唯一基准是 FairFace◈ღ,这是一组数万人的大头照◈ღ。 该公司声称◈ღ,PaliGemma 2 在 FairFace 中得分很高5357cc拉斯维加斯◈ღ。 但一些研究人员批评该基准是一种偏见指标◈ღ,指出FairFace仅代表了少数种族群体农家福女温暖全本免费阅读◈ღ。
研究人工智能社会影响的非营利组织 AI Now 研究所的首席人工智能科学家海迪-克拉夫(Heidy Khlaaf)说◈ღ:解读情绪是一件相当主观的事情◈ღ,它超出了视觉辅助工具的使用范围◈ღ,在很大程度上是嵌入在个人和文化背景中的农家福女温暖全本免费阅读◈ღ。撇开人工智能不谈◈ღ,研究表明◈ღ,我们无法仅从面部特征推断情绪◈ღ。
情绪检测系统已经引起了海外监管机构的愤怒◈ღ,他们试图限制在高风险环境中使用这种技术◈ღ。 《人工智能法案》是欧盟的主要人工智能立法◈ღ,禁止学校和雇主部署情绪检测器(但不包括执法机构)◈ღ。
包括人工智能开发平台 Hugging Face 在内的许多主机商都提供 PaliGemma 2 这样的开放模型5357cc拉斯维加斯◈ღ,但人们对这些模型的最大担忧是它们会被滥用或误用5357cc拉斯维加斯◈ღ,这可能会导致现实世界中的伤害◈ღ。
克拉夫说◈ღ:如果这种所谓的情感识别建立在伪科学推测的基础上◈ღ,那么这种能力可能会被用来进一步--而且是错误地--歧视执法◈ღ、人力资源◈ღ、边境治理等领域的边缘化群体◈ღ,这将产生重大影响◈ღ。
在被问及公开发布 PaliGemma 2 的危险性时◈ღ,Google发言人表示农家福女温暖全本免费阅读◈ღ,该公司支持其与视觉问题解答和字幕相关的代表性危害测试◈ღ。他们补充说◈ღ:我们对 PaliGemma 2 模型进行了严格的道德和安全评估◈ღ,包括儿童安全和内容安全◈ღ。
Watcher 认为这还不够◈ღ。她说◈ღ:负责任的创新意味着你从踏入实验室的第一天起就考虑到后果◈ღ,并在产品的整个生命周期中持续这样做◈ღ。我能想到无数潜在的问题◈ღ,[这样的模式]可能会导致一个乌托邦式的未来◈ღ,在那里◈ღ,你的情绪决定你是否能得到工作◈ღ、贷款◈ღ,以及是否能被大学录取◈ღ。拉斯维加斯游戏◈ღ!社会工作系◈ღ,欢迎来到拉斯维加斯游戏◈ღ,3499拉斯维加斯◈ღ。拉斯维加斯游戏官方网站◈ღ!5357cc拉斯维加斯◈ღ,欢迎来到拉斯维加斯◈ღ,