每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅:https://rengongzhineng.io/
今年,亚马逊因其在多家实体杂货店安装的“Just Walk Out”技术引发了批评性报道而备受关注。
这种人工智能驱动的系统使顾客在许多亚马逊生鲜店和亚马逊Go商店中只需挑选商品,然后直接离开。这项技术通过大量传感器来识别顾客选择了哪些商品,随后自动结账。然而,今年四月,有报道称,这项“Just Walk Out”技术并非完全依赖人工智能,而是需要印度约1000名员工手动检查几乎四分之三的交易。
亚马逊迅速回应称这些报道是“错误的”,并表示印度的员工并未审查所有商店的视频监控。亚马逊表示,这些员工只是对系统进行审核。这与任何注重准确性的AI系统相同,人类审核员是很常见的。无论亚马逊的具体情况如何,这都是一个引人注目的例子,说明了一个新兴的问题——公司是否在夸大其对AI的使用。这种现象被称为“AI洗白”,类似于环保领域的“绿色洗白”。
首先,解释一下什么是AI。虽然没有确切的定义,但AI让计算机能够学习和解决问题。在经过大量信息的训练后,AI可以执行这些任务。近年来备受瞩目的AI类型是所谓的“生成式AI”,这种AI擅长创造新的内容,无论是文本对话、音乐还是图像。像ChatGPT、谷歌的Gemini和微软的Copilot都是生成式AI的流行例子。
谈到AI洗白,有几种类型。一些公司声称使用AI,但实际上使用的是不那么复杂的计算技术;还有些公司夸大了AI在现有技术上的效果,或声称其AI解决方案已完全投入使用,而实际上并非如此。同时,还有一些公司只是将AI聊天机器人附加到现有的非AI操作软件上。
根据英国和芬兰的投资基金OpenOcean的数据,2022年只有10%的科技初创公司在推介中提到使用AI,而在2023年这一比例上升到超过四分之一。OpenOcean预计今年这一比例将超过三分之一。团队成员Sri Ayangar表示,竞争资金和渴望走在科技前沿的欲望推动一些公司夸大其AI能力。
“有些创始人似乎认为,如果不在推介中提到AI,这可能会使他们处于不利地位,不管AI在他们的解决方案中扮演了什么角色,”Ayangar说道。“从我们的分析来看,公司声称拥有AI能力与展示出实际AI驱动结果之间存在显著差距。”
Ayangar指出,许多初创公司的老板认为他们必须提到AI。根据另一家科技投资公司MMC Ventures的数据,这个问题已经存在多年。2019年的一项研究发现,自称为“AI初创公司”的新科技公司中有40%实际上几乎不使用AI。
MMC Ventures的合伙人Simon Menashy解释道:“现在,每家公司都可以以标准软件的价格购买到最前沿的AI技术,但很多公司并没有构建完整的AI系统,而只是将聊天机器人界面添加到非AI产品上。”
KPMG英国新兴技术风险负责人Douglas Dick表示,AI洗白问题因缺乏统一的AI定义而加剧。“如果我问一个房间里的人什么是AI,他们都会给出不同的答案,”他说。“这个术语被非常广泛和松散地使用,没有明确的参照点。这种模糊性使AI洗白现象得以出现。”
AI洗白对企业有着令人担忧的影响,从支付过高的技术和服务费用到无法实现AI预期的运营目标。对于投资者来说,这使得识别真正创新的公司变得更加困难。Ayangar表示:“如果消费者对声称提供先进AI驱动解决方案的产品感到失望,这可能会侵蚀那些真正做开创性工作的初创公司的信任。”
美国的监管机构已经开始注意到这个问题。今年早些时候,美国证券交易委员会(SEC)表示,正在起诉两家投资咨询公司,指控它们对使用AI的程度作出虚假和误导性陈述。“SEC采取的坚定立场表明,在AI洗白问题上没有回旋余地,至少在美国,未来我们可以预期对违规者会有更多的罚款和制裁,”国际律师事务所Charles Russell Speechlys的合伙人Nick White说。Nick White指出,美国监管机构对这个问题的打击力度令人欣慰. 在英国,已经有法规和法律涵盖AI洗白问题,包括广告标准局(ASA)的行为准则,该准则规定,营销传播不得存在重大误导性或可能导致误导性。英国企业法律事务所Walker Morris的监管团队助理Michael Cordeaux表示,AI声明已成为ASA调查的广告中越来越常见的特征。
例如,一则关于应用程序的付费Instagram帖子标题为“使用AI增强您的照片”,ASA认为这是夸大了应用程序的性能,因此具有误导性。Cordeaux表示:“很明显,AI声明越来越普遍,显然也越来越能够引起消费者的兴趣。”
牛津大学技术与监管教授Sandra Wachter认为:“我们正处于AI炒作的高峰期。”她补充道:“我们似乎忘记了问是否有必要将AI用于所有类型的任务。我记得在伦敦地铁看到的广告上写着由AI驱动的电动牙刷。这是给谁用的?谁会受益?”
此外,她表示,AI的环境影响常常被忽视。“AI并不是从树上长出来的……这种技术对气候变化的贡献已经超过了航空业。我们必须摆脱这种片面的炒作讨论,真正思考AI在具体任务和领域中的有益之处,而不是盲目地将其应用到所有领域。”
然而,MMC Ventures的研究主管Advika Jalan表示,从长远来看,AI洗白问题可能会自行消退。“AI变得如此普遍——即使它们只是ChatGPT的外壳——‘AI驱动’作为一个品牌工具最终可能不再具有差异性,”她说。“这就像说‘我们在互联网上’一样。”