避免成为人工智能牺牲品的9种方法

首席信息官们面临着越来越大的压力，要求他们指出来自供应商的误导性人工智能声明。各种策略提供了最好的防线。大量各行各业的数据被用来做GPT大模型训练，有没有人关心这些数据涉及的隐私和安全呢？有的机构坚决说No，敢于销毁数据以保护公司声誉。

最近几个月，人工智能一直是每个人最喜欢的流行语。随着人工智能稳步进展，硅谷初创公司和财富500强公司都看到了行业革命。但是兴奋、进步和像人工智能清洗这样的危险信号是同步发展的。一些企业不顾一切地想捞一笔，想利用炒作赚钱，所以他们夸大了人工智能能力，尽管事实上，他们使用的人工智能很少或根本不存在。与非人工智能创业公司相比，这种有问题的营销策略可以帮助他们获得更大的种子、A和B轮资金。根据GlobalData的数据，仅去年一年，人工智能初创公司就筹集了超过500亿美元的风险投资资金，鉴于ChatGPT和其他公司的狂热，预计今年这个数字还会增长。鉴于资本涌入这些初创公司，人工智能清洗现象只会越来越严重。

美国联邦贸易委员会充分意识到了这种危险，并警告供应商在宣传其人工智能能力时要透明和诚实。联邦贸易委员会广告业务部门的律师迈克尔·阿特莱森在一篇博客文章中写道:“一些声称具有人工智能的产品甚至可能不像最初宣传的那样有效。”。“在某些情况下，这种功效缺失可能存在，不管这些产品可能会造成什么其他伤害。营销人员应该知道——出于联邦贸易委员会执法的目的——虚假或未经证实的产品功效声明是我们的谋生之道。”在这个复杂的环境中，很难区分合法的人工智能解决方案和营销噱头。德勤全球人工智能研究所(Deloitte Global AI Institute)执行董事Beena Ammanath表示:“当面对供应商对其人工智能产品的说法时，公司需要持适度的怀疑态度。"就像任何事情一样，如果听起来好得令人难以置信，那很可能就不是真的."

纽约大学首席信息官唐纳德·韦尔奇说，如果首席信息官和他们的公司没有找到正确的答案，他们可能会面临各种后果，包括项目失败或延期、财务损失、法律案件、声誉风险，最终被解雇。“我见过高管被解雇，我不能说这是一个错误的决定。”幸运的是，他们可以使用几种策略来避免错误。

人工智能驱动的企业需要熟练的员工

审查声称使用人工智能的企业可能是一个漫长而耗时的过程。然而，简单的事情，比如进行LinkedIn搜索，可以揭示对一个组织的档案有价值的见解。“考察厂商员工的人工智能经验和教育水平，”艾玛纳特说。正在开发人工智能解决方案的公司应该有这样的人才，这意味着他们拥有在人工智能、机器学习、算法开发等领域拥有丰富经验的数据科学家和数据工程师。"除了审查员工，首席信息官还可以寻找与外部人工智能专家和研究机构合作的证据。这一类别包括与大学的合作伙伴关系，参加行业会议和活动，以及对开源人工智能倡议的贡献。这也是一个好的迹象，如果该供应商有类似的项目或应用程序的经验，因为它表明它可以交付高质量的结果。乌克兰裔美国人创业公司MacPaw的首席技术和创新官维拉·特卡琴科说:“仔细检查供应商的历史。“如果一家公司是人工智能专家，它很可能有该领域或其他人工智能产品的研究论文历史。”

寻找一个精心设计的数据策略

真正将人工智能集成到产品中的公司也需要一个经过深思熟虑的数据战略，因为人工智能算法需要它。他们需要处理高质量的数据，数据越丰富、越相关，结果就越好。“人工智能系统由非常大量的数据驱动，因此这些公司也应该有一个构建良好的数据战略，并能够解释收集了多少数据以及来自哪些来源，”艾玛纳特说。另一件要看的事情是，这些公司是否付出足够的努力来遵守监管要求，并保持高数据隐私和安全标准。随着《通用数据保护条例》(欧盟GDPR)和《加州消费者隐私法》( CCPA)等数据隐私法规的兴起，组织必须对其数据做法保持透明，并为个人提供对其个人数据的控制。如果没有发生这种情况，这应该是一个危险信号。

要求证据来支持这些主张
虽然流行语可能很诱人，但委婉地寻求证据会有所帮助。“提出正确的问题并要求产品声明的证据，对于剥离营销和销售语言以确定产品是否真正由人工智能驱动至关重要，”艾玛纳特说。首席信息官评估一个似乎由人工智能驱动的特定产品或服务时，可以问模型是如何训练的，使用了什么算法，以及人工智能系统将如何适应新数据。“你应该问供应商他们使用什么库或人工智能模型，”特卡琴科说。"他们可能只是把一切都建立在一个简单的OpenAI API调用上."管理和技术咨询公司BearingPoint的合伙人兼全球技术负责人马蒂亚斯·罗瑟(Matthias Roeser)对此表示赞同。他补充说，应该彻底理解组件和框架，评估应该包括“道德、偏见、可行性、知识产权和可持续性。”这项调查可以帮助首席信息官们更多地了解该产品的真正功能和局限性，从而帮助他们决定是否购买。

关注创业公司

创业公司将自己定位在创新的最前沿。然而，尽管他们中的许多人在人工智能领域推动了可能的边界，但有些人可能只是夸大了他们的能力，以获得关注和金钱。乌克兰裔美国初创公司Claid.ai by Let's Enhance的联合创始人兼CTO弗拉德·普兰斯凯维丘斯(Vlad pranskeviius)表示:“我自己作为一家机器学习公司的CTO，经常会遇到AI洗白的案例，尤其是在初创公司社区。然而，他注意到，最近这种情况变得更加严重，并补充说，这种现象在目前经历的炒作周期中尤其危险，因为人工智能被视为新的淘金热。不过，pranskeviius认为，随着人工智能相关法规变得更加严格，人工智能清洗在不久的将来将受到控制。

建立技术专业声誉

一家公司收购可疑的人工智能解决方案并不罕见，在这种情况下，首席信息官不一定是错的。韦尔奇说，这可能是“公司领导力差的一种表现”。“业务受到营销宣传的影响，并否决了IT团队，而IT团队则负责收拾残局。”为了避免这样的时刻，组织需要培养一种合作文化，在这种文化中，技术专业人员的意见受到重视，他们的观点被彻底列出。与此同时，首席信息官和技术团队应该在公司内部建立自己的声誉，这样他们的意见就更容易被纳入决策过程。为了实现这一目标，他们应该展示专业知识、职业精神和软技能。“我不觉得为首席信息官检测人工智能清洗有什么问题，”适马软件集团首席创新官Max Kovtun说。“更大的问题可能是商业利益相关者或企业家以任何形式使用人工智能的推动，因为他们希望看起来创新和前沿。因此，正确的问题应该是，在创业的压力下，如何不成为一名人工智能清洗者。”

超越流行语

在比较产品和服务时，以开放的心态评估它们，彻底审视它们的属性是至关重要的。“如果一个产品或服务对你来说唯一的优势是人工智能，你应该在订阅前仔细考虑，”特卡琴科说。“最好研究一下它的价值主张和特点，只有当你理解了这个程序在人工智能之外的好处时，才开始合作。”韦尔奇对此表示赞同:“我会因为他们用C、C++或Java编写系统而去购买它吗？”他问道。“作为我尽职调查的一部分，我可能想了解他们是否能够维护代码、公司的生存能力以及诸如此类的事情。”进行彻底的评估可以帮助组织确定他们计划购买的产品或服务是否符合他们的目标，并有可能提供预期的结果。“技术越复杂，非专业人士就越难理解它，因为它能让你验证该技术的应用是否正确和有意义，”科夫通说。“如果你已经决定为你的公司利用人工智能技术，你最好带上在人工智能领域有经验的知识渊博的专家。否则，你的努力可能得不到预期的收益。”

关注人工智能相关新闻

了解人工智能相关产品及其相关问题的最新动态也有助于首席信息官做出明智的决策。这样，他们可以发现自己可能犯的潜在错误，同时利用新的想法和技术。“我认为教育还不够，”底特律市首席信息官阿特·汤普森说。他建议首席信息官们做足够的研究，以避免落入新技术或实验性技术的陷阱，这些技术承诺的比它能提供的更多。他说，如果发生这种情况，“重新招标和挑选替换产品的时间真的会损害员工支持任何变革的能力”。"更不用说人们投入时间学习新技术的困难了."此外，了解最新的人工智能相关事宜可以帮助首席信息官预测监管变化和新兴的行业标准，这可以帮助他们合规并保持竞争优势。不仅仅是首席信息官需要了解最新情况。BearingPoint的Roeser说:“教育你的团队或者雇佣专家来为你的投资组合增加相关的能力。”

围绕人工智能的其他监管措施

即将出台的新法规可能会简化首席信息官们寻求确定一种产品或服务是否采用真正的人工智能技术的任务。白宫最近发布了人工智能权利法案，为负责任地设计人工智能系统提供了指导方针。未来几年可能会出台更多的法规。“这些行动背后的前提是保护消费者权利和人类免受技术的潜在伤害，”艾玛纳特说。“我们需要预测技术的潜在负面影响，以减轻风险。”

道德不应该是事后的想法

企业往往会影响新技术的讨论，强调潜在的好处，同时往往淡化潜在的负面后果。“当一项技术成为流行语时，我们往往会忽略它对社会可能产生的潜在有害影响，”瑞士圣加仑大学的博士后研究员菲利普·迪萨尔沃说。“研究表明，企业正在推动围绕人工智能的讨论，技术决定论的观点仍占主导地位。”这种认为技术是社会和文化变革背后的主要驱动力的观点可能会掩盖关于道德和政治含义的讨论，而有利于更多以市场为导向的论点。正如迪萨尔沃所说，这造成了“一种争论的迷雾，使得这些技术和它们的生产者更加模糊和不负责。”为了解决这个问题，他说，向公众传达人工智能实际上不是什么，它不能做什么是一个至关重要的挑战。“我们今天看到的大多数人工智能应用程序——包括chat GPT——基本上都是围绕大规模的统计和数据分析应用而构建的，”迪萨尔沃说。“这听起来可能是一个无聊的定义，但它有助于避免对‘人工智能’定义中‘智能’所指的任何误解。我们需要关注真实的问题，如偏见、社会分类和其他问题，而不是假设的、投机的长期情景。”