江苏龙网

  1. 主页 > 生活百科 > >

GenAI成功道路上的十个“坑”( 二 )

GenAI


6、缺乏AI技能与任何新技术一样，开发者需要一套新的技能来构建GenAI，它引入了许多开发人员必须熟悉的新技术 。
比如，如何将现有的数据集连接到LLM中并从中获得相关的答案，同时满足不违反法规、道德、安全和隐私要求，需要一些技巧 。一项薪酬调查显示，提示工程师的出现速度如此之快，以至于其已成为IT行业薪酬最高的职业 ， 平均薪酬超过30万美元 。
然而，在某些方面，GenAI需要的高端数据科学技能比以前构建和实施人工智能应用程序要少，特别是在使用GPT-4等预构建的LLM时 。在这些情况下，对Python/ target=_blank class=infotextkey>Python有一定的了解就足够了 。
7、 安全及私隐GenAI应用程序根据提示工作 。如果没有某种类型的输入，就不会得到任何生成的输出 。在没有任何控制的情况下，没有什么可以阻止员工用敏感数据提示GenAI应用程序 。
例如 ， 去年6月发布的一份报告发现，15%的员工定期将机密数据粘贴到ChatGPT中 。包括三星、苹果、埃森哲、美国银行、摩根大通、花旗集团、诺斯鲁普·格鲁曼、威瑞森、高盛和富国银行在内的许多大公司都禁止在公司内使用ChatGPT 。
一旦数据进入LLM，用户无法保证数据会从哪里出来 。例如，OpenAI告诉用户 ， 它使用他们的对话来训练它的模型 。如果不希望数据最终出现在模型中，则需要购买企业许可证 。网络犯罪分子越来越善于从模型中窃取敏感数据 。这就是为什么数据泄露在开放Web应用程序安全项目(OWASP)十大安全风险中占有一席之地的原因之一 。
即使模型本身中的数据被锁定，也存在其他漏洞 。据一家名为私有网络访问（Private Inte.NET Access）的VPN公司称，通过IP地址、浏览器设置和浏览历史，GenAI应用程序可能会在未经你同意的情况下收集你的其他信息，包括政治信仰或性取向 。
8、伦理问题在GenAI于2022年底爆发之前，人工智能伦理领域就已经在快速发展 。现在GenAI已经成为每个商人2024年剧本的核心，人工智能伦理的重要性已经大大增加 。
许多公司都在努力解决一些与实施人工智能有关的更大问题，包括如何应对有偏见的机器学习模型，如何获得同意，以及如何确保模型透明和公平 。这些都不是微不足道的问题，这就是为什么道德仍然是一个巨大挑战 。
德勤一直是思考人工智能伦理的行业领导者之一，早在2020年就创建了值得信赖的人工智能框架，以帮助指导人工智能的伦理决策 。该指南由德勤人工智能研究所(Deloitte AI Institute)执行董事Beena Ammanath牵头编写，目前仍适用于GenAI 。
9、 高成本高管们必须注意GenAI所花的每一分钱 。
根据开发GenAI应用程序的方式，成本可能是等式的重要组成部分 。麦肯锡将GenAI成本分为三种类型 。使用预构建的GenAI应用程序将花费50万到200万美元 。根据特定用例对现有LLM进行微调的用户投资金额将在200万至1000万美元之间 。从头开始构建基础模型的制造商(如OpenAI)将花费500万至2亿美元 。
更需要注意的是，GPU的成本只是训练LLM一个开始 。在许多情况下，在训练有素的LLM上推理数据的硬件需求将超过训练它的硬件需求 。构建GenAI应用程序也有人为因素，比如需要耗时的数据标记，掌握技能所需要花费的人员培训时间等等 。
10. 缺乏效能承诺当谈到构建和部署人工智能解决方案时，许多高管都很兴奋，但也有许多人并不那么兴奋 。安永(EY)最近对金融服务领域的科技领导者进行的一项调查发现，36%的受访者表示，缺乏领导层的明确支持是采用人工智能的最大障碍 。
GenAI投资的潜在回报是巨大的，但也有需要注意的误差 。HFS Research最近的一项调查发现，对于许多人来说，GenAI的投资回报率仍然不确定，特别是在快速变化的定价模式下 。
随着企业希望获得竞争优势，GenAI的采用将在2024年激增 。最终取得成功的公司将是那些克服这些前进障碍，并设法实施合法、安全、准确、有效且不会导致破产的GenAI应用程序的公司 。




推荐阅读


上一篇：链世界：一种简单而有效的人类行为Agent模型强化学习框架

下一篇：六个最有可能改变AI进程的发布！