公司高管们担心与ChatGPT意外共享公司数据

《企业中的生成式人工智能状态》报告发现，ChatGPT是企业中最受欢迎的聊天机器人，其次是CopyAI(35%)和Anyword(26%)，分别位居第二和第三。然而，许多公司已经禁止在工作场所使用生成式人工智能工具，其中ChatGPT是最常被禁止的(32%)，其次是CopyAI(28%)和Jasper(23%)。

Writer联合创始人兼首席技术官Waseem Alshikh表示，“如今关于生成式人工智能的炒作太多了，我们想了解一下实际情况——谁在使用它，他们在使用什么工具，他们在用它做什么，以及企业有哪些限制和约束。研究结果确实令人大开眼界。实际上，每个行业至少都在尝试应用生成式人工智能，而且这不仅限于企业内的某一个功能。生成式人工智能在IT、运营、营销、人力资源、法律、L&D等方面被广泛应用。”

最常见的生成式AI用例

根据调查显示，生成式人工智能最常见的应用是为广告和标题生成简洁的文本(31%)，为各种媒体和渠道重新利用已有内容(27%)，以及创建广泛的内容，如博客和知识库文章(25%)。

Alshikh表示，“人工智能为营销人员、用户体验设计师、编辑、客户服务专业人员等节省了大量从零开始生成新内容的时间。然而，实际的价值并不只来自于内容的开发过程中的有趣部分，而是来自于那些乏味的部分：例如重新利用、分析、研究、转换，甚至分发内容。在你忙碌、需要快速行动时，这些事情可能会阻碍你，而生成式人工智能则可以自动地处理这些事情。”

在工作场所使用生成式人工智能：是福还是祸?

该调查产生了重大发现，其中一个关键发现是几乎所有企业都在各种功能中使用生成式人工智能，其中信息技术(30%)、运营(23%)、客户成功(20%)、营销(18%)、支持(16%)、销售(15%)和人力资源(15%)都是最常见的实施领域。

根据报告显示，有59%的调查对象表示他们所在的公司已经或计划购买生成式人工智能工具。据调查显示，约有19%的受访者称他们所在的公司正在使用五种或更多的生成式人工智能工具。此外，56%的受访者表示，生成式人工智能将生产率提高了至少50%，26%的受访者表示，它将生产率提高了75%或更多。

据Alshikh所述，最广泛使用生成式人工智能技术的行业是建筑和IT，其占比达16%。金融保险、科技服务和制造业分别占据了8%、8%和5%的份额，紧随其后。特别是在Writer，我们在金融和保险领域看到了很多用例。”

ChatGPT被认为对大众有价值，因为它是免费的、易于操作且通用性强。公认的是，该工具存在诸多局限性，包括数据集有限、不够准确、易受幻觉和偏见影响，以及数据隐私问题。

Alshikh补充道："ChatGPT也认识到自己的准确度有限。"。除了拥有创作创意故事和十四行诗的能力，企业还必须确保保护自己的品牌和声誉。不幸的是，ChatGPT和其他类似的工具正在导致错误信息的增加，这对于必须依赖准确性和品牌一致性的企业来说是一个关键问题。”

Writer的新产品功能

该公司最近宣布了新的产品功能，旨在为其企业客户提供从数据源到人们工作的所有阶段的最高水平的准确性、安全性、隐私性和合规性。这些特点涵盖自托管的大型语言模型(LLM)，让用户得以在本地或云端进行托管、操作和自定义LLM。

此外，该公司还在Writer平台上引入了知识图谱(Knowledge Graph)，允许客户索引和访问任何数据源(从Slack到wiki到知识库到云存储实例)。

Writer的CEO兼联合创始人May Habib在一份书面声明中表示：“我们为企业提供完全的控制——从LLM可以访问哪些数据，到LLM托管在哪里。若你无法管控基于生成式人工智能的输出，便不可言掌握其品质、不良影响或安全风险。”

降低生成式人工智能风险的关键考虑因素

Alshikh表示，像ChatGPT这样的商业模式通常会从各种公共来源收集情报，这可能有利于创造力，但不利于品牌的一致性。

他进一步指出，企业的领导层已经认识到通过在企业中实施生成式人工智能可以获得竞争优势。然而，他们也认识到使用像ChatGPT这样的免费聊天机器人的风险，包括生成不准确内容和暴露机密数据的可能性。

他阐述道，我们Writer的目标是通过实际效果给企业带来真正的影响，而不只是停留在新颖的应用场景。我们已经解决了与准确性和隐私相关的问题，我们的技术正在被部署在高度监管的行业，包括为Intuit和UnitedHealthcare等客户提供技术、医疗保健和金融服务。”

鉴于ChatGPT的受欢迎程度，他建议公司考虑ChatGPT或任何基于OpenAI的工具是否符合他们的数据隐私、品牌和监管政策。此外，他建议公司收集功能性用例和需求来评估备选方案。

Alshikh建议称，“如果一个企业已经制定了使用ChatGPT的政策，他们应该考虑实施一个持续的沟通和培训计划，这样每个人都知道哪些工具是安全的，以及如何在不泄露敏感公司数据的情况下使用它们。同时，企业高管也需要问自己一些重要的问题，比如：它安全吗?它能保护我们公司的数据吗?它是否允许我们根据我们的品牌、风格、信息和公司情况定制输出?它能集成到我们的业务工作流程中吗?”

以上是公司高管们担心与ChatGPT意外共享公司数据的详细内容。更多信息请关注PHP中文网其他相关文章！