数据管理对生成式人工智能的影响

       2023年将是我们记住的人工智能时代的主流开端，由每个人都在谈论的技术:ChatGPT推动。

像ChatGPT这样的生成式人工智能语言模型已经抓住了我们的想象力，因为我们第一次能够看到人工智能像真人一样与我们对话，并生成散文、诗歌和其他我们认为有创意的新内容。通过生成式人工智能解决方案，可能有突破性的潜力，可以提高创新速度、生产力和实现价值的效率。尽管有限制，但人们对它们的数据隐私和管理最佳实践的认识还有很大提高空间。

最近，很多技术和安全领域的人士因缺乏对人工智能技术使用的理解和足够的监管护栏而发出警告。人们已经表达出对人工智能工具输出可靠性、知识产权、敏感数据泄露以及侵犯隐私和安全问题的担忧。

三星公司与ChatGPT的事件成为了头条新闻，因为这家科技巨头无意中向ChatGPT泄露了自己的秘密。三星并不是唯一这样做的公司:Cyberhaven的一项研究发现，4%的员工曾将敏感的公司数据输入大型语言模型。很多人不清楚，当他们使用企业数据来训练模型时，人工智能公司可能会在其他场合再次利用这些数据。

似乎我们不需要更多的网络犯罪素材，网络安全情报公司RecordedFuture透露:“在ChatGPT发布的几天内，我们在暗网和特殊访问论坛上发现了许多威胁行为者，他们分享有缺陷但功能齐全的恶意软件、社会工程教程、赚钱计划等等——所有这些都是通过使用ChatGPT实现的。”

私人互联网接入工程总监JoseBlaya说，在隐私方面，当一个人使用ChatGPT这样的工具注册时，它可以访问IP地址、浏览器设置和浏览活动——就像今天的搜索引擎一样。但风险更高，因为未经个人同意，它可能会泄露政治信仰或性取向，并可能意味着尴尬甚至毁掉职业生涯的信息被发布。

显然，我们需要更好的法规和标准来实施这些新的人工智能技术。但是对于数据治理和数据管理的重要作用却缺少讨论，因为这在企业采用和安全使用人工智能方面可以发挥关键作用。

一切都与数据有关

以下是应该关注的三个方面:

关于专有预训练AI模型或大型语言模型（LLM）, 数据治理和透明度的核心问题在于训练数据。使用llm的机器学习程序包含来自许多来源的大量数据集。问题是，LLM是一个黑盒子，几乎不提供源数据的透明度。我们不确定信息来源的可信性，且不带任何偏见，但要避免包含非法的个人身份信息或欺诈性数据。例如，开放人工智能就不会共享其源数据。《华盛顿邮报》分析了谷歌的C4数据集，涵盖了1500万个网站，发现了数十个令人讨厌的网站，其中包括煽动性和个人身份信息数据以及其他可疑内容。数据治理要求透明的数据源，并确保从这些数据源获取的知识的有效性和可信度。例如，你的人工智能机器人可能会根据未经证实的来源或虚假新闻网站的数据进行训练，从而使其知识产生偏差，而这些知识现在是你公司新政策或研发计划的一部分。

目前，不同的人工智能供应商针对处理用户数据隐私的策略存在差异，其中包括数据隔离和数据域等方面。您的员工可能会不自觉地向LLM提供数据，然而他们可能不清楚这些数据会被合并到模型的知识库中。有可能，公司会无意将商业机密、软件代码以及个人数据泄露给公众。一些人工智能解决方案提供了变通方法，例如通过将数据排除在预训练模型之外来保护数据隐私的api，但这限制了它们的价值，因为理想的用例是用特定情况的数据增强预训练模型，同时保持数据的私密性。让预先训练的人工智能工具理解数据“领域”的概念是解决问题的一种方案。训练数据的“通用”领域用于预训练，并在实体之间共享，而基于“专有数据”的训练模型扩展则安全地限制在组织的边界内。数据管理可以确保创建和保留这些边界。

人工智能引发的衍生作品涵盖了数据管理的第三个领域，与人工智能过程以及最终数据所有者有关。假设我使用AI机器人来解决编码问题。通常情况下，我会知道是谁负责进行调查和修复工作，因为如果某些事情没有得到正确的处理，就会出现bug或错误。但有了人工智能，我的组织要为我要求人工智能执行的任务所导致的任何错误或不良后果负责——即使我们对流程或源数据不透明。你不能责怪机器:在某个地方，是人类造成了错误或糟糕的结果。那么IP呢?你是否拥有使用生成式AI工具创作的作品的IP?你在法庭上怎么辩护?据《哈佛商业评论》报道，艺术界已经开始提起诉讼。

现在要考虑的数据管理策略

在这些早期阶段，我们不知道我们对人工智能的不了解，包括坏数据、隐私和安全、知识产权和其他敏感数据集的风险。人工智能也是一个广泛的领域，有多种方法，如法学硕士，基于逻辑的自动化，这些只是通过结合数据治理政策和数据管理实践来探索的一些主题:

• 暂停对生成式人工智能的实验，直到你有一个监督战略、政策、

以及降低风险和验证结果的程序。

• 合并数据管理指南:首先要对自己的数据有一个坚实的理解，无论它位于哪里。你的敏感个人信息和客户数据在哪里?你有多少IP数据，这些文件在哪里?你能否监控使用情况，以确保这些数据类型不会被无意中输入人工智能工具，并防止安全或隐私泄露?

避免向人工智能应用程序提供不必要的数据，也不要分享任何敏感的专有数据。锁定/加密IP和客户数据，防止其被共享。

• 了解人工智能工具如何以及是否可以与数据源透明。

供应商能保护你的数据吗?谷歌在其博客中分享了这一声明，但“如何”并不清楚:“无论一家公司是在VertexAI中训练模型，还是在GenerativeAIAppBuilder上构建客户服务体验，私人数据都是保密的，不会用于更广泛的基础模型训练语料库。请仔细审阅每个人工智能工具的合约条款，了解您所提供的任何数据是否会受到保密

标记业主或委托项目的个人或部门的衍生作品的数据。这很有帮助，因为你可能最终要对公司产生的任何工作负责，你想知道人工智能是如何被纳入过程的，以及由谁加入的。

• 确保域间数据的可移植性。例如，团队可能想要剥离其IP和识别特征的数据，并将其提供给通用训练数据集以供将来使用。这个过程的自动化和跟踪是至关重要的。

• 随时了解正在制定的任何行业法规和指导方针，并与其他组织的同行交流，了解他们是如何实现风险缓解和数据管理的。

• 在开始任何生成式人工智能项目之前，请咨询法律专家，了解发生数据泄露、隐私和知识产权侵犯、恶意行为者或虚假/错误结果时应遵循的风险和流程。

企业中人工智能的实用方法

人工智能正以前所未有的速度快速发展，不断创新、降低成本并改善用户体验，具备巨大的潜力。正如大多数强大的工具一样，人工智能需要在适当的环境下谨慎应用，并配备适当的数据治理和数据管理措施以确保安全。在人工智能数据管理领域，还没有明确的标准，需要继续研究。在使用人工智能应用之前，企业应该谨慎行事，确保充分了解数据暴露、数据泄露和可能存在的数据安全风险。

以上是数据管理对生成式人工智能的影响的详细内容。更多信息请关注PHP中文网其他相关文章！