Casper Labs与IBMConsulting联手，加强AI的透明度和审计能力

“全新解决方案，旨在帮助企业更有效地管理跨组织生成式 人工智能系统的训练数据”

企业区块链软件和服务提供商Casper Labs与IBM Consulting宣布合作推出新解决方案，旨在帮助客户提高人工智能系统的透明度和可审计性，通过利用区块链技术实现。这一合作将为客户提供更可靠的数据追溯和验证机制，以确保人工智能系统的运行过程公正、透明，并符合监管要求。通过结合区块链和人工智能技术，这一解决方案有望为企业提供更高水平的数据安全和可信度，进一步推动区块链和人工智能的融合与发展。

Casper Labs 和 IBM Consulting 正在合作开发一种基于区块链技术的新解决方案，名为 Casper Labs。这个解决方案结合了 IBM watsonx.governance 平台，为跨组织管理 AI 训练数据提供了额外的分析能力和策略执行层。这种新的解决方案将为用户提供更强大的功能和更高效的数据管理能力。

培训、开发和部署生成式人工智能模型的过程需要多个组织的参与，包括模型创建者和最终用户组织等。随着不同组织整合新的数据集或对模型进行修改，模型的输出也会相应地变化。因此，许多组织需要能够跟踪和审计这些变化，并准确地判断和纠正问题。为了解决这些问题，区块链技术可以发挥作用。 通过区块链中的共享元数据，组织可以共享他们的可信上下文信息，并记录模型的变化。这样一来，知识产权交叉或跨组织线所面临的潜在数据共享风险就会降低。区块链的分布式账本可以确保数据的安全性和透明性，使得所有参与方都可以验证和追溯模型的变化历史。这种共享和追溯机制有助于建立信任，促进组织间的合作和知识共享。 总而言之，区块链技术在培训、开发和部署生成式人工智能模型的过程中发挥重要作用。它可以帮助组织共享可信上下文信息，记录模型的变化，并降低知识产权和数据共享方面的风险。通过区块链的应用，组织可以更加高效地进行合作，并共同推动人工智能技术的发展。

Casper Labs 的解决方案计划基于 Casper Network（CSPR）构建。该网络是一个防篡改且高度序列化的账本，可以与 IBM watsonx.governance 和 watsonx.ai 平台进行集成，以监视和测量跨组织训练生成式人工智能系统的输入和输出数据。 Casper Network（CSPR）的混合特性和权限系统使得组织能够更好地保护存储在解决方案中的敏感数据，防止外部参与者访问，并且对数据的访问权限具有控制权。此外，该解决方案还利用区块链的序列化能力来支持版本控制，使组织能够高效地回退到先前的人工智能系统迭代，以应对性能问题或有偏差的输出。 通过利用 Casper Network（CSPR）的特性和与 IBM watsonx.governance 和 watsonx.ai 的集成，Casper Labs 的解决方案为组织提供了一个安全、可控和高效的人工智能系统开发和部署环境。

IBM Consulting的人工智能治理和技术专家将与Casper Labs合作，共同构建解决方案。预计该解决方案将在2024年第一季度以测试版形式推出，然后通过IBM Cloud Marketplace等多个渠道进行广泛推广。

IBM Consulting的全球合作伙伴、区块链以及生成式AI领域的领导者Shyam Nagarajan指出，一个AI系统的有效性最终取决于组织对其进行治理的能力。为了满足公司的需求，他们需要建立信任、提高可解释性，并降低风险。作为IBM Consulting，他们很自豪能够为Casper Labs提供支持，共同创造一种新的解决方案，为部署大规模AI的公司在透明度和风险缓解方面提供重要的支持。

新解决方案计划将在金融服务、医疗保健和零售等不同行业的企业中发挥作用，并在其技术和服务提供商生态系统中广泛应用人工智能方案。

该解决方案将具备以下特性：

· 合规化的检测台：一个集中化的仪表板，用于监测和管理人工智能系统的跨组织应用，以对其是否符合组织道德准则进行管控。

· 质量控制工具包：包括用于监测人工智能系统质量和性能的工具，以及一个控制界面，以提高人工智能输出的透明度和可解释性。

· 版本控制：通过“回滚”到先前未出现问题的给定人工智能系统迭代的能力，以纠正性能或其他方面问题。

· 审计和报告系统：一个用于审计人工智能过程，并生成基于 Casper Labs 账本捕获的上下文元数据的详细报告的系统。

“虽然生成式人工智能由于其变革潜力而使组织感到兴奋，但由于无法监控和对馈送给人工智能系统的数据做出反应，其实际应用受到了严重限制。” Casper Labs 首席执行官 Mrinal Manohar 表示：“在 IBM 的帮助下，我们致力于提供一种更好的方式，不仅能够理解为什么人工智能系统表现出某种行为，而且还提供了更清晰的路径，以在出现幻觉或性能问题时纠正行为。人工智能的长期潜力将由组织能够多么有效地理解、管理和应对日益庞大的人工智能训练数据集来决定。”

Casper Labs 和 IBM Consulting 将于 1 月 16 日，在 The Hub in Davos 论坛上进行现场演示此解决方案。

关于 Casper Labs

Casper Labs 是企业级区块链软件领导者。Casper Labs 构建了首个适用于业务规模和运营需求的 Layer1 区块链，为所有业务交易提供了完全的透明度。Casper Labs 提供推动公司和政府收入、提高效率的应用程序和服务。我们的使命是构建全新时代客户价值与业务成功的基石。

关于IBM

IBM 是全球领先的混合云、人工智能及企业服务提供商，帮助超过 175 个国家和地区的客户，从其拥有的数据中获取商业洞察，简化业务流程,降低成本，并获得行业竞争优势。金融服务、电信和医疗健康等关键基础设施领域的超过 4000 家政府和企业实体依靠 IBM 混合云平台和红帽 OpenShift 快速、高效、安全地实现数字化转型。IBM 在人工智能、量子计算、行业云解决方案和企业服务方面的突破性创新为我们的客户提供了开放和灵活的选择。对企业诚信、透明治理、社会责任、包容文化和服务精神的长期承诺是 IBM 业务发展的基石。

以上是Casper Labs与IBMConsulting联手，加强AI的透明度和审计能力的详细内容。更多信息请关注PHP中文网其他相关文章！