Casper Labs与IBM Consulting合作，加强AI透明度和审计能力

“全新解决方案，旨在帮助企业更有效地管理跨组织生成式 人工智能系统的训练数据”

企业区块链软件和服务提供商Casper Labs与IBM Consulting联合宣布推出一项新解决方案，旨在帮助客户提升人工智能系统的透明度和可审计性。通过利用区块链技术，该解决方案将为客户提供更大的信息透明度，确保数据的不可篡改性和完整性，从而增强系统的可信度和安全性。这将使企业能够更好地应对监管要求，并提供更可靠的数据分析和决策支持。

Casper Labs和IBM Consulting计划合作开发一种基于区块链技术的新解决方案，该解决方案利用IBM Watsonx.governance构建，为跨组织管理AI训练数据提供额外的分析能力和策略执行层。

培训、开发和部署生成式人工智能模型的过程涉及多个组织，包括模型创建者和最终用户组织等。随着不同组织整合新的数据集或对模型进行修改，模型的输出会相应变化。许多组织需要能够与跟踪和审计的变化相匹配，并需要更加准确地判断和纠正问题。区块链技术可以帮助组织通过账本中的元数据共享可信的上下文信息，记录模型的变化，并降低知识产权交叉或跨组织线所面临的潜在数据共享风险。通过区块链，组织可以确保模型的完整性和可追溯性，增强合作伙伴之间的信任，并促进更加安全和透明的数据共享。这种技术的应用有助于提高生成式人工智能模型的可信度和可持续发展。

Casper Labs的解决方案计划基于Casper Network（CSPR）构建。Casper Network是一个具有防篡改和高度序列化功能的账本，同时还能充分利用IBM watsonx.governance和watsonx.ai来监视和测量跨组织训练生成式人工智能系统的高度序列化输入和输出数据。通过具备混合特性和权限系统的Casper Network（CSPR），组织可以更好地保护解决方案中的敏感数据，防止外部参与者访问，并对数据的访问权限进行控制。此外，该解决方案还利用区块链的序列化能力支持版本控制，使组织可以在性能问题或有偏差的输出出现时，高效地回退到先前的人工智能系统迭代。

IBM Consulting将与Casper Labs合作，共同打造人工智能治理和技术解决方案。预计该解决方案将于2024年第一季度推出测试版，并在IBM Cloud Marketplace等渠道上进行广泛推广。IBM的人工智能治理和技术专家将为Casper Labs提供支持。

IBM Consulting的全球合作伙伴、区块链和生成式AI领域的领导者Shyam Nagarajan指出，一个AI系统的有效性最终取决于组织对其治理能力的发展。公司需要建立信任、提高可解释性并降低风险，以解决AI带来的挑战。我们很自豪能够为Casper Labs提供支持，共同创造一种新的解决方案，为那些部署大规模AI的公司提供透明度和风险缓解的重要支持。

新解决方案计划在不同行业的企业中发挥效用，包括金融服务、医疗保健和零售等，并在其技术和服务提供商生态系统中，大规模部署人工智能方案。

该解决方案将具备以下特性：

· 合规化的检测台：一个集中化的仪表板，用于监测和管理人工智能系统的跨组织应用，以对其是否符合组织道德准则进行管控。

· 质量控制工具包：包括用于监测人工智能系统质量和性能的工具，以及一个控制界面，以提高人工智能输出的透明度和可解释性。

· 版本控制：通过“回滚”到先前未出现问题的给定人工智能系统迭代的能力，以纠正性能或其他方面问题。

· 审计和报告系统：一个用于审计人工智能过程，并生成基于 Casper Labs 账本捕获的上下文元数据的详细报告的系统。

“虽然生成式人工智能由于其变革潜力而使组织感到兴奋，但由于无法监控和对馈送给人工智能系统的数据做出反应，其实际应用受到了严重限制。” Casper Labs 首席执行官 Mrinal Manohar 表示：“在 IBM 的帮助下，我们致力于提供一种更好的方式，不仅能够理解为什么人工智能系统表现出某种行为，而且还提供了更清晰的路径，以在出现幻觉或性能问题时纠正行为。人工智能的长期潜力将由组织能够多么有效地理解、管理和应对日益庞大的人工智能训练数据集来决定。”

Casper Labs 和 IBM Consulting 将于 1 月 16 日，在 The Hub in Davos 论坛上进行现场演示此解决方案。

关于 Casper Labs

Casper Labs 是企业级区块链软件领导者。Casper Labs 构建了首个适用于业务规模和运营需求的 Layer1 区块链，为所有业务交易提供了完全的透明度。Casper Labs 提供推动公司和政府收入、提高效率的应用程序和服务。我们的使命是构建全新时代客户价值与业务成功的基石。

关于IBM

IBM 是全球领先的混合云、人工智能及企业服务提供商，帮助超过 175 个国家和地区的客户，从其拥有的数据中获取商业洞察，简化业务流程,降低成本，并获得行业竞争优势。金融服务、电信和医疗健康等关键基础设施领域的超过 4000 家政府和企业实体依靠 IBM 混合云平台和红帽 OpenShift 快速、高效、安全地实现数字化转型。IBM 在人工智能、量子计算、行业云解决方案和企业服务方面的突破性创新为我们的客户提供了开放和灵活的选择。对企业诚信、透明治理、社会责任、包容文化和服务精神的长期承诺是 IBM 业务发展的基石。

以上是Casper Labs与IBM Consulting合作，加强AI透明度和审计能力的详细内容。更多信息请关注PHP中文网其他相关文章！