OpenAI 开发了一种工具来检测 ChatGPT 生成的内容，准确率达到 99.9%，但没有计划发布它

这家加州公司长期以来一直暗示它正在研究可以检测人工智能（AI）内容的技术，但它让客户相信这项技术还需要数年时间才能实现。

据报道 OpenAI 开发了一种工具，可以检测某人何时使用 ChatGPT 生成内容，准确率高达 99.9%，但该公司没有计划向公众发布。

这家加州公司长期以来一直暗示它正在研究可以检测人工智能（AI）内容的技术，但它让客户相信这项技术还需要数年时间才能实现。然而，据接受《华尔街日报》(WSJ) 采访的内部人士透露，该工具已经推出数月了。

随着采用率的飙升，检测人工智能生成的内容已成为一项重大挑战。立法者制定了法律，要求人工智能开发者在此类内容中包含水印和其他显着特征，但尚未生效。

这种挑战在某些领域更为普遍，比如教育系统，最近的一项研究发现，60% 的中学生和高中生使用人工智能来帮助完成学业。

据 OpenAI 内部人士透露，这一挑战在一年前就被一个团队解决了，该团队在检测 ChatGPT 生成的内容方面能够达到 99.9% 的准确率。然而，该公司并不打算向公众发布该工具。

“这只是按一个按钮的问题，”一位消息人士说。

OpenAI 表示，为了保护用户，延迟是必要的，因为该工具存在“重大风险”。

公司发言人告诉《华尔街日报》：“考虑到所涉及的复杂性及其可能对 OpenAI 之外更广泛的生态系统产生的影响，我们认为我们采取的深思熟虑的方法是必要的。”

该公司还声称，如果每个人都可以使用该技术，那么不良行为者就可以破译该技术并开发解决方法。

然而，消息人士称，真正的动机是留住用户。去年的一项公司调查发现，70% 的 ChatGPT 用户不喜欢这个新工具，三分之一的人表示他们会退出聊天机器人并转向其竞争对手。

从那时起，高级管理人员就压制了该工具，声称它还没有准备好公开发布。在两个月前的一次会议上，高层表示，这个依赖水印输出的工具争议太大，公司必须探索其他选择。

以谷歌（纳斯达克股票代码：GOOGL）为首的 OpenAI 竞争对手也没有表现得更好。这家搜索引擎巨头的 Gemini LLM 是行业领导者之一，它开发了一款类似的工具，名为 SynthID，但尚未公开发布。

为了让人工智能（AI）在法律范围内正常工作并在面临日益严峻的挑战时蓬勃发展，它需要集成一个企业区块链系统来确保数据输入质量和所有权——使其能够保证数据安全，同时也保证数据的不变性。

CoinDesk 订阅者可以在这里访问完整的故事。

观看：变革性人工智能应用即将到来

区块链新手？查看 CoinGeek 的区块链初学者部分，这是了解更多区块链技术的终极资源指南。

以上是OpenAI 开发了一种工具来检测 ChatGPT 生成的内容，准确率达到 99.9%，但没有计划发布它的详细内容。更多信息请关注PHP中文网其他相关文章！