搜索
首页科技周边人工智能为什么不要向AI聊天机器人咨询健康问题?

为什么不要向AI聊天机器人咨询健康问题?

4月28日消息,自从OpenAI、微软和谷歌推出了AI聊天机器人,许多人开始尝试一种新的互联网搜索方式:与一个模型进行对话,而它从整个网络上学到的知识。

专家表示,鉴于之前我们倾向于通过搜索引擎查询健康问题,我们也不可避免地会向ChatGPT、Bing和Bard等工具提问。然而,这些工具会犯一些我们熟悉的隐私错误,并且还会创造一些新的错误。“消费者至少应该以怀疑的态度看待这些工具,因为和其他许多流行技术一样,它们都受到了广告和营销力量的影响。”

在向人工智能聊天机器人分享敏感健康信息或任何其他秘密之前,有几个需要知道的事情:

1、这些机器人会保存我的聊天记录吗?

没错,ChatGPT、Bing和Bard都会存储用户的输入。不过,谷歌Bard正在对少量用户进行测试,它提供了一个设置,让用户可以要求该公司停止保存查询记录,并取消与用户的谷歌账户相关联。只需点击左上角的菜单栏并关闭“Bard Activity”即可。

而用户也可以在OpenAI的设置中关闭“聊天历史记录和训练”选项,从而限制聊天记录的保存时间。公司表示,关闭后将仅保存聊天记录30天,并避免将其用于人工智能的训练。

2、这些公司拿我们的聊天记录干什么?

这些公司利用用户的查询和回复来训练人工智能模型,以提供更好的答案。但是,这些聊天记录的用途不止于此。谷歌和微软在推出人工智能聊天机器人时,在隐私政策中也留出了使用用户聊天日志进行广告的空间。这就意味着,如果你提问矫形鞋相关的问题,将来你可能会看到这方面的广告。

这样的广告可能对用户的影响不大。但是,当健康问题和数字广告交叉时,就可能会带来伤害。此前的报道显示,包括WebMD和Drugs.com在内的许多症状检查站点与外部广告公司分享了用户潜在的敏感健康问题,如抑郁症或艾滋病毒,以及用户标识符。

此外,数据经纪人也会向买家出售大量的人员名单和他们的健康担忧清单,这些买家可能包括政府或保险公司。有些患有慢性疾病的人报告说,他们在互联网上看到了令人不安的定向广告。

鉴于此,用户应该考虑他们有多大程度上相信这些公司会保护他们的数据,以避免侵入性广告,并决定与谷歌或微软分享多少健康信息。

OpenAI则表示,公司只会保存用户的搜索结果来训练和改进其模型。OpenAI发言人表示,该公司不会利用用户与聊天机器人的互动来建立用户档案或打广告,未来也没有这样的计划。

隐私非营利组织电子前沿基金会的社区组织副主任罗里·米尔(Rory Mir)表示,有些人可能不希望自己的数据被用于人工智能培训,而不管这些公司在广告方面采取什么样的立场。他补充说:“在某个时候,他们掌握的数据可能会落入另一家你不那么信任的公司手中。”

3、会有人查看我的聊天记录吗?

有时候,会有人工审查员参与审核聊天机器人的回答。这意味着,他们也会看到用户查询的问题。例如,谷歌保存了很多聊天记录以供审查和注释,最长可保存四年。尽管这些审查员无法查看用户的谷歌账户,但是谷歌还是建议用户在聊天中不要分享任何个人身份信息,包括姓名、地址或其他可以识别用户或其他人的细节。

4、我的聊天记录会被保存多长时间?

米尔表示:“公司收集我们的数据并长期保存可能会带来隐私和安全风险,这些公司可能会被黑客入侵,或者与不值得信任的商业伙伴分享这些数据。”

OpenAI的隐私政策显示,该公司保存用户数据的时间为“仅限于我们为用户提供服务或其他合法商业目的所需的时间”。这可能是无限期的,该公司发言人拒绝具体说明。

另外,谷歌和微软也会保留用户的数据,直到用户请求删除。

5、我能相信机器人提供的健康信息吗?

美国约翰·霍普金斯大学商学院人工智能对医疗保健影响的运营管理和商业分析教授戴廷龙表示,互联网就像是健康信息的聚集袋,有些信息有用,有些则不是很有用。在筛选垃圾信息方面,像ChatGPT这样的大型语言模型可能比常规搜索引擎做得更好。

例如,ChatGPT可能比Google Scholar更好地帮助某人找到与他们特定症状或情况相关的研究。在戴廷龙教授的研究中,他正在检查聊天机器人是否能够正确诊断医生未能发现的罕见疾病。

但戴廷龙教授指出,这并不意味着我们应该依赖聊天机器人提供准确的健康指导。他说,这些模型已经被证明可以编造信息,并将其作为事实呈现出来,而它们的错误答案可能让人觉得相当可信。

此外,人工智能模型还通过不可靠的来源获得信息。比如,当用户询问为什么总是感到疲惫不堪时,Bard可能会提供许多可能的答案,甚至引用一个关于小西施犬性情的网站。再加上人类倾向于过于信任聊天机器人的推荐,这很可能造成大问题。

戴廷龙教授警告称:“虽然这项技术的表现令人印象深刻,但现在它就像是婴儿,或者可能像十几岁的孩子。人们只是在测试它,而当人们开始依赖它时,它就会变得非常危险。”

6、如何查询健康信息才能确保安全?

由于获得医疗保健的机会参差不齐或费用高昂,并不是每个人在感觉不舒服时都能去看医生。如果你不想让自己的健康问题被保存在某个公司的服务器上,或者成为广告的素材,那么可以使用隐私保护浏览器。

在注册任何基于人工智能聊天的健康服务(比如治疗机器人)之前,首先要了解这项技术的局限性,并检查该公司的隐私政策,看看它是否使用数据来“改善服务”,或者与未透露身份的“供应商”或“商业合作伙伴”共享数据。这两个词通常都是广告商的委婉说法。(小小)

以上是为什么不要向AI聊天机器人咨询健康问题?的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:51CTO.COM。如有侵权,请联系admin@php.cn删除
一个提示可以绕过每个主要LLM的保障措施一个提示可以绕过每个主要LLM的保障措施Apr 25, 2025 am 11:16 AM

隐藏者的开创性研究暴露了领先的大语言模型(LLM)的关键脆弱性。 他们的发现揭示了一种普遍的旁路技术,称为“政策木偶”,能够规避几乎所有主要LLMS

5个错误,大多数企业今年将犯有可持续性5个错误,大多数企业今年将犯有可持续性Apr 25, 2025 am 11:15 AM

对环境责任和减少废物的推动正在从根本上改变企业的运作方式。 这种转变会影响产品开发,制造过程,客户关系,合作伙伴选择以及采用新的

H20芯片禁令震撼中国人工智能公司,但长期以来一直在为影响H20芯片禁令震撼中国人工智能公司,但长期以来一直在为影响Apr 25, 2025 am 11:12 AM

最近对先进AI硬件的限制突出了AI优势的地缘政治竞争不断升级,从而揭示了中国对外国半导体技术的依赖。 2024年,中国进口了价值3850亿美元的半导体

如果Openai购买Chrome,AI可能会统治浏览器战争如果Openai购买Chrome,AI可能会统治浏览器战争Apr 25, 2025 am 11:11 AM

从Google的Chrome剥夺了潜在的剥离,引发了科技行业中的激烈辩论。 OpenAI收购领先的浏览器,拥有65%的全球市场份额的前景提出了有关TH的未来的重大疑问

AI如何解决零售媒体的痛苦AI如何解决零售媒体的痛苦Apr 25, 2025 am 11:10 AM

尽管总体广告增长超过了零售媒体的增长,但仍在放缓。 这个成熟阶段提出了挑战,包括生态系统破碎,成本上升,测量问题和整合复杂性。 但是,人工智能

'AI是我们,比我们更多''AI是我们,比我们更多'Apr 25, 2025 am 11:09 AM

在一系列闪烁和惰性屏幕中,一个古老的无线电裂缝带有静态的裂纹。这堆积不稳定的电子设备构成了“电子废物土地”的核心,这是身临其境展览中的六个装置之一,&qu&qu

Google Cloud在下一个2025年对基础架构变得更加认真Google Cloud在下一个2025年对基础架构变得更加认真Apr 25, 2025 am 11:08 AM

Google Cloud的下一个2025:关注基础架构,连通性和AI Google Cloud的下一个2025会议展示了许多进步,太多了,无法在此处详细介绍。 有关特定公告的深入分析,请参阅我的文章

IR的秘密支持者透露,Arcana的550万美元的AI电影管道说话,Arcana的AI Meme,Ai Meme的550万美元。IR的秘密支持者透露,Arcana的550万美元的AI电影管道说话,Arcana的AI Meme,Ai Meme的550万美元。Apr 25, 2025 am 11:07 AM

本周在AI和XR中:一波AI驱动的创造力正在通过从音乐发电到电影制作的媒体和娱乐中席卷。 让我们潜入头条新闻。 AI生成的内容的增长影响:技术顾问Shelly Palme

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

EditPlus 中文破解版

EditPlus 中文破解版

体积小,语法高亮,不支持代码提示功能

Dreamweaver Mac版

Dreamweaver Mac版

视觉化网页开发工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

螳螂BT

螳螂BT

Mantis是一个易于部署的基于Web的缺陷跟踪工具,用于帮助产品缺陷跟踪。它需要PHP、MySQL和一个Web服务器。请查看我们的演示和托管服务。

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具