亚马逊云计算人工智能实验室的研究人员最近发现,网络上存在大量由机器翻译生成的内容,而这些翻译跨越多种语言的质量普遍较低。研究团队强调了在训练大型语言模型时,数据质量和来源的重要性。这一发现突显了在构建高质量语言模型时,需要更加关注数据的质量和来源的选择。
研究还发现,机器生成内容在资源较少语言的翻译中很普遍,并占网络内容的很大一部分。
本站注意到,研究团队开发了名为MWccMatrix的庞大资源,用于更好地理解机器翻译内容的特征。该资源包含64亿个独特句子,覆盖了90种语言,并提供了相互翻译的句子组合,即翻译元组。
这项研究发现,大量网络内容通常通过机器翻译被翻译成多种语言。这种现象普遍存在于资源较少语言的翻译中,并且占据了这些语言网络内容的很大一部分。
研究人员还注意到,出于广告收入等目的,被翻译成多种语言的内容存在选择性偏差。
根据我的研究,我得出以下结论:“过去十年,机器翻译技术取得了显著进步,但仍然无法达到人类质量水平。在过去的多年中,人们使用了当时可用的机器翻译系统将内容添加到网络上,因此网络上大部分机器翻译内容的质量可能相对较低,无法满足现代标准。这可能导致LLM模型产生更多的‘幻觉’,而选择偏差则表明即使不考虑机器翻译错误,数据质量也可能较低。对于LLM的训练来说,数据质量至关重要,高质量的语料库,如书籍和维基百科文章,通常需要进行多次向上采样。”
以上是研究:网络充斥低质机翻内容,大语言模型训练需警惕数据陷阱的详细内容。更多信息请关注PHP中文网其他相关文章!

介绍 恭喜!您经营一家成功的业务。通过您的网页,社交媒体活动,网络研讨会,会议,免费资源和其他来源,您每天收集5000个电子邮件ID。下一个明显的步骤是

介绍 在当今快节奏的软件开发环境中,确保最佳应用程序性能至关重要。监视实时指标,例如响应时间,错误率和资源利用率可以帮助MAIN

“您有几个用户?”他扮演。 阿尔特曼回答说:“我认为我们上次说的是每周5亿个活跃者,而且它正在迅速增长。” “你告诉我,就像在短短几周内翻了一番,”安德森继续说道。 “我说那个私人

介绍 Mistral发布了其第一个多模式模型,即Pixtral-12b-2409。该模型建立在Mistral的120亿参数Nemo 12B之上。是什么设置了该模型?现在可以拍摄图像和Tex

想象一下,拥有一个由AI驱动的助手,不仅可以响应您的查询,还可以自主收集信息,执行任务甚至处理多种类型的数据(TEXT,图像和代码)。听起来有未来派?在这个a


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

Atom编辑器mac版下载
最流行的的开源编辑器

适用于 Eclipse 的 SAP NetWeaver 服务器适配器
将Eclipse与SAP NetWeaver应用服务器集成。

PhpStorm Mac 版本
最新(2018.2.1 )专业的PHP集成开发工具

Dreamweaver CS6
视觉化网页开发工具

mPDF
mPDF是一个PHP库,可以从UTF-8编码的HTML生成PDF文件。原作者Ian Back编写mPDF以从他的网站上“即时”输出PDF文件,并处理不同的语言。与原始脚本如HTML2FPDF相比,它的速度较慢,并且在使用Unicode字体时生成的文件较大,但支持CSS样式等,并进行了大量增强。支持几乎所有语言,包括RTL(阿拉伯语和希伯来语)和CJK(中日韩)。支持嵌套的块级元素(如P、DIV),