AI“数据荒”怎么办?微软、谷歌等公司正使用“合成数据”训练AI 来源:互联网   发布日期:2024-05-13 15:02:14   浏览:650 次  

资讯2周前发布 xingmao
5 0
导读:财联社5月12日讯(编辑 周子意)人工智能聊天机器人的背后需要海量高质量数据作为支撑。传统上,人工智能系统依赖于从各种网络来源(如文章、书籍和在线评论)中提取的大量数据来理解用户的查询并生成响应。 长期以来,如何获取更多的高质量数据成为人工智能…

财联社5月12日讯(编辑 周子意)人工智能聊天机器人的背后需要海量高质量数据作为支撑。传统上,人工智能系统依赖于从各种网络来源(如文章、书籍和在线评论)中提取的大量数据来理解用户的查询并生成响应。

长期以来,如何获取更多的高质量数据成为人工智能公司的一大挑战。由于数据在互联网上的可用性是有限的,这促使人工智能公司正寻求一种替代解决方案合成数据(Synthetic data)。

合成数据,即人工智能系统生成的人工数据。科技公司通过利用自己的人工智能模型,生成合成数据(这也被认为是虚假数据),然后将这些数据用以训练其系统的未来迭代。

谈及合成数据是如何生成的,其过程包括为人工智能模型设置特定参数和提示以创建内容,这种方法可以更精确地控制用于训练人工智能系统的数据。

例如,微软的研究人员向人工智能模型列出了四岁孩子能够理解的3000个词汇,然后,他们要求该模型使用词汇表中的一个名词、一个动词和一个形容词来创造一个儿童故事。通过几天时间内数百万次的重复提示,模型最终产生了数百万个短篇故事。

虽然计算中的合成数据并不是一个新概念,但生成式人工智能的兴起促进了大规模创建更高质量的合成数据。

人工智能初创公司Anthropic首席执行官Dario Amodei将这种方法称为“无限数据生成引擎”,旨在避免与传统数据采集方法相关的一些版权、隐私等问题。

现有用例与分歧观点

目前,Meta、谷歌和微软等主要人工智能公司已经开始使用合成数据开发高级模型,包括聊天机器人和语言处理器。

例如,Anthropic使用合成数据为其聊天机器人Claude提供动力;谷歌DeepMind则使用这种方法来训练能够解决复杂几何问题的模型;与此同时,微软已经公开了使用合成数据开发的小型语言模型。

有支持者认为,如果适当实施,合成数据可以产生准确可靠的模型。

然而,一些人工智能专家对与合成数据相关的风险表示担忧。著名大学的研究人员观察到了“模型崩溃”的例子,即在合成数据上训练的人工智能模型出现了不可逆转的缺陷,并产生了荒谬的输出。此外,有人担心合成数据可能会加剧数据集的偏差和错误。

剑桥大学博士Zakhar Shumaylov在一封电子邮件中写道,”如果处理得当,合成数据会很有用。然而,对于如何才能处理得当,目前还没有明确的答案;有些偏见对于人类来说可能很难察觉。”

此外,围绕对合成数据的依赖存在一场哲学辩论,人们对人工智能的本质提出了质疑如若使用机器合成的数据,那么人工智能是否还是模仿人类智能的机器?

斯坦福大学教授Percy Liang强调了将真正的人类智能融入数据生成过程的重要性,并强调了大规模创建合成数据的复杂性。他认为,“合成数据不是真实的数据,就像你做梦登上了珠穆朗玛峰并不是真正登顶了一样。”

目前对于生成合成数据的最佳做法尚未达成共识,这突出表明需要在这一领域进一步研究和发展。随着该领域的不断发展,人工智能研究人员和领域专家之间的合作对于充分利用人工智能开发合成数据的潜力至关重要。

(财联社 周子意)

赞助本站

© 版权声明

相关文章

暂无评论

暂无评论...