头条：科学家警告：用人工智能生成的内容训练人工智能最终会陷入混乱

人工智能领域的专家近日预测，随着越来越多的人工智能生成的内容在网上发布，以这些数据为基础训练的人工智能未来将陷入混乱。

英国和加拿大的一组科学家最近发表了一篇论文，试图了解几代人工智能相互训练时会发生什么。在一个例子中，人工智能系统的九次迭代都在喋喋不休地谈论野兔，而原始资料是关于中世纪建筑的。

剑桥大学教授罗斯安德森将“模型崩溃”比作大规模污染。他说，就像我们用塑料垃圾填满海洋，用二氧化碳填满大气一样，我们即将用废话填满互联网。

聊天机器人ChatGPT 背后的大型语言模型(LLM) 通常需要从互联网上抓取大量数据进行训练，其中大部分数据是由人类生成的。但随着人们越来越多地使用这些工具，人工智能生成的内容被大量添加到在线数据池中，未来的法学硕士将从中学习。

科学家说，用人工智能生成的内容迭代训练人工智能系统意味着错误和无意义的例子会成倍增加，使后来的人工智能无法区分事实和虚构。他们担心人工智能会“通过加强他们自己的信念来扭曲他们认为真实的东西”。

根据Online Disinformation Watchdog NewsGuard 的说法，49 个新闻网站的内容似乎完全由人工智能编写。此外，营销和公关机构逐渐将文案写作外包给聊天机器人。

有专家说，人工生成的数据对于人工智能来说还是必要的，因为我们的语言会产生很多自然变化和不可预知的结果。