在大型语言模型的时代，我们已经听到很多关于人工智能风险的言论，比如大量的错误和虚假信息以及对隐私的侵蚀。2023 年 4 月，我的同事梅丽莎·海基拉（Melissa Heikkilä）也预测，这些新的人工智能模型很快就会让垃圾邮件和骗局充斥互联网。而新的浪潮已经到来，而且是由广告资金驱动的。
(资料图)
负责对网站质量进行评估的 NewsGuard 发现，居心不良的人正在使用人工智能快速建立垃圾网站，以获取在网上四处撒网的程序化广告带来的收入。有 140 多个品牌在使用人工智能生成文本的网站上做广告，其中包括一些知名品牌。
（来源：Stephanie Arnett/MITTR | Envato）
这种策略之所以有效，是因为程序化广告允许广告主在没有人为监督的情况下在互联网上购买广告位：由算法对广告位进行竞标，以优化广告的浏览数。
现在，人们正在使用生成式人工智能来制作网站，以获取广告收入。自 2023 年 4 月以来，NewsGuard 已经追踪了 200 多个“不可靠的人工智能新闻和信息网站”，其中大多数网站似乎都在寻求从信誉良好的公司那里赚取广告收入。
NewsGuard 使用人工智能来检查这些网站是否包含与 ChatGPT 等大型语言模型中的标准错误信息相匹配的文本。然后，由人类研究人员对这些被标记的网站进行审查。
结果发现大多数网站的创建者都是完全匿名的，有些网站甚至提供的是人工智能生成的虚假创建者简介和照片。
正如 NewsGuard 的研究员洛伦佐·阿瓦尼蒂斯（Lorenzo Arvanitis）告诉我的那样，“这只是互联网游戏的名称。”通常，那些本意良好的公司最终会为垃圾内容付费，有时这些内容是不准确的、存在误导性的或者是虚假的。之所以这样做，是因为这些网站非常热衷于争夺在线用户的注意力。
最重要的是在上述“策略”之中，生成式人工智能的作用正在得到强化。根据阿瓦尼蒂斯的说法，很有可能“随着这些语言模型变得更加先进和易于使用，这种现象将变得更加普遍”。
虽然我们可以预料到它会被恶意行为者用于造谣活动，但我们不应该忽视生成式人工智能可能产生的后果：即大量的资金和资源会被浪费。
支持：Ren
关键词：
