|
自去年年末ChatGPT用近乎于人类的对话能力，快速使得大语言模型作为了资本市场的宠儿，亦被外界认为AI这次可能真的要改变世界了。虽然会有一批人由于它而失业，但亦可能会有一大批职业在AI的加持下赢得效率革命。
当然，从现周期来讲，大模型依然还处在叫好不叫座的状态，平常用它来辅助工作、学习、生活的伴侣其实并不多，但如今借助AI的力量来搞邪门歪道，却似乎要远比想象中多。
更准确的说，AI已然在改变了黑、灰产的玩法。日前，海外资讯网站评级工具NewsGuard发布的关联报告中表示，她们自今年年初起始跟踪运用AI生成内容的网站，而这类网站重点的运行模式，便是运用爬虫抓取网络上的任意内容，并用AI重新生成。例如其中一个名为“TNN”的网站，每日会产出的1200篇文案，并完全是由于爬虫以及 “转换语法后重写一遍”的AI制造。
NewsGuard将这类网站叫作为“Unreliable Artificial Intelligence-Generated News（UAIN，不靠谱的人工智能生成的资讯信息和资讯网站）”。按照她们统计，今年4月监测到的UAIN数量为49个，可到了6月就已然增长至217个。
其实倘若仅仅只是生成垃圾内容来“污染”互联网，为如今已极为嘈杂的网络再增多一点噪音亦就罢了，但在NewsGuard统计的其中55个网站上，居然有着接近400个宣传投放。
一个纯粹生成垃圾内容的网站亦能得到宣传投放？乃至这并非胡诌，而是铁通常的事实。那样为何内容质量如此低劣的网站亦能得到宣传主的喜爱，后者难道不晓得这般的网站不但压根就无多少流量，亦不可能让受众在网页上驻留、更遑论看宣传了。其实这个问题的答案，是宣传主真的不晓得她们的宣传会出此刻这般的网站上。
据认识，绝大都数被投放到这类由AI负责输出内容的网站宣传，都是出自谷歌旗下的在线宣传拍卖平台Ad Manager。至于说为何将宣传分发给低质量网站的是谷歌，这就要从由网景、雅虎创立的互联网上通行的数字宣传体系说起了。如今在数字宣传这一辈子态中，存在着用户、信息发布平台、宣传主，以及宣传平台这四个角色。
没错，在互联网里不止有谷歌、Meta、腾讯、百度这般的巨头，还有没有数的中小网站/APP，后者显然缺乏寻找宣传资源的能力，因此呢坐拥宝山却没法变现便是后者的真实写照。与此同期，宣传主亦需要在知名网站、大型APP和搜索引擎之外，找到更经济的投放途径。
在这个时候，与网站打交道最多的搜索引擎就发掘了商机，谷歌就装扮了中间商的角色，并将中小网站/APP的宣传位介绍给宣传主，亦便是所说的“宣传联盟”。
此时，谷歌做为宣传平台会进行海量的计算、分析、优化和预测，并撮合宣传主和网站将宣传以恰当的方式和恰当的价格去放到宣传位上 。在这一体系中，宣传主投入资金试图用宣传来影响用户，并让更加多的消费者购买制品；信息发布平台挣到了宣传费，亦就有了生产优秀内容吸引用户的动力；而宣传平台则拿到佣金，继续开发更好的算法和技术来加强宣传的效果。
因此不难发掘，由AI生成垃圾内容的网站亦能从宣传联盟拿到投放，谷歌难辞其咎。为了服务全世界的网站站长，谷歌其实打造了一套易用性极高的程序化宣传服务，站长们只需要在她们的网站页面指定位置加入一段谷歌Adsense代码，就可加入宣传联盟、并填充程序化宣传。并且谷歌为了实现高度的易用性，为自己的程序化宣传还搭配了设备学习技术，可问题就出在了这儿。
大模型正是设备学习技术的一部分，其所采用的多个任务一块预训练，亦是过去数年来设备学习行业最为平常的办法，只不外大模型运用的参数规模要大得多。因此呢这亦就牵扯到了一个问题，AI眼中的世界和人类认知的世界其实是区别的。
与AI区别，人类大脑的知识表征理论中，几乎看不到语言的痕迹。咱们理解物体、理解语言时，所提取的知识是以对视觉、听觉等信号的感知经验，以及与对象交互的动作经验信息编码。
“尽管进行了海量科研，但对人类感知与设备感知能力进行比较仍然极度困难”，这是德国科研人员在关联论文中的说法。既然AI和人类的认知是有差异的，那样人类认为是好的东西、AI就不必定会持有一样的看法了。或许就与当初网站站长用优化（seo）试图找到搜索引擎的“好恶”，此刻大模型亦找到了谷歌宣传平台的设备学习算法的“口味”。
用AI改写知名网站文案的做法，基本上能够被视为是“伪原创”，因此呢骗过谷歌的算法确实是大概率事件。可此刻的问题是，要怎样遏制用AI生成互联网垃圾内容的趋势。相比创作优秀内容的网站，运用AI工具的网站在效率上显然要更胜一筹，倘若再加上谷歌宣传体系的“一视同仁”，很容易就会让真正的创作者失望、从而流失。
那样要怎样处理这个问题呢，毕竟需要为垃圾内容负更加多责任的不是谷歌，而是大模型的研发者。而如此肆无忌惮地生成垃圾内容，最后的结果便是这些内容会被重新投喂给大模型“反刍”，从而引起全部模型的崩溃。至于说要怎么处理，这便是OpenAI、微软、Meta等机构该思虑的问题了。
| 
发表于