谷歌被曝翻车内幕：内部群龙无首，生图机制过分“多元化”
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">西风 发自 凹非寺</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">量子位 | 公众号 QbitAI</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">谷歌Gemini文生图风波还未平，更劲爆的内幕<span style="color: black;">信息</span>又被曝出来了。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">Pirate Wires爆料，Gemini这次的翻车，谷歌内部此前并不是毫不知情，翻车<span style="color: black;">乃至</span>是“故意”<span style="color: black;">引起</span>的。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">详细</span><span style="color: black;">来讲</span>，谷歌设置了一个<strong style="color: blue;"><span style="color: black;">“安全”架构</span></strong>，Gemini要生成一张图<span style="color: black;">实质</span>上要经过<strong style="color: blue;"><span style="color: black;">三个模型</span></strong>。</p>
<div style="color: black; text-align: left; margin-bottom: 10px;"><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-axegupay5k/166e1a66468a489b946f7acf6491a5e4~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1722923386&x-signature=fsuNURUJtDkestaJjIhCRHayGd8%3D" style="width: 50%; margin-bottom: 20px;"></div>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">大概<span style="color: black;">来讲</span>，流程是<span style="color: black;">这般</span>婶儿的：</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">用户在聊天界面请求Gemini生成一张<span style="color: black;">照片</span>，Gemini收到请求后，会把请求发送给一个较小的模型。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">这个较小的模型的<span style="color: black;">功效</span>是<span style="color: black;">按照</span><span style="color: black;">机构</span>的“多元化”政策<strong style="color: blue;"><span style="color: black;">重写用户的提示</span></strong>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">为做到这一点，这个较小的模型又<span style="color: black;">经过</span>LoRA技术在另一个模型<span style="color: black;">（第三个模型）</span>生成的合成数据上训练，而这个第三模型<span style="color: black;">运用</span>了谷歌详尽、长达数页的“多元化”政策文档<span style="color: black;">做为</span>“前言”。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">因此</span>，较小模型重写用户的提示后，<span style="color: black;">本来</span>“给我看一个汽车修理工”会变成“给我看一个穿工装裤面带微笑的亚洲汽车修理工”、“一个拿着扳手的非洲裔美国女性汽车修理工”、“一个戴安全帽的美洲原住民汽车修理工”……</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">并且重写后的提示还会进一步发给扩散模型检查，<span style="color: black;">保证</span>提示词不违反标准安全政策<span style="color: black;">（<span style="color: black;">例如</span><span style="color: black;">触及</span>儿童的内容、真人图像等）</span>，<span style="color: black;">最后</span>才会生成<span style="color: black;">照片</span>，生成的<span style="color: black;">照片</span>在反馈给用户前<span style="color: black;">亦</span>会再被<span style="color: black;">检测</span>一遍。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">总结<span style="color: black;">来讲</span>，用户最后收到的是一个“套娃式”生成的结果，<strong style="color: blue;"><span style="color: black;">经过了谷歌“多元化”的层层清洗</span></strong>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">不外</span>，这种“多元化”多少有点过了头。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">过度程度，让曾在Google Ventures任职的红杉资本合伙人Shaun Maguire都忍不住出来痛批：</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">在谷歌曾因是白人而<span style="color: black;">不可</span>晋升。</span></p>
<div style="color: black; text-align: left; margin-bottom: 10px;"><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-6w9my0ksvp/1cf3041e1c8045b2ac8487a141b7b305~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1722923386&x-signature=yhBb69G7IUGDStsMVO9S5%2Bp6w%2BQ%3D" style="width: 50%; margin-bottom: 20px;"></div>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">字里行间毫不掩饰自己的愤怒：</p>
<div style="color: black; text-align: left; margin-bottom: 10px;"><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-6w9my0ksvp/ea71fbeb50804a18b401014d6b98b602~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1722923386&x-signature=BLS1dTs3rQ0pPCOV5H8IVr6v2Ps%3D" style="width: 50%; margin-bottom: 20px;"></div>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">马斯克<span style="color: black;">亦</span>曾<span style="color: black;">发布</span>了评论：</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">近年来，这种<span style="color: black;">状况</span>非常<span style="color: black;">广泛</span>。</span></p>
<div style="color: black; text-align: left; margin-bottom: 10px;"><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-6w9my0ksvp/97b67991c9aa4310956ab79523c70457~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1722923386&x-signature=AHtNh9XyNAX32eURryu1LEfZ%2Bp8%3D" style="width: 50%; margin-bottom: 20px;"></div>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">Pirate Wires在采访过谷歌<span style="color: black;">关联</span>员工后<span style="color: black;">暗示</span>，这<span style="color: black;">背面</span>更深一层是谷歌<span style="color: black;">日前</span>群龙无首的<span style="color: black;">状况</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">一位未被透露姓名的谷歌高级工程师<span style="color: black;">乃至</span><span style="color: black;">暗示</span>：“我认为在谷歌推出好<span style="color: black;">制品</span>是不可能的。”</p>
<h1 style="color: black; text-align: left; margin-bottom: 10px;">“恐惧文化”正在谷歌蔓延</h1>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">此前，Gemini文生图刻意拒绝生成白人形象，在欧美舆论环境下<span style="color: black;">诱发</span>巨大争议。</p>
<div style="color: black; text-align: left; margin-bottom: 10px;"><img src="https://p26-sign.toutiaoimg.com/tos-cn-i-6w9my0ksvp/81e5d9edd7ed4fa48347c2ccd1846559~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1722923386&x-signature=u%2B4rzw%2B4hHVUSFHrJFSXWeUX3xU%3D" style="width: 50%; margin-bottom: 20px;"></div>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">后续该功能被迫下架，母<span style="color: black;">机构</span>AlphaBet股价下跌一度超过11%，带来非常严重的后果。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">而外媒Pirate Wires这次对谷歌<span style="color: black;">关联</span>员工采访后<span style="color: black;">发掘</span>，Gemini的翻车与谷歌不良的DEI文化<span style="color: black;">相关</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">（DEI是“Diversity,Equity, Inclusion”的缩写，中文意为“多样性、公平性、<span style="color: black;">包涵</span>性”，是一个被广泛应用于企业等其他组织中的概念，旨在促进一个更加多元、平等和<span style="color: black;">包涵</span>的环境）</span></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">有接近Gemini项目的人透露，其实Gemini团队在发布前就被提醒过“过度多样化”的问题，撇开种族问题不谈，即使是最无害的搜索结果的质量<span style="color: black;">亦</span>会受到严重影响。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">开头<span style="color: black;">说到</span>的三个模型都是为<span style="color: black;">增多</span>“多样性”而被设计的，接触过安全架构的人<span style="color: black;">乃至</span>还透露，<span style="color: black;">关联</span>团队“可能将一半的工程时间都花在这上面了”。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">况且</span><span style="color: black;">机构</span>内部<span style="color: black;">针对</span>这种<span style="color: black;">繁杂</span>架构的态度和采纳程度<strong style="color: blue;"><span style="color: black;">存在<span style="color: black;">歧义</span></span></strong>，“当Gemini项目公开后失败时，不仅是这个团队，<span style="color: black;">全部</span><span style="color: black;">机构</span>都感到非常<span style="color: black;">懊丧</span>和挫败”。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">针对</span>这一点，前几天谷歌创始人谢尔盖·布林现身AI黑客马拉松现场，<span style="color: black;">亦</span>有<span style="color: black;">关联</span>透露——</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">大众</span>正在把玩的Gemini 1.5 Pro模型的诞生其实只是个意外。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">当<span style="color: black;">咱们</span>训练它的时候，只是<span style="color: black;">做为</span>扩大规模实验的一个尝试，<span style="color: black;">基本</span>没想到会变得如此强大。</span></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><strong style="color: blue;"><span style="color: black;">当看到它的表现时，<span style="color: black;">咱们</span>不想再等待，<span style="color: black;">咱们</span>想让全世界都来试试它。</span></strong></p>
<div style="color: black; text-align: left; margin-bottom: 10px;"><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-6w9my0ksvp/08abf3f162084a7db51acb4969b8548e~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1722923386&x-signature=ie%2FqO%2BMW42MOpwFETfNOgoa%2FCDE%3D" style="width: 50%; margin-bottom: 20px;"></div>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">更重要的是，<span style="color: black;">机构</span>内部类似<span style="color: black;">状况</span>还有<span style="color: black;">非常多</span>，Gemini生图只是其中一个缩影。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">例如</span>，据透露有人<span style="color: black;">保持</span><span style="color: black;">需求</span>工程师<span style="color: black;">不可</span><span style="color: black;">运用</span>像“建造忍者<span style="color: black;">（build ninja）</span>”、“核爆旧缓存<span style="color: black;">（nuke the old cache）</span>”、“理智<span style="color: black;">检测</span><span style="color: black;">（sanity check）</span>”或“哑变量<span style="color: black;">（dummy variable）</span>”<span style="color: black;">这般</span>的术语，理由是它们依次对应了文化挪用、军事隐喻、贬低精神<span style="color: black;">疾患</span>、贬低残疾的问题。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">有工程师被<span style="color: black;">剧烈</span><span style="color: black;">意见</span>在他的<span style="color: black;">机构</span>个人简介中采用一种多样化的代词组合来<span style="color: black;">暗示</span>自己，<span style="color: black;">例如</span>“zie/hir”、“ey/em”、“xe/xem”、“ve/vir”。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">还有一个名为Greyglers<span style="color: black;">（“Google”和“grey”的结合词）</span>的小组，正在更名。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">Greyglers小组是一个面向40岁以上资深员工的小组，有人认为并不是所有40岁以上的人都有灰头发，<span style="color: black;">因此</span>这个组名缺乏“<span style="color: black;">包涵</span>性”，<span style="color: black;">乃至</span>据爆料，谷歌还聘请了<span style="color: black;">外边</span>顾问为小组重命名。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">Pirate Wires还透露，几乎<span style="color: black;">每一个</span>被采访的人都用了“恐惧文化<span style="color: black;">（culture of fear）</span>”这个词，这不仅解释了对<span style="color: black;">机构</span>极端DEI<span style="color: black;">行径</span>的无力反抗，<span style="color: black;">亦</span>说明了<span style="color: black;">为么</span>这一世界技术人才聚集地缺少创新。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">无论在哪个层级的员工，几乎出于<span style="color: black;">每一个</span><span style="color: black;">原由</span>，都害怕挑战<span style="color: black;">哪些</span><span style="color: black;">已然</span>使<span style="color: black;">机构</span>陷入困境的许多过程。除晋升期之外，大<span style="color: black;">都数</span>人都害怕被<span style="color: black;">重视</span>到。</span></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">哪怕是想要晋升，<span style="color: black;">亦</span>会受到种族和性别的影响。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">然鹅，真的就这么简单，归咎于<span style="color: black;">失去控制</span>的DEI思维管理吗？</p>
<h1 style="color: black; text-align: left; margin-bottom: 10px;"><span style="color: black;">为何</span>谷歌会<span style="color: black;">这般</span>？</h1>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">Pirate Wires的<span style="color: black;">文案</span>中认为，这只是<span style="color: black;">机构</span>更大问题的所表现出来的一个“症状”，这个更大的问题用四个字<span style="color: black;">来讲</span><span style="color: black;">便是</span>：<strong style="color: blue;"><span style="color: black;">群 龙 无 首</span></strong>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">首要</span>，谷歌<span style="color: black;">此刻</span>面临着典型的“创新者困境”，<span style="color: black;">亦</span><span style="color: black;">便是</span>发展一项完全在其能力范围内的新的技术，会破坏其现有<span style="color: black;">商场</span>模式。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">其次，更重要的是<span style="color: black;">无</span>人负责。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">在谷歌几乎<span style="color: black;">每一个</span><span style="color: black;">重点</span><span style="color: black;">制品</span>的管理团队到工程、<span style="color: black;">营销</span>、信任与安全、公关和市场营销的员工嘴里，Pirate Wires<span style="color: black;">暗示</span><span style="color: black;">大众</span>描绘出的谷歌形象比<span style="color: black;">报告</span>的要要黯淡得多：</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">谷歌是一个<span style="color: black;">失去控制</span>的、印钞机式的搜索垄断企业，<span style="color: black;">无</span>愿景、<span style="color: black;">无</span>领导力，并且<span style="color: black;">因为</span>其难以置信的孤岛式文化，团队之间真正的<span style="color: black;">状况</span><span style="color: black;">认识</span>甚少。</span></p>
<div style="color: black; text-align: left; margin-bottom: 10px;"><img src="https://p3-sign.toutiaoimg.com/tos-cn-i-6w9my0ksvp/37a65570545d41268aad8ca827bc3319~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1722923386&x-signature=BYgYjBU0%2B7AEmsg%2FSDxyknaNTto%3D" style="width: 50%; margin-bottom: 20px;"></div>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">成千上万的人在<span style="color: black;">区别</span>的时间处理着一个大拼图的各个部分，彼此之间很少合作。<span style="color: black;">例如</span>，在跨团队合作者想要<span style="color: black;">帮忙</span>Gemini团队，要么会失败，要么被<span style="color: black;">忽略</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">连接员工的<span style="color: black;">独一</span><span style="color: black;">途径</span>是一个强大的、遍布的<strong style="color: blue;"><span style="color: black;">人力资源</span></strong>官僚体系。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">而创始人拉里·佩奇、谢尔盖·布林、CEO桑达尔·皮查伊之间的一种奇怪的管理，让大<span style="color: black;">都数</span>员工对谁真正负责<span style="color: black;">机构</span><span style="color: black;">无</span>什么感觉，不确定性是<span style="color: black;">全部</span><span style="color: black;">机构</span><span style="color: black;">熟练</span>的主题。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">由此，这<span style="color: black;">亦</span>是<span style="color: black;">为何</span>有着劈柴哥外号的CEO桑达尔·皮查伊<span style="color: black;">作为</span>了众人<span style="color: black;">打击</span>的对象，据Business Insider<span style="color: black;">信息</span>，华尔街方面<span style="color: black;">乃至</span><span style="color: black;">显现</span>越来越多<span style="color: black;">需求</span>现任CEO劈柴哥下台的声音。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">用一位谷歌工程师的话<span style="color: black;">来讲</span>：“桑达尔是谷歌的鲍尔默，所有这些不起<span style="color: black;">功效</span>的<span style="color: black;">制品</span>、无序扩张、过度招聘，这一切都<span style="color: black;">出现</span>在他的领导下。”</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">参考链接：</span><span style="color: black;">https://www.piratewires.com/p/google-culture-of-fear</span><span style="color: black;">https://twitter.com/shaunmmaguire/status/1736082530573422762</span></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">— 完 —</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">量子位 QbitAI · 头条号签约</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">关注<span style="color: black;">咱们</span>，<span style="color: black;">第1</span>时间获知前沿科技动态</p>
可以发布外链的网站 http://www.fok120.com/ 你的话语如春风拂面，让我感到无比温暖。 我赞同你的看法，你的智慧让人佩服，谢谢分享。 说得好啊！我在外链论坛打滚这么多年，所谓阅人无数，就算没有见过猪走路，也总明白猪肉是啥味道的。
页:
[1]