|
西风 发自 凹非寺
量子位 | 公众号 QbitAI
谷歌Gemini文生图风波还未平，更劲爆的内幕信息又被曝出来了。
Pirate Wires爆料，Gemini这次的翻车，谷歌内部此前并不是毫不知情，翻车乃至是“故意”引起的。
详细来讲，谷歌设置了一个“安全”架构，Gemini要生成一张图实质上要经过三个模型。
大概来讲，流程是这般婶儿的：
用户在聊天界面请求Gemini生成一张照片，Gemini收到请求后，会把请求发送给一个较小的模型。
这个较小的模型的功效是按照机构的“多元化”政策重写用户的提示。
为做到这一点，这个较小的模型又经过LoRA技术在另一个模型（第三个模型）生成的合成数据上训练，而这个第三模型运用了谷歌详尽、长达数页的“多元化”政策文档做为“前言”。
因此，较小模型重写用户的提示后，本来“给我看一个汽车修理工”会变成“给我看一个穿工装裤面带微笑的亚洲汽车修理工”、“一个拿着扳手的非洲裔美国女性汽车修理工”、“一个戴安全帽的美洲原住民汽车修理工”……
并且重写后的提示还会进一步发给扩散模型检查，保证提示词不违反标准安全政策（例如触及儿童的内容、真人图像等），最后才会生成照片，生成的照片在反馈给用户前亦会再被检测一遍。
总结来讲，用户最后收到的是一个“套娃式”生成的结果，经过了谷歌“多元化”的层层清洗。
不外，这种“多元化”多少有点过了头。
过度程度，让曾在Google Ventures任职的红杉资本合伙人Shaun Maguire都忍不住出来痛批：
在谷歌曾因是白人而不可晋升。
字里行间毫不掩饰自己的愤怒：
马斯克亦曾发布了评论：
近年来，这种状况非常广泛。
Pirate Wires在采访过谷歌关联员工后暗示，这背面更深一层是谷歌日前群龙无首的状况。
一位未被透露姓名的谷歌高级工程师乃至暗示：“我认为在谷歌推出好制品是不可能的。”
“恐惧文化”正在谷歌蔓延
此前，Gemini文生图刻意拒绝生成白人形象，在欧美舆论环境下诱发巨大争议。
后续该功能被迫下架，母机构AlphaBet股价下跌一度超过11%，带来非常严重的后果。
而外媒Pirate Wires这次对谷歌关联员工采访后发掘，Gemini的翻车与谷歌不良的DEI文化相关。
（DEI是“Diversity,Equity, Inclusion”的缩写，中文意为“多样性、公平性、包涵性”，是一个被广泛应用于企业等其他组织中的概念，旨在促进一个更加多元、平等和包涵的环境）
有接近Gemini项目的人透露，其实Gemini团队在发布前就被提醒过“过度多样化”的问题，撇开种族问题不谈，即使是最无害的搜索结果的质量亦会受到严重影响。
开头说到的三个模型都是为增多“多样性”而被设计的，接触过安全架构的人乃至还透露，关联团队“可能将一半的工程时间都花在这上面了”。
况且机构内部针对这种繁杂架构的态度和采纳程度存在歧义，“当Gemini项目公开后失败时，不仅是这个团队，全部机构都感到非常懊丧和挫败”。
针对这一点，前几天谷歌创始人谢尔盖·布林现身AI黑客马拉松现场，亦有关联透露——
大众正在把玩的Gemini 1.5 Pro模型的诞生其实只是个意外。
当咱们训练它的时候，只是做为扩大规模实验的一个尝试，基本没想到会变得如此强大。
当看到它的表现时，咱们不想再等待，咱们想让全世界都来试试它。
更重要的是，机构内部类似状况还有非常多，Gemini生图只是其中一个缩影。
例如，据透露有人保持需求工程师不可运用像“建造忍者（build ninja）”、“核爆旧缓存（nuke the old cache）”、“理智检测（sanity check）”或“哑变量（dummy variable）”这般的术语，理由是它们依次对应了文化挪用、军事隐喻、贬低精神疾患、贬低残疾的问题。
有工程师被剧烈意见在他的机构个人简介中采用一种多样化的代词组合来暗示自己，例如“zie/hir”、“ey/em”、“xe/xem”、“ve/vir”。
还有一个名为Greyglers（“Google”和“grey”的结合词）的小组，正在更名。
Greyglers小组是一个面向40岁以上资深员工的小组，有人认为并不是所有40岁以上的人都有灰头发，因此这个组名缺乏“包涵性”，乃至据爆料，谷歌还聘请了外边顾问为小组重命名。
Pirate Wires还透露，几乎每一个被采访的人都用了“恐惧文化（culture of fear）”这个词，这不仅解释了对机构极端DEI行径的无力反抗，亦说明了为么这一世界技术人才聚集地缺少创新。
无论在哪个层级的员工，几乎出于每一个原由，都害怕挑战哪些已然使机构陷入困境的许多过程。除晋升期之外，大都数人都害怕被重视到。
哪怕是想要晋升，亦会受到种族和性别的影响。
然鹅，真的就这么简单，归咎于失去控制的DEI思维管理吗？
为何谷歌会这般？
Pirate Wires的文案中认为，这只是机构更大问题的所表现出来的一个“症状”，这个更大的问题用四个字来讲便是：群 龙 无 首。
首要，谷歌此刻面临着典型的“创新者困境”，亦便是发展一项完全在其能力范围内的新的技术，会破坏其现有商场模式。
其次，更重要的是无人负责。
在谷歌几乎每一个重点制品的管理团队到工程、营销、信任与安全、公关和市场营销的员工嘴里，Pirate Wires暗示大众描绘出的谷歌形象比报告的要要黯淡得多：
谷歌是一个失去控制的、印钞机式的搜索垄断企业，无愿景、无领导力，并且因为其难以置信的孤岛式文化，团队之间真正的状况认识甚少。
成千上万的人在区别的时间处理着一个大拼图的各个部分，彼此之间很少合作。例如，在跨团队合作者想要帮忙Gemini团队，要么会失败，要么被忽略。
连接员工的独一途径是一个强大的、遍布的人力资源官僚体系。
而创始人拉里·佩奇、谢尔盖·布林、CEO桑达尔·皮查伊之间的一种奇怪的管理，让大都数员工对谁真正负责机构无什么感觉，不确定性是全部机构熟练的主题。
由此，这亦是为何有着劈柴哥外号的CEO桑达尔·皮查伊作为了众人打击的对象，据Business Insider信息，华尔街方面乃至显现越来越多需求现任CEO劈柴哥下台的声音。
用一位谷歌工程师的话来讲：“桑达尔是谷歌的鲍尔默，所有这些不起功效的制品、无序扩张、过度招聘，这一切都出现在他的领导下。”
参考链接：[1]https://www.piratewires.com/p/google-culture-of-fear[2]https://twitter.com/shaunmmaguire/status/1736082530573422762
— 完 —
量子位 QbitAI · 头条号签约
关注咱们，第1时间获知前沿科技动态
| 
发表于 2024-7-30 20:44:35
