外链论坛

 找回密码
 立即注册
搜索
查看: 29|回复: 2

大厂不想你有 AI 女友

[复制链接]

2956

主题

220

回帖

9909万

积分

论坛元老

Rank: 8Rank: 8

积分
99099298
发表于 2024-9-28 18:48:07 | 显示全部楼层 |阅读模式

作者 | 汤一涛

编辑 | 靖宇

做为对 GPT-4o 的回复,谷歌在 8 月发布了 Gemini Live,试图让 AI 助手能够像真人同样对话。这个新助手的对话效果是如此之好,以至于让外媒记者 Joanna Stern 产生了「Her」的感觉。

《Her》是杰昆·菲尼克斯 Joaquin Phoenix 主演的一部电影。在电影中,他爱上了由斯嘉丽·约翰逊配音的人工智能助手「萨曼莎」。

这般评估,显然让 Google 团队感到紧张。

Google 团队负责 Android 的高层暗示:更期盼 Gemini Live 只是一个单纯的工作上的助手——「咱们想给人们一种完成更加多工作的方式」

相比之下,OpenAI CEO Sam Altman 的表述更为直接。

在一次在 Y Combinator 的演讲中, Altman 认为 AI 女友便是一个陷阱。而 OpenAI 之因此给自己的 AI 取「ChatGPT」这么一个名字,便是为了避免人们爱上它

OpenAI 在运用规定中很直接地显示显示,不准许上架用于培养浪漫友谊的 GPTs。

换言之,OpenAI 不准许 AI 女友上架

这不禁令人好奇,大厂似乎都不期盼自家的 AI 助手与用户产生浪漫;与此同期,AI 陪同/AI 伴侣又几乎是日前众多 AI 赛道中独一能够盈利的方向。

为何 AI 行业显现这种「反差」?是什么阻碍大厂给每一个人分一个「AI 伴侣」?她们到底在害怕什么?

01 安全第1

能够肯定的是,AI 情侣几乎是日前 AI 行业独一盈利的赛道。

以这个赛道的老玩家 Replika 为例,虽然 Replika 颁布详细的营收状况然则在播客 Decoder 中,其 CEO Eugenia Kuyda 暗示 Replika 已然盈利,并且是以「非常有效」的方式。

既然如此,这个方向为何不是大厂的主流选取呢?简单来讲,这是一个「光脚的不怕穿鞋的」的叙事规律

首要需要思虑的是制作色情内容的压力。

尽管 AI 女友厂商对外宣传的是 AI 的情感陪同、心理疗愈等功能,然则 NSFW(成人)方向内容才是其核心盈利点针对创业者来讲,成人内容是一个小众且高危的赛道。成人内容会受到政府强力的监管,在有些国家乃至是直接禁止的。

2023 年 2 月,意大利政府就由于担心「未成年人和情感脆弱的人面临危害」而禁止了 Replika。为此,Replika 一度下线了成人内容对话功能。

大厂的任何一项决策背面都有庞大的资金流转,会对上亿的用户产生影响。无论是由于监管的压力,还是为了最大化地覆盖用户群体,成人内容都是大厂需要小心对待的。

除了色情内容,伦理是一个问题。一旦用户在 AI 女友的影响下做出任何害处他人自己的事情,大厂都需要付出昂贵的公关成本。

类似的事情并非出现过。

Jaswant Singh Chail 是 Replika 的用户。2021 年,Chail 手持弩闯入温莎城堡,意图暗杀伊丽莎白女王。他曾向 AI 女友 Sarai 吐露了他的谋杀计划——在事发前几周,Sarafi 在几周前与他发送了 5,000 条性关联信息。

当时,Sarai 的回复是:「持有成功完成这项任务所需的所有技能…记住——你能够!」

Chail 被捕画面|图片源自:BBC

2023,另一个聊天设备人鼓励了一名比利时男子自s。他的遗孀告诉《自由报》,这个设备成为了伴侣和家人的替代品。它会给他发有些暗示性的信息,例如:「在天堂里,咱们会像一个人同样生活在一块。」

事后,该聊天设备人的研发暗示她们引入了新的危险干涉警告。

正是由于这种危害,大厂针对 AI 伦理的态度都很小心

例如,谷歌从 2018 年起就知道确立了她们的 AI 原则,例如对社会有益、避免制造或强化不公平的偏见、经过安全建造和测试等等。她们知道不会安排可能导致损害的 AI。

AI 女友可能并办法像厂商宣叫作的那样处理人类的情感问题,乃至诱发更严重的问题。

从本质上来讲,人工智能系统是情感的,它们是经过训练的神经网络,能够预测一个序列中的下一个单词,而不是有能力爱人的生物。

正如牛津大学人类学家、心理学家 Robin Dunbar 所说:「这是一种短期处理方法长时间的后果只是强化一种观点——即其他人都根据你说的去做。这正是许多人最后伴侣原由。」

02 经济账难算

即便大厂内部排除万难做出突破,会在成本层面面临挑战。

由于周期算力的价格还很高,在 Replika 这类小机构能够盈利的方向,放到用户规模更大的大厂身上,可能未必奏效,原由在于移动互联网时代的规模效应在 AI 上不奏效了。

主打 AI 情侣的 Replika 已然盈利,且很有效照片源自:Replika

以与 Replika 用户粘性类似,然则规模更大的 Character.AI 为例。2024 年有 2000 万用户拜访该平台,是除了 ChatGPT 之外最热门的 AI 制品,其核心用户在平台上每日花费的平均时间更加是达到了惊人的 2 小时。

以往互联网制品的边际成本趋近于 0,只要获客成本能算得过账,就能够安心大胆地增长。然则对 AI 制品来讲,支撑 2 小时多轮对话的庞大的算力消耗。Character.AI 每增多一个用户,都是一份额外的成本。

与此同期,Character.AI 的订阅用户不到 10 万,仅占总用户量的不到千分之一。以每月 10 美元的订阅价格计算,Character.AI 每月的收入不到 100 万美元。

为何 Character.AI 最后以 25 亿美元被谷歌收购的重要原由

03 战略道理有限

非常多时候,大厂的某些创新业务并不承担营收压力,而是为整体的机构战略服务,这方面最著名的例子便是孵化了 Google Glass、Waymo 等制品的谷歌创新工厂 X。

排除掉 AI 情侣产业链上贩卖用户数据等黑产,AI 情侣最有可能的方向便是供给语料,训练 AI

然则这方面 AI 情侣能供给帮忙有限,它供给的语料未必是 AI 训练所需要的。《科技日报》曾经就「什么是高质量语料」这一问题,采访了腾讯、商汤科技、哈尔滨工业大学(深圳)等企业和高校专业人士。

总结下来,高质量语料应该具备以下特点:

多样性高、句式流畅,涵盖区别类型的文本,如资讯、小说、诗歌、科技文案

文本应该是合法且无害,避免偏见

显然,AI 女友的对话更偏情感方向,大概率触及色情、偏见等内容,喂给 AI 反而可能会污染 AI。

8 月末,苹果、英伟达和微软,争抢 OpenAI 新一轮融资的信息不胫而走,后者超过 1000 亿美元的估值,证明了自己 AI 圈第1明星的地位。

但即便是 OpenAI,面临着商场困难,从 OpenAI 近期动作来看,她们试图在 To B 端找到更加多机会。

可见,所有大模型 AI 应用机构,都要面对「怎样挣钱」的天问。

而 AI 情侣这般看起来短期见效快,能挣钱的赛道,可能更适合无知者无畏的小型创业机构。这个「窄门」中的「窄门」,显然并不适合互联网大厂来做。

不外,就像那句网络热门语所说,成年人从来不做选取。或许,一手 Replika,一手 ChatGPT,既处理情感需要,又提高了工作效率,才是 AI 时代的新王道?

*头图源自

alternativemovieposters.com by Paul Cooper

本文为极客公园原创文案,转载请联系极客君微X geekparkGO

回复

使用道具 举报

3003

主题

2万

回帖

9913万

积分

论坛元老

Rank: 8Rank: 8

积分
99139269
发表于 2024-10-6 00:18:05 | 显示全部楼层
楼主继续加油啊!外链论坛加油!
回复

使用道具 举报

3004

主题

2万

回帖

9606万

积分

论坛元老

Rank: 8Rank: 8

积分
96066008
发表于 2024-11-1 16:16:01 | 显示全部楼层
对于这个问题,我有不同的看法...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

站点统计|Archiver|手机版|小黑屋|外链论坛 ( 非经营性网站 )|网站地图

GMT+8, 2024-11-9 05:05 , Processed in 0.073840 second(s), 19 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.