|
整理 | 褚杏娟、核子可乐 “Python 最终无存在的道理了！撒花” 当地时间 3 月 23 日，OpenAI 宣布正式上线了以安全为核心的 ChatGPT 插件系统。OpenAI 插件将 ChatGPT 连接到第三方应用程序，之后 ChatGPT 便能够与研发人员定义的 API 进行交互，从而增强 ChatGPT 的功能并准许其执行范围广泛的操作，重点包含：
检索实时信息，例如体育比赛成绩、股票价格、最新信息等。
检索知识库信息，例如机构文件、个人笔记等。
表率用户执行操作，例如订机票、订餐等。
日前，插件系统还处在 alpha 测试期，首批参与插件创建的厂商包含 Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram 和 Zapier。
其他运用插件的研发者能够申请进入候补名单（https://openai.com/waitlist/plugins）。OpenAI 暗示，在认识更多状况后将逐步开放拜访范围。
另一，OpenAI 还自己托管了两款插件，其一为网络浏览器，其二是代码解释器。OpenAI 开源了一款知识库检索插件的代码，任何研发者都能够借此托管用于加强 ChatGPT 的信息。
OpenAI 暗示，此刻的语言模型虽然在各类任务中都能有所表现，但结果还不尽人意。而模型提升自我的独一途径便是其训练数据。但一个问题是，数据内容可能已然过时，况且模型常常“以偏概全”、“生搬硬套”。另外，语言模型独一能够开箱即用的输出模式便是文本，虽然文本中包括实用说明，但要将其化为操作还需要经历额外的过程。
OpenAI 将插件比喻成语言模型的“眼睛和耳朵”，能帮忙模型拜访由于较新、较私人或较详细而不宜包括在训练数据内的信息。为了响应用户的知道需求，插件还能帮忙语言模型切实执行安全、受控的操作，从而加强全部系统的实用性。
有网友暗示，“OpenAl 设计的插件系统是我这辈子见过的最疯狂的系统。倘若你要给它写插件，你并不是去写这个插件的程序，而是写一个关于插件的描述，只需用自然语言描述，而后 GPT 来帮你生成这个插件。”
还 有网友 直接将 OpenAI 与苹果对比，并叫作，OpenAI 为计算的下一个时代奠定了基本：
Apple 之后是 OpenAI
iPhone 之后是 GPT-4
iOS 之后是 ChatGPT
App Store 之后是  lugins
视频加载失败，请刷新页面再试  刷新
ChatGPT 插件运用示例
插件的表现怎样
咱们先看下 OpenAI 自己托管的两个插件表现怎样。
浏览插件一套晓得该何时及怎样浏览互联网的实验性模型。以往，ChatGPT 会礼貌地指出，其训练数据中不具备充足的信息，因此呢没法回答某些特定问题。但此刻能够给出答案和关联链接了。
在 OpenAI 展示的示例中，ChatGPT 会检索关于最新一届奥斯卡颁奖典礼的信息，再用其最善于的“写诗”能力加以改编。
以下是 ChatGPT 的回答，它给出了一系列的搜索结果，用户直接点击就可查看关联的信息源自。
除了为最后用户供给明显的实用性助益之外，OpenAI 认为，这种对语言和聊天模型全面可解释性的科研，亦将在可扩展性和对齐能力方面带来令人兴奋的前景。
代码解释器一套可运用 Python 处理上传和下载的实验性 ChatGPT 模型。
OpenAI 为模型研发了一个可在沙盒、防火墙执行环境中工作的 Python 解释器，外加有些临时磁盘空间。解释器插件运行的代码会在一个持久会话中进行评定，且该会话在聊天时期始终有效（拥有上限超时），后续调用能够相互构建。另外，还支持将文件上传至当前对话工作区，并下载工作结果。
例如，当问到：一起砖的重量是这块砖自己 30% 的重量与 5 个 GPU 的重量之和，已知每吨重量包括了 100 块砖和 200 个 GPU，那样一起砖的重量是多少?
ChatGPT 给出的答案是：一起砖的重量是 7.8125 千克。
执行规律计算的代码解释器插件
从初期用户科研来看，OpenAI 确定了代码解释器的几种重要用途：
处理定量和定性类数学问题
进行数据分析和可视化
将文件转换为区别格式
OpenAI 暗示，期盼这套模型能够运用自己的编程技能，为计算机中的基本功能供给更自然的运用界面。刚才上手的初级程序员能够在它的帮忙下大大加强工作效率，同期亦期盼能让更加多受众接触并把握编程技能。
针对该插件有网友评论叫作：“Python 最终无存在的道理了！撒花”
第三方插件一套晓得该何时及怎样运用插件的实验性模型。
ChatGPT 中的第三方插件
第三方插件由 manifest 文件做描述，其中包括对插件功能的设备可读描述和调用办法，同期供给面向用户的说明文档。
待办事项管理插件的 manifest 文件示例
插件的创建过程如下：
用户运用期盼语言模型调用的端点来构建 API（能够是新的 API、现有 API 或专为大语言模型设计的现有 API 打包器）。
为自己的 API 创建 OpenAPI 记录规范，同期创建一个指向 OpenAPI 规范并包括插件特定元数据的 manifest 文件。
在 chat.openai.com 上起始对话时，用户能够指定想要启用的第三方插件。关于已启用插件的文档，将做为对话上下文的一部分被提交给语言模型，让模型能够按照需要调用适当的插件 API 以实现用户意图。日前的插件重点思虑对后端 API 的调用，OpenAI 亦在探索怎样让 API 调用客户端 API。
开源检索插件 开源检索插件让 ChatGPT 能够拜访个人或组织信息源（经过许可）。它准许用户经过提问或用自然语言表达需要，从数据源处获取相关性最强的文档片段，包含文件、笔记、电子邮件或公共文档。
做为开源加自托管方法，研发人员能够安排自己的插件版本并在 ChatGPT 上注册。检索插件利用 OpenAI 嵌入，准许研发人员选取矢量数据库（Milvus、Pinecone、Qdrant、Redis、Weaviate 或 Zilliz）来索引和搜索文档。信息源可运用 webhooks 与数据库保持同步。
要体验这项功能，能够拜访检索插件代码仓库：
https://github.com/openai/chatgpt-retrieval-plugin
真安全还是说说罢了？
安全作为此次发布被多次提及的关键词。
针对浏览插件，因为 ChatGPT 运用 Bing 搜索 API 从 Web 检索内容，因此呢 OpenAI 亦继承了微软在这项工作中的基本原则：1）保准信息源自靠谱且真实；2）经过“安全模式”防止检索有问题的内容。这款插件在独立服务中运行，能够保准 ChatGPT 的浏览活动与基本设备内的其余部分相互分离。
为了尊重内容创作者并遵守网络规范，OpenAI 浏览器插件运用的用户代理令牌为 ChatGPT-User，并经过配置强调重新所拜访网站的 robots.txt 文件。这偶尔会诱发“click failed”问题，显示该插件正遵守目的网站的指示、避免执行抓取操作。此用户代理仅用于表率 ChatGPT 用户执行直接操作，不会以任何自动方式主动抓取网络内容。OpenAI 还发布了 IP 出口范围，并采取限速办法以避免向目的网站发出太多流量。
OpenAI 的浏览插件会表示拜访过的网站，并在 ChatGPT 的回复中引用其源自。由此实现的透明度层可帮忙用户验证模型响应的准确性，并回馈内容创作者。
针对代码解释器，OpenAI 暗示之因此要将模型接入代码解释器，重点是想对执行过程做适当的沙盒处理，以保证 AI 生成的代码不会在现实场景中产生意外的副功效。OpenAI 叫作在安全环境中执行代码，并经过严格的网络掌控来防止外边互联网拜访到执行代码。另外，还对每一个会话设置了资源限制。
而检索插件准许 ChatGPT 搜索内容矢量数据库，并将最后结果添加至 ChatGPT 会话其中。这寓意着它不会产生任何外边影响，重点危害只触及数据授权和隐私。研发人员应保证只将有权运用的内容添加至检索插件，从而在用户的 ChatGPT 会话中共享。
不外，网友针对 OpenAPI 的“安全宣传”似乎不太买单。
网友 “mk_stjames” 暗示，“我对此有有些奇怪的感觉。从‘傻瓜，当然它无以任何方式连接到互联网！’到此刻都无一年的时间，变成‘好的...... 因此咱们连接到互联网......’”
首要是您的 API 调用，而后是您的 chatgpt-jailbreak-turns-into-a-bank-DDOS-attack，而后是“今天它以某种方式执行了 Python 脚本的数十万线程，该脚本在上午 8 点 31 分在纽约证交所引起自 1987 年败兴最大的单日跌幅……”
您能够继续讨论个人责任，所有... 用户仍然是用户，对吧。但这起始感觉像是给一群黑猩猩上了膛的手枪。
OpenAI 始终在谈论“安全”，但“安全”的所有意思是“好吧，咱们不准许任何人准许它拿胖子或残疾人开玩笑，所以咱们很好，对吧？！”
当然，亦有网友暗示：为何要对安全发牢骚呢？随它去吧！“倘若你拜访她们的 API，这基本上便是她们在做的事情，由于是不是运用她们的审核端点取决于你。”不外这位网友亦暗示：“她们的‘人工智能安全’只是嘴上说说。在前几天，她们有一个 bug，你能够看到其他用户的聊天历史！”
参考链接：
https://openai.com/blog/chatgpt-plugins
https://news.ycombinator.com/item?id=35277677 今日荐文
GPT-4"失去控制"行径大赏：创建行动计划欲接管推特并取代马斯克，还引诱教授帮其制定逃跑计划
李开复下场抢人！宣布筹办新AI机构：目的不只是中文ChatGPT，资金算力已到位
TikTok或思虑从字节跳动剥离；苹果推迟发放员工奖金；AI大牛颜水成加入智源科研院| AI1星期新闻
微软抛出王炸，GPT-4接入Office整家桶！PPT一键生成，又一批打工人要下岗了？
你亦「在看」吗？ | 
发表于 2024-8-22 12:09:43