被“开源”的 LLaMA 成最大赢家
时间:2023-05-05 09:48:06来源:OSCHINA


(资料图片)

本文源自一份被意外泄露的谷歌内部文件,作者是谷歌内部的一名研究员。虽然他在文章中提出了不少有意思的观点,但仅代表其本人的意见,并非谷歌公司的观点,而且许多其他研究人员也不同意这些观点。

原文:https://www.semianalysis.com/p/google-we-have-no-moat-and-neither

这名谷歌员工声称,在当下这场 AI 军备竞赛中,开源人工智能 (Open Source AI)将会胜过谷歌和 OpenAI,成为最大赢家。他还认为,谷歌没有护城河,OpenAI 也没有。

文件提到,今年 3 月初 Meta 的大语言模型 LLaMA 被泄露后,开源社区得到了第一个真正意义上的具备能力的基础模型。尽管 LLaMA 没有指令或对话调整,也没有 RLHF,但社区深刻认识到其重要性。随之而来的是巨大创新涌现,仅仅一个月后,就出现了包含指令调优、量化、质量改进、人工评估、多模态、RLHF 等 LLaMA 变体,其中许多变体建立在彼此之上。

延伸阅读:被泄露的大语言模型 LLaMA,助长了一系列 ChatGPT 开源替代品

虽然大公司的模型在质量方面仍然略有优势,但差距正在以惊人的速度缩小。开源模型更快、支持深度定制、更私密且功能更强大。基于开源模型,开发者甚至可以使用 100 美元和 13B 的参数即可实现需求,而大公司却要在 1000 万美元和 540B 的参数下苦苦挣扎。更不用说他们可以在几周内完成任务,而不是几个月。

由于被“开源”的 LLaMA 出自 Meta 之手,这名研究员认为 Meta 是这场 AI 竞争中的最大受益者之一 —— 获得了全世界程序员的免费劳动力。因为大多数开源的 AI 创新都发生在他们的架构之上,因此没有什么能阻止 Meta 将这些成果直接整合到他们的产品中。

这种情况就好比谷歌成功使用其开源产品(如 Chrome 和 Android)中的范例,基于拥有“生长创新”的平台,谷歌巩固了自己作为思想领袖和方向制定者的地位,获得了塑造比自身更宏大的想法的能力。

由此可见,OpenAI 在对于开源 AI 的态度上犯了与谷歌相同的错误,都采取了较为封闭的政策,但这并不能帮助他们建造护城河。

标签:

最新
  • 被“开源”的 LLaMA 成最大赢家

    本文源自一份被意外泄露的谷歌内部文件,作者是谷歌内部的一名研究员。虽然他在文章中提出了不少有意思的观

  • QFII重仓股有什么特点?qfii重仓股可以买吗?

    QFII重仓股有什么特点?此外,RQFII通常是指人民币合格境外投资者,但额度却比QFII要少,也被叫做小QFII

  • 邮政银行个人养老金账户怎么开?交通银行个人养老金账户怎么开?

    邮政银行个人养老金账户怎么开?交通银行个人养老金账户怎么开?以下是小编为您整理的内容,希望对您有所

  • 摩托车发动机黄灯亮了严重吗?发动机黄灯亮了严重吗?

    摩托车发动机黄灯亮了严重吗?发动机黄灯亮了严重吗?需要去检查。汽油品质不好会导致混合气在气缸内燃

  • 银行限额是什么原因?限额什么时候可以恢复?

    银行限额是什么原因?工商银行卡被限额的原因包括支付金额超出了单笔交易的限额、支付金额超出了单日交易

  • 天天酷跑卡牌少年如何搭配?天天酷跑卡牌少年什么时候出的?

    天天酷跑卡牌少年如何搭配?推荐搭配:卡牌少年+魔神战车+熊队长+路西法小编分析:卡牌少年的和魔神战车

  • IPS面板相关知识简要介绍 IPS面板指的是什么?

    IPS面板相关知识简要介绍IPS(In-平面 开关,平面转换)技术是日立1995年发布的新一代液晶面板技术,1996

  • 中国邮政保险每年交一万元可靠吗?中国邮政保险每年交一万元适合哪些人买?

    中国邮政保险每年交一万元可靠吗?一般来说是比较可靠的。首先,中国邮政保险是一家非常正规的保险公司,

  • 物业合同纠纷如何解决?房屋租赁合同纠纷诉状书模板一览

    物业合同纠纷如何解决?1、当事人各方自选协商和解;2、各方当事人请求第三人调解,请求政府主管部门行政

  • 银行手续费计入什么科目? 银行利息计入什么科目?

    银行手续费计入什么科目?银行手续费在会计上计入一级科目财务费用,则二级科目是手续费,银行手续费的

  • Excel如何取消菜单锁定保护?Excel单重密码和双重密码怎么设置?

    Excel如何取消菜单锁定保护?1、找到主页面的审阅菜单,点击撤销工作表保护按钮。2、等待平台跳出工作表

  • 理财稳健的方式有哪些?投资理财产品赚钱的方法

    最近小编看到很多人在搜索理财方式的相关内容,小编呢对此也是非常感兴趣,特意整理了相关的内容,下面

  • 徐州城市群指什么?我国城市群有哪些?

    徐州城市群指什么?徐州城市群规划是16年前首次提出的。徐州城市群,又称徐州都市圈,是江苏三大都市圈(

  • Grimes说任何人都可以用她的声音制作AI歌曲

    当各大唱片公司一直试图抵制使用著名艺术家的AI声轨的歌曲时,一贯不走寻常路的Grimes有其他想法。Grime

  • 什么叫有源相控雷达?有源相控阵雷达有什么优势?

    【资料图】最近大家都在讨论什么叫有源相控雷达_什么叫有源相控阵雷达相关的事情,对此小编也是非常的感应兴趣,那么这件事具体又是怎么回

  • 【天天新视野】克雷洛夫的主要作品有哪些?克雷洛夫的主要作品介绍?

    (资料图片仅供参考)最近这段时间总有小伙伴问小编克雷洛夫的主要作品有什么_克雷洛夫的主要作品有哪些是什么,小编为此在网上搜寻了一些有