Meta推“最强开源模型”,扎克伯格称用闭源防中国行不通
创始人
2024-07-24 13:38:32
0

北京时间7月24日,Facebook母公司Meta Platforms Inc.发布了全新人工智能模型"Llama 3.1",这是该公司目前为止推出的最强大开源模型,号称能够比肩最好的闭源模型。

与此同时,Meta的CEO马克·扎克伯格发表公开信,阐述了他为何支持AI开源。

扎克伯格称其为"艺术的起点",表示Llama 3.1拥有大范围新的能力,包括改善推理以帮助处理复杂的数学问题或即时合成一整本书。

Meta公司在150多个涵盖多种语言的基准数据集上评估了性能,Llama 3.1模型在各个基准上皆有不错的表现。此外,还进行了广泛的人工评估,在真实场景中将Llama 3.1与竞争模型进行了比较。实验评估表明,Llama 3.1能够在一系列任务中与领先的基础模型相媲美,包括GPT-4、GPT-4o和Claude3.5Sonnet。

Llama 3.1 405B与其它模型多个基准的评估对比Meta官网

官方称,开发人员提高了模型对用户指令的响应能力、质量和详细指令遵循能力,同时确保高水平的安全性,使其能够跨功能扩展微调数据量。

根据Meta发布信息,Llama 3.1模型包含4050亿个参数,是近年来参数规模最大的模型之一。这些模型支持多种语言,上下文长度显著增加,达到128K,使用最先进的工具,推理能力也更强。这使得我们的最新模型能够支持高级用例,例如长篇文本摘要、多语言对话代理和编码助手。

Llama 3.1模型对比Meta官网文件

作为Meta迄今为止最大的模型,Llama 3.1从16位(BF16)量化为8位(FP8)数字,有效降低了所需的计算要求并允许模型在单个服务器节点内运行,使用超过16000个H100 GPU进行训练,这是全球迄今为止性能最强大、参数规模最大的开源模型。

该模型主要用于为Meta内部和外部开发人员的聊天机器人提供支持,具备广泛的新功能,包括改进的推理能力,帮助解决复杂的数学问题或瞬间综合整本书的文本。它还具有生成式AI功能,可以通过文本提示生成图像。

同时,扎克伯格发表公开信《Open Source AI Is the Path Forward》,阐述了"开源为何对开发者、对Meta和对世界都有好处"。

自ChatGPT爆火以来,将其开源的呼声未曾断绝。可就在ChatGPT2发布之后,OpenAI选择了闭源发展。阿里云、智谱和清华EKG、百川智能等,选择了开源,华为则出于数据隐私和商业收益考虑,盘古大模型就选择了闭源,在这场全球大模型军备赛中,有关开源发展和闭源深耕的争论不止不休。

扎克伯格公开信中提出,Llama需要发展成为一个完整的生态系统,包括工具、效率提高、芯片优化和其他集成,这是仅依靠Meta自己使用做不到的;Llama有信心在高度竞争中保持优势,而成为行业标准的道路是一代又一代地保持竞争力、高效和开放;最后,出售AI模型访问权限不是公司的商业模式。这意味着公开发布Llama不会削弱企业的收入、可持续性或投资研究的能力。

扎克伯格还指出,开源将确保全世界更多的人能够享受AI带来的好处和机会,权力不会集中在少数公司手中,并且该技术可以更均匀、更安全地应用于整个社会。

扎克伯格认为最好的策略是建立一个强大的开放生态系统,使得行业龙头公司与政府和盟友密切合作,以确保他们能够最好地利用最新进展,并在长期内实现可持续的先发优势。

关于中国,他在文中提到,"有些人认为,美国必须采用闭源,以防止中国获得这些模型",但"这是行不通的,只会让美国及其盟友处于不利地位"。

据彭博社报道,扎克伯格还补充说,认为美国在人工智能方面会领先中国数年也是不现实的。但他指出,即使是数月的小幅领先,也可以随着时间的推移"累积",让美国占据明显优势。

相关内容

热门资讯

“苏超”火爆出圈!国家发改委:... 1最近“苏超”火爆出圈,在发展体育、文旅产业以及开展“苏超”等地方性活动带动消费方面,国家发展改革委...
时隔三个多月 世卫组织首批医疗... 世界卫生组织26日表示,该组织25日向加沙地带运送了自3月2日以来的第一批医疗援助物资。世卫组织总干...
河北霸州市住建局通报“工人徒手... 针对媒体报道的“工人徒手掰断钢筋”的视频,6月26日,河北省霸州市住房和城乡建设局公开通报称,经调查...
马克龙:法国不会接受不对等的欧... 当地时间6月27日,法国总统马克龙表示,法国不能接受一项与自身利益不对等的关税协议。他强调,法国“必...
泰州靖江多名村民举报为建船厂遭... 1近日,泰州靖江市新桥镇三太村多名村民向记者反映,2024年4月起,当地政府征收土地用于江苏扬子泓远...
菏泽市城市管理局原党组成员,市... 据菏泽市纪委监委消息:菏泽市城市管理局原党组成员,市城市管理事业发展中心原主任武领吉涉嫌严重违纪违法...
神舟二十号航天员乘组圆满完成第... 神舟二十号航天员乘组圆满完成第二次出舱活动。(总台央视记者 黄显文 王刚)
山东小伙杨瀚森发文感谢,首轮1... 北京时间6月26日,NBA选秀大会,中国球员杨瀚森在首轮第16顺位被开拓者选中。这位身高2米18的中...
伊朗宪法监护委员会批准暂停伊朗... 伊朗伊斯兰共和国广播电视台26日报道,伊朗宪法监护委员会已批准了暂停伊朗与国际原子能机构合作的法案。
依法保障对辩护人的选择权,“两... 今天,最高人民法院、最高人民检察院联合发布《关于依法保障在押犯罪嫌疑人、被告人选择辩护人权利有关问题...
泰国警方在普吉岛发现多个可疑爆... 据央视新闻消息,泰国警方26日在普吉芭东海滩销毁了一枚疑似爆炸装置。该可疑物体是在普吉岛一家酒店附近...
商务部介绍对欧盟稀土出口审批情... 6月26日下午,商务部召开例行新闻发布会,有记者就对欧盟稀土出口审批情况提问。商务部新闻发言人何亚东...
全国首艘氢电拖轮在青岛港入列 ... 6月26日,全国首艘氢电拖轮“氢电拖1”轮在山东港口青岛港正式入列。该拖轮搭载“氢燃料电池+液冷锂电...
今年高考招生录取有哪些新变化、... 这两天,各地高考分数陆续公布,进入志愿填报阶段,今年高考招生录取有什么新变化、新趋势?今年,各地高校...
特朗普公开施压,要求撤销对内塔... 美国总统特朗普当地时间25日在社交媒体上发表贴文,要求撤销对以色列总理内塔尼亚胡的审判。贴文说,他“...
小肚腩悄悄膨胀?从三餐搭配到零... 当书包里的零食越来越多,当小肚腩悄悄爬上孩子的腰间,儿童青少年肥胖问题困扰着家长。那么如何让孩子吃得...
国家发改委:已下达2025年以... 国家发展改革委政研室副主任、委新闻发言人李超26日在新闻发布会上表示,去年11月份以来,国家发展改革...
民航局:禁止旅客携带无3C标识... 日前,为切实保障航空运行安全,民航局发布紧急通知,自6月28日起禁止旅客携带没有3C标识、3C标识不...
国家发改委:第三批消费品以旧换... 据人民财讯消息,6月26日,国家发展改革委政策研究室副主任李超表示,将于今年7月份下达今年第三批消费...