厦大纪老师chatgpt相关讲座3.7
创始人
2024-05-30 00:33:58
0

在线更新数据,迭代学习训练,进而提高模型性能。
比较明显的是API部分,这一步学习的就是intruction,实现人机写作的复杂系统工程

在这里插入图片描述
数据充足,维基类似于百度百科
transformer结构更有优势,预测下一个字,模型越大,则condition的range大。

模型遗忘是当模型做一个新任务时,就会忘记旧的任务,而模型足够大,就不会发生这种作用。

大的数据+大的模型——chatgpt


**
在这里插入图片描述

下图中的数据,多为猜测。
数据的搜集过程,无法复制?

在这里插入图片描述
论文中给出了标注数据集类型,有QA等等,需要给出提示

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

​​​在这里插入图片描述

不仅给出了答案,还给出推理chain。

无监督预训练:文本语料570g,代码:159g
有监督:12万个训练集,1653个测试集,集合的意思,不是数据集量

在这里插入图片描述

​​

​​

​​​

2、国产大模型硬件基础

不大指望企业,指望国家实验室

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
给标注数据和原始数据,他们把模型做出来。
给data,他们做模型
在这里插入图片描述

在这里插入图片描述

鹏程国家实验室不穷,很有钱

下边的模型花了27个亿

鹏程*神农——新冠预测的模型——4000张GPU卡。
在这里插入图片描述
在这里插入图片描述

国产大模型-神农模型

**用户需求:**蛋白的RDB区域是否病变
**研究动机:**提前预测病毒变异类型

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
蓝色表示结合亲力上升,月蓝色月可能发生变异
在这里插入图片描述

在这里插入图片描述

新颖的多任务损失函数,是什么?新在哪?

在这里插入图片描述

在这里插入图片描述
**在这里插入图片描述
**

流感病毒能直接迁移吗?应该不行吧?流感应该不是看RBD吧?

在这里插入图片描述

可能的未来的方向
给一部电影,写成一本小说。
给一本小说,拍出来一步电影。

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

一轮300万,学生写的代码完蛋

土豪做法是数据或者任务线性排,没钱,做聚类’

在这里插入图片描述

模型压缩

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

洪永淼:
AI领域的问题:
确定性问题(当输入和输出是确定的)
确定性答案

明确的,可控的情况下做模型。
数据量和标注数据的质量有关。

优化算法中,凸优化问题,怎么更新上万个参数?
梯度更新

相关内容

热门资讯

玩家终于实锤了!粤麻圈麻将有挂... 你好粤麻圈麻将这个游戏其实有挂的,确实是有挂的,需要了解【请加QQ群客服咨询:1075075785】...
玩家终于实锤了!美酒之城有挂吗... 玩家终于实锤了!美酒之城有挂吗(分享技巧)原来是有挂的(已更新)(今日头条)1、让任何用户在无需AI...
玩家终于实锤了!凯撒皇宫有挂吗... 自定义凯撒皇宫系统规律,只需要输入自己想要的开挂功能,一键便可以生成出微扑克专用辅助器,不管你是想分...
玩家终于实锤了!福建十三道有挂... 您好,福建十三道这款游戏可以开挂的,确实是有挂的,需要了解{请加QQ群客服咨询:1075075785...
玩家终于实锤了!川南麻将有挂吗... 亲,川南麻将这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,川南麻将的开挂软件,名...
玩家终于实锤了!嘉邻游戏有挂吗... 玩家终于实锤了!嘉邻游戏有挂吗(分享技巧)原来是有挂的(已更新)(今日头条)是一款可以让一直输的玩家...
玩家终于实锤了!同城游牛鬼有挂... 玩家终于实锤了!同城游牛鬼有挂吗(分享技巧)原来是有挂的(已更新)(今日头条)是一款可以让一直输的玩...
玩家终于实锤了!打两圈麻将有挂... 您好,打两圈麻将这款游戏可以开挂的,确实是有挂的,需要了解{请加QQ群客服咨询:1075075785...
玩家终于实锤了!歪歪有挂吗(分... 玩家终于实锤了!歪歪有挂吗(分享技巧)原来是有挂的(已更新)(今日头条)是一款可以让一直输的玩家,快...
玩家终于实锤了!微乐云南麻将有... 你好微乐云南麻将这个游戏其实有挂的,确实是有挂的,需要了解【请加QQ群客服咨询:1075075785...
玩家终于实锤了!开心联盟有挂吗... 玩家终于实锤了!开心联盟有挂吗(分享技巧)原来是有挂的(已更新)(今日头条)是一款可以让一直输的玩家...
玩家终于实锤了!聚兴茶馆有挂吗... 亲,聚兴茶馆这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,聚兴茶馆的开挂软件,名...
玩家终于实锤了!土豪赢三张有挂... 你好土豪赢三张这个游戏其实有挂的,确实是有挂的,需要了解【请加QQ群客服咨询:1075075785】...
玩家终于实锤了!乐太坊有挂吗(... 玩家终于实锤了!乐太坊有挂吗(分享技巧)原来是有挂的(已更新)(今日头条)1、让任何用户在无需AI插...
玩家终于实锤了!秋水佳人有挂吗... 你好秋水佳人这个游戏其实有挂的,确实是有挂的,需要了解【请加QQ群客服咨询:1075075785】,...
玩家终于实锤了!桦南麻将有挂吗... 您好,桦南麻将这款游戏可以开挂的,确实是有挂的,需要了解{请加QQ群客服咨询:1075075785}...
玩家终于实锤了!聚友联盟有挂吗... 您好:聚友联盟确实真的有挂,软件请加QQ群客服咨询:1075075785确实是有挂的,很多玩家在这款...
玩家终于实锤了!哈狗游戏有挂吗... 你好哈狗游戏这个游戏其实有挂的,确实是有挂的,需要了解【请加QQ群客服咨询:1075075785】,...
玩家终于实锤了!乐宝棋牌有挂吗... 自定义乐宝棋牌系统规律,只需要输入自己想要的开挂功能,一键便可以生成出微扑克专用辅助器,不管你是想分...
玩家终于实锤了!老胡吧有挂吗(... 亲,老胡吧这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,老胡吧的开挂软件,名称叫...