厦大纪老师chatgpt相关讲座3.7
创始人
2024-05-30 00:33:58
0

在线更新数据,迭代学习训练,进而提高模型性能。
比较明显的是API部分,这一步学习的就是intruction,实现人机写作的复杂系统工程

在这里插入图片描述
数据充足,维基类似于百度百科
transformer结构更有优势,预测下一个字,模型越大,则condition的range大。

模型遗忘是当模型做一个新任务时,就会忘记旧的任务,而模型足够大,就不会发生这种作用。

大的数据+大的模型——chatgpt


**
在这里插入图片描述

下图中的数据,多为猜测。
数据的搜集过程,无法复制?

在这里插入图片描述
论文中给出了标注数据集类型,有QA等等,需要给出提示

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

​​​在这里插入图片描述

不仅给出了答案,还给出推理chain。

无监督预训练:文本语料570g,代码:159g
有监督:12万个训练集,1653个测试集,集合的意思,不是数据集量

在这里插入图片描述

​​

​​

​​​

2、国产大模型硬件基础

不大指望企业,指望国家实验室

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
给标注数据和原始数据,他们把模型做出来。
给data,他们做模型
在这里插入图片描述

在这里插入图片描述

鹏程国家实验室不穷,很有钱

下边的模型花了27个亿

鹏程*神农——新冠预测的模型——4000张GPU卡。
在这里插入图片描述
在这里插入图片描述

国产大模型-神农模型

**用户需求:**蛋白的RDB区域是否病变
**研究动机:**提前预测病毒变异类型

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
蓝色表示结合亲力上升,月蓝色月可能发生变异
在这里插入图片描述

在这里插入图片描述

新颖的多任务损失函数,是什么?新在哪?

在这里插入图片描述

在这里插入图片描述
**在这里插入图片描述
**

流感病毒能直接迁移吗?应该不行吧?流感应该不是看RBD吧?

在这里插入图片描述

可能的未来的方向
给一部电影,写成一本小说。
给一本小说,拍出来一步电影。

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

一轮300万,学生写的代码完蛋

土豪做法是数据或者任务线性排,没钱,做聚类’

在这里插入图片描述

模型压缩

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

洪永淼:
AI领域的问题:
确定性问题(当输入和输出是确定的)
确定性答案

明确的,可控的情况下做模型。
数据量和标注数据的质量有关。

优化算法中,凸优化问题,怎么更新上万个参数?
梯度更新

相关内容

热门资讯

安卓系统创建web页,基于安卓... 亲爱的读者们,你是否曾想过,你的安卓手机不仅能用来聊天、玩游戏,还能成为你个人的小网站呢?没错,今天...
安卓系统创建只读文件,安卓系统... 你有没有想过,在安卓系统里,怎么轻松创建一个只读文件呢?这就像给重要资料上把锁,防止别人随意修改,是...
安卓系统怎么不查验,一键实现无... 你有没有发现,有时候安卓系统在更新或者安装应用时,竟然不查验一下我们的手机权限,是不是有点太随意了呢...
鸿蒙系统跟安卓很像,与安卓相似... 你知道吗?最近手机圈里有个大新闻,那就是鸿蒙系统和安卓系统,它们俩简直就是一对“双胞胎兄弟”,长得可...
安卓系统断供风险,“安卓系统断... 哎呀呀,最近手机圈可是炸开了锅,华为的安卓系统竟然面临断供风险!这可真是让人捏了一把冷汗,咱们得好好...
安卓微信系统最高,极致体验背后... 你知道吗?在咱们这个手机不离手的年代,微信可是咱们生活中不可或缺的好伙伴。它不仅是个聊天工具,简直就...
小米安卓系统开不来,故障排查与... 我的小米手机怎么啦?安卓系统开不来,这可怎么办呢?别急,让我来给你支支招,让你轻松解决这个棘手的问题...
明麦刷安卓系统,明麦安卓系统刷... 你有没有想过,你的手机安卓系统是不是该换换口味了?别看它现在还能用,但有时候,换一个新系统就像给手机...
鸿蒙换安卓系统省电,续航提升的... 亲爱的手机控们,你们有没有想过,你的手机系统是不是该换换口味了呢?今天,咱们就来聊聊这个热门话题——...
安卓系统卸载了360,安卓系统... 我的手机里那个360安全卫士,最近竟然被安卓系统给卸载了!这可真是让我哭笑不得,今天就来给大家详细说...
安卓系统平板推荐便宜,盘点性价... 你有没有想过,在这个信息爆炸的时代,拥有一台性能强大又价格亲民的安卓系统平板,简直就像拥有了移动的办...
安卓系统能用的底图,探索安卓系... 你有没有想过,你的安卓手机里那些地图应用,它们是怎么把世界那么清晰地展现在你眼前的呢?没错,就是底图...
小米手机安卓系统吗,深度解析其... 你有没有想过,你的小米手机里到底装的是什么“大脑”?没错,就是那个让手机动起来的安卓系统!今天,就让...
安卓系统核心文件在哪,Andr... 你有没有想过,你的安卓手机里那些神秘的系统文件都藏在哪个角落呢?别急,今天我就要带你一探究竟,揭开安...
安卓系统与ps5系统,两大系统... 你有没有想过,为什么你的安卓手机可以轻松地下载各种应用,而你的PS5游戏机却只能玩那些官方认证的游戏...
安卓手机系统型号查询,安卓手机... 亲爱的手机控们,你是否曾有过这样的时刻:别人问你“你的手机型号是什么?”而你却一头雾水,不知从何说起...
ios系统比安卓系统好在哪,流... 你有没有发现,身边的朋友换手机的时候,总是对iOS和安卓系统争论不休?今天,我就来给你揭秘为什么那么...
安卓系统更新后又费电,揭秘原因... 亲爱的手机控们,你们有没有遇到过这种情况:手机刚升级了安卓系统,结果发现电量消耗得飞快,就像喝醉酒的...
安卓 系统属性设置,解锁手机潜... 亲爱的安卓迷们,你是否曾好奇过,那些让安卓系统如此强大的“秘密武器”究竟是什么?没错,就是那些神秘的...
安卓系统 签名验证失败,原因与... 手机里突然弹出一个“签名验证失败”的提示,是不是感觉像被小偷偷了钱包一样郁闷?别急,今天就来给你揭秘...