厦大纪老师chatgpt相关讲座3.7
创始人
2024-05-30 00:33:58
0次

在线更新数据，迭代学习训练，进而提高模型性能。
比较明显的是API部分，这一步学习的就是intruction,实现人机写作的复杂系统工程

在这里插入图片描述
数据充足，维基类似于百度百科
transformer结构更有优势，预测下一个字，模型越大，则condition的range大。

模型遗忘是当模型做一个新任务时，就会忘记旧的任务，而模型足够大，就不会发生这种作用。

大的数据+大的模型——chatgpt


**
在这里插入图片描述

下图中的数据，多为猜测。
数据的搜集过程，无法复制？

在这里插入图片描述
论文中给出了标注数据集类型，有QA等等，需要给出提示

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

​​​在这里插入图片描述

不仅给出了答案，还给出推理chain。

无监督预训练：文本语料570g,代码：159g
有监督：12万个训练集，1653个测试集，集合的意思，不是数据集量
在这里插入图片描述

​​

​​

​​​

​

2、国产大模型硬件基础

不大指望企业，指望国家实验室

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
给标注数据和原始数据，他们把模型做出来。
给data，他们做模型
在这里插入图片描述

在这里插入图片描述

鹏程国家实验室不穷，很有钱

下边的模型花了27个亿

鹏程*神农——新冠预测的模型——4000张GPU卡。
在这里插入图片描述
在这里插入图片描述

国产大模型-神农模型

**用户需求：**蛋白的RDB区域是否病变
**研究动机：**提前预测病毒变异类型

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
蓝色表示结合亲力上升，月蓝色月可能发生变异
在这里插入图片描述

在这里插入图片描述

新颖的多任务损失函数，是什么？新在哪？

在这里插入图片描述

在这里插入图片描述
**在这里插入图片描述
**

流感病毒能直接迁移吗？应该不行吧？流感应该不是看RBD吧？

在这里插入图片描述

可能的未来的方向
给一部电影，写成一本小说。
给一本小说，拍出来一步电影。

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

一轮300万，学生写的代码完蛋

土豪做法是数据或者任务线性排，没钱，做聚类’

在这里插入图片描述

模型压缩

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

洪永淼：
AI领域的问题：
确定性问题(当输入和输出是确定的)
确定性答案

明确的，可控的情况下做模型。
数据量和标注数据的质量有关。

优化算法中，凸优化问题，怎么更新上万个参数？
梯度更新

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：三八妇女节即将到来，跨境电商如何玩转节日营销？

下一篇：ant design confirm的使用说明

相关内容

热门资讯

克罗恩病关节炎：身体与心灵的双... 哎呀，说到这个克罗恩病关节炎，真是让我又爱又恨啊！你可能觉得我这话有点夸张，但当你真正感受到它带来的...
胃病不能吃什么-胃病发作时，这... 哎呀，说到胃病，我这肚子就开始隐隐作痛了。你们知道吗，胃病发作的时候，有些食物简直就是“毒药”！首先...
exe文件用手机能打开-手机能... 哎呀，今天咱们来聊聊这个听起来有点玄乎的话题——手机能打开exe文件？我得先说，这可不是闹着玩的！e...
华为新视通视频会议方案：技术进... 大家好！今天我要和大家聊聊华为新出的那个“新视通”视频会议方案。哇，这个名字听起来就很有未来感，对吧...
exagear模拟器使用方法-... 嘿，各位游戏迷们，今天我要来聊聊一个超级酷炫的工具——Exagear模拟器！是不是有时候看到那些老旧...
sd卡格式化后数据自动恢复-S... 哎呀，说到这个SD卡格式化后数据自动恢复的事儿，真是让人又爱又恨！你知道吗，有一次我不小心把SD卡给...
帝国cms模板文件目录-帝国 ... 哎呀，说到这个帝国CMS的模板文件目录，我可是有一肚子的话要说！这玩意儿啊，真是个让人又爱又恨的小妖...
台湾快递单号查询网：让人心急又... 哎呀，说到这个台湾快递单号查询网，我真是又爱又恨！每次网购完，最让人心急的就是等快递了。你知道的，那...
酷管家损坏照片修复：拯救珍贵记... 哎呀，说到这个酷管家损坏照片修复，我这心里就五味杂陈啊！记得那次，我辛辛苦苦攒了几个月的照片，突然间...
live linux-体验自由... 嘿，朋友们，今天咱们聊聊那个让人爱不释手的LiveLinux！想象一下，你的电脑不再是被某个大公司绑...
phantomjs win10... 哎呀，说到在Win10上安装PhantomJS，这可真是一次让人又爱又恨的经历！你知道的，作为一个对...
西软酒店管理系统 官网-西软酒... 大家好，我是一名酒店前台的小姐姐，今天我要来聊聊我们酒店用的那个“西软酒店管理系统”官网，真的是让我...
出生医学证明大小太奇葩，让人又... 你知道吗，每次提到那个小小的出生医学证明，我心里就五味杂陈。不是因为它有多重要，而是因为它的大小，简...
路由器宽带叠加：让你家网速翻倍... 哎呀呀，说到这个路由器宽带叠加，我这小心脏就扑通扑通跳个不停！你知道吗，自从我用了这个神奇的技巧，我...
finaldata4.1注册码... 哎呀，说到这个FinalData4.1的注册码，真是让人又爱又恨啊！你知道吗，这玩意儿就像是那个关键...
多媒体教室讲台3d模型-多媒体... 哇，今天我要给大家带来一个超级酷炫的话题——我们的多媒体教室讲台3D模型！你们有没有想过，那个每天站...
手机看交通监控摄像头-在手机上... 在这个快节奏的城市生活中，我找到了一个小小的秘密花园——手机上的交通监控摄像头。每当我觉得压力山大，...
win10 老驱动-Win10... 哎呀，说到这个Win10的老驱动，我就一肚子火！你们知道吗，每次系统更新，我的电脑就像要和我闹别扭一...
急性呼吸衰竭定义-急性呼吸衰竭... 想象一下，你的肺突然像被重物压住，每一次呼吸都变成了一场挣扎。这就是急性呼吸衰竭的感觉，它像是一个不...
华天动力oa办公系统-华天动力... 大家好！我是你们的小助手，今天想和大家聊聊那个让我们的工作日变得稍微有点乐趣的家伙——华天动力OA办...