信息抽取/实体关系抽取之UIE
admin
2024-03-22 04:05:59
0

目前需要的NLP岗位要求中常见字眼“信息抽取,关系抽取”,不懂的就会问,这是啥?莫不是token 分类,NER?其实不是,应该是类似于属性信息,比如商品,价格25,销量1w+,加购2000+,产地北京,等等一些商品的描述信息,也可以是人的属性信息,比如我,年龄25,身高183,体重73,身价1kw,家乡北京,等等。当然也可以是人与人之间的信息,比如娱乐圈,谁的谁是谁的前任,谁的女儿是谁的孩子,他爹是谁,他后爹是谁,他干爹是谁,等等。也可以是结构化信息。

下面以飞酱的开源UIE(Universal Information Extraction)为例进行实际操作,

安装飞酱是基础,否则paddlenlp也不能用。

$ pip install --upgrade paddlenlp
$ python -m pip install paddlepaddle==2.3.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
##
>>> from pprint import pprint
>>> from paddlenlp import Taskflow
/opt/anaconda3/lib/python3.9/site-packages/_distutils_hack/__init__.py:30: UserWarning: Setuptools is replacing distutils.warnings.warn("Setuptools is replacing distutils.")
schema = ['时间', '人物', '赛事'] # Define the schema for entity extraction
ie = Taskflow('information_extraction', schema=schema)
>>> pprint(ie("12月6日上午卡塔尔世界杯中国队以满分100分获得金牌!"))
[{'时间': [{'end': 7,'probability': 0.9871144616784733,'start': 0,'text': '12月6日上午'}],'赛事': [{'end': 13,'probability': 0.9676816951303167,'start': 7,'text': '卡塔尔世界杯'}]}]
#277356808 Q group

可见少了人物,如果语言不够规范,可能就无法识别。

医学方面结构信息也可提取:(medical)当然也有其他模型,taskflow那里设置

>>> schema = ['肿瘤的大小', '肿瘤的个数', '肝癌级别', '脉管内癌栓分级']
>>> ie.set_schema(schema)#277356808 Q group
>>> pprint(ie("(右肝肿瘤)肝细胞性肝癌(I-III级,梁索型和假腺管型),肿瘤包膜不完整,紧邻肝被膜,侵及周围肝组织,未见脉管内癌栓(MVI分级:M0级)及卫星子灶形成。(肿物3个,大小4.2×5.0×1.8cm)。"))
[{'肝癌级别': [{'end': 20,'probability': 0.9246462251936833,'start': 13,'text': 'I-III级'}],'肿瘤的个数': [{'end': 84,'probability': 0.7917894830730177,'start': 82,'text': '3个'}],'肿瘤的大小': [{'end': 100,'probability': 0.830017001399554,'start': 87,'text': '4.2×5.0×1.8cm'}],'脉管内癌栓分级': [{'end': 70,'probability': 0.9117307134953805,'start': 67,'text': 'M0级'}]}]

除了上面的基本信息抽取还有关系抽取,事件抽取,情感分类,观点抽取,可用模型如下,taskflow里面设置model="*****",默认的是“uie-base”

uie-base (默认)12-layers, 768-hidden, 12-heads中文
uie-base-en12-layers, 768-hidden, 12-heads英文
uie-medical-base12-layers, 768-hidden, 12-heads中文
uie-medium6-layers, 768-hidden, 12-heads中文
uie-mini6-layers, 384-hidden, 12-heads中文
uie-micro4-layers, 384-hidden, 12-heads中文
uie-nano4-layers, 312-hidden, 12-heads中文
uie-m-large24-layers, 1024-hidden, 16-heads中、英文
uie-m-base12-layers, 768-hidden, 12-heads中、英文

此外也有数据标注的专门库 ,飞酱支持数据从标注到训练使用。

也可对数据进行微调,如下示例:

export finetuned_model=./checkpoint/model_best
#Q group 277356808
python finetune.py  \--device gpu \--logging_steps 10 \--save_steps 100 \--eval_steps 100 \--seed 42 \--model_name_or_path uie-base \--output_dir $finetuned_model \--train_path data/train.txt \--dev_path data/dev.txt  \--max_seq_length 512  \--per_device_eval_batch_size 16 \--per_device_train_batch_size  16 \--num_train_epochs 100 \--learning_rate 1e-5 \--label_names 'start_positions' 'end_positions' \--do_train \--do_eval \--do_export \--export_model_dir $finetuned_model \--overwrite_output_dir \--disable_tqdm True \--metric_for_best_model eval_f1 \--load_best_model_at_end  True \--save_total_limit 1 \

愿我们终有重逢之时,而你还记得我们曾经讨论的话题 

相关内容

热门资讯

安卓系统的如何测试软件,从入门... 你有没有想过,你的安卓手机里那些神奇的软件是怎么诞生的呢?它们可不是凭空出现的,而是经过一系列严格的...
小米8安卓系统版本,安卓系统版... 你有没有发现,手机更新换代的速度简直就像坐上了火箭呢?这不,小米8这款手机自从上市以来,就凭借着出色...
华为手机安卓系统7以上,创新体... 你有没有发现,最近华为手机越来越受欢迎了呢?尤其是那些搭载了安卓系统7.0及以上版本的机型,简直让人...
儿童英语免费安卓系统,儿童英语... 哇,亲爱的家长朋友们,你是否在为孩子的英语学习发愁呢?别担心,今天我要给你带来一个超级好消息——儿童...
ios系统切换安卓系统还原,还... 你有没有想过,有一天你的手机从iOS系统切换到了安卓系统,然后再从安卓系统回到iOS系统呢?这听起来...
灵焕3装安卓系统,引领智能新体... 你知道吗?最近手机圈里可是掀起了一股热潮,那就是灵焕3这款神器的安卓系统升级。没错,就是那个曾经以独...
安卓系统指南针软件,探索未知世... 手机里的指南针功能是不是让你在户外探险时倍感神奇?但你知道吗,安卓系统中的指南针软件可是大有学问呢!...
华为是不用安卓系统了吗,迈向自... 最近有个大新闻在科技圈里炸开了锅,那就是华为是不是不再使用安卓系统了?这可不是一个简单的问题,它涉及...
安卓系统热点开启失败,排查与解... 最近是不是你也遇到了安卓系统热点开启失败的小麻烦?别急,让我来给你详细说说这个让人头疼的问题,说不定...
小米max2系统安卓,安卓系统... 你有没有听说过小米Max2这款手机?它那超大的屏幕,简直就像是个移动的电脑屏幕,看视频、玩游戏,那叫...
电池健康怎么保持安卓系统,优化... 手机可是我们生活中不可或缺的好伙伴,而电池健康度就是它的生命力。你有没有发现,随着使用时间的增长,你...
安卓手机怎么调系统颜色,安卓手... 你有没有发现,你的安卓手机屏幕颜色突然变得不那么顺眼了?是不是也想给它换换“脸色”,让它看起来更有个...
安卓系统清粉哪个好,哪款清粉工... 手机用久了,是不是觉得卡得要命?别急,今天就来聊聊安卓系统清理垃圾哪个软件好。市面上清理工具那么多,...
华为被限制用安卓系统,挑战安卓... 你知道吗?最近科技圈可是炸开了锅!华为,这个我们耳熟能详的名字,竟然因为一些“小插曲”被限制了使用安...
安卓系统是不是外国,源自外国的... 你有没有想过,我们每天离不开的安卓系统,它是不是外国货呢?这个问题听起来可能有点奇怪,但确实很多人都...
安卓系统缺少文件下载,全面解析... 你有没有发现,用安卓手机的时候,有时候下载个文件真是让人头疼呢?别急,今天就来聊聊这个让人烦恼的小问...
kktv系统刷安卓系统怎么样,... 你有没有听说最近KKTV系统刷安卓系统的事情?这可是个热门话题呢!咱们一起来聊聊,看看这个新玩意儿到...
安卓系统连接电脑蓝牙,操作指南... 你有没有遇到过这种情况:手机里堆满了各种好用的应用,可就是想找个方便快捷的方式,把手机里的音乐、照片...
安卓车机11.0系统包,智能驾... 你有没有发现,最近你的安卓车机系统好像悄悄升级了呢?没错,就是那个安卓车机11.0系统包!这可不是一...
安卓系统最高到多少,从初代到最... 你有没有想过,你的安卓手机系统升级到哪一步了呢?是不是好奇安卓系统最高能到多少呢?别急,今天就来带你...