【碎片化知识总结】三月第一周
创始人
2024-06-01 18:57:35
0

目录

前言

1、开发中常用的 IDEA 编辑器,如何做到不用每次都重新配置?

2、如何使用 Python 获取视频文件信息?

3、使用 Java 的 try-with-resources 优化代码

4、使用 shell 脚本批量修改服务器某一目录下的文件后缀名称

5、MySQL优化:使用varchar替代char

6、如何升级 ES-7.8.0 的 log4j 版本?

7、spring 自带定时任务的使用

8、Windows 系统如何自定义命令?

9、解决http请求报401,invalid token问题

10、Redis 键过期问题

前言

由于最近比较忙,没有多少时间去写专题的博文,而且在平时工作和学习中,也会产生不少的碎片化知识点或问题。基于目前这些情况,经过一番思考,自己就计划每周进行一次总结梳理,并以博文的形式记录下来,希望提升技术的同时也保持写作能力吧~

目前自己是以 Java 为主的,并且工作需要会使用到许多的流行框架,中间件及工具。另外,自己也对 Python 和其他脚本语言感兴趣,这样的话涉及的技术栈看起来就比较广泛了,就很容易产生多而不精的问题。因此,通过每周的一次碎片化知识总结和梳理,逐步构建起属于自己的知识体系,也可以温故而知新。

那就从三月份开始吧,将平时只躺在笔记里的知识点利用起来!

1、开发中常用的 IDEA 编辑器,如何做到不用每次都重新配置?

工作中可能会遇到 IDEA 需要卸载重装,或者换电脑了去安装 IDEA 等情况,而每次安装 IDEA 就意味着需要重新去做一些配置,比如:设置快捷键、定义字体等格式、设置 maven 仓库位置等。有没有什么方法不用重新配置呢?当然有。

如果自己习惯了以前使用的 IDEA 编辑器设置,此时将之前的设置导出,然后再导入新的 IDEA 就可以避免重新配置 IDEA 的情况,具体操作如下:

<1>. 原 IDEA 编辑器,打开一个项目 => File => Manage IDE Settings => Export Settings...

<2>. 根据需求勾选导出的选项,选择导出路径等,默认为settings.zip文件,如下:

<3>. 重新安装 IDEA 后,选择通过 IDEA 刚开始界面导入settings.zip,也可以先打开某个项目再导入settings.zip。

  • 打开idea => Customize => Import Settings => 选择settings.zip。
  • 打开idea => 打开项目 => File => Manage IDE Settings => Import Settings => 选择settings.zip。

由此,就可以继续保持之前 IDEA 的设置了。

2、如何使用 Python 获取视频文件信息?

Python 作为一门强大的解释性编程语言,离不开第三方模块的支持。通过 Python 获取视频文件信息,比如视频大小,fps,时长等,需要引入第三方模块 moviepy。

获取视频属性,演示如下:

import os
from moviepy import editorvideo_clip = editor.VideoFileClip(r"超级奶爸.mp4")# 获取宽度和高度
print(video_clip.size)
print(video_clip.w, video_clip.h)# 获取 fps
print(video_clip.fps)# 获取时长,单位是秒
print(video_clip.duration)# 获取大小
size = os.stat(r"超级奶爸.mp4").st_size
print(size)
print(size / 1024 ** 2)

此外,该三方模块还可用于一些像剪切,拼接,插入标题等基本操作、视频合成、视频处理、创建高级特效等,如果感兴趣的话,可以通过 moviepy · PyPI 进行深入了解。

3、使用 Java 的 try-with-resources 优化代码

try-with-resource 是 Java7 引入的异常处理机制,相比于 try-catch-finally 语句而言,有以下优点:

  • try-with-resource 声明要求其中定义的变量实现 AutoCloseable 接口,这样系统可自动调用它们的 close 方法,从而替代了 finally 中关闭资源的功能。
  • try-with-resource 不会屏蔽原始异常信息,而 try-catch-finally 的话,如果在 finally 语句抛了异常则会淹没掉 try 语句的原始异常信息。
  • try-with-resource 代码书写起来更加简洁了,非常推荐!

下面通过实现一个简单的文件复制功能,感受下优化效果。

使用 try-catch-finally:

public static void copy1(String src, String dst) {InputStream in = null;OutputStream out = null;try {in = new FileInputStream(src);out = new FileOutputStream(dst);byte[] buff = new byte[1024];int n;while ((n = in.read(buff)) >= 0) {out.write(buff, 0, n);}} catch (IOException e) {e.printStackTrace();} finally {if (in != null) {try {in.close();} catch (IOException e) {e.printStackTrace();}}if (out != null) {try {out.close();} catch (IOException e) {e.printStackTrace();}}}
}

使用 try-with-resource:

public static void copy2(String src, String dst) {try (InputStream in = new FileInputStream(src);OutputStream out = new FileOutputStream(dst)) {byte[] buff = new byte[1024];int n;while ((n = in.read(buff)) >= 0) {out.write(buff, 0, n);}} catch (IOException e) {e.printStackTrace();}
}

感受两种方式的代码,一目了然,使用 try-with-resources 会觉得整个世界清爽多了!!

4、使用 shell 脚本批量修改服务器某一目录下的文件后缀名称

如题描述,实现步骤如下:

<1>. 使用 touch 命令创建一个脚本文件,比如 rename.sh,放在批量修改文件后缀的目录下。

<2>. 使用 vi/vim 命令编辑该脚本:

#!/bin/bashfor i in $(find . -name "*.$1")
doname=$(echo $i | awk -F ".$1" '{print $1}');mv $i $name.$2;
done

<3>. 保存并退出后,赋予执行权限:chmod +x rename.sh。

<4>. 执行脚本,比如把 .txt 改成 .aaa:

./rename.sh txt aaa

5、MySQL优化:使用varchar替代char

有时候设计 MySQL 数据库表的字段类型时,需要考虑的东西有很多,就比如字符串类型的字段,为什么大多数场景下都使用varchar类型呢?

首先,了解下二者的区别:char 是按声明大小存储,不足时补空格,而 varchar 是按数据实际长度存储。这样的话,在节约存储空间方面 varchar 明显优于 char 。其实,到底该使用 varchar 还是 char ?是需要区分场景的!

对于经常被修改的字段,且每次修改的长度都不一样,如果定义成 varchar 类型的话,容易引起"行迁移"现象,这种现象是需要避免发生的!

正常情况下,字段都需要定义成 varchar 类型,如果定义 char 类型的话,由于插入数据时不足会补充空格,而查询操作则需要额外去除掉这些空格才行,不仅浪费存储空间,操作也比较麻烦!

6、如何升级 ES-7.8.0 的 log4j 版本?

背景:因为之前 log4j 出现了严重的漏洞,最近工作中需要排查并替换掉 ES 的 log4j 版本。

操作步骤,如下:

<1>. 升级 jar 包准备,可去 apache 官网下载对应版本。

<2>. 先终止服务器上的 ES 服务,kill -9 进程号。

<3>. 使用 find 命令,查找 ES 安装目录下存在的 log4 j的 jar 包:

[xxw@123456 es]$ find ./elasticsearch-7.8.0/ -name 'log4j*.jar'
./elasticsearch-7.8.0/modules/x-pack-identity-provider/log4j-slf4j-impl-2.11.1.jar
./elasticsearch-7.8.0/modules/x-pack-security/log4j-slf4j-impl-2.11.1.jar
./elasticsearch-7.8.0/modules/x-pack-core/log4j-1.2-api-2.11.1.jar
./elasticsearch-7.8.0/lib/log4j-core-2.11.1.jar
./elasticsearch-7.8.0/lib/log4j-api-2.11.1.jar

<4>. 移动这些jar包到临时的备份目录(出现意外时可回滚这些文件)。

<5>. 将新jar包对应替换:

cp log4j-slf4j-impl-2.17.1.jar ./elasticsearch-7.8.0/modules/x-pack-identity-provider/
cp log4j-slf4j-impl-2.17.1.jar ./elasticsearch-7.8.0/modules/x-pack-security/
cp log4j-1.2-api-2.17.1.jar ./elasticsearch-7.8.0/modules/x-pack-core/
cp log4j-core-2.17.1.jar ./elasticsearch-7.8.0/lib/
cp log4j-api-2.17.1.jar ./elasticsearch-7.8.0/lib/

<6>. 替换之后,使用 find 命令确认是否替换完成:

[xxw@123456 es]$ find ./elasticsearch-7.8.0/ -name 'log4j*.jar'
./elasticsearch-7.8.0/modules/x-pack-identity-provider/log4j-slf4j-impl-2.17.1.jar
./elasticsearch-7.8.0/modules/x-pack-security/log4j-slf4j-impl-2.17.1.jar
./elasticsearch-7.8.0/modules/x-pack-core/log4j-1.2-api-2.17.1.jar
./elasticsearch-7.8.0/lib/log4j-core-2.17.1.jar
./elasticsearch-7.8.0/lib/log4j-api-2.17.1.jar

<7>. 重启 ES 服务,并进行验证 ES 服务是否正常运行。

启动方式有以下2种:

  • 窗口启动:./elasticsearch-7.8.0/bin/elasticsearch
  • 后台启动:./elasticsearch-7.8.0/bin/elasticsearch -d

查看进程验证:jps 或 ps -ef|grep elasticsearch

发送请求验证:curl http://宿主机IP:配置端口号/

7、spring 自带定时任务的使用

背景:项目使用的是 springboot,需要用到定时任务去执行某项重复操作。由于这个操作的需求简单,没必要引入 xxl-job 中间件(主要是考虑中间件的部署和维护成本高),于是就采用 spring 框架自带的定时任务实现。做法也很简单,主要有两步。

第一步,自定义 Job 类和 task 方法,演示如下:

@Component
@Slf4j
public class OpearJob {/*** 定时任务,每10分钟执行一次*/@Scheduled(cron = "0 0/10 * * * ?")public void processDataTask() {log.info("OpearJob.processDataTask() | 当前Job执行时间:{}", new SimpleDateFormat("yyyyMMddHHmmss").format(new Date()));// 执行逻辑......}
}

第二步,在启动类添加注解 @EnableScheduling。

8、Windows 系统如何自定义命令?

Windows 是平时办公中经常会使用的操作系统,通过 win + r 快捷键出现的弹框里输入 cmd 命令,就可以召唤出黑窗口。

按照这种方式,是否也可以把桌面上一大堆的应用程序快捷键给干掉,然后通过自定义的命令召唤并打开对应的应用程序呢?当然可以了,只不过要进行一些设置。

<1>. 在任意磁盘分区下新建文件,可命名为 shortcut,这里我选择的是F盘。

<2>. 将文件或软件的快捷方式移动到 shortcut 文件夹下,并改个好记的名字(如微信:wx)。

<3>. 打开高级系统设置-环境变量设置,在系统变量的 Path 下添加 shortcut 路径(本人的是F:\shortcut\)。

<4>. 设置完成后,win+r,如键入wx即可打开微信应用程序了。


通过这一通操作,Windows 桌面就干净多了,程序员应该如此嘛,哈哈哈~~

9、解决http请求报401,invalid token问题

背景:之前使用 postman 调用请求接口一直都是正常的,某天请求时突然出现了 401 结果码,看上去是 token 失效了?然而这个项目并不会使用到 token,首次遇到这种情况就感到很疑惑!

{"code": "401","msg": "invalid token"
}

当时这个问题困扰我了一天多,最终被排查到原因并得以解决。

第一阶段,问度娘。度娘上虽然都是描述 token 失效问题,但大家遇到的情况和我的完全不一样,刚开始尝试了其中的一些方法,均不奏效!!

第二阶段,静下来思考 token 的可能来源。其实,token 是一串服务器返回的随机字符串,用于访问服务器的身份令牌,如果接口请求中携带的 token 过期,则阻止用户访问没有登录的页面。

当前项目的接口请求并不会携带 token,那么这个 token 会不会是某个 jar 包里带进来的呢,为了验证这个想法,需要对项目引入的 jar 包做下排查,排查关键字有 token、auth、shiro 等,确实发现了几个可疑 jar 包,如下:

接着,尝试排除掉这些 jia 包,我通过 IDEA 下载了 maven helper 插件,通过依赖树可找到这些 jar 包,如下:

右键选择 "Exclude",就可以在 pom.xml 排除相关的 jar 包了,如下:

排除 jar 包后,重新编译和启动项目,发送请求就正常了,如下:

就此原因就找到了,是因为引入的工具包里包含了验证 token 的 jar 包!!!

10、Redis 键过期问题

这一部分会涉及到,如何设置、查询、删除过期键等基本操作?过期键删除策略有哪些及 Redis 使用何种策略?持久化功能和复制功能中是如何处理键过期问题的?Redis 未通过 过期键删除策略 删除过期键有可能导致内存满的问题,该怎么解决呢?

10.1 设置、查询、取消过期键

命令如下:

// 设置键在指定时间 秒数 或 毫秒数 之后到期/过期
SET key value ex seconds 
EXPIRE key seconds   
PEXPIRE key milliseconds   
// 设置在指定 时间戳(Unix时间戳格式) 之后键到期/过期
EXPIREAT key seconds-timestamp
PEXPIREAT key milliseconds-timestamp
// 获取键的剩余到期时间(秒数 或 毫秒数)
TTL key
PTTL key
// 取消指定键的过期时间,得永生
PERSIST key

10.2 过期键策略

如果 Redis 数据库的键过期时间到了,会有三种删除策略可供选择,优缺点从内存和 CPU 时间角度考虑:

第一种,定时删除:

概念:创建定时器 timer,键过期时间到来时,立即删除过期的键。

优点:会尽快释放内存。

缺点:在不要求内存但要求 CPU 时间的情况下,创建 timer 并执行删除过期键的操作会占用 CPU 时间,对服务器响应时间和吞吐量造成影响。(如:有大量的命令请求等待服务器处理时,服务器会优先将 CPU 的时间放在处理请求上面,而通过这种策略删除数量比较多的过期键时,明显是不合理的)

第二种,惰性删除:

概念:只有 get 键时才去检查这个键是否过期,过期的话会被删除。

优点:对 CPU 较友好。

缺点:很明显对内存不友好,大量过期无用的键被积压会占用大量内存,对于依赖内存的 Redis 服务器来说是很严重的问题,甚至可能会造成内存泄露。

第三种,定期删除:

概念:可以理解为介于定时删除和惰性删除的一种折中策略。

难点:定期删除策略要控制好执行时长和频率,否则可以会退化成定时删除策略或者惰性策略。

第一、三种是一种主动删除策略,而第二种是被动删除策略,实际上 Redis 服务器使用的是第二、三种键过期删除策略。

定期删除时,Redis 默认每个 100ms 检查,有过期 Key 则删除。需要说明的是,Redis 不是每个 100ms 将所有的 Key 检查一次,而是随机抽取进行检查。如果只采用定期删除策略,会导致很多 Key 到时间没有删除,这样惰性删除派上用场。

10.3 持久化功能和复制功能中是如何处理键过期问题的?

RDB持久化:

  • 生成RDB文件:通过SAVE或BGSAVE命令生成RDB文件时,会检查键是否过期,过期的键不会存放到RDB文件中。
  • 载入RDB文件:载入该文件时也会检查键是否过期,过期不会被放到RDB文件中。

AOF持久化:

  • AOF文件写入:
    • 若没有通过 过期删除策略 删除过期的键,该过期键会被写入到 AOF 文件。
    • 若过期删除策略删除了过期键,AOF 文件写入时通过del命令显式的记录并放到 AOF 文件中。
  • AOF文件重写:
    • 检查所有的键是否存在过期,过期的键不会被重写到AOF文件中。

复制:

比如:存在一对主从服务器,在进行交互的时候,过期键的删除是主服务器控制的。

  • 主服务器的数据库存在过期键时会被删除,并通过del命令通知所有的从服务器,需要删除哪些过期键。
  • 从服务器存在过期键,没有收到主服务器的告知,会无视过期键,将它们等同于正常的键对待,如果有客户端请求从服务器,会正常操作该过期键。
  • 从服务器接收到主服务器del命令告知后,才会删除过期键。

10.4 内存淘汰策略

如果 Redis 的过期键删除策略未生效,会导致内存中的数据越来越多,可能出现内存爆满的情况,内存满了之后该怎么办呢?Redis 提供了以下六种内存淘汰策略:

设置过期时间的键空间移除

  • volatile-lru:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中,移除最近最少使用的 Key。这种情况一般是把 Redis 既当缓存,又做持久化存储的时候才用。(不推荐)
  • volatile-random:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中,随机移除某个 Key。(依然不推荐)
  • volatile-ttl:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中,有更早过期时间的 Key 优先移除。(不推荐)

全局性的键空间移除

  • noeviction:当内存不足以容纳新写入数据时,新写入操作会报错。
  • allkeys-lru:当内存不足以容纳新写入数据时,在键空间中,移除最近最少使用的 Key。(推荐使用,目前项目在用这种)(最近最少使用算法)
  • allkeys-random:当内存不足以容纳新写入数据时,在键空间中,随机移除某个 Key。(应该也没人用吧,你不删最少使用 Key,去随机删)
#在 redis.conf 中开启内存淘汰策略配置:
maxmemory-policy volatile-lru

三月第一周总结梳理,就到这~

相关内容

热门资讯

122.(leaflet篇)l... 听老人家说:多看美女会长寿 地图之家总目录(订阅之前建议先查看该博客) 文章末尾处提供保证可运行...
育碧GDC2018程序化大世界... 1.传统手动绘制森林的问题 采用手动绘制的方法的话,每次迭代地形都要手动再绘制森林。这...
育碧GDC2018程序化大世界... 1.传统手动绘制森林的问题 采用手动绘制的方法的话,每次迭代地形都要手动再绘制森林。这...
Vue使用pdf-lib为文件... 之前也写过两篇预览pdf的,但是没有加水印,这是链接:Vu...
PyQt5数据库开发1 4.1... 文章目录 前言 步骤/方法 1 使用windows身份登录 2 启用混合登录模式 3 允许远程连接服...
Android studio ... 解决 Android studio 出现“The emulator process for AVD ...
Linux基础命令大全(上) ♥️作者:小刘在C站 ♥️个人主页:小刘主页 ♥️每天分享云计算网络运维...
再谈解决“因为文件包含病毒或潜... 前面出了一篇博文专门来解决“因为文件包含病毒或潜在的垃圾软件”的问题,其中第二种方法有...
南京邮电大学通达学院2023c... 题目展示 一.问题描述 实验题目1 定义一个学生类,其中包括如下内容: (1)私有数据成员 ①年龄 ...
PageObject 六大原则 PageObject六大原则: 1.封装服务的方法 2.不要暴露页面的细节 3.通过r...
【Linux网络编程】01:S... Socket多进程 OVERVIEWSocket多进程1.Server2.Client3.bug&...
数据结构刷题(二十五):122... 1.122. 买卖股票的最佳时机 II思路:贪心。把利润分解为每天为单位的维度,然后收...
浏览器事件循环 事件循环 浏览器的进程模型 何为进程? 程序运行需要有它自己专属的内存空间࿰...
8个免费图片/照片压缩工具帮您... 继续查看一些最好的图像压缩工具,以提升用户体验和存储空间以及网站使用支持。 无数图像压...
计算机二级Python备考(2... 目录  一、选择题 1.在Python语言中: 2.知识点 二、基本操作题 1. j...
端电压 相电压 线电压 记得刚接触矢量控制的时候,拿到板子,就赶紧去测各种波形,结...
如何使用Python检测和识别... 车牌检测与识别技术用途广泛,可以用于道路系统、无票停车场、车辆门禁等。这项技术结合了计...
带环链表详解 目录 一、什么是环形链表 二、判断是否为环形链表 2.1 具体题目 2.2 具体思路 2.3 思路的...
【C语言进阶:刨根究底字符串函... 本节重点内容: 深入理解strcpy函数的使用学会strcpy函数的模拟实现⚡strc...
Django web开发(一)... 文章目录前端开发1.快速开发网站2.标签2.1 编码2.2 title2.3 标题2.4 div和s...