Python爬虫实践:优志愿 院校列表
创始人
2024-05-29 14:24:22
0
https://www.youzy.cn/tzy/search/colleges/collegeList

获取目标网址等信息

打开开发人员工具(F12),拿到调用接口的地址,以及接口请求参数等信息,如下

curl 'https://uwf7de983aad7a717eb.youzy.cn/youzy.dms.basiclib.api.college.query' \-H 'Accept: */*' \-H 'Accept-Language: zh-CN,zh;q=0.9' \-H 'Connection: keep-alive' \-H 'Content-Type: application/json' \-H 'Origin: https://pv4y-pc.youzy.cn' \-H 'Referer: https://pv4y-pc.youzy.cn/' \-H 'Sec-Fetch-Dest: empty' \-H 'Sec-Fetch-Mode: cors' \-H 'Sec-Fetch-Site: same-site' \-H 'User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/110.0.0.0 Safari/537.36 Edg/110.0.1587.63' \-H 'sec-ch-ua: "Chromium";v="110", "Not A(Brand";v="24", "Microsoft Edge";v="110"' \-H 'sec-ch-ua-mobile: ?0' \-H 'sec-ch-ua-platform: "macOS"' \-H 'u-sign: e79c2c67e9060725be683594244ec10f' \-H 'u-token;' \--data-raw '{"keyword":"","provinceNames":[],"natureTypes":[],"eduLevel":"","categories":[],"features":[],"pageIndex":4,"pageSize":20,"sort":11}' \--compressed

接口调用

第一次调用,按最简单的方案来进行:直接使用curl中的请求头以及参数,不做任何改动

该方法的好处是先将接口调通,不掺和其他外部因素

来,直接上代码

import requestsurl = 'https://uwf7de983aad7a717eb.youzy.cn/youzy.dms.basiclib.api.college.query'data = '{"keyword":"","provinceNames":[],"natureTypes":[],"eduLevel":"","categories":[],"features":[],"pageIndex":4,"pageSize":20,"sort":11}'headers = {'Accept': '*/*','Accept-Language': 'zh-CN,zh;q=0.9','Connection': 'keep-alive','Content-Type': 'application/json','Origin': 'https://pv4y-pc.youzy.cn','Referer': 'https://pv4y-pc.youzy.cn/','Sec-Fetch-Dest': 'empty','Sec-Fetch-Mode': 'cors','Sec-Fetch-Site': 'same-site','User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/110.0.0.0 Safari/537.36 Edg/110.0.1587.63','sec-ch-ua': '"Chromium";v="110", "Not A(Brand";v="24", "Microsoft Edge";v="110"','sec-ch-ua-mobile': '?0','sec-ch-ua-platform': 'macOS','Accept-Encoding': 'gzip, deflate, br','Host': 'uwf7de983aad7a717eb.youzy.cn','u-sign': 'e79c2c67e9060725be683594244ec10f'
}response = requests.post(url, headers=headers, data=data)
print('response-->', response.text)

代码执行结果如下

进阶调用

通过从curl中获取相关参数,成功的进行了接口调用

此时,我们修改一下分页参数,来获取第2页的数据,提示身份鉴权失败

response--> {"code":"401","message":"身份授权失败","fullMessage":"","timestamp":"2023-03-06T16:10:56.1799746+08:00","isSuccess":false}

通过实验发现,修改任意参数,都会提示鉴权失败

所有证据都证明着这里有猫腻

观察请求体,参数都挺正常,除了u-sign

寻找u-sign

使用开发人员工具里的搜索功能,来看下u-sign是在哪里赋值

找到文件之后,继续在文件内搜索u-sign

可能会找到多个符合项,这时可以通过数据翻页debug的方式,来确定具体哪一项符合我们的预期

分析u-sign生成代码

return e.headers = {"Content-Type": "application/json","u-sign": o(e.url, e.data), // 生成u-sign"u-token": p.getOrLoadUToken()}

继续debug,找到方法o的代码

    "339a": function(e, t, r) {r("ac1f"),r("1276"),r("159b"),r("99af"),r("1e25"),r("b64b");var n = r("6821");e.exports = function(e, t) {var r, i = "9SASji5OWnG41iRKiSvTJHlXHmRySRp1", o = "", a = t || {}, s = (e = e || "").split("?");if (s.length > 0 && (r = s[1]),r) {var u = r.split("&"), c = "";u.forEach((function(e) {var t = e.split("=");c += "".concat(t[0], "=").concat(encodeURI(t[1]), "&")})),o = "".concat(_.trimEnd(c, "&"), "&").concat(i)} else// 走的这里!!o = Object.keys(a).length > 0 ? "".concat(JSON.stringify(a), "&").concat(i) : "&".concat(i);return o = o.toLowerCase(),n(o) // 做了一次加密操作}},

方法o中做了一个字符串拼接,并执行了方法n(加密操作),代码如下

            e.exports = function(e, r) {if (null == e)throw new Error("Illegal argument " + e);var n = t.wordsToBytes(a(e, r));return r && r.asBytes ? n : r && r.asString ? o.bytesToString(n) : t.bytesToHex(n)}
加密代码没有完全看明白
通过网上的案例+使用加密工具,强行试出来是加密方式是md5
在线加密工具:在线加密解密 - chahuo.com

最后附上完整代码

from hashlib import md5import requestsurl = 'https://uwf7de983aad7a717eb.youzy.cn/youzy.dms.basiclib.api.college.query'data = '{"keyword":"","provinceNames":[],"natureTypes":[],"eduLevel":"","categories":[],"features":[],"pageIndex":2,"pageSize":20,"sort":11}'def u(tt):en_key = '9SASji5OWnG41iRKiSvTJHlXHmRySRp1'result = tt.lower() + '&' + en_key.lower()print('result', result)return resultdef get_u_sign(data):sign_data = u(data)return md5(sign_data.encode()).hexdigest()headers = {'Accept': '*/*','Accept-Language': 'zh-CN,zh;q=0.9','Connection': 'keep-alive','Content-Type': 'application/json','Origin': 'https://pv4y-pc.youzy.cn','Referer': 'https://pv4y-pc.youzy.cn/','Sec-Fetch-Dest': 'empty','Sec-Fetch-Mode': 'cors','Sec-Fetch-Site': 'same-site','User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/110.0.0.0 Safari/537.36 Edg/110.0.1587.63','sec-ch-ua': '"Chromium";v="110", "Not A(Brand";v="24", "Microsoft Edge";v="110"','sec-ch-ua-mobile': '?0','sec-ch-ua-platform': 'macOS','Accept-Encoding': 'gzip, deflate, br','Host': 'uwf7de983aad7a717eb.youzy.cn','u-sign': get_u_sign(data)
}response = requests.post(url, headers=headers, data=data)
print('response-->', response.text)

相关内容

热门资讯

安卓系统更新提示失败,揭秘原因... 最近你的安卓手机是不是也遇到了更新提示失败的小麻烦?别急,让我来给你详细说说这个让人头疼的问题,让你...
ops电脑装安卓系统,开启多系... 你有没有想过,你的电脑装上安卓系统会是怎样的场景呢?想象你那台曾经只用来处理文档和浏览网页的电脑,突...
安卓系统触屏校准在哪,轻松实现... 手机屏幕总是感觉有点歪?别急,今天就来教你怎么给安卓系统的手机进行触屏校准,让你的操作更加精准哦!一...
安卓系统id6,揭秘新一代操作... 你有没有发现,最近你的安卓手机突然变得有点不一样了?是不是觉得系统运行得更加流畅,界面也焕然一新?别...
安卓系统用的华为应用,探索智能... 你知道吗?在安卓系统里,华为的应用可是个宝库呢!它们不仅功能强大,而且使用起来超级方便。今天,就让我...
安卓变ios系统魅蓝 你知道吗?最近有个朋友突然告诉我,他要把自己的安卓手机换成iOS系统,而且还是魅蓝品牌的!这可真是让...
幻书启世录安卓系统,安卓世界中... 亲爱的读者们,你是否曾在某个夜晚,被一本神奇的书所吸引,仿佛它拥有着穿越时空的力量?今天,我要带你走...
电脑安装安卓系统进不去,安卓系... 电脑安装安卓系统后竟然进不去,这可真是让人头疼的问题啊!你是不是也遇到了这种情况,心里直呼“怎么办怎...
用键盘切换控制安卓系统,畅享安... 你有没有想过,用键盘来控制你的安卓手机?是的,你没听错,就是那个我们每天敲敲打打的小玩意儿——键盘。...
小米安卓镜像系统在哪,小米安卓... 你有没有想过,你的小米手机里有一个隐藏的宝藏——安卓镜像系统?没错,就是那个可以让你的手机瞬间变身成...
安卓手机下载排班系统,高效排班... 你有没有想过,每天忙碌的工作中,有没有什么好帮手能帮你轻松管理时间呢?今天,就让我来给你介绍一个超级...
桌面组件如何弄安卓系统,桌面组... 亲爱的桌面爱好者们,你是否曾梦想过将安卓系统搬到你的电脑桌面上?想象那些流畅的动画、丰富的应用,还有...
安卓13系统介绍视频,新功能与... 亲爱的读者们,你是否对安卓13系统充满好奇?想要一探究竟,却又苦于没有足够的时间去研究?别担心,今天...
车机安卓7.1系统,功能升级与... 你有没有发现,现在的车机系统越来越智能了?尤其是那些搭载了安卓7.1系统的车机,简直就像是个贴心的智...
安卓系统下如何读pdf,And... 你有没有遇到过这种情况:手机里存了一大堆PDF文件,可是怎么也找不到一个能顺畅阅读的工具?别急,今天...
安卓系统全国通用的吗,畅享智能... 你有没有想过,为什么你的手机里装的是安卓系统呢?安卓系统,这个名字听起来是不是有点神秘?今天,就让我...
假苹果手机8安卓系统,颠覆传统... 你有没有想过,如果苹果手机突然变成了安卓系统,会是怎样的景象呢?想象那熟悉的苹果外观,却运行着安卓的...
安卓12.0系统vivo有吗,... 你有没有听说最近安卓系统又升级啦?没错,就是那个让手机焕然一新的安卓12.0系统!那么,咱们国内的手...
核心芯片和安卓系统,探索核心芯... 你知道吗?在科技的世界里,有一对“黄金搭档”正悄悄改变着我们的生活。他们就是——核心芯片和安卓系统。...
如何调安卓系统屏幕颜色,安卓系... 亲爱的手机控们,你是否曾觉得安卓系统的屏幕颜色不够个性,或者是因为长时间盯着屏幕而感到眼睛疲劳?别担...