Skip to content

qynx/crawler_python

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

12 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

crawler_python

主要是一些python爬虫的代码 对于python爬虫爬取信息,主要是分两步

  • 不需要登录的,直接打开网站目录,查找各个具体界面的网址,用正则表达式或是专门的工具匹配到网址,然后再对具体的网址进行分析,用同样的方式把信息爬取下来。
  • 需要登录的,简单的可直接分析网页的表单,提交数据获取cookie,对于登录界面用js加载的,可抓包获取登录的网址,或直接用selenium模拟点击登录。

About

some python code

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages