新网创想网站建设,新征程启航
为企业提供网站建设、域名注册、服务器等服务
小编给大家分享一下使用python爬虫怎么处理有密码的网站,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
创新互联公司2013年至今,先为太子河等服务建站,太子河等地企业,进行企业商务咨询服务。为太子河企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。
步骤一:查看要爬取的网站信息
进入登录页面 。你会看到如下图所示的页面。
然后进行查看元素,查看到name、password,最终我们得到以下内容
payload = { "username": "", "password": " ", "csrfmiddlewaretoken": " " }
步骤二、配置网站登录设置
创建一个登录对象。
session_requests = requests.session()
设置一个登录的url
result = session_requests.post( login_url, data = payload, headers = dict(referer=login_url) )
步骤三、爬取信息内容
到了这个步骤,我们已经成功进行登录了,用以下方式进行爬取:
url = '链接' result = session_requests.get( url, headers = dict(referer = url) )
以上是“使用python爬虫怎么处理有密码的网站”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!