Python中requests怎样获取网页

小编给大家分享一下Python中requests怎样获取网页，相信大部分人都还不怎么了解，因此分享这篇文章给大家参考一下，希望大家阅读完这篇文章后大有收获，下面让我们一起去了解一下吧！

python有哪些常用库

python常用的库：1.requesuts；2.scrapy；3.pillow；4.twisted；5.numpy；6.matplotlib；7.pygama；8.ipyhton等。

主要记录使用 requests 模块获取网页源码的方法

class Crawler(object):  """  采集类  """  def __init__(self, base_url):   self._base_url = base_url   self._cookie = None   self._getCookie()  def _getCookie(self):   """   获取站点cookie   :return:   """   try:    res = requests.get(self._base_url)    res.raise_for_status()    # TODO response.cookies获取到的是一个cookiejar对象，需要使用requests.utils.dict_from_cookiejar来    # TODO 将cookiejar对象转换为一个字典，这个字典后续使用的时候，在请求时直接传入就可以了，    # 如 requests.get(url, cookies=cookies)    self._cookie = requests.utils.dict_from_cookiejar(res.cookies)    print self._cookie   except Exception as e:    print e  def get_html_text(self, url, **kwargs):   """   爬取网页的通用代码框架   :param url:   :param method:   :param kwargs:   :return:   """   try:    kwargs.setdefault('cookies', self._cookie)    res = requests.get(url, **kwargs)    # TODO 若响应状态码不是200, 抛出 HTTPError 异常    res.raise_for_status()    res.encoding = res.apparent_encoding    # print requests.utils.dict_from_cookiejar(res.cookies)    return res.text   except Exception as e:    print traceback.print_exc()    return

以上是“Python中requests怎样获取网页”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注亿速云行业资讯频道！