【译】Python3中进行HTTP请求的4种方式

Cor1028 2年前
   <p><img src="https://simg.open-open.com/show/27203c8252e383db31461a27d300bf51.gif"></p>    <p><a href="/misc/goto?guid=4959618167609537754" rel="nofollow,noindex">python包索引(PyPI)</a> 提供了超过10万个代码库的包,它能够帮助python程序员完成许多工作,无论是构建web应用程序还是分析数据。另外PyPI还提供了很多诸如 <a href="/misc/goto?guid=4959739807392168815" rel="nofollow,noindex">twilio</a> 之类的API的 <a href="/misc/goto?guid=4959751830440670706" rel="nofollow,noindex">辅助库</a> 。</p>    <p>下面让我们通过使用4个不同的 Python HTTP 库来学习如何从 RESTful API 检索和解析 JSON 数据,以此来演示PyPI包的强大功能。</p>    <p>文中的每个示例都包含以下内容:</p>    <ol>     <li> <p>定义要解析的URL,我们将使用Spotify API,因为它不需要在请求时进行身份验证。</p> </li>     <li> <p>创建一个 HTTP GET 去请求这个URL。</p> </li>     <li> <p>解析返回的JSON数据。</p> </li>    </ol>    <p>我们将要使用的四个库用了不同的方法得到同一个结果。如果你把结果输出,将会看到一个有Spotify搜索结果的字典:</p>    <p><img src="https://simg.open-open.com/show/b28bb91f33f88a52fde64548ebdeec25.gif"></p>    <p>*注意:结果可能会根据你使用的Python版本而有所不同。在这篇文章中,所有的代码都使用Python 3编写。 如果你仍在使用Python 2.X,那么请考虑为Python 3设置一个virtualenv。</p>    <p>以下说明将帮助您使用virtualenv与Python 3:</p>    <ol>     <li> <p>为Python 3测试创建一个名为 pythreetest 的目录。</p> </li>     <li> <p>一旦安装了virtualenv,从项目目录中执行以下命令:</p> </li>    </ol>    <p>使用以下命令创建一个新的virtualenv:</p>    <pre>  <code class="language-python">virtualenv -p python3 myvenv</code></pre>    <p>使用 source 命令激活 myvenv :</p>    <pre>  <code class="language-python">source myvenv/bin/activate</code></pre>    <p>现在你将能够使用 pip 安装需要的库,并在virtualenv中使用Python 3启动解释器,在那里您可以成功导入包。</p>    <h2>urllib</h2>    <p><a href="/misc/goto?guid=4959751830551143814" rel="nofollow,noindex">urllib</a> 是一个内置在Python标准库中的模块,并使用 http.client 来实现HTTP和HTTPS协议的客户端。 由于urllib是同Python一起进行分发和安装的,因此无需使用 pip 进行安装。 如果你重视稳定性,那么这就是给你准备的。 <a href="/misc/goto?guid=4959751830682203527" rel="nofollow,noindex">twilio-python助手库</a> 就使用了urllib。</p>    <p>urllib同其他库比起来需要做更多的工作。 例如:你必须在发出HTTP请求之前创建一个URL对象。</p>    <pre>  <code class="language-python">import urllib.request  import urllib.parse    url = 'https://api.spotify.com/v1/search?type=artist&q=snoop'  f = urllib.request.urlopen(url)  print(f.read().decode('utf-8'))</code></pre>    <p>在上面的例子中,我们将请求URL发送到CGI的stdin,并读取返回给我们的数据。</p>    <h2>Requests</h2>    <p><a href="/misc/goto?guid=4959751830806518863" rel="nofollow,noindex">Requests</a> 是Python社区中最喜欢的库,因为它简洁易用。 Requests由 <a href="/misc/goto?guid=4959615847911066227" rel="nofollow,noindex">urllib3</a> 提供支持,有玩笑说这是“唯一的非转基因HTTP库,适合人类消费”。</p>    <p>Requests 抽象了大量的程式化的代码,使得HTTP请求比使用内置urllib库更简单。</p>    <p>首先用pip进行安装</p>    <pre>  <code class="language-python">pip install requests</code></pre>    <p>向 Spotify 发送请求</p>    <pre>  <code class="language-python">import requests    r = requests.get('https://api.spotify.com/v1/search?type=artist&q=snoop')  r.json()</code></pre>    <p>输出结果:</p>    <pre>  <code class="language-python">from pprint import pprint  pprint(r.json())</code></pre>    <p>我们刚刚向Spotify发出了一个 GET 请求,同时创建了一个名为 r 的 Response 对象,之后使用内置的JSON解码器来处理我们请求的内容。</p>    <h2>Octopus</h2>    <p><a href="/misc/goto?guid=4959751830973450802" rel="nofollow,noindex">Octopus</a> 是为想要 GET 一切的开发人员准备的。它允许你多任务去访问Spotify。就像它的名字一样,这个库使用线程并发地检索和报告HTTP请求的完成情况,同时可以使用你所熟悉的库。</p>    <p>或者,你可以使用 Tornado 的 IOLoop 进行异步请求,不过在这里就不尽兴尝试了。</p>    <p>通过pip安装:</p>    <pre>  <code class="language-python">pip install octopus-http</code></pre>    <p>Octopus的设置比前面的例子稍微多一些。 我们必须构建一个响应处理器,并使用内置的JSON库对JSON进行编码。</p>    <pre>  <code class="language-python">import json     from pprint import pprint  from octopus import Octopus        def create_request(urls):      data = []         otto = Octopus(             concurrency=4, auto_start=True, cache=True, expiration_in_seconds=10      )         def handle_url_response(url, response):          if "Not found" == response.text:              print ("URL Not Found: %s" % url)          else:              data.append(response.text)         for url in urls:          otto.enqueue(url, handle_url_response)         otto.wait()         json_data = json.JSONEncoder(indent=None,                                   separators=(',', ': ')).encode(data)         return pprint(json_data)        print(create_request(['https://api.spotify.com/v1/search?type=artist&q=snoop',                       'https://api.spotify.com/v1/search?type=artist&q=dre']))</code></pre>    <p>在上面的代码片段中,我们定义了 create_requests 函数来使用线程Octopus请求。 我们从一个空的list开始, data ,并创建Octopus类的一个实例 dotto 。 最后配置了默认设置。</p>    <p>然后我们构建响应处理器,其中的 response 参数是 Octopus.Response 的一个实例。 当每个请求成功后,响应内容将被添加到数据列表中。在响应处理器内部,我们可以使用 Octopus 类的主要方法。 .enqueue 方法用于加入新的URL。</p>    <p>我们指定 .wait 方法等待队列中的所有URL完成加载,然后对JSON列表进行JSON编码并打印结果。</p>    <p>吁,终于结束了。</p>    <p><img src="https://simg.open-open.com/show/b57a0f0cbb5a50056c5dd29ac876a749.gif"></p>    <h2>HTTPie</h2>    <p><a href="/misc/goto?guid=4959751831096995242" rel="nofollow,noindex">HTTPie</a> 适用于希望快速与HTTP服务器、RESTful API 和 Web 服务进行交互的开发人员,它仅仅需要一行代码。 这个库是“一个可以让你微笑的开源 CLI HTTP客户端:用户友好的 curl 替代方案”。虽然它可以不依赖Python环境,但是它可以通过Pip安装,并用来创建HTTP请求。</p>    <pre>  <code class="language-python">pip install httpie</code></pre>    <p>默认协议是HTTP,但您可以创建一个别名,并重置HTTPS为默认值,如下所示:</p>    <pre>  <code class="language-python">alias https='http —default-scheme=https'</code></pre>    <p>之后创建请求:</p>    <pre>  <code class="language-python">https "https://api.spotify.com/v1/search?type=artist&q=snoop"</code></pre>    <p>使用HTTPie仅需要URL就够了。</p>    <p><img src="https://simg.open-open.com/show/fdc4d4713eb5171ad0ee777004576303.gif"></p>    <h2>最后的想法</h2>    <p>Python 生态提供了许多与 JSON api 交互的选择。虽然这些方法对于最简单的请求是相似的, 但随着 HTTP 请求的复杂性增加, 这些差异变得更加明显。多进行尝试, 看看哪一个最适合你的需求。你甚至可以尝试用另一种语言, 如 Ruby。</p>    <p>来自:https://segmentfault.com/a/1190000010901374</p>    <p> </p>