【Python】Requests ライブラリを使って Web ページを取得してみた。
公開日:
:
Python apt-get, has no attribute, pip, Requests
python の標準ライブラリ urllib を使っても Web ページの取得はできるのですが、Requests ライブラリを使うともっと簡単に Web ページを取得できるということで、試してみました。
ちなみに、今回は以前紹介した、Windows10 上に仮想的にインストールした Linux 環境で行いました。
Contents
pip のインストール
python のライブラリを簡単にインストールするために pip をインストールします。
root ユーザで以下を実行しました。
1 |
# apt install python-pip |
完了するまでに結構時間がかかりました(約15分くらい?)
apt-get を update
python-pip インストール中に固まってしまったので、apt-get を update しました。
1 |
# apt-get update |
Requests のインストール
1 |
# pip install requests |
Web ページの取得
以下のようなコードを実行すると、Web ページを取得して、表示することができます。
1 2 3 4 5 6 7 8 |
import requests url = "https://www.sejuku.net/blog/" response = requests.get(url) response.encoding = response.apparent_encoding print(response.text) |
ここで、注意しないといけないことがあります。
Python のモジュール名と同じファイル名にしてしまうと「has no attribute」とエラーになってしまいます。
私も実際にはまってしまい、requests.py というファイル名で保存・実行すると、以下のようなエラーが出てしまいました。
Traceback (most recent call last):
File “requests.py”, line 1, in <module>
import requests
File “/home/shion/requests.py”, line 5, in <module>
response = requests.get(url)
AttributeError: module ‘requests’ has no attribute ‘get’
なので、ファイル名をモジュール名以外に変更してから実行すると、うまくいきました。
関連記事
-
【Pandas】 DataFrame で2行の列ごとの差を計算する方法【Python】
今回は、Pandas の DataFrame で、2行間の列ごとの値の差を計算し、その結果を Dat
-
【Spyder】引数のあるスクリプトを実行する方法。
Python の統合開発環境(IDE)である Spyder では、簡単にスクリプトを実行できます。
-
【Python】 DataFrame の特定の列で出現回数をカウントして降順でソートする方法。
Python で DataFrame 型の特定の列を指定して、対象列の文字列の出現回数をカウントして
-
【OpenCV】画像の顔部分を検出する方法【Python】
OpenCV を使って、Python で画像から顔部分の検出を行ったときのメモです。 Anac
-
【OpenCV】検出した顔画像部分を切り出す方法【Python】
OpenCV を使って、Python で画像の中から顔部分を切り出したときのメモです。 顔部分
-
【Python】Beautiful Soup を使ってスクレイピングする方法。
Beautiful Soup は、シンプルでわかりやすい API でデータを抜き出せる Python
-
【Python】機械学習のために SciPy・Matplotlib・scikit-learn をインストール。
Python で機械学習を行うために、Windows OS の python 2 系にライブラリ「S
-
【Pandas】 loc・ilocで1行のみ Series ではなく DataFrame で抽出する方法。
Python の Pandas で DataFrame から loc や iloc を使って行を抽出
-
【Google Colaboratory】クラウド上でPythonを使って機械学習を行う。
Python をブラウザ上で実行して、手軽に機械学習ができる環境「Google Colaborato
-
【Pandas】 DataFrame の行を抽出する方法【Python】
今回は、Python の Pandas で、DataFrame 型の行を抽出する方法を紹介します。