HTMLの文字列をそのまま扱うのは大変
response.textは、あくまで長い1つの文字列です。この中から「見出しの部分だけ」を自分で探そうとすると、文字列操作だけではとても大変な作業になってしまいます。そこで使うのがBeautifulSoup(事前にpip install beautifulsoup4が必要です)です。
soupオブジェクトを作る
BeautifulSoup(HTML文字列, 'html.parser')と書くことで、HTMLを解析済みの「soup」と呼ばれるオブジェクトに変換します。あとはこのsoupに対してメソッドを呼び出すことで、欲しいタグを検索していきます。