Python .item使用詳解

介紹

在Python爬蟲中，通常使用的requests庫或者scrapy框架都有一種方法可以提取網頁中的特定元素，那就是 .item()方法。

在這篇文章中，我們會詳細介紹 .item()方法，包括它的功能、用法、示例，並提供一些實用的技巧，以便你可以更好地將其應用在你的代碼中。

正文

一、功能介紹

.item()方法是用於提取Scrapy框架中的Item對象的方法。它的作用就是將選定的網頁元素轉換為一個Item對象，我們可以對這個對象進行進一步的處理，例如存儲、篩選、輸出等。

舉個例子，我們可以使用以下代碼將頁面中的文章標題、作者和時間提取出來，並生成一個Item對象：

import scrapy

class mySpider(scrapy.Spider):
    name = "myspider"
    start_urls = [
        "http://xxx.com/"
    ]

    def parse(self, response):
        item = {}
        item['title'] = response.css('h1.title::text').extract()
        item['author'] = response.css('p.author a::text').extract()
        item['time'] = response.css('span.time::text').extract_first()
        yield item

在這個例子中，我們使用了Selector的css方法選取了三個元素，並將它們存儲在一個名為item的字典中，最後使用yield語句將其輸出。

二、用法說明

.item()方法通常與css或xpath選擇器一起使用，通過選擇器選取WEB頁面中的元素，並將其轉換為Scrapy框架中的Item對象。

在使用.item()方法前需要定義好Item對象的字段，這些字段通常以 scrapy.Item 類為基礎定義。 在Spider中，通過對選擇器的調用，將取回的元素賦值到對應的Item字段中。

三、示例演示

下面是一個示例，包含如何從一個網頁中提取電子產品的型號、品牌和價格，並將它們存儲在一個CSV文件中的完整代碼：

import scrapy
from scrapy.crawler import CrawlerProcess
from scrapy.item import Item, Field

class Product(Item):
    model = Field()
    brand = Field()
    price = Field()

class ProductSpider(scrapy.Spider):
    name = "productspider"
    allowed_domains = ["example.com"]
    start_urls = [
        "http://www.example.com/products.html"
    ]

    def parse(self, response):
        for product in response.css('div.product'):
            item = Product()
            item['model'] = product.css('a::text').extract_first()
            item['brand'] = product.css('span.brand::text').extract_first()
            item['price'] = product.css('span.price::text').extract_first()
            yield item

process = CrawlerProcess({
    'FEED_FORMAT': 'csv',
    'FEED_URI': 'products.csv',
    'LOG_ENABLED': False
})

process.crawl(ProductSpider)
process.start()

小結

在這篇文章中，我們介紹了 .item()方法的作用和用法，包括如何使用它從網頁中提取元素並將它們轉換為Scrapy框架中的Item對象。我們還提供了示例代碼以及一些實用的技巧，希望這些內容可以幫助你更好地掌握 .item()方法並將其應用在你的工作中。