爬虫蜘蛛Scrapy如何检索和处理项目中SpiderLoader API?(65)python Scrapy教程1.51以上版本
类scrapy.loader.
SpiderLoader
该类负责检索和处理项目中定义的spider类。
可以通过在SPIDER_LOADER_CLASS
项目设置中指定其路径来使用自定义蜘蛛装载程序 。它们必须完全实现scrapy.interfaces.ISpiderLoader
接口以保证无错执行。
from_settings
(设定)- Scrapy使用此类方法来创建类的实例。它是使用当前项目设置调用的,它会加载在
SPIDER_MODULES
设置模块中递归发现的蜘蛛。参数: 设置( Settings
实例) – 项目设置
load
(spider_name )- 获取具有给定名称的Spider类。它将查看以前加载的名为spider_name的蜘蛛类的蜘蛛,如果找不到则会引发KeyError。
参数: spider_name(str) – 蜘蛛类名
list
()- 获取项目中可用蜘蛛的名称。
find_by_request
(要求)- 列出可以处理给定请求的蜘蛛名称。将尝试将请求的URL与蜘蛛的域匹配。
参数: request( Request
instance) – 查询请求
本站所发布的一切资源仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。本站信息来自网络,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑中彻底删除上述内容。如果您喜欢该程序,请支持正版软件,购买注册,得到更好的正版服务。如果侵犯你的利益,请发送邮箱到 [email protected],我们会很快的为您处理。