(命令行工具)控制项目(12)python SCRAPY最新教程1.51以上版本
您可以使用scrapy
项目内部的工具来控制和管理它们。
例如,要创建一个新蜘蛛:
scrapy genspider mydomain mydomain.com
某些Scrapy命令(如crawl
)必须从Scrapy项目内部运行。有关必须从项目内部运行哪些命令以及哪些命令不能运行,请参阅下面的命令参考。
还要记住,某些命令在从项目内部运行时可能会略有不同的行为。例如,user_agent
如果获取的url与某个特定的spider相关联,则fetch命令将使用spider-overridden行为(例如覆盖用户代理的属性)。这是故意的,因为该fetch
命令旨在用于检查蜘蛛如何下载页面。
本站所发布的一切资源仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。本站信息来自网络,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑中彻底删除上述内容。如果您喜欢该程序,请支持正版软件,购买注册,得到更好的正版服务。如果侵犯你的利益,请发送邮箱到 [email protected],我们会很快的为您处理。