コード例 #1
0
        public LinkContextSpider(SpiderContext spiderContext) : base(spiderContext)
        {
            var nextSpider = spiderContext as LinkSpiderContext;

            if (nextSpider != null)
            {
                NextSpiders = nextSpider.NextSpiderContexts;
            }
        }
コード例 #2
0
        public ContextSpider(SpiderContext spiderContext)
        {
            SpiderContext = spiderContext;
            Name          = $"{SpiderContext.UserId}-{SpiderContext.SpiderName}";

            Logger = LogUtils.GetLogger(SpiderContext.SpiderName, SpiderContext.UserId, SpiderContext.TaskGroup);

            InitEnvoriment();
        }
コード例 #3
0
        public ContextSpider(SpiderContext spiderContext)
        {
#if NET_CORE
            Encoding.RegisterProvider(CodePagesEncodingProvider.Instance);
#endif
            SpiderContext = spiderContext;
            Name          = $"{SpiderContext.UserId}-{SpiderContext.SpiderName}";

            Logger = LogUtils.GetLogger(SpiderContext.SpiderName, SpiderContext.UserId, SpiderContext.TaskGroup);

            InitEnvoriment();
        }
コード例 #4
0
        public ScriptSpider(SpiderContext spiderContext)
        {
            _spiderContext = spiderContext;

            _validateReportTo = _spiderContext.ValidationReportTo;
            if (!string.IsNullOrEmpty(_validateReportTo))
            {
                CheckValidations();
            }

            Name = _spiderContext.SpiderName;

            InitEnvoriment();
        }
コード例 #5
0
ファイル: ContextSpider.cs プロジェクト: snoways/DotnetSpider
        public ContextSpider(SpiderContext spiderContext)
        {
            try
            {
                Console.OutputEncoding = System.Text.Encoding.UTF8;
            }
            catch
            {
            }

            SpiderContext = spiderContext;
            Name          = $"{SpiderContext.UserId}-{SpiderContext.SpiderName}";

            Logger = LogUtils.GetLogger(SpiderContext.SpiderName, SpiderContext.UserId, SpiderContext.TaskGroup);

            InitEnvoriment();
        }
コード例 #6
0
ファイル: ModelSpider.cs プロジェクト: hongdada/DotnetSpider
        public ModelSpider(SpiderContext spiderContext)
        {
#if NET_CORE
            Encoding.RegisterProvider(CodePagesEncodingProvider.Instance);
#endif
            SpiderContext = spiderContext;

            if (!SpiderContext.IsBuilt)
            {
                SpiderContext.Build();
            }

            Name = SpiderContext.SpiderName;

            Logger = new Logger(SpiderContext.SpiderName, SpiderContext.UserId, SpiderContext.TaskGroup);

            InitEnvoriment();
        }
コード例 #7
0
        public SpiderContextBuilder(SpiderContext context, List <Type> entiTypes)
        {
            if (context == null)
            {
                throw new SpiderExceptoin("SpiderContext is null.");
            }

            if (entiTypes == null || entiTypes.Count == 0)
            {
                throw new SpiderExceptoin("EntiTypes is null.");
            }
            Context = context;

            if (context.Site == null)
            {
                context.Site = new Site();
            }

            Build(entiTypes);
        }
コード例 #8
0
 public SpiderContextBuilder(SpiderContext context, params Type[] entiTypes) : this(context, entiTypes.ToList())
 {
 }