《C# 爬虫 破境之道》:第一境 爬虫原理 — 第三节:WebResponse
第二节中,我们介绍了WebRequest,它可以帮助我们发送一个请求,不过正所谓“来而不往非礼也”,对方收到我们的请求,不给点回复,貌似不太合适(不过,还真有脸皮厚的:P)。 接下来,就重点研究一下,我们收到的回复,是个什么样的东东 [Code 1.3.1] 1 // 2 // Summary: 3 ... 查看全文
获取系统信息(WINDOWS目录/系统目录/临时目录/我的文档/桌面)
1 void C获取系统目录Dlg::OnBnClickedButton1() 2 { 3 TCHAR szPath[MAX_PATH] = { 0 }; 4 GetWindowsDirectory(szPath, MAX_PATH); 5 MessageBox(szPath); 6 } 7 8 9 ... 查看全文
.NET/C# 万能 HTTP 模拟请求框架
HttpHelper 介绍 HttpHelper 基于 netstandard 2.0 开发,支持.net 4.6.1和.net core项目,能够方便开发者发送 get 、post 请求,支持设置 cookie、header、代理等。内置将返回的json字符串转换成对象。 Demo 新建了一个 . ... 查看全文
C#实现DataTable转.CSV文件
将DataTable转换成CSV文件是一种常见的转换形式,主要通过遍历Table的每行,再对每行遍历每列,实现对数据的读取,然后用分隔符分隔Table的每个栏位数据,把读取的字符写入到CSV文件中。这里每个栏位之间用逗号分隔,每行用换行符。实现代码如下: public ExecutionResult ... 查看全文
.Net Core Web Api实践之中间件的使用(一)
前言:从2019年年中入坑.net core已半年有余,总体上来说虽然感觉坑多,但是用起来还是比较香的。本来我是不怎么喜欢写这类实践分享或填坑记录的博客的,因为初步实践坑多,文章肯定也会有各种错误,跟别人优秀的文章比起来,好像我写的东西没有什么存在的价值。但是入坑.net core以来,这种思想开始 ... 查看全文
29.普通API集成到go-micro体系中(1):手工集成
执行完上面的代码看输出我们可以发现,打开了一个8000端口并监听了它,并且把注册服务的这个服务(micro registry)开启的服务本身注册到了etcd中去 开启micro web,可以看到我们开启的这个注册服务的详情 上面的图我们可以看到如果我们想要通过这个registry服务注册服务到etc... ... 查看全文
Win10镜像升级到其他版本
写在前面 必须在MSDN下载VL版本系统,一定要是VL版本的。 下载镜像,将镜像中的sources/install.wim文件放到D盘下,可以放在其他路径,在命令中的路径就不同,再在D盘创建一个image文件夹,用于防止挂在后的镜像。将下载的补丁放在D盘Hotfix文件夹下面。不能直接从虚拟光驱中操 ... 查看全文
30.普通API集成到go-micro体系中(2):代码注册与反注册
首先理一下思路,使用代码去注册其他api到go-micro体系中,我们就需要在代码中模拟出这样的json数据,并发送给我们的micro Registry服务 { "jsonrpc": "2.0", "method": "Registry.Deregister", "params": [{ "name... ... 查看全文
python入门 访问网站并将爬回来的数据保存为csv文件
一、用requeses库的个体()函数访问必应主页20次,打印返回状态,text内容,并且计算text()属性和content属性返回网页内容的长度 代码如下: 1 import requests 2 def getHTMLText(url): 3 try: 4 for i in range(0,2 ... 查看全文
JavaScript内置对象
JavaScript内置对象 1.内置对象 JavaScript中的对象分为3中:自定义对象、内置对象、浏览器对象 前面两种对象是JS基础内容,属于ECMAScript;第三个浏览器对象属于我们JS独有的 内置对象就是指JS语言自带的一些对象,这些对象供开发者使用,并提供了一些常用的或是最基本而必要 ... 查看全文
Java多字段排序之冒泡
场景: 奥运会时期,每场赛事后,对国家的金、银、铜牌进行排序,排序规则如下: 先以金牌排序,金牌数越多,排得越前,如果金牌数相同,则比银牌数,如果银牌数一样多,则比铜牌数,如果铜牌数还一样多,则按国家英文字母顺序升序排序。 例如: China 51 20 21 American 50 1 1 Jap ... 查看全文
java多线程系列1-初识多线程多线程4种实现方式
1、继承Thread 2、实现Runnable接口 3、实现Callable<V>接口 4、线程池 import java.util.concurrent.*; public class Test { public static void main(String[] args) throws Exe ... 查看全文
Eclipse中搭建Python开发环境
1.官网下载Python https://www.python.org/downloads/ 2.安装 然后下载完成后,选择自定义安装 在安装时选择如图框中的选项 然后继续进行下一步 这样安装就完成了 3.Eclipse下载安装 进入官网后https://www.eclipse.org/ 点击右上角 ... 查看全文
springboot使用入门
1.创建maven工程,引入依赖 <!-- 所有的springboot的工程都以spring父工程为父工程 --> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent< ... 查看全文
[Python自学] 爬虫(5)selenium
一、准备工作 1.安装selenium pip install selenium 2.下载安装chromedriver.exe 注意:如果Chrome在自动更新的话,可能会导致运行出现问题,我们应该去系统服务中禁用Chrome的自动更新服务。 下载chromedriver.exe: http://c ... 查看全文
python 利用 for ... else 跳出双层嵌套循环
背景 周末在写一个爬虫时,遇到这样一种场景:从搜索结果中下载指定数量的文件 例如:搜索结果中共分为10页展示,加起来一共50条数据,现在要做的是从50条数据中下载指定数量的数据 为了实现这个功能,开始我是这样想的: 1、依次遍历10页数据,并且把每页的数据都追加到同一个列表中,这样的话,请求完10页 ... 查看全文
Python脚本转译为exe文件并执行
很多时候我们需要将python写好的脚本在其他没有python的环境中运行,以下就介绍如何将python脚本转译为.exe文件并执行。 脚本案例: # -*- coding: gbk -*- import random2 lst = range(1, 97) n = 2 print '号码池共计96 ... 查看全文
Python流程控制
流程控制指的是代码运行逻辑、分支走向、循环控制,是真正体现我们程序执行顺序的操作。流程控制一般分为顺序执行、条件判断和循环控制。 顺序执行 虽然我们有各种流程判断、循环、跳转、控制、中断等等,但从根本上程序还是逐行顺序执行的。 Python代码在执行过程中,遵循下面的基本原则: 普通语句,直接执行; ... 查看全文