用python实现域名资产监控的详细步骤
应用场景
域名资产监控,通过输入一个主域名,找到该域名对应的ip地址所在的服务器的端口开闭情况。通过定期做这样的监控,有助于让自己知道自己的资产的整体暴露面情况。
所需要具备的前缀技能
python的简单使用
linux操作系统的简单使用
DNS的原理
工具
pycharm 专业版
xshell 用于部署脚本
步骤
通过域名得到对应的ip地址
首先,我们知道对于一个域名来说,可以设置很多类型的记录值,比如A记录、AAAA记录、SOA记录、TXT记录等等。安全领域常见的记录值和其含义对应关系如下:
代码 | 描述 |
---|---|
A | IPv4地址记录 |
AAAA | IPv6地址记录 |
CNAME | 规范名称记录,一个主机名字的别名: 域名系统将会继续尝试查找新的名字 |
MX | 电邮交互记录 |
NS | 名称服务器记录 |
PTR | 最常用来运行反向DNS查找 |
SOA | 权威记录的起始 |
TXT | 文本记录 |
通过A记录,获取到一个域名对应的IP地址,用python实现的方法如下:
def dns_a(domain: str): dns_servers = '114.114.114.114,114.114.115.115,223.5.5.5,223.6.6.6,180.76.76.76,119.29.29.29,119.29.29.29,1.2.4.8,210.2.4.8,117.50.11.11,52.80.66.66,101.226.4.6,218.30.118.6,123.125.81.6,140.207.198.6,8.8.8.8,8.8.4.4,9.9.9.9,208.67.222.222,208.67.220.220'.split( ',') loop = asyncio.new_event_loop() resolver = aiodns.DNSResolver(loop=loop) resolver.nameservers = dns_servers try: record_a = loop.run_until_complete(resolver.query(domain, 'A')) return record_a except: pass return []
在代码中,为每一次查询随机指定了一个dns_server,也就是dns查询服务器,由于收敛的关系,不同的查询服务器结果可能不相同。所以可以考虑做得完善一些,这里只查询了一次,也可以换多个dns服务器查询多次,取并集(并集是不放过所有可能情况,交集是精确但可能漏)。最终该方法就可以实现获取域名对应的ip地址。
这个方法中使用到了asyncio和aiodns两个包,安装方法如下:
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple/ --trusted-host pypi.tuna.tsinghua.edu.cn asyncio,aiodns
下面我们以www.mengwa.store为例,看看结果如何:
可以发现ip地址有了,不过,还需要从结果中进行提取。方法如下:
record_a = dns_a(domain) ips = [] if type(record_a) == list: ips = sorted([answer.host for answer in record_a])
这个ips中存储的就是排序后的解析记录ip列表。
对ip地址进行端口扫描
通过上面的步骤找到了ip地址,下一步就是对ip地址进行端口扫描。可在扫描之前,我们还有一个步骤需要做,需要判断当前ip所在的机器是否存活。
可能你立马就想到了ping方法,可是在安全领域,有很多公司都要求服务器将ICMP协议给阻止掉,也就是说,ping方法可能返回超时,但是机器并不一定没有开启,只是主动给你把请求拦截掉了。
这里我们使用nmap的-sPn参数进行扫描,以www.mengwa.store对应的ip地址47.119.137.0为例:
然后我们通过代码来实现这一逻辑,我们使用python-nmap包,安装步骤如下:
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple/ --trusted-host pypi.tuna.tsinghua.edu.cn python-nmap
代码如下:
def check_ip_reachable(ip: str): nm = nmap.PortScanner() xx = nm.scan(hosts=ip, arguments='-sP') # -sPn也可以 if 'scan' in xx: i = xx.__getitem__('scan') if ip in i: j = i.__getitem__(ip) if 'status' in j: status = j['status'] if 'state' in status: state = status['state'] print(ip, state) return state print(ip, 'down') return 'down'
做这一步的前提是,你本机安装了nmap。
通过这里做判断,如果ip所在机器是开启状态,那么我们就可以对其进行端口扫描了。
代码如下:
# 实现对端口进行扫描,并且返回结果。使用nmap实现 def port_scan(ip: str): second = check_ip_reachable(ip) if second is not None and second == 'up': nm = nmap.PortScanner() xx = nm.scan(ip) print(nm.command_line()) ans = [] if 'scan' in xx: i = xx.__getitem__('scan') if ip in i: j = i.__getitem__(ip) if 'tcp' in j: tcp = j['tcp'] for port in tcp: ans.append(port) ans = sorted(ans) return ans else: write_to_file('output/' + time_now + '/ips.txt', ip + ' 不可达\n') return []
nm.command_line()方法可以打印出当前执行的命令行。(本质上这个包就是一个命令行调用包,然后做解析)
以47.119.137.0为例,结果如下:
这里的方法,使用的是nmap默认扫描的常见端口,如果有需要,也可以通过给Scan方法,加入Ports参数,自定义要扫描的端口,甚至于全端口。
串联起来,实现通过域名到端口监控
def handle_ip(ip: str): if not task_ip_set.__contains__(ip): try: print('ip:' + ip, '开始端口扫描') port_result = port_scan(ip) val = '' print('ip:', ip, '发现端口', port_result) for i in port_result: val = val + '\n' + ip + "----" + i.__str__() write_to_file('output/' + time_now + '/ip_ports.txt', val) task_ip_set.add(ip) except Exception as e: print(e) def handle_domain(domain: str): if not task_domain_set.__contains__(domain): print('domain:' + domain) record_a = dns_a(domain) ips = [] if type(record_a) == list: ips = sorted([answer.host for answer in record_a]) val = '' for i in ips: val = val + '\n' + domain + "----" + i.__str__() write_to_file('output/' + time_now + '/domain_ips.txt', val) print(ips) for i in ips: handle_ip(i)
这里使用了task_domain_set和task_ip_set用于对作用目标进行去重。
那么,到这里我们的任务完成了吗?
没有
子域名发现
如果我的主域名资产有很多二级域名,而我自己又对自己有哪些子域名不清楚,那么这个时候就需要做子域名发现。然后对每一个子域名调用前面的方法,找到其对应的ip开放的端口。
子域名发现一般来说有三种方法:
第一种通过对主域名所在网站进行爬取,从内容中解析出子域名;
第二种通过外部的查询网站获取结果,比如crt、virustotal、fofa等;
第三种通过字典爆破获取结果,通过不断的轮询dns服务器,查询其是否有A记录的值,如果有,则表明该子域名存在,如果没有则暂时认为该子域名不存在。
第一种方法,需要实现一个爬虫,拿到网站的内容后利用正则表达式提取里面的子域名,提取的方法如下:
def get_subdomains(value: str, domain: str): x = f'(?P<subdomain>[a-zA-Z0-9.]+{domain})' pattern = re.compile(x) y = pattern.findall(value) ans = set() for i in y: ans.add(i) print(ans) return ans
第二种方法,利用接口调用,参见相关的API接口即可。
第三种方法,子域名爆破。核心代码如下
answers = await self.resolvers[j].query(cur_domain, 'A') # 查找A记录 # 如果A记录有值且没有报错,则说明该子域名存在
当你完成上面的步骤,并且去重之后,就可以将这些子域名作为前面步骤的输入。这样,对于用户需要监控的某个主域名而言,监控到的范围就提升了很多。
请勿用于非已有域名的监控,造成的损失与本人无关。以上测试数据均为本人已有域名和ip。
栏 目:Python代码
下一篇:Python 的 f-string 可以连接字符串与数字的原因解析
本文标题:用python实现域名资产监控的详细步骤
本文地址:http://www.codeinn.net/misctech/208441.html