大型分布式网站架构技术总结

关于分布式架构的优缺点、问题、层级、技术栈等的归纳 本篇文章主要源自本人自学左耳朵耗子的专栏中的相关分布式的文章归纳而来。 https://coolshell.cn/ 该专栏作者自己的博客,推荐一下 目录 什么是分布式架构 为什么要使用分布式架构 分布式架构的优点 分布式架构的缺点 单体应用和分布式架构的比较 分布式架构解决了什么问题 分布式系统的发展 分布式系统需要注意的问题 异构系统的不标准问题 系统架构中的服务依赖性问题 故障发生的概率更大 多层架构的运维复杂度更大 分布式架构层级 配置管理 分布式架构技术栈 提高. 阅读详情

对架构一个高性能,高可用,可伸缩,可扩展的分布式网站进行了概要性描述,并给出一个架构参考。一部分为读书笔记,一部分是个人经验总结。对大型分布式网站架构有很好的参考价值。

一、大型网站的特点

用户多,分布广泛

大流量,高并发

海量数据,服务高可用

安全环境恶劣,易受网络攻击

功能多,变更快,频繁发布

从小到大,渐进发展

以用户为中心

免费服务,付费体验

二、大型网站架构目标

高性能:提供快速的访问体验。

高可用:网站服务一直可以正常访问。

可伸缩:通过硬件增加/减少,提高/降低处理能力。

安全性:提供网站安全访问和数据加密,安全存储等策略。

扩展性:方便的通过新增/移除方式,增加/减少新的功能/模块。

敏捷性:随需应变,快速响应;

三、大型网站架构模式

分层:一般可分为,应用层,服务层,数据层,管理层,分析层;

分割:一般按照业务/模块/功能特点进行划分,比如应用层分为首页,用户中心。

分布式:将应用分开部署(比如多台物理机),通过远程调用协同工作。

集群:一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。

缓存:将数据放在距离应用或用户最近的位置,加快访问速度。

异步:将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知 模式。

冗余:增加副本,提高可用性,安全性,性能。

安全:对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。

自动化:将重复的,不需要人工参与的事情,通过工具的方式,使用机器完成。

敏捷性:积极接受需求变更,快速响应业务发展需求。

四、高性能架构

以用户为中心,提供快速的网页访问体验。主要参数有较短的响应时间,较大的并发处理能力,较高的吞吐量,稳定的性能参数。

可分为前端优化,应用层优化,代码层优化,存储层优化。

前端优化:网站业务逻辑之前的部分;

浏览器优化:减少Http请求数,使用浏览器缓存,启用压缩,Css Js位置,Js异步,减少Cookie传输;

CDN加速,反向代理;

应用层优化:处理网站业务的服务器。使用缓存,异步,集群

代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;

存储优化:缓存,固态硬盘,光纤传输,优化读写,磁盘冗余,分布式存储(HDFS),NOSQL等;

五、高可用架构

大型网站应该在任何时候都可以正常访问。正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点。要保证高可用是很困难的,也就是说网站的故障是不可避免的。

如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别,在规划的时候,就考虑可用性。行业内一般用几个9表示可用性指标。比如四个9(99.99),一年内允许的不可用时间是53分钟。

不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题。

应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决Session同步问题),实现高可用。

服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,幂等设计等。

数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])

六、可伸缩架构

伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力。

应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS,HTTP[反向代理],IP,链路层)。

服务层:与应用层类似;

数据层:分库,分表,NOSQL等;常用算法Hash,一致性Hash。

七、可扩展架构

可以方便的进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。

模块化,组件化:高内聚,内耦合,提高复用性,扩展性。

稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。

设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。

消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。

分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。

八、安全架构

对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全,应用系统安全,数据保密安全等。

基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用,正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。防范病毒,后门。设置防火墙策略,建立DDOS防御系统,使用攻击检测系统,进行子网隔离等手段。

应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML注释,文件上传,路径遍历等。还可以使用Web应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。

数据保密安全:存储安全(存在在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改);

常用的加解密算法(单项散列加密[MD5,SHA],对称加密[DES,3DES,RC]),非对称加密[RSA]等。

九、敏捷性

网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。

除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。

十、大型架构举例

以上采用七层逻辑架构,第一层客户层,第二层前端优化层,第三层应用层,第四层服务层,第五层数据存储层,第六层大数据存储层,第七层大数据处理层。

客户层:支持PC浏览器和手机APP。差别是手机APP可以直接访问通过IP访问,反向代理服务器。

前端层:使用DNS负载均衡,CDN本地加速以及反向代理服务;

应用层:网站应用集群;按照业务进行垂直拆分,比如商品应用,会员中心等;

服务层:提供公用服务,比如用户服务,订单服务,支付服务等;

数据层:支持关系型数据库集群(支持读写分离),NOSQL集群,分布式文件系统集群;以及分布式Cache;

大数据存储层:支持应用层和服务层的日志数据收集,关系数据库和NOSQL数据库的结构化和半结构化数据收集;

大数据处理层:通过Mapreduce进行离线数据分析或Storm实时数据分析,并将处理后的数据存入关系型数据库。(实际使用中,离线数据和实时数据会按照业务要求进行分类处理,并存入不同的数据库中,供应用层或服务层使用)。

打造云上应用的最佳实践:云原生架构的模式实践指南 服务接口定义是指对应的编程语言对服务接口的描述。比如 Dubbo 是通过 Java 接口来实现的。基于编程语言提供的特性可以帮助我们很好地实现服务规约,但是这种实现方式有利有弊。利好是能够很好地支持某种支持的编程语言,比如 Java,但是并不是每一种编程语言都支持接口定义的,比如 JavaScript。 阅读详情

相关推荐

飞塔防火墙和paloalto防火墙构建ipsec

一、配置fortigate防火墙1.防火墙配置上网功能1.1配置fortigate的wan1接口IP为100.100.100.2/24VLAN交换internal,IP地址为192.168.156.99/24。开启DHCP分配IP地址范围为192.168.156.110-192.168.156.2101.2配置访问互联网的缺省路由1.3配置访问互联网的安全策略2.配置与Paloalto防火墙的IPSECVPN。

weixin_44675999的博客 3700

四个福利性在线网站分享,每一个都让你欲罢不能……

随着社会的不断发展,我们网络上的一些资源就像雨后春笋一般的拔地而起,许多东西我们的来不及上车就被新的事物给掩盖了,但是对于一些好用的网站来说是真的很不错,小编今天就和你们分享一些最具福利性的在线网站! 你们准备好了吗?老司机准备发车了: 一.TinEye.com—图片搜索引擎 如果你的电脑或者你的手机里有一张不知道哪里来的图片,你想要将图片的源地址给找出来该怎么做?一般的时候我们都是束手无策,但是有了这个网站就不一样,可以图片上传带上去进行查找...

weixin_43363835的博客 429万+

理想L9高通QAM8797座舱域控制器全拆解|全网独家复现 硬件架构升级、电源散热优化、多屏低延迟交互、车机系统赋能高端智能座舱落地

随着智能汽车向舱驾一体、全域智能化、多模交互方向迭代,传统单一功能座舱芯片已无法满足多屏高刷渲染、全车AI语音、车内视觉感知、高速车载通信的叠加算力需求。2026款全新理想L9作为旗舰级智能SUV,全面搭载高通新一代旗舰座舱域控制器QAM8797,搭配自研马赫M100 AI芯片、国产车规主控芯片,构建起高性能、高可靠、低延迟的车载中央计算平台。

getusushu的博客 257

120个极品网站

120个极品网站 0、极品软件电脑类0) 一个很有前途,却刚刚起步的极品绿软论坛,开放注册,我下了好多好多,经常在那里找软件 幽蓝色绿软[url]http://liujing.qq.topzj.com/index.php[/url](特别推荐)需要注册...........绿软天堂1) 几千个论坛头像,论坛头像世界 [url]http://www.link3000....

weixin_34138377的博客 5421

中国十大女性网站排行榜

                                                        中国十大女性网站排行榜  第一位:瑞丽女性网(www.rayli.com.cn)   世界经理人数据:http://data.icxo.com瑞丽女性网是瑞丽品牌在互联网平台上的成功拓展,现已成为服务于中国大陆及全球华人社群的领先在线媒体与增值资讯提供商。她以服务女性

lisky119的专栏 27万+

【转】分享天涯潮女最爱的10个女性网站,强烈建议收藏!

1、瑞丽女性网(http://www.rayli.com.cn)   正如瑞丽杂志深受宠爱一样,瑞丽女性网也是一样的深受女性朋友的喜爱,身边好多懂得打扮,穿着时髦的朋友都会经常逛这个网站。据说女大学生里面3个人中就会有1个女性购买瑞丽杂志。如果你不购买瑞丽杂志,那么上瑞丽网也能让你有很多收获,有了它,你离潮女就不远了。 2、.妆点网(http://www.zdface.com/) ...

wangying9913的博客 46万+

html5 交互性网站,30个酷毙的交互式网站(HTML5+CSS3)

很久前就像找些文章来翻译,and这是第一篇,刚开始翻译着很有兴致,但中间就开始累了,感觉好多好多,因为不仅要翻译,还要看网站,还要排版,花了两天空闲时间还是硬着头皮翻译下来了,虽然翻译质量还是好渣,不少单词还得看词典~~------------------------------------------------------------------------------------------...

weixin_35330534的博客 1万+

做一个开放性的网站需要注意哪些地方[转]

 我们都知道如何创建一个好的网站。有一大堆的关于可用性、界面设计以及网站设计的书可以参考。如今,我们都知道一个好的站点应该有:非常好看的设计、友好的界面、毫无缺点的结构、智能化的后台处理以及非常优秀的内容。唯一被大多数人所忽视的可能是交互性。  缺乏交互性的网站即使看上去非常的漂亮也是缺乏生命力的。在网站设计上经常使用的是一些文字的交互,但是文字交互的效果到现在位置还是非常模糊,除非你每日醉心

北漂的鱼 1万+

娱乐性网站

https://humanbenchmark.com/tests/reactiontime 可以测试自己的反应速度 neal.fun/deep-sea/ 可以看到有关深海的一些的生物 cbaigui.com/ 中国妖怪百集 chp.shadiao.app/ 彩虹屁生成器,可以生成夸人的言语 https://lab.bangbang93.com/wsyw 一个成语接龙的网站,最终都会是“为所欲为” cn.similarsites.com/ 寻找类似网站的工具网站,比如输入知乎的时候,会..

m0_38038767的博客 1万+

【转】超实用网站,一次性分享出来

搞学习 CSDN: https://www.csdn.net/ TED(最优质的演讲):https://www.ted.com/ 谷粉学术: https://gfsoso.99lb.net/scholar.html 大学资源网:http://www.dxzy163.com/ 简答题:http://www.jiandati.com/ 网易公开课:https://open.163.com/ted...

tyyking的博客 4520

美国女性网站今年猛升42%,介绍3个创意新站

网路创业家常常紧盯着两个族群,一是「宅男」,从15岁到45岁都有,共同特色是很沉迷网路,里面包含了许多技客高手、重度使用者;另一种是「学 生」,以大学生为主,大学生的最大资产就是「时间多」,他们可以一天花5小时以上「挂网」,在网路上热中于与陌生人互动,只要抓住年轻口味,要做出他们喜 欢的网站也不会太难。这时候,每次如果要想到「第三种族群」,有些人,就会想到「女性」── 在地...

互联网 创意 程序员 创业 8053

成都信息工程大学《模拟电子技术A》期末试卷及答案2021-2024学年AB卷6套

成都信息工程大学《模拟电子技术A》期末试卷及答案2021-2024学年AB卷6套

上一篇: Spring AOP源码分析
下一篇: 深入理解Spring MVC
SpringBoot_
博客等级 码龄7年 445粉丝 96原创
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值