下圖為一個中大型網站/App的基本架構：

負載均衡

負載均衡是分布式系統中的一個最最基本的問題。在上圖中：

網關需要把請求分發給不同的Tomcat；

Tomcat需要把收到的請求，分發給不同的Service；

這都需要負載均衡。一句話：凡是請求從一個入口進來，需要分發給后端不同的機器時，就需要負載均衡。

局域網負載均衡

在上圖中，負載均衡發生在局域網內部。在這里，常用的網關軟件有Nginx/HAProxy/F5/LVS/各種云上的SLB等。

廣域網負載均衡

在上圖之外，還有廣域網負載均衡。這通常發生在域名服務器上，而不是局域網內部。

同1個域名，映射到不同的局域網集群。

負載均衡算法

常用的負載均衡算法：隨機，輪詢（Round Robin)，最小資源數，hash。

分布式緩存

在上圖中，當DB負載過高，我需要為Service機器加緩存時，就遇到一個基本問題：

如果使用local的內存做緩存，則其他Service機器就沒辦法共用此緩存。

因次，我需要一個可以讓所有Service機器共享的緩存，這就是分布式緩存。

常用的分布式緩存組件：Memcached/Redis/Tair等

分布式文件系統

在上圖中，當我要存儲客戶端上傳的圖片文件時，就會遇到另一個基本問題：我不能把圖片存在每個Tomcat的本地文件系統里面，這樣的話，其他機器就沒辦法訪問了。我需要一個讓所有機器可以共享的文件系統，這就是分布式文件系統。

常用的分布式文件系統：MogileFS/TFS/HDFS/Amazon S3/OpenStack Swift等

當使用了分布式文件系統，對外提供圖片url訪問服務時，就會遇到另一個基本問題：如果每次文件的訪問，都要到分布式文件系統里面去取，效率和負載就可能成為問題。

為此，就需要引入CDN。

常用的CDN廠商，比如ChinCache。當然，現在的各種云存儲，比如七牛云，阿里云，騰訊云，已經自帶了CDN。

分布式RPC

分布式系統的一個基本問題就是：機器與機器之間如何通信？ 我們都知道底層原理是TCP/IP，Socket。

但一般很少有人會去裸寫Socket，實現機器之間的通信。這里，最常用的組件就是RPC。

最簡單的實現RPC的方式就是使用http。當然，業界有很多成熟的開源RPC框架，如Facebook的Thrift, 阿里的Dubbo，點評的Pigeon。。

在RPC內部，一般都自己實現了負載均衡。還有更復雜的，如多版本，服務降級等。

補充一句：雖然底層原理都是Socket，但使用不同框架/組件時，通常都有其自己的跨機器通信方式，比如MySQL JDBC，RPC， 消息中間件等。

分布式數據庫

在上圖中，DB是單一節點。當訪問量達到一定程度，就會涉及到mysql的分庫分表問題。

分庫/分表之后，就會涉及到join的問題，分布式事務的問題。

關于分庫分表，業界也早有成熟方案。對上層屏蔽分庫分表，sql的執行，像是在單庫一樣。

還有像MongoDB這種Nosql數據庫，天生是分布式的。但同樣會面對Mysql分庫分表所要面對的問題。

還有像阿里的OceanBase，有Mysql的強一致性保證，又是分布式的，還可以支持分布式事務。

分布式消息中間件

在上圖中，沒有提及到消息中間件。相對其他基本問題，這個需要一個更適合的業務場景來談，在以后的章節中，會再詳述。

常用的消息中間件，比如老一輩的ActiveMQ/RabbitMQ， 新一點的，阿里的RocketMQ，LinkedIn的Kafka等。

消息中間件的一個典型場景就是：通過最終一致性，解決上面的分布式事務問題。

分布式session問題

在傳統的單機版應用中，我們經常使用session。而當單機擴展到多機，單機的session就沒辦法被其他機器所訪問。

此時就需要使用分布式session，把session存放在一個所有Tomcat都可以訪問的地方。

關于分布式session，業界早有成熟方案，在此不再詳述。