溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

怎么在golang中實(shí)現(xiàn)負(fù)載均衡

發(fā)布時(shí)間:2021-04-30 14:53:37 來(lái)源:億速云 閱讀:207 作者:Leah 欄目:開發(fā)技術(shù)

本篇文章為大家展示了怎么在golang中實(shí)現(xiàn)負(fù)載均衡,內(nèi)容簡(jiǎn)明扼要并且容易理解,絕對(duì)能使你眼前一亮,通過這篇文章的詳細(xì)介紹希望你能有所收獲。

golang的優(yōu)點(diǎn)

golang是一種編譯語(yǔ)言,可以將代碼編譯為機(jī)器代碼,編譯后的二進(jìn)制文件可以直接部署到目標(biāo)機(jī)器而無(wú)需額外的依賴,所以golang的性能優(yōu)于其他的解釋性語(yǔ)言,且可以在golang中使用goroutine來(lái)實(shí)現(xiàn)并發(fā)性,它提供了一個(gè)非常優(yōu)雅的goroutine調(diào)度程序系統(tǒng),可以很容易地生成數(shù)百萬(wàn)個(gè)goroutine。

1.首先就是服務(wù)器的信息

package balance
type Instance struct {
    host string
    port int
}
func NewInstance(host string, port int) *Instance {
    return &Instance{
        host: host,
        port: port,
    }
}
func (p *Instance) GetHost() string {
    return p.host
}
func (p *Instance) GetPort() int {
    return p.port
}

2.接著定義接口

package balance
type Balance interface {
    /**
    *負(fù)載均衡算法
    */
    DoBalance([] *Instance,...string) (*Instance,error)
}

3.接著,是實(shí)現(xiàn)接口,random.go

package balance
import (
    "errors"
    "math/rand"
)
func init()  {
    RegisterBalance("random",&RandomBalance{})
}
type RandomBalance struct {
}
func (p *RandomBalance) DoBalance(insts [] *Instance,key...string) (inst *Instance, err error) {
    if len(insts) == 0 {
        err = errors.New("no instance")
        return
    }
    lens := len(insts)
    index := rand.Intn(lens)
    inst = insts[index]
    return
}

roundrobin.go

package balance
import (
    "errors"
)
func init() {
    RegisterBalance("round", &RoundRobinBalance{})
}
type RoundRobinBalance struct {
    curIndex int
}
func (p *RoundRobinBalance) DoBalance(insts [] *Instance, key ...string) (inst *Instance, err error) {
    if len(insts) == 0 {
        err = errors.New("no instance")
        return
    }
    lens := len(insts)
    if p.curIndex >= lens {
        p.curIndex = 0
    }
    inst = insts[p.curIndex]
    p.curIndex++
    return
}

4 然后,全部交給管理器來(lái)管理,這也是為什么上面的文件全部重寫了init函數(shù)

package balance
import (
    "fmt"
)
type BalanceMgr struct {
    allBalance map[string]Balance
}
var mgr = BalanceMgr{
    allBalance: make(map[string]Balance),
}
func (p *BalanceMgr) registerBalance(name string, b Balance) {
    p.allBalance[name] = b
}
func RegisterBalance(name string, b Balance) {
    mgr.registerBalance(name, b)
}
func DoBalance(name string, insts []*Instance) (inst *Instance, err error) {
    balance, ok := mgr.allBalance[name]
    if !ok {
        err = fmt.Errorf("not fount %s", name)
        fmt.Println("not found ",name)
        return
    }
    inst, err = balance.DoBalance(insts)
    if err != nil {
        err = fmt.Errorf(" %s erros", name)
        return
    }
    return
}

下面進(jìn)行測(cè)試:

func main() {
    var insts []*balance.Instance
    for i := 0; i < 10; i++ {
        host := fmt.Sprintf("192.168.%d.%d", rand.Intn(255), rand.Intn(255))
        port, _ := strconv.Atoi(fmt.Sprintf("880%d", i))
        one := balance.NewInstance(host, port)
        insts = append(insts, one)
    }
    var name = "round"
    if len(os.Args) > 1 {
        name = os.Args[1]
    }
    for {
        inst, err := balance.DoBalance(name, insts)
        if err != nil {
            fmt.Println("do balance err")
            time.Sleep(time.Second)
            continue
        }
        fmt.Println(inst)
        time.Sleep(time.Second)
    }
}

5.如果想擴(kuò)展這個(gè),又不入侵原來(lái)的代碼結(jié)構(gòu),可以類比上面實(shí)現(xiàn)dobalance接口即可

package add
import (
    "awesomeProject/test/balance"
    "fmt"
    "math/rand"
    "hash/crc32"
)
func init() {
    balance.RegisterBalance("hash", &HashBalance{})
}
type HashBalance struct {
    key string
}
func (p *HashBalance) DoBalance(insts [] *balance.Instance, key ...string) (inst *balance.Instance, err error) {
    defKey := fmt.Sprintf("%d", rand.Int())
    if len(key) > 0 {
        defKey = key[0]
    }
    lens := len(insts)
    if lens == 0 {
        err = fmt.Errorf("no balance")
        return
    }
    hashVal := crc32.Checksum([]byte(defKey), crc32.MakeTable(crc32.IEEE))
    index := int(hashVal) % lens
    inst = insts[index]
    return
}

這樣就能交給管理器統(tǒng)一管理了,而且不會(huì)影響原來(lái)的api。

補(bǔ)充:golang grpc配合nginx實(shí)現(xiàn)負(fù)載均衡

概述

grpc負(fù)載均衡有主要有進(jìn)程內(nèi)balance, 進(jìn)程外balance, proxy 三種方式,本文敘述的是proxy方式,以前進(jìn)程內(nèi)的方式比較流行,靠etcd或者consul等服務(wù)發(fā)現(xiàn)來(lái)輪詢,隨機(jī)等方式實(shí)現(xiàn)負(fù)載均衡。

現(xiàn)在nginx 1.13過后正式支持grpc, 由于nginx穩(wěn)定,高并發(fā)量,功能強(qiáng)大,更難能可貴的是部署方便,并且不像進(jìn)程內(nèi)balance那樣不同的語(yǔ)言要寫不同的實(shí)現(xiàn),因此我非常推崇這種方式。

nginx的配置

確認(rèn)安裝版本大于1.13的nginx后打開配置文件,寫入如下配置

upstream lb{
#負(fù)載均衡的grpc服務(wù)器地址
  server 127.0.0.1:50052;
  server 127.0.0.1:50053;
  server 127.0.0.1:50054;
  #keepalive 500;#這個(gè)東西是nginx和rpc服務(wù)器群保持長(zhǎng)連接的總數(shù),設(shè)置可以提高效率,同時(shí)避免nginx到rpc服務(wù)器之間默認(rèn)是短連接并發(fā)過后造成time_wait過多
}
server {
  listen       9527     http2;
  access_log  /var/log/nginx/host.access.log  main;
  http2_max_requests 10000;#這里默認(rèn)是1000,并發(fā)量上來(lái)會(huì)報(bào)錯(cuò),因此設(shè)置大一點(diǎn)
  #grpc_socket_keepalive on;#這個(gè)東西nginx1.5過后支持
  location / {
    grpc_pass grpc://lb;
    error_page 502 = /error502grpc;
  }
  location = /error502grpc {
    internal;
    default_type application/grpc;
    add_header grpc-status 14;
    add_header grpc-message "Unavailable";
    return 204;
  }
}

可以在host.access.log日志文件里面看到數(shù)據(jù)轉(zhuǎn)發(fā)記錄

proto文件:

syntax = "proto3"; // 指定proto版本
package grpctest;     // 指定包名
// 定義Hello服務(wù)
service Hello {
    // 定義SayHello方法
    rpc SayHello(HelloRequest) returns (HelloReply) {}
}
// HelloRequest 請(qǐng)求結(jié)構(gòu)
message HelloRequest {
    string name = 1;
}
// HelloReply 響應(yīng)結(jié)構(gòu)
message HelloReply {
    string message = 1;
}

客戶端:

客戶端連接地址填寫nginx的監(jiān)聽地址,相關(guān)代碼如下:

package main
import (
 pb "protobuf/grpctest" // 引入proto包
 "golang.org/x/net/context"
 "google.golang.org/grpc"
 "google.golang.org/grpc/grpclog"
 "fmt"
 "time"
)
const (
 // Address gRPC服務(wù)地址
 Address = "127.0.0.1:9527"
)
func main() {
 // 連接
 conn, err := grpc.Dial(Address, grpc.WithInsecure())
 if err != nil {
  grpclog.Fatalln(err)
 }
 defer conn.Close()
 // 初始化客戶端
 c := pb.NewHelloClient(conn)
 reqBody := new(pb.HelloRequest)
 reqBody.Name = "gRPC"
 // 調(diào)用方法
 for{
  r, err := c.SayHello(context.Background(), reqBody)
  if err != nil {
   grpclog.Fatalln(err)
  }
  fmt.Println(r.Message)
  time.Sleep(time.Second)
 }
}

服務(wù)端:

package main
import (
 "net"
 "fmt"
 pb "protobuf/grpctest" // 引入編譯生成的包
 "golang.org/x/net/context"
 "google.golang.org/grpc"
 "google.golang.org/grpc/grpclog"
)
const (
 // Address gRPC服務(wù)地址
 Address = "127.0.0.1:50052"
 //Address = "127.0.0.1:50053"
 //Address = "127.0.0.1:50054"
)
var HelloService = helloService{}
type helloService struct{}
func (this helloService) SayHello(ctx context.Context,in *pb.HelloRequest)(*pb.HelloReply,error){
 resp := new(pb.HelloReply)
 resp.Message = Address+" hello"+in.Name+"."
 return resp,nil
}
func main(){
 listen,err:=net.Listen("tcp",Address)
 if err != nil{
  grpclog.Fatalf("failed to listen: %v", err)
 }
 s:=grpc.NewServer()
 pb.RegisterHelloServer(s,HelloService)
 grpclog.Println("Listen on " + Address)
 s.Serve(listen)
}

測(cè)試

以50052,50053,50054 3個(gè)端口啟3個(gè)服務(wù)端進(jìn)程,運(yùn)行客戶端代碼,即可看見如下效果:

怎么在golang中實(shí)現(xiàn)負(fù)載均衡

上述內(nèi)容就是怎么在golang中實(shí)現(xiàn)負(fù)載均衡,你們學(xué)到知識(shí)或技能了嗎?如果還想學(xué)到更多技能或者豐富自己的知識(shí)儲(chǔ)備,歡迎關(guān)注億速云行業(yè)資訊頻道。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI