ミラーリング
このタスクでは、Istioのトラフィックミラーリング機能を紹介します。
トラフィックミラーリング(シャドウイングとも呼ばれます)は、機能チームが可能な限りリスクを抑えて本番環境に変更を導入できる強力な概念です。ミラーリングは、ライブトラフィックのコピーをミラーリングされたサービスに送信します。ミラーリングされたトラフィックは、プライマリサービスのクリティカルなリクエストパスとは別に発生します。
このタスクでは、最初にすべてのトラフィックをテストサービスのv1
に強制します。次に、トラフィックの一部をv2
にミラーリングするルールを適用します。
始める前に
インストールガイドに従ってIstioをセットアップしてください。
最初に、アクセスログが有効になっているhttpbinサービスの2つのバージョンをデプロイします。
httpbin-v1
をデプロイします。$ kubectl create -f - <<EOF apiVersion: apps/v1 kind: Deployment metadata: name: httpbin-v1 spec: replicas: 1 selector: matchLabels: app: httpbin version: v1 template: metadata: labels: app: httpbin version: v1 spec: containers: - image: docker.io/kennethreitz/httpbin imagePullPolicy: IfNotPresent name: httpbin command: ["gunicorn", "--access-logfile", "-", "-b", "0.0.0.0:80", "httpbin:app"] ports: - containerPort: 80 EOF
httpbin-v2
をデプロイします。$ kubectl create -f - <<EOF apiVersion: apps/v1 kind: Deployment metadata: name: httpbin-v2 spec: replicas: 1 selector: matchLabels: app: httpbin version: v2 template: metadata: labels: app: httpbin version: v2 spec: containers: - image: docker.io/kennethreitz/httpbin imagePullPolicy: IfNotPresent name: httpbin command: ["gunicorn", "--access-logfile", "-", "-b", "0.0.0.0:80", "httpbin:app"] ports: - containerPort: 80 EOF
httpbin
Kubernetesサービスをデプロイします。$ kubectl create -f - <<EOF apiVersion: v1 kind: Service metadata: name: httpbin labels: app: httpbin spec: ports: - name: http port: 8000 targetPort: 80 selector: app: httpbin EOF
httpbin
サービスにリクエストを送信するために使用するcurl
ワークロードをデプロイします。$ cat <<EOF | kubectl create -f - apiVersion: apps/v1 kind: Deployment metadata: name: curl spec: replicas: 1 selector: matchLabels: app: curl template: metadata: labels: app: curl spec: containers: - name: curl image: curlimages/curl command: ["/bin/sleep","3650d"] imagePullPolicy: IfNotPresent EOF
デフォルトのルーティングポリシーの作成
デフォルトでは、Kubernetesはhttpbin
サービスの両方のバージョン間でロードバランシングを行います。このステップでは、すべてのトラフィックがv1
に送信されるように、その動作を変更します。
すべてのトラフィックをサービスの
v1
にルーティングするデフォルトルートルールを作成します。$ kubectl apply -f - <<EOF apiVersion: networking.istio.io/v1 kind: VirtualService metadata: name: httpbin spec: hosts: - httpbin http: - route: - destination: host: httpbin subset: v1 weight: 100 --- apiVersion: networking.istio.io/v1 kind: DestinationRule metadata: name: httpbin spec: host: httpbin subsets: - name: v1 labels: version: v1 - name: v2 labels: version: v2 EOF
$ kubectl apply -f - <<EOF apiVersion: v1 kind: Service metadata: name: httpbin-v1 spec: ports: - port: 80 name: http selector: app: httpbin version: v1 --- apiVersion: v1 kind: Service metadata: name: httpbin-v2 spec: ports: - port: 80 name: http selector: app: httpbin version: v2 --- apiVersion: gateway.networking.k8s.io/v1 kind: HTTPRoute metadata: name: httpbin spec: parentRefs: - group: "" kind: Service name: httpbin port: 8000 rules: - backendRefs: - name: httpbin-v1 port: 80 EOF
これで、すべてのトラフィックが
httpbin:v1
に送信されるようになったので、サービスにリクエストを送信します。$ kubectl exec deploy/curl -c curl -- curl -sS http://httpbin:8000/headers { "headers": { "Accept": "*/*", "Content-Length": "0", "Host": "httpbin:8000", "User-Agent": "curl/7.35.0", "X-B3-Parentspanid": "57784f8bff90ae0b", "X-B3-Sampled": "1", "X-B3-Spanid": "3289ae7257c3f159", "X-B3-Traceid": "b56eebd279a76f0b57784f8bff90ae0b", "X-Envoy-Attempt-Count": "1", "X-Forwarded-Client-Cert": "By=spiffe://cluster.local/ns/default/sa/default;Hash=20afebed6da091c850264cc751b8c9306abac02993f80bdb76282237422bd098;Subject=\"\";URI=spiffe://cluster.local/ns/default/sa/default" } }
httpbin-v1
とhttpbin-v2
ポッドのログを確認してください。v1
のアクセスログエントリが表示され、v2
には何も表示されないはずです。$ kubectl logs deploy/httpbin-v1 -c httpbin 127.0.0.1 - - [07/Mar/2018:19:02:43 +0000] "GET /headers HTTP/1.1" 200 321 "-" "curl/7.35.0"
$ kubectl logs deploy/httpbin-v2 -c httpbin <none>
httpbin-v2
へのトラフィックのミラーリング
トラフィックを
httpbin-v2
にミラーリングするようにルートルールを変更します。$ kubectl apply -f - <<EOF apiVersion: networking.istio.io/v1 kind: VirtualService metadata: name: httpbin spec: hosts: - httpbin http: - route: - destination: host: httpbin subset: v1 weight: 100 mirror: host: httpbin subset: v2 mirrorPercentage: value: 100.0 EOF
このルートルールは、トラフィックの100%を
v1
に送信します。最後のスタンザでは、同じトラフィックの100%をhttpbin:v2
サービスにミラーリング(つまり、送信も)したいことを指定します。トラフィックがミラーリングされると、リクエストは-shadow
が追加されたHost/Authorityヘッダーと共にミラーリングされたサービスに送信されます。たとえば、cluster-1
はcluster-1-shadow
になります。また、これらのリクエストは「fire and forget」としてミラーリングされるため、レスポンスは破棄されることに注意することが重要です。
mirrorPercentage
フィールドの下のvalue
フィールドを使用すると、すべてのリクエストをミラーリングするのではなく、トラフィックの一部をミラーリングできます。このフィールドがない場合、すべてのトラフィックがミラーリングされます。$ kubectl apply -f - <<EOF apiVersion: gateway.networking.k8s.io/v1 kind: HTTPRoute metadata: name: httpbin spec: parentRefs: - group: "" kind: Service name: httpbin port: 8000 rules: - filters: - type: RequestMirror requestMirror: backendRef: name: httpbin-v2 port: 80 backendRefs: - name: httpbin-v1 port: 80 EOF
このルートルールは、トラフィックの100%を
v1
に送信します。RequestMirror
フィルタは、同じトラフィックの100%をhttpbin:v2
サービスにミラーリング(つまり、送信も)したいことを指定します。トラフィックがミラーリングされると、リクエストは-shadow
が追加されたHost/Authorityヘッダーと共にミラーリングされたサービスに送信されます。たとえば、cluster-1
はcluster-1-shadow
になります。また、これらのリクエストは「fire and forget」としてミラーリングされるため、レスポンスは破棄されることに注意することが重要です。
トラフィックを送信します。
$ kubectl exec deploy/curl -c curl -- curl -sS http://httpbin:8000/headers
これで、
v1
とv2
の両方のアクセスログが表示されるはずです。v2
で作成されたアクセスログは、実際にはv1
に送信されるミラーリングされたリクエストです。$ kubectl logs deploy/httpbin-v1 -c httpbin 127.0.0.1 - - [07/Mar/2018:19:02:43 +0000] "GET /headers HTTP/1.1" 200 321 "-" "curl/7.35.0" 127.0.0.1 - - [07/Mar/2018:19:26:44 +0000] "GET /headers HTTP/1.1" 200 321 "-" "curl/7.35.0"
$ kubectl logs deploy/httpbin-v2 -c httpbin 127.0.0.1 - - [07/Mar/2018:19:26:44 +0000] "GET /headers HTTP/1.1" 200 361 "-" "curl/7.35.0"
クリーンアップ
ルールを削除します。
$ kubectl delete virtualservice httpbin $ kubectl delete destinationrule httpbin
$ kubectl delete httproute httpbin $ kubectl delete svc httpbin-v1 httpbin-v2
httpbin
とcurl
デプロイメント、およびhttpbin
サービスを削除します。$ kubectl delete deploy httpbin-v1 httpbin-v2 curl $ kubectl delete svc httpbin