14977: Drop containers when the controller says they don't exist.
[arvados.git] / lib / controller / handler.go
1 // Copyright (C) The Arvados Authors. All rights reserved.
2 //
3 // SPDX-License-Identifier: AGPL-3.0
4
5 package controller
6
7 import (
8         "context"
9         "database/sql"
10         "errors"
11         "net"
12         "net/http"
13         "net/url"
14         "strings"
15         "sync"
16         "time"
17
18         "git.curoverse.com/arvados.git/sdk/go/arvados"
19         "git.curoverse.com/arvados.git/sdk/go/health"
20         "git.curoverse.com/arvados.git/sdk/go/httpserver"
21         _ "github.com/lib/pq"
22 )
23
24 type Handler struct {
25         Cluster     *arvados.Cluster
26         NodeProfile *arvados.NodeProfile
27
28         setupOnce      sync.Once
29         handlerStack   http.Handler
30         proxy          *proxy
31         secureClient   *http.Client
32         insecureClient *http.Client
33         pgdb           *sql.DB
34         pgdbMtx        sync.Mutex
35 }
36
37 func (h *Handler) ServeHTTP(w http.ResponseWriter, req *http.Request) {
38         h.setupOnce.Do(h.setup)
39         if req.Method != "GET" && req.Method != "HEAD" {
40                 // http.ServeMux returns 301 with a cleaned path if
41                 // the incoming request has a double slash. Some
42                 // clients (including the Go standard library) change
43                 // the request method to GET when following a 301
44                 // redirect if the original method was not HEAD
45                 // (RFC7231 6.4.2 specifically allows this in the case
46                 // of POST). Thus "POST //foo" gets misdirected to
47                 // "GET /foo". To avoid this, eliminate double slashes
48                 // before passing the request to ServeMux.
49                 for strings.Contains(req.URL.Path, "//") {
50                         req.URL.Path = strings.Replace(req.URL.Path, "//", "/", -1)
51                 }
52         }
53         if h.Cluster.HTTPRequestTimeout > 0 {
54                 ctx, cancel := context.WithDeadline(req.Context(), time.Now().Add(time.Duration(h.Cluster.HTTPRequestTimeout)))
55                 req = req.WithContext(ctx)
56                 defer cancel()
57         }
58
59         h.handlerStack.ServeHTTP(w, req)
60 }
61
62 func (h *Handler) CheckHealth() error {
63         h.setupOnce.Do(h.setup)
64         _, _, err := findRailsAPI(h.Cluster, h.NodeProfile)
65         return err
66 }
67
68 func neverRedirect(*http.Request, []*http.Request) error { return http.ErrUseLastResponse }
69
70 func (h *Handler) setup() {
71         mux := http.NewServeMux()
72         mux.Handle("/_health/", &health.Handler{
73                 Token:  h.Cluster.ManagementToken,
74                 Prefix: "/_health/",
75         })
76         hs := http.NotFoundHandler()
77         hs = prepend(hs, h.proxyRailsAPI)
78         hs = h.setupProxyRemoteCluster(hs)
79         mux.Handle("/", hs)
80         h.handlerStack = mux
81
82         sc := *arvados.DefaultSecureClient
83         sc.CheckRedirect = neverRedirect
84         h.secureClient = &sc
85
86         ic := *arvados.InsecureHTTPClient
87         ic.CheckRedirect = neverRedirect
88         h.insecureClient = &ic
89
90         h.proxy = &proxy{
91                 Name: "arvados-controller",
92         }
93 }
94
95 var errDBConnection = errors.New("database connection error")
96
97 func (h *Handler) db(req *http.Request) (*sql.DB, error) {
98         h.pgdbMtx.Lock()
99         defer h.pgdbMtx.Unlock()
100         if h.pgdb != nil {
101                 return h.pgdb, nil
102         }
103
104         db, err := sql.Open("postgres", h.Cluster.PostgreSQL.Connection.String())
105         if err != nil {
106                 httpserver.Logger(req).WithError(err).Error("postgresql connect failed")
107                 return nil, errDBConnection
108         }
109         if p := h.Cluster.PostgreSQL.ConnectionPool; p > 0 {
110                 db.SetMaxOpenConns(p)
111         }
112         if err := db.Ping(); err != nil {
113                 httpserver.Logger(req).WithError(err).Error("postgresql connect succeeded but ping failed")
114                 return nil, errDBConnection
115         }
116         h.pgdb = db
117         return db, nil
118 }
119
120 type middlewareFunc func(http.ResponseWriter, *http.Request, http.Handler)
121
122 func prepend(next http.Handler, middleware middlewareFunc) http.Handler {
123         return http.HandlerFunc(func(w http.ResponseWriter, req *http.Request) {
124                 middleware(w, req, next)
125         })
126 }
127
128 func (h *Handler) localClusterRequest(req *http.Request) (*http.Response, error) {
129         urlOut, insecure, err := findRailsAPI(h.Cluster, h.NodeProfile)
130         if err != nil {
131                 return nil, err
132         }
133         urlOut = &url.URL{
134                 Scheme:   urlOut.Scheme,
135                 Host:     urlOut.Host,
136                 Path:     req.URL.Path,
137                 RawPath:  req.URL.RawPath,
138                 RawQuery: req.URL.RawQuery,
139         }
140         client := h.secureClient
141         if insecure {
142                 client = h.insecureClient
143         }
144         return h.proxy.Do(req, urlOut, client)
145 }
146
147 func (h *Handler) proxyRailsAPI(w http.ResponseWriter, req *http.Request, next http.Handler) {
148         resp, err := h.localClusterRequest(req)
149         n, err := h.proxy.ForwardResponse(w, resp, err)
150         if err != nil {
151                 httpserver.Logger(req).WithError(err).WithField("bytesCopied", n).Error("error copying response body")
152         }
153 }
154
155 // For now, findRailsAPI always uses the rails API running on this
156 // node.
157 func findRailsAPI(cluster *arvados.Cluster, np *arvados.NodeProfile) (*url.URL, bool, error) {
158         hostport := np.RailsAPI.Listen
159         if len(hostport) > 1 && hostport[0] == ':' && strings.TrimRight(hostport[1:], "0123456789") == "" {
160                 // ":12345" => connect to indicated port on localhost
161                 hostport = "localhost" + hostport
162         } else if _, _, err := net.SplitHostPort(hostport); err == nil {
163                 // "[::1]:12345" => connect to indicated address & port
164         } else {
165                 return nil, false, err
166         }
167         proto := "http"
168         if np.RailsAPI.TLS {
169                 proto = "https"
170         }
171         url, err := url.Parse(proto + "://" + hostport)
172         return url, np.RailsAPI.Insecure, err
173 }