17119: fix options and response type of the groups/shared and
[arvados.git] / lib / controller / federation / conn.go
1 // Copyright (C) The Arvados Authors. All rights reserved.
2 //
3 // SPDX-License-Identifier: AGPL-3.0
4
5 package federation
6
7 import (
8         "bytes"
9         "context"
10         "encoding/json"
11         "errors"
12         "fmt"
13         "net/http"
14         "net/url"
15         "regexp"
16         "strings"
17         "time"
18
19         "git.arvados.org/arvados.git/lib/config"
20         "git.arvados.org/arvados.git/lib/controller/localdb"
21         "git.arvados.org/arvados.git/lib/controller/rpc"
22         "git.arvados.org/arvados.git/sdk/go/arvados"
23         "git.arvados.org/arvados.git/sdk/go/auth"
24         "git.arvados.org/arvados.git/sdk/go/ctxlog"
25 )
26
27 type Conn struct {
28         cluster *arvados.Cluster
29         local   backend
30         remotes map[string]backend
31 }
32
33 func New(cluster *arvados.Cluster) *Conn {
34         local := localdb.NewConn(cluster)
35         remotes := map[string]backend{}
36         for id, remote := range cluster.RemoteClusters {
37                 if !remote.Proxy || id == cluster.ClusterID {
38                         continue
39                 }
40                 conn := rpc.NewConn(id, &url.URL{Scheme: remote.Scheme, Host: remote.Host}, remote.Insecure, saltedTokenProvider(local, id))
41                 // Older versions of controller rely on the Via header
42                 // to detect loops.
43                 conn.SendHeader = http.Header{"Via": {"HTTP/1.1 arvados-controller"}}
44                 remotes[id] = conn
45         }
46
47         return &Conn{
48                 cluster: cluster,
49                 local:   local,
50                 remotes: remotes,
51         }
52 }
53
54 // Return a new rpc.TokenProvider that takes the client-provided
55 // tokens from an incoming request context, determines whether they
56 // should (and can) be salted for the given remoteID, and returns the
57 // resulting tokens.
58 func saltedTokenProvider(local backend, remoteID string) rpc.TokenProvider {
59         return func(ctx context.Context) ([]string, error) {
60                 var tokens []string
61                 incoming, ok := auth.FromContext(ctx)
62                 if !ok {
63                         return nil, errors.New("no token provided")
64                 }
65                 for _, token := range incoming.Tokens {
66                         salted, err := auth.SaltToken(token, remoteID)
67                         switch err {
68                         case nil:
69                                 tokens = append(tokens, salted)
70                         case auth.ErrSalted:
71                                 tokens = append(tokens, token)
72                         case auth.ErrObsoleteToken:
73                                 ctx := auth.NewContext(ctx, &auth.Credentials{Tokens: []string{token}})
74                                 aca, err := local.APIClientAuthorizationCurrent(ctx, arvados.GetOptions{})
75                                 if errStatus(err) == http.StatusUnauthorized {
76                                         // pass through unmodified
77                                         tokens = append(tokens, token)
78                                         continue
79                                 } else if err != nil {
80                                         return nil, err
81                                 }
82                                 if strings.HasPrefix(aca.UUID, remoteID) {
83                                         // We have it cached here, but
84                                         // the token belongs to the
85                                         // remote target itself, so
86                                         // pass it through unmodified.
87                                         tokens = append(tokens, token)
88                                         continue
89                                 }
90                                 salted, err := auth.SaltToken(aca.TokenV2(), remoteID)
91                                 if err != nil {
92                                         return nil, err
93                                 }
94                                 tokens = append(tokens, salted)
95                         default:
96                                 return nil, err
97                         }
98                 }
99                 return tokens, nil
100         }
101 }
102
103 // Return suitable backend for a query about the given cluster ID
104 // ("aaaaa") or object UUID ("aaaaa-dz642-abcdefghijklmno").
105 func (conn *Conn) chooseBackend(id string) backend {
106         if len(id) == 27 {
107                 id = id[:5]
108         } else if len(id) != 5 {
109                 // PDH or bogus ID
110                 return conn.local
111         }
112         if id == conn.cluster.ClusterID {
113                 return conn.local
114         } else if be, ok := conn.remotes[id]; ok {
115                 return be
116         } else {
117                 // TODO: return an "always error" backend?
118                 return conn.local
119         }
120 }
121
122 func (conn *Conn) localOrLoginCluster() backend {
123         if conn.cluster.Login.LoginCluster != "" {
124                 return conn.chooseBackend(conn.cluster.Login.LoginCluster)
125         }
126         return conn.local
127 }
128
129 // Call fn with the local backend; then, if fn returned 404, call fn
130 // on the available remote backends (possibly concurrently) until one
131 // succeeds.
132 //
133 // The second argument to fn is the cluster ID of the remote backend,
134 // or "" for the local backend.
135 //
136 // A non-nil error means all backends failed.
137 func (conn *Conn) tryLocalThenRemotes(ctx context.Context, forwardedFor string, fn func(context.Context, string, backend) error) error {
138         if err := fn(ctx, "", conn.local); err == nil || errStatus(err) != http.StatusNotFound || forwardedFor != "" {
139                 // Note: forwardedFor != "" means this request came
140                 // from a remote cluster, so we don't take a second
141                 // hop. This avoids cycles, redundant calls to a
142                 // mutually reachable remote, and use of double-salted
143                 // tokens.
144                 return err
145         }
146
147         ctx, cancel := context.WithCancel(ctx)
148         defer cancel()
149         errchan := make(chan error, len(conn.remotes))
150         for remoteID, be := range conn.remotes {
151                 remoteID, be := remoteID, be
152                 go func() {
153                         errchan <- fn(ctx, remoteID, be)
154                 }()
155         }
156         all404 := true
157         var errs []error
158         for i := 0; i < cap(errchan); i++ {
159                 err := <-errchan
160                 if err == nil {
161                         return nil
162                 }
163                 all404 = all404 && errStatus(err) == http.StatusNotFound
164                 errs = append(errs, err)
165         }
166         if all404 {
167                 return notFoundError{}
168         }
169         return httpErrorf(http.StatusBadGateway, "errors: %v", errs)
170 }
171
172 func (conn *Conn) CollectionCreate(ctx context.Context, options arvados.CreateOptions) (arvados.Collection, error) {
173         return conn.chooseBackend(options.ClusterID).CollectionCreate(ctx, options)
174 }
175
176 func (conn *Conn) CollectionUpdate(ctx context.Context, options arvados.UpdateOptions) (arvados.Collection, error) {
177         return conn.chooseBackend(options.UUID).CollectionUpdate(ctx, options)
178 }
179
180 func rewriteManifest(mt, remoteID string) string {
181         return regexp.MustCompile(` [0-9a-f]{32}\+[^ ]*`).ReplaceAllStringFunc(mt, func(tok string) string {
182                 return strings.Replace(tok, "+A", "+R"+remoteID+"-", -1)
183         })
184 }
185
186 func (conn *Conn) ConfigGet(ctx context.Context) (json.RawMessage, error) {
187         var buf bytes.Buffer
188         err := config.ExportJSON(&buf, conn.cluster)
189         return json.RawMessage(buf.Bytes()), err
190 }
191
192 func (conn *Conn) Login(ctx context.Context, options arvados.LoginOptions) (arvados.LoginResponse, error) {
193         if id := conn.cluster.Login.LoginCluster; id != "" && id != conn.cluster.ClusterID {
194                 // defer entire login procedure to designated cluster
195                 remote, ok := conn.remotes[id]
196                 if !ok {
197                         return arvados.LoginResponse{}, fmt.Errorf("configuration problem: designated login cluster %q is not defined", id)
198                 }
199                 baseURL := remote.BaseURL()
200                 target, err := baseURL.Parse(arvados.EndpointLogin.Path)
201                 if err != nil {
202                         return arvados.LoginResponse{}, fmt.Errorf("internal error getting redirect target: %s", err)
203                 }
204                 params := url.Values{
205                         "return_to": []string{options.ReturnTo},
206                 }
207                 if options.Remote != "" {
208                         params.Set("remote", options.Remote)
209                 }
210                 target.RawQuery = params.Encode()
211                 return arvados.LoginResponse{
212                         RedirectLocation: target.String(),
213                 }, nil
214         }
215         return conn.local.Login(ctx, options)
216 }
217
218 func (conn *Conn) Logout(ctx context.Context, options arvados.LogoutOptions) (arvados.LogoutResponse, error) {
219         // If the logout request comes with an API token from a known
220         // remote cluster, redirect to that cluster's logout handler
221         // so it has an opportunity to clear sessions, expire tokens,
222         // etc. Otherwise use the local endpoint.
223         reqauth, ok := auth.FromContext(ctx)
224         if !ok || len(reqauth.Tokens) == 0 || len(reqauth.Tokens[0]) < 8 || !strings.HasPrefix(reqauth.Tokens[0], "v2/") {
225                 return conn.local.Logout(ctx, options)
226         }
227         id := reqauth.Tokens[0][3:8]
228         if id == conn.cluster.ClusterID {
229                 return conn.local.Logout(ctx, options)
230         }
231         remote, ok := conn.remotes[id]
232         if !ok {
233                 return conn.local.Logout(ctx, options)
234         }
235         baseURL := remote.BaseURL()
236         target, err := baseURL.Parse(arvados.EndpointLogout.Path)
237         if err != nil {
238                 return arvados.LogoutResponse{}, fmt.Errorf("internal error getting redirect target: %s", err)
239         }
240         target.RawQuery = url.Values{"return_to": {options.ReturnTo}}.Encode()
241         return arvados.LogoutResponse{RedirectLocation: target.String()}, nil
242 }
243
244 func (conn *Conn) CollectionGet(ctx context.Context, options arvados.GetOptions) (arvados.Collection, error) {
245         if len(options.UUID) == 27 {
246                 // UUID is really a UUID
247                 c, err := conn.chooseBackend(options.UUID).CollectionGet(ctx, options)
248                 if err == nil && options.UUID[:5] != conn.cluster.ClusterID {
249                         c.ManifestText = rewriteManifest(c.ManifestText, options.UUID[:5])
250                 }
251                 return c, err
252         }
253         // UUID is a PDH
254         first := make(chan arvados.Collection, 1)
255         err := conn.tryLocalThenRemotes(ctx, options.ForwardedFor, func(ctx context.Context, remoteID string, be backend) error {
256                 remoteOpts := options
257                 remoteOpts.ForwardedFor = conn.cluster.ClusterID + "-" + options.ForwardedFor
258                 c, err := be.CollectionGet(ctx, remoteOpts)
259                 if err != nil {
260                         return err
261                 }
262                 // options.UUID is either hash+size or
263                 // hash+size+hints; only hash+size need to
264                 // match the computed PDH.
265                 if pdh := arvados.PortableDataHash(c.ManifestText); pdh != options.UUID && !strings.HasPrefix(options.UUID, pdh+"+") {
266                         err = httpErrorf(http.StatusBadGateway, "bad portable data hash %q received from remote %q (expected %q)", pdh, remoteID, options.UUID)
267                         ctxlog.FromContext(ctx).Warn(err)
268                         return err
269                 }
270                 if remoteID != "" {
271                         c.ManifestText = rewriteManifest(c.ManifestText, remoteID)
272                 }
273                 select {
274                 case first <- c:
275                         return nil
276                 default:
277                         // lost race, return value doesn't matter
278                         return nil
279                 }
280         })
281         if err != nil {
282                 return arvados.Collection{}, err
283         }
284         return <-first, nil
285 }
286
287 func (conn *Conn) CollectionList(ctx context.Context, options arvados.ListOptions) (arvados.CollectionList, error) {
288         return conn.generated_CollectionList(ctx, options)
289 }
290
291 func (conn *Conn) CollectionProvenance(ctx context.Context, options arvados.GetOptions) (map[string]interface{}, error) {
292         return conn.chooseBackend(options.UUID).CollectionProvenance(ctx, options)
293 }
294
295 func (conn *Conn) CollectionUsedBy(ctx context.Context, options arvados.GetOptions) (map[string]interface{}, error) {
296         return conn.chooseBackend(options.UUID).CollectionUsedBy(ctx, options)
297 }
298
299 func (conn *Conn) CollectionDelete(ctx context.Context, options arvados.DeleteOptions) (arvados.Collection, error) {
300         return conn.chooseBackend(options.UUID).CollectionDelete(ctx, options)
301 }
302
303 func (conn *Conn) CollectionTrash(ctx context.Context, options arvados.DeleteOptions) (arvados.Collection, error) {
304         return conn.chooseBackend(options.UUID).CollectionTrash(ctx, options)
305 }
306
307 func (conn *Conn) CollectionUntrash(ctx context.Context, options arvados.UntrashOptions) (arvados.Collection, error) {
308         return conn.chooseBackend(options.UUID).CollectionUntrash(ctx, options)
309 }
310
311 func (conn *Conn) ContainerList(ctx context.Context, options arvados.ListOptions) (arvados.ContainerList, error) {
312         return conn.generated_ContainerList(ctx, options)
313 }
314
315 func (conn *Conn) ContainerCreate(ctx context.Context, options arvados.CreateOptions) (arvados.Container, error) {
316         return conn.chooseBackend(options.ClusterID).ContainerCreate(ctx, options)
317 }
318
319 func (conn *Conn) ContainerUpdate(ctx context.Context, options arvados.UpdateOptions) (arvados.Container, error) {
320         return conn.chooseBackend(options.UUID).ContainerUpdate(ctx, options)
321 }
322
323 func (conn *Conn) ContainerGet(ctx context.Context, options arvados.GetOptions) (arvados.Container, error) {
324         return conn.chooseBackend(options.UUID).ContainerGet(ctx, options)
325 }
326
327 func (conn *Conn) ContainerDelete(ctx context.Context, options arvados.DeleteOptions) (arvados.Container, error) {
328         return conn.chooseBackend(options.UUID).ContainerDelete(ctx, options)
329 }
330
331 func (conn *Conn) ContainerLock(ctx context.Context, options arvados.GetOptions) (arvados.Container, error) {
332         return conn.chooseBackend(options.UUID).ContainerLock(ctx, options)
333 }
334
335 func (conn *Conn) ContainerUnlock(ctx context.Context, options arvados.GetOptions) (arvados.Container, error) {
336         return conn.chooseBackend(options.UUID).ContainerUnlock(ctx, options)
337 }
338
339 func (conn *Conn) ContainerSSH(ctx context.Context, options arvados.ContainerSSHOptions) (arvados.ContainerSSHConnection, error) {
340         return conn.chooseBackend(options.UUID).ContainerSSH(ctx, options)
341 }
342
343 func (conn *Conn) ContainerRequestList(ctx context.Context, options arvados.ListOptions) (arvados.ContainerRequestList, error) {
344         return conn.generated_ContainerRequestList(ctx, options)
345 }
346
347 func (conn *Conn) ContainerRequestCreate(ctx context.Context, options arvados.CreateOptions) (arvados.ContainerRequest, error) {
348         be := conn.chooseBackend(options.ClusterID)
349         if be == conn.local {
350                 return be.ContainerRequestCreate(ctx, options)
351         }
352         if _, ok := options.Attrs["runtime_token"]; !ok {
353                 // If runtime_token is not set, create a new token
354                 aca, err := conn.local.APIClientAuthorizationCurrent(ctx, arvados.GetOptions{})
355                 if err != nil {
356                         // This should probably be StatusUnauthorized
357                         // (need to update test in
358                         // lib/controller/federation_test.go):
359                         // When RoR is out of the picture this should be:
360                         // return arvados.ContainerRequest{}, httpErrorf(http.StatusUnauthorized, "%w", err)
361                         return arvados.ContainerRequest{}, httpErrorf(http.StatusForbidden, "%s", "invalid API token")
362                 }
363                 user, err := conn.local.UserGetCurrent(ctx, arvados.GetOptions{})
364                 if err != nil {
365                         return arvados.ContainerRequest{}, err
366                 }
367                 if len(aca.Scopes) == 0 || aca.Scopes[0] != "all" {
368                         return arvados.ContainerRequest{}, httpErrorf(http.StatusForbidden, "token scope is not [all]")
369                 }
370                 if strings.HasPrefix(aca.UUID, conn.cluster.ClusterID) {
371                         // Local user, submitting to a remote cluster.
372                         // Create a new time-limited token.
373                         local, ok := conn.local.(*localdb.Conn)
374                         if !ok {
375                                 return arvados.ContainerRequest{}, httpErrorf(http.StatusInternalServerError, "bug: local backend is a %T, not a *localdb.Conn", conn.local)
376                         }
377                         aca, err = local.CreateAPIClientAuthorization(ctx, conn.cluster.SystemRootToken, rpc.UserSessionAuthInfo{UserUUID: user.UUID,
378                                 ExpiresAt: time.Now().UTC().Add(conn.cluster.Collections.BlobSigningTTL.Duration())})
379                         if err != nil {
380                                 return arvados.ContainerRequest{}, err
381                         }
382                         options.Attrs["runtime_token"] = aca.TokenV2()
383                 } else {
384                         // Remote user. Container request will use the
385                         // current token, minus the trailing portion
386                         // (optional container uuid).
387                         options.Attrs["runtime_token"] = aca.TokenV2()
388                 }
389         }
390         return be.ContainerRequestCreate(ctx, options)
391 }
392
393 func (conn *Conn) ContainerRequestUpdate(ctx context.Context, options arvados.UpdateOptions) (arvados.ContainerRequest, error) {
394         return conn.chooseBackend(options.UUID).ContainerRequestUpdate(ctx, options)
395 }
396
397 func (conn *Conn) ContainerRequestGet(ctx context.Context, options arvados.GetOptions) (arvados.ContainerRequest, error) {
398         return conn.chooseBackend(options.UUID).ContainerRequestGet(ctx, options)
399 }
400
401 func (conn *Conn) ContainerRequestDelete(ctx context.Context, options arvados.DeleteOptions) (arvados.ContainerRequest, error) {
402         return conn.chooseBackend(options.UUID).ContainerRequestDelete(ctx, options)
403 }
404
405 func (conn *Conn) GroupCreate(ctx context.Context, options arvados.CreateOptions) (arvados.Group, error) {
406         return conn.chooseBackend(options.ClusterID).GroupCreate(ctx, options)
407 }
408
409 func (conn *Conn) GroupUpdate(ctx context.Context, options arvados.UpdateOptions) (arvados.Group, error) {
410         return conn.chooseBackend(options.UUID).GroupUpdate(ctx, options)
411 }
412
413 func (conn *Conn) GroupGet(ctx context.Context, options arvados.GetOptions) (arvados.Group, error) {
414         return conn.chooseBackend(options.UUID).GroupGet(ctx, options)
415 }
416
417 func (conn *Conn) GroupList(ctx context.Context, options arvados.ListOptions) (arvados.GroupList, error) {
418         return conn.generated_GroupList(ctx, options)
419 }
420
421 func (conn *Conn) GroupContents(ctx context.Context, options arvados.ContentsOptions) (arvados.ObjectList, error) {
422         return conn.chooseBackend(options.UUID).GroupContents(ctx, options)
423 }
424
425 func (conn *Conn) GroupShared(ctx context.Context, options arvados.SharedOptions) (arvados.SharedGroupList, error) {
426         return conn.chooseBackend(options.UUID).GroupShared(ctx, options)
427 }
428
429 func (conn *Conn) GroupDelete(ctx context.Context, options arvados.DeleteOptions) (arvados.Group, error) {
430         return conn.chooseBackend(options.UUID).GroupDelete(ctx, options)
431 }
432
433 func (conn *Conn) GroupUntrash(ctx context.Context, options arvados.UntrashOptions) (arvados.Group, error) {
434         return conn.chooseBackend(options.UUID).GroupUntrash(ctx, options)
435 }
436
437 func (conn *Conn) SpecimenList(ctx context.Context, options arvados.ListOptions) (arvados.SpecimenList, error) {
438         return conn.generated_SpecimenList(ctx, options)
439 }
440
441 func (conn *Conn) SpecimenCreate(ctx context.Context, options arvados.CreateOptions) (arvados.Specimen, error) {
442         return conn.chooseBackend(options.ClusterID).SpecimenCreate(ctx, options)
443 }
444
445 func (conn *Conn) SpecimenUpdate(ctx context.Context, options arvados.UpdateOptions) (arvados.Specimen, error) {
446         return conn.chooseBackend(options.UUID).SpecimenUpdate(ctx, options)
447 }
448
449 func (conn *Conn) SpecimenGet(ctx context.Context, options arvados.GetOptions) (arvados.Specimen, error) {
450         return conn.chooseBackend(options.UUID).SpecimenGet(ctx, options)
451 }
452
453 func (conn *Conn) SpecimenDelete(ctx context.Context, options arvados.DeleteOptions) (arvados.Specimen, error) {
454         return conn.chooseBackend(options.UUID).SpecimenDelete(ctx, options)
455 }
456
457 var userAttrsCachedFromLoginCluster = map[string]bool{
458         "created_at":  true,
459         "email":       true,
460         "first_name":  true,
461         "is_active":   true,
462         "is_admin":    true,
463         "last_name":   true,
464         "modified_at": true,
465         "prefs":       true,
466         "username":    true,
467         "kind":        true,
468
469         "etag":                    false,
470         "full_name":               false,
471         "identity_url":            false,
472         "is_invited":              false,
473         "modified_by_client_uuid": false,
474         "modified_by_user_uuid":   false,
475         "owner_uuid":              false,
476         "uuid":                    false,
477         "writable_by":             false,
478 }
479
480 func (conn *Conn) batchUpdateUsers(ctx context.Context,
481         options arvados.ListOptions,
482         items []arvados.User) (err error) {
483
484         id := conn.cluster.Login.LoginCluster
485         logger := ctxlog.FromContext(ctx)
486         batchOpts := arvados.UserBatchUpdateOptions{Updates: map[string]map[string]interface{}{}}
487         for _, user := range items {
488                 if !strings.HasPrefix(user.UUID, id) {
489                         continue
490                 }
491                 logger.Debugf("cache user info for uuid %q", user.UUID)
492
493                 // If the remote cluster has null timestamps
494                 // (e.g., test server with incomplete
495                 // fixtures) use dummy timestamps (instead of
496                 // the zero time, which causes a Rails API
497                 // error "year too big to marshal: 1 UTC").
498                 if user.ModifiedAt.IsZero() {
499                         user.ModifiedAt = time.Now()
500                 }
501                 if user.CreatedAt.IsZero() {
502                         user.CreatedAt = time.Now()
503                 }
504
505                 var allFields map[string]interface{}
506                 buf, err := json.Marshal(user)
507                 if err != nil {
508                         return fmt.Errorf("error encoding user record from remote response: %s", err)
509                 }
510                 err = json.Unmarshal(buf, &allFields)
511                 if err != nil {
512                         return fmt.Errorf("error transcoding user record from remote response: %s", err)
513                 }
514                 updates := allFields
515                 if len(options.Select) > 0 {
516                         updates = map[string]interface{}{}
517                         for _, k := range options.Select {
518                                 if v, ok := allFields[k]; ok && userAttrsCachedFromLoginCluster[k] {
519                                         updates[k] = v
520                                 }
521                         }
522                 } else {
523                         for k := range updates {
524                                 if !userAttrsCachedFromLoginCluster[k] {
525                                         delete(updates, k)
526                                 }
527                         }
528                 }
529                 batchOpts.Updates[user.UUID] = updates
530         }
531         if len(batchOpts.Updates) > 0 {
532                 ctxRoot := auth.NewContext(ctx, &auth.Credentials{Tokens: []string{conn.cluster.SystemRootToken}})
533                 _, err = conn.local.UserBatchUpdate(ctxRoot, batchOpts)
534                 if err != nil {
535                         return fmt.Errorf("error updating local user records: %s", err)
536                 }
537         }
538         return nil
539 }
540
541 func (conn *Conn) UserList(ctx context.Context, options arvados.ListOptions) (arvados.UserList, error) {
542         if id := conn.cluster.Login.LoginCluster; id != "" && id != conn.cluster.ClusterID && !options.BypassFederation {
543                 resp, err := conn.chooseBackend(id).UserList(ctx, options)
544                 if err != nil {
545                         return resp, err
546                 }
547                 err = conn.batchUpdateUsers(ctx, options, resp.Items)
548                 if err != nil {
549                         return arvados.UserList{}, err
550                 }
551                 return resp, nil
552         }
553         return conn.generated_UserList(ctx, options)
554 }
555
556 func (conn *Conn) UserCreate(ctx context.Context, options arvados.CreateOptions) (arvados.User, error) {
557         return conn.chooseBackend(options.ClusterID).UserCreate(ctx, options)
558 }
559
560 func (conn *Conn) UserUpdate(ctx context.Context, options arvados.UpdateOptions) (arvados.User, error) {
561         if options.BypassFederation {
562                 return conn.local.UserUpdate(ctx, options)
563         }
564         resp, err := conn.chooseBackend(options.UUID).UserUpdate(ctx, options)
565         if err != nil {
566                 return resp, err
567         }
568         if !strings.HasPrefix(options.UUID, conn.cluster.ClusterID) {
569                 // Copy the updated user record to the local cluster
570                 err = conn.batchUpdateUsers(ctx, arvados.ListOptions{}, []arvados.User{resp})
571                 if err != nil {
572                         return arvados.User{}, err
573                 }
574         }
575         return resp, err
576 }
577
578 func (conn *Conn) UserUpdateUUID(ctx context.Context, options arvados.UpdateUUIDOptions) (arvados.User, error) {
579         return conn.local.UserUpdateUUID(ctx, options)
580 }
581
582 func (conn *Conn) UserMerge(ctx context.Context, options arvados.UserMergeOptions) (arvados.User, error) {
583         return conn.local.UserMerge(ctx, options)
584 }
585
586 func (conn *Conn) UserActivate(ctx context.Context, options arvados.UserActivateOptions) (arvados.User, error) {
587         return conn.localOrLoginCluster().UserActivate(ctx, options)
588 }
589
590 func (conn *Conn) UserSetup(ctx context.Context, options arvados.UserSetupOptions) (map[string]interface{}, error) {
591         upstream := conn.localOrLoginCluster()
592         if upstream != conn.local {
593                 // When LoginCluster is in effect, and we're setting
594                 // up a remote user, and we want to give that user
595                 // access to a local VM, we can't include the VM in
596                 // the setup call, because the remote cluster won't
597                 // recognize it.
598
599                 // Similarly, if we want to create a git repo,
600                 // it should be created on the local cluster,
601                 // not the remote one.
602
603                 upstreamOptions := options
604                 upstreamOptions.VMUUID = ""
605                 upstreamOptions.RepoName = ""
606
607                 ret, err := upstream.UserSetup(ctx, upstreamOptions)
608                 if err != nil {
609                         return ret, err
610                 }
611         }
612
613         return conn.local.UserSetup(ctx, options)
614 }
615
616 func (conn *Conn) UserUnsetup(ctx context.Context, options arvados.GetOptions) (arvados.User, error) {
617         return conn.localOrLoginCluster().UserUnsetup(ctx, options)
618 }
619
620 func (conn *Conn) UserGet(ctx context.Context, options arvados.GetOptions) (arvados.User, error) {
621         resp, err := conn.chooseBackend(options.UUID).UserGet(ctx, options)
622         if err != nil {
623                 return resp, err
624         }
625         if options.UUID != resp.UUID {
626                 return arvados.User{}, httpErrorf(http.StatusBadGateway, "Had requested %v but response was for %v", options.UUID, resp.UUID)
627         }
628         if options.UUID[:5] != conn.cluster.ClusterID {
629                 err = conn.batchUpdateUsers(ctx, arvados.ListOptions{Select: options.Select}, []arvados.User{resp})
630                 if err != nil {
631                         return arvados.User{}, err
632                 }
633         }
634         return resp, nil
635 }
636
637 func (conn *Conn) UserGetCurrent(ctx context.Context, options arvados.GetOptions) (arvados.User, error) {
638         return conn.local.UserGetCurrent(ctx, options)
639 }
640
641 func (conn *Conn) UserGetSystem(ctx context.Context, options arvados.GetOptions) (arvados.User, error) {
642         return conn.chooseBackend(options.UUID).UserGetSystem(ctx, options)
643 }
644
645 func (conn *Conn) UserDelete(ctx context.Context, options arvados.DeleteOptions) (arvados.User, error) {
646         return conn.chooseBackend(options.UUID).UserDelete(ctx, options)
647 }
648
649 func (conn *Conn) UserBatchUpdate(ctx context.Context, options arvados.UserBatchUpdateOptions) (arvados.UserList, error) {
650         return conn.local.UserBatchUpdate(ctx, options)
651 }
652
653 func (conn *Conn) UserAuthenticate(ctx context.Context, options arvados.UserAuthenticateOptions) (arvados.APIClientAuthorization, error) {
654         return conn.local.UserAuthenticate(ctx, options)
655 }
656
657 func (conn *Conn) APIClientAuthorizationCurrent(ctx context.Context, options arvados.GetOptions) (arvados.APIClientAuthorization, error) {
658         return conn.chooseBackend(options.UUID).APIClientAuthorizationCurrent(ctx, options)
659 }
660
661 type backend interface {
662         arvados.API
663         BaseURL() url.URL
664 }
665
666 type notFoundError struct{}
667
668 func (notFoundError) HTTPStatus() int { return http.StatusNotFound }
669 func (notFoundError) Error() string   { return "not found" }
670
671 func errStatus(err error) int {
672         if httpErr, ok := err.(interface{ HTTPStatus() int }); ok {
673                 return httpErr.HTTPStatus()
674         }
675         return http.StatusInternalServerError
676 }