14287: Merge branch 'master'
[arvados.git] / lib / config / deprecated.go
1 // Copyright (C) The Arvados Authors. All rights reserved.
2 //
3 // SPDX-License-Identifier: AGPL-3.0
4
5 package config
6
7 import (
8         "fmt"
9         "io/ioutil"
10         "os"
11         "strings"
12
13         "git.curoverse.com/arvados.git/sdk/go/arvados"
14         "github.com/ghodss/yaml"
15 )
16
17 type deprRequestLimits struct {
18         MaxItemsPerResponse            *int
19         MultiClusterRequestConcurrency *int
20 }
21
22 type deprCluster struct {
23         RequestLimits deprRequestLimits
24         NodeProfiles  map[string]nodeProfile
25 }
26
27 type deprecatedConfig struct {
28         Clusters map[string]deprCluster
29 }
30
31 type nodeProfile struct {
32         Controller    systemServiceInstance `json:"arvados-controller"`
33         Health        systemServiceInstance `json:"arvados-health"`
34         Keepbalance   systemServiceInstance `json:"keep-balance"`
35         Keepproxy     systemServiceInstance `json:"keepproxy"`
36         Keepstore     systemServiceInstance `json:"keepstore"`
37         Keepweb       systemServiceInstance `json:"keep-web"`
38         Nodemanager   systemServiceInstance `json:"arvados-node-manager"`
39         DispatchCloud systemServiceInstance `json:"arvados-dispatch-cloud"`
40         RailsAPI      systemServiceInstance `json:"arvados-api-server"`
41         Websocket     systemServiceInstance `json:"arvados-ws"`
42         Workbench1    systemServiceInstance `json:"arvados-workbench"`
43 }
44
45 type systemServiceInstance struct {
46         Listen   string
47         TLS      bool
48         Insecure bool
49 }
50
51 func (ldr *Loader) applyDeprecatedConfig(cfg *arvados.Config) error {
52         var dc deprecatedConfig
53         err := yaml.Unmarshal(ldr.configdata, &dc)
54         if err != nil {
55                 return err
56         }
57         hostname, err := os.Hostname()
58         if err != nil {
59                 return err
60         }
61         for id, dcluster := range dc.Clusters {
62                 cluster, ok := cfg.Clusters[id]
63                 if !ok {
64                         return fmt.Errorf("can't load legacy config %q that is not present in current config", id)
65                 }
66                 for name, np := range dcluster.NodeProfiles {
67                         if name == "*" || name == os.Getenv("ARVADOS_NODE_PROFILE") || name == hostname {
68                                 name = "localhost"
69                         } else if ldr.Logger != nil {
70                                 ldr.Logger.Warnf("overriding Clusters.%s.Services using Clusters.%s.NodeProfiles.%s (guessing %q is a hostname)", id, id, name, name)
71                         }
72                         applyDeprecatedNodeProfile(name, np.RailsAPI, &cluster.Services.RailsAPI)
73                         applyDeprecatedNodeProfile(name, np.Controller, &cluster.Services.Controller)
74                         applyDeprecatedNodeProfile(name, np.DispatchCloud, &cluster.Services.DispatchCloud)
75                 }
76                 if dst, n := &cluster.API.MaxItemsPerResponse, dcluster.RequestLimits.MaxItemsPerResponse; n != nil && *n != *dst {
77                         *dst = *n
78                 }
79                 if dst, n := &cluster.API.MaxRequestAmplification, dcluster.RequestLimits.MultiClusterRequestConcurrency; n != nil && *n != *dst {
80                         *dst = *n
81                 }
82                 cfg.Clusters[id] = cluster
83         }
84         return nil
85 }
86
87 func applyDeprecatedNodeProfile(hostname string, ssi systemServiceInstance, svc *arvados.Service) {
88         scheme := "https"
89         if !ssi.TLS {
90                 scheme = "http"
91         }
92         if svc.InternalURLs == nil {
93                 svc.InternalURLs = map[arvados.URL]arvados.ServiceInstance{}
94         }
95         host := ssi.Listen
96         if host == "" {
97                 return
98         }
99         if strings.HasPrefix(host, ":") {
100                 host = hostname + host
101         }
102         svc.InternalURLs[arvados.URL{Scheme: scheme, Host: host}] = arvados.ServiceInstance{}
103 }
104
105 const defaultKeepstoreConfigPath = "/etc/arvados/keepstore/keepstore.yml"
106
107 type oldKeepstoreConfig struct {
108         Debug *bool
109 }
110
111 // update config using values from an old-style keepstore config file.
112 func (ldr *Loader) loadOldKeepstoreConfig(cfg *arvados.Config) error {
113         path := ldr.KeepstorePath
114         if path == "" {
115                 return nil
116         }
117         buf, err := ioutil.ReadFile(path)
118         if os.IsNotExist(err) && path == defaultKeepstoreConfigPath {
119                 return nil
120         } else if err != nil {
121                 return err
122         } else {
123                 ldr.Logger.Warnf("you should remove the legacy keepstore config file (%s) after migrating all config keys to the cluster configuration file (%s)", path, ldr.Path)
124         }
125         cluster, err := cfg.GetCluster("")
126         if err != nil {
127                 return err
128         }
129
130         var oc oldKeepstoreConfig
131         err = yaml.Unmarshal(buf, &oc)
132         if err != nil {
133                 return fmt.Errorf("%s: %s", path, err)
134         }
135
136         if v := oc.Debug; v == nil {
137         } else if *v && cluster.SystemLogs.LogLevel != "debug" {
138                 cluster.SystemLogs.LogLevel = "debug"
139         } else if !*v && cluster.SystemLogs.LogLevel != "info" {
140                 cluster.SystemLogs.LogLevel = "info"
141         }
142
143         cfg.Clusters[cluster.ClusterID] = *cluster
144         return nil
145 }