238efe86844ae2bdb130ca02de920dc804698fdd
[arvados.git] / tools / salt-install / installer.sh
1 #!/bin/bash
2
3 # Copyright (C) The Arvados Authors. All rights reserved.
4 #
5 # SPDX-License-Identifier: CC-BY-SA-3.0
6
7 #
8 # installer.sh
9 #
10 # Helps manage the configuration in a git repository, and then deploy
11 # nodes by pushing a copy of the git repository to each node and
12 # running the provision script to do the actual installation and
13 # configuration.
14 #
15
16 set -eu
17
18 # The parameter file
19 declare CONFIG_FILE=local.params
20
21 # The salt template directory
22 declare CONFIG_DIR=local_config_dir
23
24 # The 5-character Arvados cluster id
25 # This will be populated by loadconfig()
26 declare CLUSTER
27
28 # The parent domain (not including the cluster id)
29 # This will be populated by loadconfig()
30 declare DOMAIN
31
32 # A bash associative array listing each node and mapping to the roles
33 # that should be provisioned on those nodes.
34 # This will be populated by loadconfig()
35 declare -A NODES
36
37 # The ssh user we'll use
38 # This will be populated by loadconfig()
39 declare DEPLOY_USER
40
41 # The git repository that we'll push to on all the nodes
42 # This will be populated by loadconfig()
43 declare GITTARGET
44
45 sync() {
46     local NODE=$1
47     local BRANCH=$2
48
49     # Synchronizes the configuration by creating a git repository on
50     # each node, pushing our branch, and updating the checkout.
51
52     if [[ "$NODE" != localhost ]] ; then
53         if ! ssh $NODE test -d ${GITTARGET}.git ; then
54
55             # Initialize the git repository (1st time case).  We're
56             # actually going to make two repositories here because git
57             # will complain if you try to push to a repository with a
58             # checkout. So we're going to create a "bare" repository
59             # and then clone a regular repository (with a checkout)
60             # from that.
61
62             ssh $NODE git init --bare ${GITTARGET}.git
63             if ! git remote add $NODE $DEPLOY_USER@$NODE:${GITTARGET}.git ; then
64                 git remote set-url $NODE $DEPLOY_USER@$NODE:${GITTARGET}.git
65             fi
66             git push $NODE $BRANCH
67             ssh $NODE git clone ${GITTARGET}.git ${GITTARGET}
68         fi
69
70         # The update case.
71         #
72         # Push to the bare repository on the remote node, then in the
73         # remote node repository with the checkout, pull the branch
74         # from the bare repository.
75
76         git push $NODE $BRANCH
77         ssh $NODE "git -C ${GITTARGET} checkout ${BRANCH} && git -C ${GITTARGET} pull"
78     fi
79 }
80
81 deploynode() {
82     local NODE=$1
83     local ROLES=$2
84
85     # Deploy a node.  This runs the provision script on the node, with
86     # the appropriate roles.
87
88     if [[ -z "$ROLES" ]] ; then
89         echo "No roles declared for '$NODE' in ${CONFIG_FILE}"
90         exit 1
91     fi
92
93     if [[ "$NODE" = localhost ]] ; then
94         sudo ./provision.sh --config ${CONFIG_FILE} --roles ${ROLES}
95     else
96         ssh $DEPLOY_USER@$NODE "cd ${GITTARGET} && sudo ./provision.sh --config ${CONFIG_FILE} --roles ${ROLES}"
97     fi
98 }
99
100 loadconfig() {
101     if [[ ! -s $CONFIG_FILE ]] ; then
102         echo "Must be run from initialized setup dir, maybe you need to 'initialize' first?"
103     fi
104     source ${CONFIG_FILE}
105     GITTARGET=arvados-deploy-config-${CLUSTER}
106 }
107
108 subcmd="$1"
109 if [[ -n "$subcmd" ]] ; then
110     shift
111 fi
112 case "$subcmd" in
113     initialize)
114         if [[ ! -f provision.sh ]] ; then
115             echo "Must be run from arvados/tools/salt-install"
116             exit
117         fi
118
119         SETUPDIR=$1
120         PARAMS=$2
121         SLS=$3
122
123         err=
124         if [[ -z "$PARAMS" || ! -f local.params.example.$PARAMS ]] ; then
125             echo "Not found: local.params.example.$PARAMS"
126             echo "Expected one of multiple_hosts, single_host_multiple_hostnames, single_host_single_hostname"
127             err=1
128         fi
129
130         if [[ -z "$SLS" || ! -d config_examples/$SLS ]] ; then
131             echo "Not found: config_examples/$SLS"
132             echo "Expected one of multi_host/aws, single_host/multiple_hostnames, single_host/single_hostname"
133             err=1
134         fi
135
136         if [[ -z "$SETUPDIR" || -z "$PARAMS" || -z "$SLS" ]]; then
137             echo "installer.sh <setup dir to initialize> <params template> <config template>"
138             err=1
139         fi
140
141         if [[ -n "$err" ]] ; then
142             exit 1
143         fi
144
145         echo "Initializing $SETUPDIR"
146         git init $SETUPDIR
147         cp -r *.sh tests $SETUPDIR
148
149         cp local.params.example.$PARAMS $SETUPDIR/${CONFIG_FILE}
150         cp -r config_examples/$SLS $SETUPDIR/${CONFIG_DIR}
151
152         cd $SETUPDIR
153         git add *.sh ${CONFIG_FILE} ${CONFIG_DIR} tests
154         git commit -m"initial commit"
155
156         echo "setup directory initialized, now go to $SETUPDIR, edit '${CONFIG_FILE}' and '${CONFIG_DIR}' as needed, then run 'installer.sh deploy'"
157         ;;
158     deploy)
159         NODE=$1
160
161         loadconfig
162
163         if grep -rni 'fixme' ${CONFIG_FILE} ${CONFIG_DIR} ; then
164             echo
165             echo "Some parameters still need to be updated.  Please fix them and then re-run deploy."
166             exit 1
167         fi
168
169         BRANCH=$(git branch --show-current)
170
171         set -x
172
173         git add -A
174         if ! git diff --cached --exit-code ; then
175             git commit -m"prepare for deploy"
176         fi
177
178         if [[ -z "$NODE" ]]; then
179             for NODE in "${!NODES[@]}"
180             do
181                 # First, push the git repo to each node.  This also
182                 # confirms that we have git and can log into each
183                 # node.
184                 sync $NODE $BRANCH
185             done
186
187             for NODE in "${!NODES[@]}"
188             do
189                 # Do 'database' role first,
190                 if [[ "${NODES[$NODE]}" =~ database ]] ; then
191                     deploynode $NODE ${NODES[$NODE]}
192                     unset NODES[$NODE]
193                 fi
194             done
195
196             for NODE in "${!NODES[@]}"
197             do
198                 # then  'api' or 'controller' roles
199                 if [[ "${NODES[$NODE]}" =~ (api|controller) ]] ; then
200                     deploynode $NODE ${NODES[$NODE]}
201                     unset NODES[$NODE]
202                 fi
203             done
204
205             for NODE in "${!NODES[@]}"
206             do
207                 # Everything else (we removed the nodes that we
208                 # already deployed from the list)
209                 deploynode $NODE ${NODES[$NODE]}
210             done
211         else
212             # Just deploy the node that was supplied on the command line.
213             sync $NODE $BRANCH
214             deploynode $NODE
215         fi
216
217         ;;
218     diagnostics)
219         loadconfig
220
221         declare LOCATION=$1
222
223         if ! which arvados-client ; then
224             echo "arvados-client not found, install 'arvados-client' package with 'apt-get' or 'yum'"
225             exit 1
226         fi
227
228         if [[ -z "$LOCATION" ]] ; then
229             echo "Need to provide '-internal-client' or '-external-client'"
230             echo
231             echo "-internal-client    You are running this on the same private network as the Arvados cluster (e.g. on one of the Arvados nodes)"
232             echo "-external-client    You are running this outside the private network of the Arvados cluster (e.g. your workstation)"
233             exit 1
234         fi
235
236         export ARVADOS_API_HOST="${CLUSTER}.${DOMAIN}"
237         export ARVADOS_API_TOKEN="$SYSTEM_ROOT_TOKEN"
238
239         arvados-client diagnostics $LOCATION
240         ;;
241     *)
242         echo "Arvados installer"
243         echo ""
244         echo "initialize   initialize the setup directory for configuration"
245         echo "deploy       deploy the configuration from the setup directory"
246         echo "diagnostics  check your install using diagnostics"
247         ;;
248 esac