doc/admin/upgrading.html.textile.liquid

   1 ---
   2 layout: default
   3 navsection: admin
   4 title: "Upgrading Arvados"
   5 ...
   6
   7 {% comment %}
   8 Copyright (C) The Arvados Authors. All rights reserved.
   9
  10 SPDX-License-Identifier: CC-BY-SA-3.0
  11 {% endcomment %}
  12
  13 What you need to know and do in order to upgrade your Arvados installation.
  14
  15 h2. General process
  16
  17 # Wait for the cluster to be idle and stop Arvados services.
  18 # Install new packages using @apt-get upgrade@ or @yum upgrade@.
  19 # Package installation scripts will perform any necessary data migrations.
  20 # Consult upgrade notes below to see if any manual configuration updates are necessary.
  21 # Restart Arvados services.
  22
  23 h2. Upgrade notes
  24
  25 Some versions introduce changes that require special attention when upgrading: e.g., there is a new service to install, or there is a change to the default configuration that you might need to override in order to preserve the old behavior.
  26
  27 {% comment %}
  28 Note to developers: Add new items at the top. Include the date, issue number, commit, and considerations/instructions for those about to upgrade.
  29
  30 TODO: extract this information based on git commit messages and generate changelogs / release notes automatically.
  31 {% endcomment %}
  32
  33 h3. 2018-04-05: v1.1.4 regression in arvados-cwl-runner for workflows that rely on implicit discovery of secondaryFiles
  34
  35 h4. Secondary files missing from toplevel workflow inputs
  36
  37 If a workflow input does not declare "secondaryFiles" corresponding to the "secondaryFiles" of workflow steps which use the input, the workflow would inconsistently succeed or fail depending on whether the input values were specified as local files or referenced an existing collection (and whether the existing collection contained the secondary files or not).  To ensure consistent behavior, the workflow is now required to declare in the top level workflow inputs any secondaryFiles that are expected by workflow steps.
  38
  39 As an example, the following workflow will fail because the @toplevel_input@ does not declare the secondaryFiles that will be expected by @step_input@:
  40
  41 <pre>
  42 class: Workflow
  43 cwlVersion: v1.0
  44 inputs:
  45   toplevel_input: File
  46 outputs: []
  47 steps:
  48   step1:
  49     in:
  50       step_input: toplevel_input
  51     out: []
  52     run:
  53       id: sub
  54       class: CommandLineTool
  55       inputs:
  56         step_input:
  57           type: File
  58           secondaryFiles:
  59             - .idx
  60       outputs: []
  61       baseCommand: echo
  62 </pre>
  63
  64 To fix this, add the appropriate @secondaryFiles@ section to @toplevel_input@
  65
  66 <pre>
  67 class: Workflow
  68 cwlVersion: v1.0
  69 inputs:
  70   toplevel_input:
  71     type: File
  72     secondaryFiles:
  73       - .idx
  74 outputs: []
  75 steps:
  76   step1:
  77     in:
  78       step_input: toplevel_input
  79     out: []
  80     run:
  81       id: sub
  82       class: CommandLineTool
  83       inputs:
  84         step_input:
  85           type: File
  86           secondaryFiles:
  87             - .idx
  88       outputs: []
  89       baseCommand: echo
  90 </pre>
  91
  92 h4. Secondary files on default file inputs
  93
  94 Due to a bug in Arvados v1.1.4, @File@ inputs that have default values and also expect @secondaryFiles@ and will fail to upload default secondaryFiles.  As an example, the following case will fail:
  95
  96 <pre>
  97 class: CommandLineTool
  98 inputs:
  99   step_input:
 100     type: File
 101     secondaryFiles:
 102       - .idx
 103     default:
 104       class: File
 105       location: hello.txt
 106 outputs: []
 107 baseCommand: echo
 108 </pre>
 109
 110 To fix this, manually upload the primary and secondary files to keep and explicitly declare @secondaryFiles@ on the default primary file:
 111
 112 <pre>
 113 class: CommandLineTool
 114 inputs:
 115   step_input:
 116     type: File
 117     secondaryFiles:
 118       - .idx
 119     default:
 120       class: File
 121       location: keep:4d8a70b1e63b2aad6984e40e338e2373+69/hello.txt
 122       secondaryFiles:
 123        - class: File
 124          location: keep:4d8a70b1e63b2aad6984e40e338e2373+69/hello.txt.idx
 125 outputs: []
 126 baseCommand: echo
 127 </pre>
 128
 129 This bug will be fixed in an upcoming release of Arvados.
 130
 131 h3. 2017-12-08: #11908 commit:8f987a9271 now requires minimum of Postgres 9.4 (previously 9.3)
 132 * Debian 8 (pg 9.4) and Debian 9 (pg 9.6) do not require an upgrade
 133 * Ubuntu 16.04 (pg 9.5) does not require an upgrade
 134 * Ubuntu 14.04 (pg 9.3) requires upgrade to Postgres 9.4: https://www.postgresql.org/download/linux/ubuntu/
 135 * CentOS 7 and RHEL7 (pg 9.2) require upgrade to Postgres 9.4. It is necessary to migrate of the contents of your database: https://www.postgresql.org/docs/9.0/static/migration.html
 136 *# Create a database backup using @pg_dump@
 137 *# Install the @rh-postgresql94@ backport package from either Software Collections: http://doc.arvados.org/install/install-postgresql.html or the Postgres developers: https://www.postgresql.org/download/linux/redhat/
 138 *# Restore from the backup using @psql@
 139
 140 h3. 2017-09-25: #12032 commit:68bdf4cbb now requires minimum of Postgres 9.3 (previously 9.1)
 141 * Debian 8 (pg 9.4) and Debian 9 (pg 9.6) do not require an upgrade
 142 * Ubuntu 16.04 (pg 9.5) does not require an upgrade
 143 * Ubuntu 14.04 (pg 9.3) is compatible, however upgrading to Postgres 9.4 is recommended: https://www.postgresql.org/download/linux/ubuntu/
 144 * CentOS 7 and RHEL7 (pg 9.2) should upgrade to Postgres 9.4. It is necessary to migrate of the contents of your database: https://www.postgresql.org/docs/9.0/static/migration.html
 145 *# Create a database backup using @pg_dump@
 146 *# Install the @rh-postgresql94@ backport package from either Software Collections: http://doc.arvados.org/install/install-postgresql.html or the Postgres developers: https://www.postgresql.org/download/linux/redhat/
 147 *# Restore from the backup using @psql@
 148
 149 h3. 2017-06-30: #11807 commit:55aafbb converts old "jobs" database records from YAML to JSON, making the upgrade process slower than usual.
 150 * The migration can take some time if your database contains a substantial number of YAML-serialized rows (i.e., you installed Arvados before March 3, 2017 commit:660a614 and used the jobs/pipelines APIs). Otherwise, the upgrade will be no slower than usual.
 151 * The conversion runs as a database migration, i.e., during the deb/rpm package upgrade process, while your API server is unavailable.
 152 * Expect it to take about 1 minute per 20K jobs that have ever been created/run.
 153
 154 h3. 2017-06-05: #9005 commit:cb230b0 reduces service discovery overhead in keep-web requests.
 155 * When upgrading keep-web _or keepproxy_ to/past this version, make sure to update API server as well. Otherwise, a bad token in a request can cause keep-web to fail future requests until either keep-web restarts or API server gets upgraded.
 156
 157 h3. 2017-04-12: #11349 commit:2c094e2 adds a "management" http server to nodemanager.
 158 * To enable it, add to your configuration file: <pre>[Manage]
 159   address = 127.0.0.1
 160   port = 8989</pre> (see example configuration files in source:services/nodemanager/doc or https://doc.arvados.org/install/install-nodemanager.html for more info)
 161 * The server responds to @http://{address}:{port}/status.json@ with a summary of how many nodes are in each state (booting, busy, shutdown, etc.)
 162
 163 h3. 2017-03-23: #10766 commit:e8cc0d7 replaces puma with arvados-ws as the recommended websocket server.
 164 * See http://doc.arvados.org/install/install-ws.html for install/upgrade instructions.
 165 * Remove the old puma server after the upgrade is complete. Example, with runit: <pre>
 166 $ sudo sv down /etc/sv/puma
 167 $ sudo rm -r /etc/sv/puma
 168 </pre> Example, with systemd: <pre>
 169 $ systemctl disable puma
 170 $ systemctl stop puma
 171 </pre>
 172
 173 h3. 2017-03-06: #11168 commit:660a614 uses JSON instead of YAML to encode hashes and arrays in the database.
 174 * Aside from a slight performance improvement, this should have no externally visible effect.
 175 * Downgrading past this version is not supported, and is likely to cause errors. If this happens, the solution is to upgrade past this version.
 176 * After upgrading, make sure to restart puma and crunch-dispatch-* processes.
 177
 178 h3. 2017-02-03: #10969 commit:74a9dec introduces a Docker image format compatibility check: the @arv keep docker@ command prevents users from inadvertently saving docker images that compute nodes won't be able to run.
 179 * If your compute nodes run a version of *docker older than 1.10* you must override the default by adding to your API server configuration (@/etc/arvados/api/application.yml@): <pre><code class="yaml">docker_image_formats: ["v1"]</code></pre>
 180 * Refer to the comments above @docker_image_formats@ in @/var/www/arvados-api/current/config/application.default.yml@ or source:services/api/config/application.default.yml or issue #10969 for more detail.
 181 * *NOTE:* This does *not* include any support for migrating existing Docker images from v1 to v2 format. This will come later: for now, sites running Docker 1.9 or earlier should still *avoid upgrading Docker further than 1.9.*
 182
 183 h3. 2016-09-27: several Debian and RPM packages -- keep-balance (commit:d9eec0b), keep-web (commit:3399e63), keepproxy (commit:6de67b6), and arvados-git-httpd (commit:9e27ddf) -- now enable their respective components using systemd. These components prefer YAML configuration files over command line flags (commit:3bbe1cd).
 184 * On Debian-based systems using systemd, services are enabled automatically when packages are installed.
 185 * On RedHat-based systems using systemd, unit files are installed but services must be enabled explicitly: e.g., <code>"sudo systemctl enable keep-web; sudo systemctl start keep-web"</code>.
 186 * The new systemd-supervised services will not start up successfully until configuration files are installed in /etc/arvados/: e.g., <code>"Sep 26 18:23:55 62751f5bb946 keep-web[74]: 2016/09/26 18:23:55 open /etc/arvados/keep-web/keep-web.yml: no such file or directory"</code>
 187 * To migrate from runit to systemd after installing the new packages, we recommend the following procedure:
 188 *# Bring down the runit service: "sv down /etc/sv/keep-web"
 189 *# Create a JSON configuration file (e.g., /etc/arvados/keep-web/keep-web.yml -- see "keep-web -help")
 190 *# Ensure the service is running correctly under systemd: "systemctl status keep-web" / "journalctl -u keep-web"
 191 *# Remove the runit service so it doesn't start at next boot
 192 * Affected services:
 193 ** keep-balance - /etc/arvados/keep-balance/keep-balance.yml
 194 ** keep-web - /etc/arvados/keep-web/keep-web.yml
 195 ** keepproxy - /etc/arvados/keepproxy/keepproxy.yml
 196 ** arvados-git-httpd - /etc/arvados/arv-git-httpd/arv-git-httpd.yml
 197
 198 h3. 2016-05-31: commit:ae72b172c8 and commit:3aae316c25 install Python modules and scripts to different locations on the filesystem.
 199 * Previous packages installed these files to the distribution's preferred path under @/usr/local@ (or the equivalent location in a Software Collection).  Now they get installed to a path under @/usr@.  This improves compatibility with other Python packages provided by the distribution.  See #9242 for more background.
 200 * If you simply import Python modules from scripts, or call Python tools relying on $PATH, you don't need to make any changes.  If you have hardcoded full paths to some of these files (e.g., in symbolic links or configuration files), you will need to update those paths after this upgrade.
 201
 202 h3. 2016-04-25: commit:eebcb5e requires the crunchrunner package to be installed on compute nodes and shell nodes in order to run CWL workflows.
 203 * On each Debian-based compute node and shell node, run: @sudo apt-get install crunchrunner@
 204 * On each Red Hat-based compute node and shell node, run: @sudo yum install crunchrunner@
 205
 206 h3. 2016-04-21: commit:3c88abd changes the Keep permission signature algorithm.
 207 * All software components that generate signatures must be upgraded together. These are: keepstore, API server, keep-block-check, and keep-rsync. For example, if keepstore < 0.1.20160421183420 but API server >= 0.1.20160421183420, clients will not be able to read or write data in Keep.
 208 * Jobs and client operations that are in progress during the upgrade (including arv-put's "resume cache") will fail.
 209
 210 h3. 2015-01-05: commit:e1276d6e disables Workbench's "Getting Started" popup by default.
 211 * If you want new users to continue seeing this popup, set @enable_getting_started_popup: true@ in Workbench's @application.yml@ configuration.
 212
 213 h3. 2015-12-03: commit:5590c9ac makes a Keep-backed writable scratch directory available in crunch jobs (see #7751)
 214 * All compute nodes must be upgraded to arvados-fuse >= 0.1.2015112518060 because crunch-job uses some new arv-mount flags (--mount-tmp, --mount-by-pdh) introduced in merge commit:346a558
 215 * Jobs will fail if the API server (in particular crunch-job from the arvados-cli gem) is upgraded without upgrading arvados-fuse on compute nodes.
 216
 217 h3. 2015-11-11: commit:1e2ace5 changes recommended config for keep-web (see #5824)
 218 * proxy/dns/ssl config should be updated to route "https://download.uuid_prefix.arvadosapi.com/" requests to keep-web (alongside the existing "collections" routing)
 219 * keep-web command line adds @-attachment-only-host download.uuid_prefix.arvadosapi.com@
 220 * Workbench config adds @keep_web_download_url@
 221 * More info on the (still beta/non-TOC-linked) "keep-web doc page":http://doc.arvados.org/install/install-keep-web.html
 222
 223 h3. 2015-11-04: commit:1d1c6de removes stopped containers (see #7444)
 224 * arvados-docker-cleaner removes _all_ docker containers as soon as they exit, effectively making @docker run@ default to @--rm@. If you run arvados-docker-cleaner on a host that does anything other than run crunch-jobs, and you still want to be able to use @docker start@, read the "new doc page":http://doc.arvados.org/install/install-compute-node.html to learn how to turn this off before upgrading.
 225
 226 h3. 2015-11-04: commit:21006cf adds a keep-web service (see #5824)
 227 * Nothing relies on it yet, but early adopters can install it now by following http://doc.arvados.org/install/install-keep-web.html (it is not yet linked in the TOC).