Merge branch 'master' into 3408-production-datamanager

Renamed BlockToReplication BlockToDesiredReplication.
Added protocol field to servers in pull list.

openssl self cert creation failed because missing of "tmp" directory.
api server failed to start because missing "tmp/logs" and "tmp/api" ditectories

no issue #

Merge branch '6235-go-sdk-discovery' closes #6235

Merge branch '5790-copy-most-recent-docker-image-wip'

Closes #5790, #6103.

5790: Improve Docker image listing in Python SDK.

* Always fetch all relevant Docker links.
* Support finding images by image hash.
* Show image hashes when listing images by name.
* Like Docker itself, when an image has multiple names and we're not
  filtering by name, list each one.
* Better match the API server's priority logic:
  * Ignore links to collections that aren't found.
  * Links with an image_timestamp always have priority over those that
    don't, regardless of their respective created_at timestamps.

The main motivation for this change is to make sure arv-copy gets the
right Docker image when copying a pipeline template recursively.

This implementation goes through some trouble to parse timestamps out
of each Docker link only once.

Merge branch '6152-compute-node-no-arv-wip'

Closes #6152, #6256.

6152: Use Python SDK for compute node installation.

This eliminates an otherwise-needless dependency on `arv` and the
entire Ruby stack.

closes #6093
Merge branch '6093-refresh-docs'

6093: remove "Alternate way to add SSH keys" and add the "Manage account" link blurb to "Adding your keys" section itself.

Merge branch 'master' into 6093-refresh-docs

6235: Discovery() returns the requested value directly instead of a single-entry map.

bundler 1.10 brakes workbench build because

https://github.com/lucasefe/themes_for_rails/blob/master/themes_for_rails.gemspec

has a bug. And it's a NOTICE in 1.9.9 but its a FATAL in 1.10.x

this is our workaround.

no issue #

Merge branch '6146-log-squeue-lost-tasks' refs #6146

Added size to block locators, touching most of the code.
Moved BlockLocator (and associated parsing code) from sdk/go/manifest to sdk/go/blockdigest.
Added some helper methods, some for testing.
Some gofmt cleanup.

6146: Document how --steps really works. Simplify squeue output format and parsing.

Merge branch '6074-collections-index' closes #6074

Merge branch 'master' into 6093-refresh-docs

6093: Add button-override css to make any buttons added inside the documentation to appear unclickable to avoid any confusion.

6087: Fix MissingAttribute check, and change it to a debug warning for now
because it reveals too many bugs. refs #6087

6087: Fix MissingAttribute firing for new records during changes_applied. refs #6087

Merge branch '6087-collection-timing' closes #6087

6087: If attributes are accessed but not loaded due to select(), raise instead of returning nil/{}/[].

6087: Remove unneeded CollectionsController#update special case.

ArvadosBase#save now covers the general case of omitting unchanged attributes.

6087: Reset changed-attrs list after saving. Fix only-send-changed-attrs logic. Add tests.

6087: Strengthen "manifest_text is not lost in update" test.

6087: Add big-manifest tests, with some finer-grained performance numbers on stderr.

6074: Use each instead of find_each, so our order() and limit() constraints are respected.

According to http://apidock.com/rails/ActiveRecord/Batches/find_each,
both order and limit are ignored.

The existing test "max_index_database_read does not interfere with
order" had two fatal bugs that prevented it from catching the
find_each problem:

1. It didn't select the 'name' column, so the 'name' order was
   ignored. But the test passed because the name wasn't returned,
   item['name'] was nil, and... nil !~ /pattern/ is true. Both
   problems are fixed here.

   (This explains why it seemed to find 15 names starting with
   Collection_9, rather than just the 11 that exist (_9 and _90..99).)

2. It tested only that the returned results followed the requested
   order, not that the order was followed when deciding what the limit
   should be. All of the items_available were the same size, so _any_
   order would have set the limit at 15 and passed the test.

The second problem is fixed by adding a separate test.

6074: Update config docs to match new max_index_database_read behavior.

6235: Add method to get parameters from API discovery document.

6074: Never exceed the configured max_index_database_read (even by one
record) unless necessary to return one row.

Fix copy&paste error in test case.

6074: Clear any existing ActiveRecord select() before adding our own,
otherwise we'll read all the big values when we're really just trying
to predict the result size.

6074: Speed up db query by using octet_length() instead of length(). closes #6223

6087: Use HTTPClient's compression feature (instead of adding the
Content-Encoding header ourselves). Rename config knob to describe
purpose instead of implementation.

6087: Compute portable_data_hash only once during check_signatures.

6087: Use app-configured key by default for blob signing and verification.

Merge branch '6146-log-squeue-lost-tasks' refs #6146

6146: Better log message.

6146: Use new SLURM_JOB_ID env var instead of old SLURM_JOBID

6146: Improvements to "kill srun process if slurm task disappears" feature:

* Log when we notice a process is orphaned.

* Log when we decide to kill an orphaned process.

* Use `squeue --jobs $SLURM_JOBID` so slurm doesn't have to tell us
  about other jobs' tasks.

* Do not kill a process that is still reporting stderr.

* Do not check `squeue` at all if every process has reported stderr
  since the last squeue check. (In such cases, it seems safe to assume
  no children are hung/dead.)

* Use the same timer/interval (15 seconds) for both noticing and
  killing orphaned processes.

refs #6093
Merge branch '6093-refresh-docs'

6093: delete the redundant details in "alternate way to add ssh keys" section.

Merge branch 'master' into 6093-refresh-docs

closes #5930. Merge branch '5930-smalldocfix'

5930: fixed as per code review

Added string to error message to help with debugging.

Merge branch '6194-python-arvfile-large-write' closes #6194

6194: Simplify test_large_write a little bit.

Merge branch 'master' into 6093-refresh-docs

6194: Make splitting loop simpler since [n:n+KEEP_BLOCK_SIZE] returns a short
slice when there isn't KEEP_BLOCK_SIZE data.  Update test.

Changes in response to code review.

Created DataFetcher type so that we can abstract whether our data is read from remote servers or local files.
Moved code for reading from remote servers into BuildDataFetcher().
Split summary.MaybeReadData() into ShouldReadData() and ReadData().

Started paying attention to new writable flag for keep servers. Required reworking CreatePullServers somewhat.

Cleaned up code for adding pull list to new destination.
Updated tests.

Merge branch 'master' into 6194-python-arvfile-large-write

6194: Fix test.  Lots of small writes break across blocks differently than one huge
one.

6194: Fix typo in invocation of writeto() and use memoryview to avoid copying slices.

Remove non-existent migration from structure.sql. refs #3036

Update example dns_server_update_command. refs #6146

Merge branch '6146-dns-update-command' refs #6146

6146: Add dns_server_update_command. Update docs & tests for DNS update hooks.

Tell tar to read to EOF (even if it detects trailing NULs).

Avoids SIGPIPE when feeding a tarball made with tar -A.

refs #6146 refs #6094

6194: Chunk large ArvadosFile writes automatically instead of raising an error.

Merge branch '6146-ignore-tar-sigpipe' refs #6146 refs #6094

6146: Ignore SIGPIPE while feeding data to tar. Rely on close() retval instead.

In install script, log archive hash before running tar. refs #6146

Merge branch '6146-job-runtime-sanity' refs #6146

6146: Exit TEMPFAIL early (without failing the job) if worker nodes cannot run a trivial command.

This is meant to improve the way we handle a couple of edge cases.

1. A worker node doesn't get bootstrapped properly. It works well
enough to persuade nodemanager and the API server that it's alive and
ready to run jobs, but it can't actually run jobs. This means there's
a bug in the bootstrapping process -- its startup script shouldn't
tell slurm State=RESUME without checking itself -- but even so this
doesn't deserve to fail a job: it's definitely a system problem,
there's zero chance a different job would have gone any differently.

2. A worker node has a hardware problem, or it has fallen off the
network, or something like that, but slurm hasn't yet noticed and set
its state to DOWN, so slurm still uses it to satisfy crunch-dispatch's
"salloc" commands. As above, there's zero chance this could have gone
differently for any other job, so it doesn't make sense to fail the
job.

Merge branch '6146-retry-install' refs #6146

6146: Retry install (max 3 attempts) if install script fails with no error messages.

Also: if install fails, croak() instead of exit(1) so we still get a log file.

Merge branch 'master' into 6093-refresh-docs

Conflicts:
doc/user/tutorials/tutorial-submit-job.html.textile.liquid

closes #6057
Merge branch '6057-public-projects-page'

6057: few more minor tweaks

Merge branch '6141-doc-workbench-links' refs #6141

Merge branch 'master' into 6057-public-projects-page

Merge branch '6090-docker-use-local-sso' closes #6138

Add GPG key for RVM installation in the doc.

No issue #

Merge branch '6098-full-text-index' refs #6098

6098: Recreate full text indexes with leading spaces, to persuade Postgres to actually use them.

Merge branch 'master' into 6057-public-projects-page

6057: if /projects/public is accessed when anonymous config is not enabled, show 404.

Merge branch 'master' into 6093-refresh-docs

6093: one more

6093: a few more updates

6093: some more doc updates.

Merge branch '6094-install-script-sigpipe' refs #6094

6094: Propagate install script stderr+stdout to job log.

Merge branch '6095-arv-copy-preserve-object-order-wip'

Closes #6095, #6117.

6095: arv-copy preserves order of copied JSON.

This means arv-copy no longer loses the order of pipeline template
components, which makes for a nicer presentation in Workbench.

Other Python clients that would like to preserve the order of JSON
responses can use OrderedJsonModel the same way.

6093: doc updates

Merge branch '6094-install-script-sigpipe' (early part) refs #6094

Merge branch 'master' into 6057-public-projects-page

6057: add projects/public page, which lists publicly accessible projects.

6141: Remove hard-coded "https://" from "https://{{site.arvados_workbench_host}}" and require that arvados_workbench_host include the url scheme instead.

6094: Consider arvados_sdk_version (not just script_version) when
deciding there's no need to extract or install anything.

6094: Avoid SIGPIPE by consuming DATA section even when it's not needed.

6138: Added --domain to set ARVADOS_DOMAIN.  Removed useless comments in apache2_vhost that mentioned qr1hi.

Add installation instructions for compute nodes; update the installation
instructions for crunch dispatcher.

No issue #

Merge branch '6087-collection-timing' (early part) refs #6087 refs #6092

6087: Get database time only once per manifest-signing/verifying event, rather than once per locator.

Update tutorial pipeline page to match new definition.

No issue #.

6090: Docker install uses local SSO server instead of auth.curoverse.com.  Also
clean up references to dev.arvados to use @@ARVADOS_DOMAIN@@.

Update tutorial pipeline template definition.

This helps it run out of the box again.
No issue #.