Merge branch 'master' into 8724-keep-block-check-script

Rename "rebuild" back to "reboot" and change "rebuild" to mean "build
--no-cache". "arvbox start" no longer fails if the container is already
running. Update docs.  no issue #

4083: crunchstat-summary imports _strptime.

Refs #4083 for rationale.
Refs #8933 where this was reported.
See also d9014288.

Merge branch '8912-node-manager-patch-nodes-wip'

Closes #8913, #8923.  (The branch name has a typo.)

8912: Node Manager search_for_now uses overridden methods.

This wasn't possible in the original implementation because of the way
we used to proxy methods to self.real.  Now that we proxy them
transparently, we can call methods on the Node Manager driver, and let
them be proxied to the underlying libcloud driver if needed.

8724: some more cleanup of tests.

Add args.ignore_docker_for_reuse=False to cwl-runner crunch script. refs #8857

Merge branch 'master' into 8724-keep-block-check-script

8724: test updates

Add --help to test_with_arvbox.sh, no issue #

Separate out Go and Python dependencies into separate directories that don't
get deleted by "reset" because they include code from downloading external
dependencies.  Add -data-manager-token to keepstore invocation for datamanager
testing.

closes #7658
Merge branch '7658-websockets-reconnect-on-close'

Merge branch 'master' into 7658-websockets-reconnect-on-close

7658: update connect error test to use stream handler to read the log file, instead of using a temp file.

Merge branch '8799-make-drained-nodes-idle' closes #8799

8799: shutdown_eligible() returns "node is draining" when in drain state.  Add comments about iterating over cloud_nodes to check for "down" nodes.  Fix tests.

Pin dockercleaner's docker-py requirement to 1.7.2.

Finishes the job started by 8680c874.  It only seems to be really
necessary on wheezy (because docker-py or its requirements abandoned
support for Python 3.2), but since we're pinning more as a general
rule, might as well make it universal.  Closes #8904, #8922.

7658: Clean up & handle subscription filters consistently across EventClient,
_EventClient and PollClient.

7658: improve the log verification in case of unexpected close.

7658: add test that verifies reconnect retry behavior

Merge branch '8904-support-python3.2'

Closes #8904.

8904: Avoid installing pip >= 8 in a Python 3.2 virtualenv.

Package crunchstat-summary.

closes #8911

Merge branch '8872-node-manager-create-search-handling-wip'

Closes #8872, #8900.

8872: Bugfix Node Manager's node search after node create failure.

search_for raises ValueError if the thing isn't found.  create_node
seems to be expecting it to return None instead.  Bring create_node in
line with search_for's documented API.

In order to get the tests to pass, I had to separate out the raw
search code from the caching, and use that in create_node.  Otherwise,
the cloud node from the "node found" test would be cached and returned
in the "node not found" test.

Merge branch 'master' into 7658-websockets-reconnect-on-close

8724: performKeepBlockCheck() returns error when any of the listed blocks are not found.

8724: test assertion improvements

Remove over-quoting from crunchrunner and certificate volume mounts.  refs #8893

8724: add keep-block-check script

8799: Nodes in "drain" state are not automatically eligible for shutdown to
avoid a race between starting a shutdown and resume_node().

Merge branch '8879-cwl-runner-job-owner-wip'

Closes #8879, #8887.

8879: Clean indentation in CWL SDK tests.

8879: cwl-runner --submit respects --project-uuid.

8799: Nodes with slurm_state are "down" are checked with sinfo and either reenabled or are valid for shutdown.

Merge branch '8810-crunch-improve-docker-loading-wip'

Closes #8810, #8888.

8810: crunch-job reports errors when checking if Docker image is loaded.

Since the check was previously in an `if !` condition, errors in it
would cause us to enter the branch.

Merge branch '8893-crunch-job-crunchrunner-quoting-wip'

Closes #8893, #8895.

8893: crunch-job doesn't pass empty strings to `docker run`.

We solve this issue by requiring $VOLUME_CRUNCHRUNNER and
$VOLUME_CERTS to contain their own quoting.  Because of that, we clear
their values first, to make sure we don't inherit values that might
break the `docker run` invocation.

Merge branch '8712-fuse-cache-reload-bug'

closes #8712

8712: Propagate return value of clear() from super method.  Test cache clearing
collections with subdirs.

7658: update EventClient.on_closed to retry on connect errors.

7658: add reconnect logic when a websocket is closed unexpectedly.

8712: Set self.collection = None when clearing the contents of a
CollectionDirectory, so that it gets properly reloaded on update().

8712: Test case that reproduces cache-spill bug.

Merge branch '8811-srun-sync-tempfail-wip'

Closes #8811, #8862.

8811: crunch-job srun_sync detects and reports SLURM tempfails.

preprocess_stderr needed updating to check for these tempfails even in
cases where the child process does not have a slotindex.

Merge branch '8816-compute-node-update-exception' close #8816

8816: Use is_cloud_exception to determine if exception is a "cloud error".  Add
test that exceptions don't crash ComputeNodeUpdateActor.

Fix package building by pinning docker-py to version 1.7.2

No issue #

Merge branch '8782-reapchildren-after-signal-wip'

Closes #8782, #8860, #8870.

8782: Remove WIFEXITED check from crunch-job reapchildren.

The intent of this check was to avoid reaping children that got
SIGSTOP.  But from the waitpid(2) man page, you must pass specific
flags for waitpid to return those children.  Without those flags,
waitpid will only return the pids of children that have terminated.

Meanwhile, WIFEXITED only returns true if the exit code indicates that
the child terminated normally.  It returns false if the child was
killed by a signal like SIGINT or SIGKILL.  This means children so
killed were not reaped by reapchildren, leading to infinite loops.

Merge branch '8857-cwl-job-reuse' closes #8857

8816: Handle cloud errors slightly differently from unrecognized errors.

8816: ComputeNodeUpdateActor._throttle_errors logs errors instead of re-throwing them.

A few more fixes for run-build-packages-python-and-ruby.sh, and a small
safeguard for run-build-packages.sh.

refs #8864

Merge branch 'master' into 8857-cwl-job-reuse

Conflicts:
sdk/cwl/arvados_cwl/__init__.py

Add build/run-build-packages-python-and-ruby.sh script to handle upload
to pypi and rubygems.

refs #8864

Merge branch '8828-which-crunchrunner' closes #8828

8828: Fix bind mount point for certificates.

8828: Move logic for checking $(which crunchrunner) into script that runs before invoking Docker on the compute node.

Build newer cwltool version.

No issue #

Merge branch '8840-lock-job-record' closes #8840

Merge branch '8654-arv-jobs-cwl-runner' closes #8654

8654: Update test because input cwl files changed.

8654: Fix versionstring().  Improve help text / comments / style tweaks.

Merge branch 'master' into 8654-arv-jobs-cwl-runner

8654: Rename tests/inp/ to test/input/

8857: Add --ignore-docker-for-reuse option to assist workflow development.

8840: Use 'with_lock' instead of 'transaction' in Job.lock method.

8654: Add missing test_submit

8654: Add comments

8654: Print uuid of uploaded docker image on stderr instead of stdout.

closes #8703
Merge branch '8703-job-components'

Merge branch 'master' into 8703-job-components

8654: Update test_with_arvbox.sh

crunchrunner crunch script selects between $JOB_PARAMETER_CRUNCHRUNNER
or /usr/local/bin/crunchrunner, refs #8827

8654: Pin pyasn1_modules to version that is compatible with pyasn1==0.1.7.

8654: Fix version string produced by arvados-cwl-runner.

Fix sdk/cwl test refs #8815

Merge branch '8815-crunchrunner-everywhere' closes #8815

Merge branch '8815-crunchrunner-everywhere' into 8654-arv-jobs-cwl-runner

Conflicts:
sdk/cwl/arvados_cwl/__init__.py

8654: Make --submit --wait the default mode.

8703: better organized tests

8815: Fix syntax errors.

8815: Now expect /usr/local/bin/crunchrunner.  Bind mount host certificates to
/etc/arvados/ca-certificates.crt

Merge branch 'master' into 8703-job-components

Build a package for crunchrunner.

refs #8815

8815: Rely on system-provided crunchrunner.  Also use arvados/jobs by default if no docker provided.

8815: Crunch-job bind mounts crunchrunner binary and certificates from host.
Updated arvbox to compile and install crunchrunner.

8654: Bump cwltool version dependency and print cwl version string in cwl-runner crunch script.

Merge branch 'master' into 8654-arv-jobs-cwl-runner

Conflicts:
docker/jobs/Dockerfile

Merge branch '8800-queue-query'

Closes #8800, #8809.

8800: Document the new queue_position implementation.

For the benefit of future readers.

Fix package build and test of the arvados-cwl-runner package for
ubuntu1204 and centos6.

refs #8671

8800: Drop queue_position support.

Bump up the iteration for the python-arvados-cwl-runner package so that
it gets rebuilt.

refs #8671

Fix a few more dependencies for the python-arvados-cwl-runner package.

refs #8671

8654: Passes 100% CWL conformance tests using running cwl-runner in a crunch job!

8654: --version reports versions for arvados-cwl-runner, arvados-python-client,
and cwltool.