Merge branch '8018-container-retry' closes #8018

Bump cwltool version for bugfix https://github.com/common-workflow-language/cwltool/pull/206
refs #10203

10078: Since we are not fetching components for pipeline instances (at least until the performance issues are resolved),
we will no longer see the running and queued jobs listed within each pipeline instance row in dashboard. Hence, update
test to look for these for a container request row instead of for a pipeline instance row.

10078: When fetching recent_processes, do not select 'components' which is not needed in this context. For very large pipelines, this will perform better.

Merge branch '10077-workbench-integration-tests' closes #10077

Add explanatory comment about FIXME

Enumerate Directory contents in output when --compute-checksum is
provided (needed to pass CWL conformance tests).  No issue #

9701: Fixed a previous test to match new flush() behaviour. Added a new one to check
for small blocks packing.

9701: Several corrections/enhancements:
* Added a 'sync' parameter on repack_small_blocks() so that blocks commits can
  be done in either way depending from where it's called.
* Allow packing small buffer blocks up to a full block on Keep.
* Replaced ArvadosFile's _closed flag with a list of its ArvadosFileWriter objects,
  so that it's used as a reference counter.
* Moved ArvadosFile flush behaviour from ArvadosFileWriter.close() method to
  ArvadosFile.remove_writer() so that it can decide whether it should commit the
  buffer block or repack it with others.

9701: Reverted the use of the optional 'flush' argument on ArvadosFileWriter.close()

10186: Add PartitionRequirement

10186: Add support for "partition" in runtime_constraints.  Add --all to squeue to ensure that it sees all paritions.

8018: Additional assertions checking when container_uuid changes/does not change.

Merge branch '9307-cwl-use-tmp-output' closes #9307 closes #9308

Merge branch 'master' into 9307-cwl-use-tmp-output

Conflicts:
sdk/cwl/tests/test_job.py

9307: Improve crunchrunner error handling.  Fix typo.

Bump schema-salad & cwltool version for cwl document validation bugfix.  no issue #

9701: Test fixes

9701: Changes on the Python SDK to allow small file packing on Collection class:
* Added optional flush parameter to ArvadosFileWriter.close().
* Added _closed attribute & related accessors to ArvadosFile to enable BlockManager to query this state.
* For every ArvadosFile close() operation, call BlockManager to search for small blocks for repacking purposes.
* Do a last repacking operation just before exiting, joining the last small blocks even if they don't meet the
  minimum size requirement.

There's some pending code cleanup, as BlockManager fiddles directly with ArvadosFile._segments lists, some locking:
issues have to be solved.

9307: Bump tests to use v1.0 and make sure that arvados_cwl.add_arv_hints() is called.

9308: Set task.keepTmpOutput: true when outputDirType is keep_output_dir.

9308: Add test for KeepTmpOutput flag.

8018: Add migration script for "container_count" field.

Merge branch '10165-cwl-outputs' closes #10165

9308: Add 'keepTmpOutput' option to crunchrunner

10165: Add --output-name option to set name of output collection.

8018: Fix state transition checks.  Add test of retry and fix other tests to
not retry.

Merge branch '9001-summary-skip-malformed-lines' closes #9001

10078: Now that the recent_collections panel includes collections from Home directory as well
(self and other users' for admin user), suppress displaying confusing '(none)' in place of a Home directory.

10078: add configuration parameter to suppress display of user notifications to improve dashboard performance

9701: Merge branch '9463-change-arvput-use-collection-class' into 9701-collection-pack-small-files-alt

10165: Add test for make_output_collection

10078: config parameter to hide / show recent_collections panel in dashboard.

10165: Pass around keep client object instead of creating new client per
Collection.

10165: Handle copying complete collection contents into subdirectory.

10078: preload collections and links during dashboard display

9956: Add systemd unit file keepstore.service

9956: Load volume config from YAML file

10165: DRY key cleanup.

10165: Add FinalOutputPathMapper.  Delete basename/size/listing from output object because that information is captured by the enclosing Collection.  Sort keys.

Merge branch '9857-cwl-acceptlist-re' refs #9857

10165: Always make an output collection when a workflow completes.

Merge branch '10032-cwl-spinup' refs #10032

10078: Restore master version

Merge branch 'master' into 10078-dashboard-perf

10032: Fix test to include --preserve-entire-environment

10032: Update schema salad and cwltool packages to get document validation optimizations.

Drill down on metrics on job submission.

10078: Update recent_collections so that the collection query it is not executed twice, once in this method and once in show_dashboard for r[:collections].each statement.

10078: Update the Node.filter so that this query is not executed three times: once for nodes.sort_by and twice in compute_node_summary for nodes.select

Fix negative Capybara assertion/matcher

Fix not present test for Capybara

Fix long wait for Capybara test

Fix row selection logic to not wait

Restore Capybara.default_max_wait_time side effect

Fix and simplify wait_for_ajax

Don't change global Capybara.default_max_wait_time
Sleep so we're not competing with thread(s) doing work

Increase timeout and allow early success on download test. No issue #

refs #9498 Fix failing workbench integration test due to containers fixture update.

Merge branch '10151-cwl-dir-listing' closes #10151

10032: Add more metrics

10151: Ensure that job_order_object is normalized and Directory listings are enumerated.

Merge branch '9848-copy-container-output' refs #9848

9848: Set expiry time on container output and log collections.

9848: Use pointer receiver for all arvadosclient.ArvadosClient methods.

This makes it possible for all methods to satisfy a single interface.

9848: Copy the output and log collections (if any) when finalizing a container request.

When reusing a container, ensure log and output are readable.

9848: group some assertions into bigger test cases.

Merge branch '9953-dockercleaner-config' closes #9953

9953: Add arvados-docker-cleaner.service to MANIFEST.in.

Fixes error during `setup.py install`:

Command "/tmp/tmp.lpB0zPHYWs/VENV3DIR/bin/python3 -u -c "import setuptools, tokenize;__file__=/tmp/pip-6gqvw70n-build/setup.py;exec(compile(getattr(tokenize, open, open)(__file__).read().replace(rn, n), __file__, exec))" install --record /tmp/pip-ljhdcczu-record/install-record.txt --single-version-externally-managed --compile --install-headers /tmp/tmp.lpB0zPHYWs/VENV3DIR/include/site/python3.4/arvados-docker-cleaner" failed with error code 1 in /tmp/pip-6gqvw70n-build/

9950: 9953: 9954: 9955: 9957: Add AssertPathExists= to unit file to avoid startup until config file exists.

9950: Fix arvados-git-httpd executable path. Update config path to /etc/arvados/git-httpd/.

9953: Update default config path.

9953: If config cannot be read/parsed, show just the error without the stack trace.

9953: Install/remove systemd unit files wherever systemd exists, even if it is not running.

9953: Update build scripts to Go 1.7.1.

9953: De-duplicate Go and Python postinst/prerm scripts.

9953: Add systemd unit file for arvados-docker-cleaner.

9953: Install python data files to /usr/share/... not /usr/data/share/...

9953: PEP-8

9953: Load config from file.

9953: Ignore non-container events (volume, network) and events with no status, instead of crashing.

Use our cached copy of phantomjs-1.9.7 instead of pulling it from https
upstream with flakey connectivity.

closes #10130

Merge branch '9990-workbench-client-timeout' closes #9990

9990: Add configs for Workbench API client timeouts.

8018: Create new container if there are retriable container requests.

Merge branch '10129-cwl-remove-listing' closes #10129

10129: Rename del_listing to trim_listing and add docstring about what it is
for.

Merge branch '9912-config-yaml' closes #9912

10129: Ensure that directory literals get preserved when trimming keep directory listings.

9912: Support YAML config files. Change default config file paths to /etc/arvados/foo/foo.yml.

Fix #10133, use "resolved" (keep reference) instead of target (filesystem
path).  I think this was a merge conflict mistake.

10129: Trim listing from Directory objects that are keep references, because
they can get very large.

8018: Add container_count field.

Merge branch '10081-update-cwl-runner'  refs #10081

10081: Fix renamed methods.

closes #9514
Merge branch '9514-only-delete-old-container-logs'

Merge branch '9988-cwl-arv-hints' closes #9988

Fix typo.

Merge branch '9950-arv-git-httpd-config' closes #9950

9950: Remove uses of environment variables.

9950: Propagate Client.Insecure config to arvadosclient library via ARVADOS_API_HOST_INSECURE env var.