Merge branch '10290-container-partitions' of git.curoverse.com:arvados into 10290-container-partitions

Merge branch '10410-arvbox-ruby' refs #10410

closes #10435
Merge branch '10435-cwl-output-tags'

Merge master to output-tags branch and resolve conflict

10410: Add -o Acquire::Retries and combine package installation into single layer.
Add some packaging and arvbox-related files to .gitignore.

Fix typos.

refs #10346

10293: add output and log uuids to containter_request search index.

Merge branch 'master' into 10293-container-request-output-uuid

10293: added log_uuid to container_requests

Merge branch '10346-rearrange-api-docs' closes #10346

10346: Fix formatting on container_request page.

Merge branch '10534-go-systemd-sdnotify-v14' of https://github.com/wtsi-hgi/arvados

refs #10534

9897: Logs errors encountered by block prefetch workers.

Merge branch 'master' into 10293-container-request-output-uuid

Conflicts:
services/api/app/models/container_request.rb
services/api/db/structure.sql

update signature of SdNotify for go-systemd v14

closes #10290
Merge branch '10290-container-partitions'

10290: Add scheduling_parameters map to containers and container_requests, and move partitions array out of runtime_constraints into this.

10290: update test assertions

10346: Add session establishment diagram.  Clarify role of block signatures.
Fix typo on resource pages.

Add num_tries to adding tags and tests for container API

Merge branch '10517-consistent-select' closes #10517

Fixes API server to return default columns for collections

Prior to this fix, if a request has a query param `select=`
(as opposed to just omitting `select` entirely), the API
server would return a full set of columns rather than
enforcing its own defaults.

Fixes #10517, assuming this was a bug and not a feature.

10517: Test edge cases in "deselect manifest_text by default" feature.

3486: Fix ignored "required: false" in pipeline template. refs #3486 refs #10470

10290: Add scheduling_parameters map to containers and container_requests, and move partitions array out of runtime_constraints into this.

10346: Add slides about Keep and Crunch.

10410: Build Ruby from source instead using Debian package in order to install a more recent Ruby.

10499: Warn about user guide sections that rely on crunch1.

10346: Fix cross references

10293: add output_uuid to container_request and set it during finalize.

10346: Updates from review comments.

Fix typo and modify test

10346: Document manifest format in more detail.  Document token signatures.  Add Arvados_permissions.svg

Change output_tags to an attribute instead of kwarg, modify tests

closes #10310
Merge branch '10310-crunch2-workbench'

10310: invoke index and show actions only when they are not blacklisted by the api server.

10310: Check discovery doc when deciding ArvadosBase.creatable?.

Merge branch '10460-cwl-staging-fix' refs #10460

10346: Edits from review WIP.

10460: Add check for 'dockerOutputDirectory' and raise UnsupportedError for now.

Merge branch '10467-client-disconnect' refs #10467

10460: Want to propagate size fields to output.

10467: Merge branch 'master' into 10467-client-disconnect

10460: Don't use adjustFileObjs to set secondaryFiles because it traverses secondaryFiles.

Add --output-tags to arvados-cwl-runner and tests

10467: Use context.Background() for tests and background processes.

10460: Add implied secondaryFiles based on input parameter spec.

10466: Report missing 'location' in File object as workflow error.

10460: Fix initialWorkDir file staging broken by change in visit() behavior for directories.

Merge branch '10468-blob-storage-timeouts' closes #10468

Merge branch '10460-cwl-directory-literal' closes #10460

10460: Style tweak make_output_collection

Run keep-exercise tests. No issue #

keep-exercise: limit PRNG usage to 512KiB per write. No issue #

10468: Use consts for defaults.

Package keep-exercise.

No issue #

Update keep-exercise to new SDK. No issue #

10467: Check for Go 1.7.

10467: Update keep-exercise to new SDK.

10467: Interrupt Compare operation if caller disconnects.

10467: Use ErrClientDisconnect. Convert type assertion panic to 500 error.

10467: Fix context error not propagated.

10467: Fix ctx not propagated.

10467: Fix context usage: ensure cancel always gets called.

10467: Tidy up s3 early-cancel.

10467: Use context instead of http.CloseNotifier to interrupt buffer waits.

10467: Fix panic: cannot call CloseNotify() after ServeHTTP finishes.

10467: Abort S3 and release buffer if caller disconnects during S3 PUT request.

10467: Move http request context setup out to func.

10467: Return "context done" error instead of 404 if client hangs up during GET.

10467: Add Debug flag to config.

10467: Abort S3 request and release buffer if caller disconnects while server is waiting for S3.

10468: Add RequestTimeout to Azure volume config.

10468: Use long S3 timeouts by default, instead of waiting forever.

10468: Add ConnectTimeout and ReadTimeout configs for S3 volumes.

10460: Update cwltool dependency.

Merge branch '10459-cleanup-node-dns' refs #10459

10459: Tidy up some verbose code.

10459: Remove old IP from DNS when a node changes its IP or hostname.

10460: Support for file and directory literals when constructing output
collection.  File locations in final collection reference final output
collection and not intermediate collections.

Merge branch '10461-cwl-keepdocker' refs #10461

Merge branch '9849-cwl-efficient-log-scan' refs #9849

Merge branch '9849-cwl-docker-lookup' refs #9849

10461: Remove arv-keepdocker pull from test_with_arvbox.sh.  Only install
arvados-cwl-runner in 'dev' configuration.

10461: Add test for fetching arvados_jobs image.

Check exit code before rethrowing error from catching SystemExit from
keepdocker.main.  no issue #

10346: Add storage to sidebar.  Tweak headings.

10346: Add a brief description about each resource.

Merge branch '10224-efficient-event-poll-startup' refs #10224

10224: Workaround Firefox failure to parse localized dates in metric locales.

10224: Update tests to expect event_type="delete".

10224: Choose a recent-event threshold without querying the entire event history.

10224: Change event_type to "delete" to match HTTP verb and Python SDK code.

9849: Provide stub log to be parsed.

Use --net=host when running jobs inside arvbox to work around Docker-in-Docker
networking issues. no issue #

9849: Use one regex instead of 3 when scanning log.

9849: Cache docker lookup.

Merge branch '10448-cwl-runner-disable-reuse' closes #10448

10448: Tests include enable_reuse flag and that --disable-reuse is passed to
inner cwl-runner job or container.

10448: Pass through enable_reuse flag to runner.