10586: Fix deadlock in KeepWriterThreadPool.

Previously, an unhandled exception in KeepWriterThread (including
KeepService.put()) would terminate the thread without calling
queue.task_done(), which would cause queue.join() to deadlock.

Additionally, this commit moves all of the "wait until work is needed"
logic from KeepWriterThread into KeepWriterQueue.

8460: More statistics in status.json: events in/out, reqs received, lowest client queue delay.

Update arvados-cwl-runner with compatible dependencies, refs #10583

refs #10290
Merge branch '10290-scheduling-parameters-doc'

10290: scheduling_parameters documentation

Merge branch '10484-count-clients' closes #10484

Update cwltool version with compatible dependencies, refs #10583

10535: Fix race-to-deadlock bugs in tests.test_events: use threading.Event, not threading.Condition. refs #10535

refs #10524
Merge branch '10524-crunch2-workbench'

10524: update test assertions

Merge branch 'master' into 10293-cwl-cr-output

10293: done_outputs in a try/except block

Merge branch '10583-cwl-salad-ver' refs #10583

10583: Bump versions.

10293: invoke output_callback in a try/except block

Merge branch 'master' into 10293-cwl-cr-output

closes #10524
Merge branch '10524-crunch2-workbench'

Merge branch '9897-log-block-prefetch-worker-exceptions' closes #9897

Merge branch '10473-keepstore-logrus' closes #10473

5737: Merge branch 'master' into 5737-ruby231

Merge branch '10498-arvdocker-project-uuid' refs #10498

10498: Handle project_uuid of None in arv_docker_get_image.

10383: Fixed integration tests that got broken when the resume feature was implemented.

10524: add additional test assertions to disabled_api_test

9897: Changes as per discussion in #9897.

Arvbox sets PATH, GEM_HOME and GEM_PATH in common.sh.  refs #10410

10383: Merge branch 'master' into 10383-arv-put-incremental-upload

10383: Several fixes/enhancements to arv-put:
* Added --no-cache to avoid creating/loading a cache file.
* Removed unnecessary code when writing empty ArvadosFiles.
* Use absolute path on cache index so that is not relative to the CWD and can be used from anywhere on the system.

10383: Fixed an error when using Collection.copy() to overwrite an existing ArvadosFile.

10484: Report current client count.

Merge branch '10473-keepstore-logrus' closes #10473

10473: Tune up text-format logging.

10473: Use fixed-point timestamps and more human-readable field ordering, hide "incoming request" if level<debug.

10473: Fixed-width timestamps.

10473: Log requests/responses in JSON format by default; add config option for text format.

10524: update tests to look for 'Run a process' button instead of 'Run a pipeline'

Merge branch '10484-keepstore-stats' refs #10484

10524: update workbench titles to use "processes" instead of "pipelines and processes" when pipelines are disabled.

10484: Remove unused volumeStats.

10484: Test s3 bucket stats.

10484: Tidy up stats-tracking code into a bucket proxy type.

10484: Track non-s3 errors by Go type.

10484: Track s3 errors by response code.

10484: Report volume IO stats for S3 volumes.

10484: Serve MemStats at /debug.json instead of /status.json.

Merge branch '10499-cwl-crunch2-docs' refs #10499

8460: Move logging setup to log.go, use fixed-width timestamps.

8460: Report status of outgoing queues.

8460: Add /status.json

8460: Inject permChecker from main.

8460: Fix "send to closed channel" race by using context lib to release goroutines.

8460: Accept 403 response from API as "not permitted", instead of "unexpected error".

Merge branch '10470-slurm-error'

refs #10470

10470: Recognize more slurm error messages.

Example from slurm 14.03.9:

srun: error: _server_read: fd 12 got error or unexpected eof reading header
srun: error: step_launch_notify_io_failure: aborting, io error with slurmstepd on node 0
srun: Job step aborted: Waiting up to 2 seconds for job step to finish.

Merge branch '10556-get_anonymous_user_token.rb-multiple-similar-records'

refs #10556

Merge branch '10498-register-with-chosen-api' closes #10498

10383: Unused exception removed.

10383: Tidying up internal collection management and naming.

10498: Check error message in "incompatible APIs" test.

10498: Tweak var names and help messages.

8460: Fix up logging.

Update documentation about get_anonymous_user_token.rb to prevent duplicates

refs #10556

10383: Now --update-collection is not mutually exclusive with --resume and --no-resume.
Also moved update collection setup code into the setup method.

10383: Removing unnecessary locking, as Collection class is thread safe.

8460: Reply to unparsable messages with status:400.

8460: Stop existing nginx server, if any, before starting new.

8460: Refactor "old events / other messages" mechanism to use the outgoing message queue.

Merge branch 'master' into 10293-cwl-cr-output

Conflicts:
sdk/cwl/arvados_cwl/__init__.py
sdk/cwl/arvados_cwl/arvcontainer.py

8460: Structured logging.

10293: update documentation with scheduling_parameters, log_uuid and output_uuid.

10383: Re-done of the resume and update logic:
* Eliminated the restriction to update the same collection once uploaded.
* Greatly simplified and corrected the file resuming decision making.
* Deterministic path traversing and uploading added.
* Remote collection updating is done using efficient Collection.copy() method from cached manifest.

Merge branch '10529-cwl-exception-stuck' closes #10529

8460: Merge branch 'master' into 8460-websocket-go

Merge branch 'master' into 10293-cwl-cr-output

refs #10293
Merge branch '10293-container-request-output-uuid'

Merge branch 'master' into 10293-container-request-output-uuid

10293: add scheduling_parameters to containers controller

Permit use_existing in create-and-commit container requests.  refs #10216

10498: --create-workflow and --create-template do the same thing, depending on --api choice.

Also:

* --update-workflow works for pipeline templates, too.

* --update-workflow establishes --api=jobs or --api=containers
  depending on the UUID. (If this conflicts with an explicit --api
  argument, that is an error.)

* If no --project-uuid is given, the user's UUID is not passed
  explicitly with create/update requests. The API will default to the
  user's UUID or (when updating an existing object) leaving the
  existing object's owner unchanged.

Merge branch '10293-container-request-output-uuid' into 10293-cwl-cr-output

Merge branch 'master' into 10293-cwl-cr-output

Merge branch 'master' into 10293-container-request-output-uuid

closes #10290
Merge branch '10290-container-partitions'

Merge branch 'master' into 10293-cwl-cr-output

10293: update cwl runner

10383: Using os.walk() to traverse input directories in an deterministic way.

10529: Improve handling errors raised when collecting outputs.  If state
polling thread crashes, terminate executor.

8460: Return recent events if last_log_id given.

8460: Pass tests even if websocket server sends events that do not match our filters.

10290: scheduling_parameters added to container_requests controller.

Merge branch 'master' into 10290-container-partitions

Merge branch '10290-container-partitions' of git.curoverse.com:arvados into 10290-container-partitions

8460: Retrieve recent logs and send old matching events if last_log_id given.

8460: Allow session Receive handler to queue multiple messages.

8460: Support created_at filters.

8460: Send {"status":200} messages. Bring up ws server for Python SDK tests.

8460: Log connection stats.

8460: Cache negative permission.

8460: Send selected old/new attributes with v0 events.

Merge branch '10410-arvbox-ruby' refs #10410