3147: crunch-job retries data uploads more for longer-running jobs.

3147: Add retry support to FUSE driver.

3147: FUSE driver requires a Python SDK with retry support.

I also took out some of the older log-handling code while I was at it,
since the stricter versioning makes it unnecessary.

3147: Add retry support to PySDK list_all utility.

3147: Add retry support to Python CLI tools.

3147: Add retry support to PySDK Collection objects.

This required updating the FUSE driver's SafeApi object to better
imitate a real API object, now that CollectionReader will pass it down
to the underlying KeepClient.

3147: Add retry support to PySDK StreamReader classes.

3147: Make PySDK KeepClient.get and put retry_methods.

3147: Add retry_method to the Python SDK.

This gives us a way to make retry support flexible and consistent
across SDK classes.  Any class that has retryable operations should
take a num_retries argument at initialization.  Then, the specific
methods that implement those operations should also take a num_retries
argument, which will fall back to the instance's setting by default.
This lets SDK users express their retry preferences wherever it's most
convenient for them.

3147: Fix variable name typo.

This variable was renamed in previous branch work, but this last user
of it wasn't caught until just now.

3147: PySDK StreamReader instantiates a KeepClient late.

Similarly with API client instantiation in KeepClient, this helps with
testing.  Refs #3693.

3147: Move PySDK HTTP test infrastructure to testutil.

Making this available to other test collections.

3147: PySDK tests use mock>=1.0 and easier mock side_effect.

no issue # fix failing test to use selenium driver

Updated Gemfile to pull in changes from commit:ac594f1 refs #3187

closes #3654
Merge branch '3654-combine-selections'

Merge branch 'master' into 3654-combine-selections

Bug fix: manifests with extra spaces

Extend the regular expression to match manifest_text to permit more than
a single space in manifest entries (seen in e.g. 91534558193f42a2f7f8aca872e5a78d+15723)

No issue #

3654: disable search icon collection show page rather than hide it when it is not applicable.

Merge branch 'master' into 3654-combine-selections

Merge branch '3187-start-finish-timestamps-tasks-pipelines' refs #3187

Fixed typo Y% -> %Y

3654: update tests to match the selection dropdown text changes.

Merge branch 'master' into 3654-combine-selections

3654: move the checkbox to the left of the row in collection show page. also, fixed a bug where the newly added selection dropdown shows up in the collection file chooser popup.

3187: Update the task start time when the task actually starts.

Fallout from #3036: the test for the checkbox value on acceptance of the
user agreement was expecting a keep hash, rather than an Arvados UUID.

This fixes accepting the user agreement (if one or more are present).

refs #3036

3654: add a default name to newly created combined collection

Merge branch 'master' into 3654-combine-selections

Clean up manifest whitespace in split-fastq.

The previous code was generating two spaces between the stream name
and block list, because it had the space from as_manifest() as well as
its own join.  This yielded an invalid manifest.

No issue #.

Merge branch 'master' into 3187-start-finish-timestamps-tasks-pipelines

Prevent PySDK CollectionReader from sending UUIDs to Keep.

No issue #.  I tickled this while I was working on #3147.  Ward saw
the apparent symptom come up in a Job log, so I'm pushing the fix at
his request.  I have a test prepared in my branch, along with a bunch
of test infrastructure.

3846: Improve timeout handling in PySDK KeepClient.

* Catch socket errors (including timeouts) and treat them as
  transient with regard to retry logic.
* Increase the default timeout to 5 minutes.  Given how long it can
  take to PUT 64MiB to a proxy and wait for two servers to return
  success, this seems like a reasonable default.  Future improvements
  could set different timeouts based on the request type and whether
  or not we're talking to a proxy.

Closes #3846.

3842: Keep::Manifest concatenates file information from manifest.

The previous implementation failed to consider the possibility that
file information would be spread across multiple lines of a manifest.
This would cause, e.g., the same file to be yielded many times from
each_file.

This requirement makes it impossible to return file size information
without parsing the entire manifest.  Because of that, I have reworked
the Ruby SDK API so that method names are more consistent with their
performance characteristics.  I have also added some methods to do
some basic file existence checking that do not require parsing the
whole manifest.

Closes #3842.  Refs #3720.

3187: Record started_at and finished_at for tasks and pipelines.

Merge branch 'master' into 3654-combine-selections

3654: display show icon for files only when the file suffix is one of txt, gif etc. Also, fixed a bug in summary html where the collection show was failing when finished_at is not available.

#3830: Make crunch-job's git calls more robust.

* Check git's exit status and only continue on 0.
* Log git's exit status after optional calls.
* Always log the resolved commit hash when it's found.

Hopefully this will prevent a recurrence of refs #3830, or help rule
out some possibilities if it does happen.  Tested by hand on 4xphq.

3187: Migration to add started_at and finished_at to job_tasks and pipeline_instances.

Merge branch 'master' into 3654-combine-selections

Merge branch '3453-arv-list-docker-images' closes #3453, #3472, refs #3125

3453: Rename check_project_exists to desired_project_uuid.  Now raises and
catches distinct apiclient.errors.Error, ValueError errors for project not
found or invalid uuid.

Merge branch '3586-job-priority' closes #3586

Merge branch 'master' into 3586-job-priority closes #3586

Merge branch '3644-arv-mount-projects' closes #3644

3453: Refactored arv-put to remove support for name links, correctly use
ensure_name_unique to prevent name collisions.  arv-keepdocker should now
correctly handle cases where the user provides a image hash instead of
repository/tag. Fixed tests.

3644: Update tests broken by merge

3823: bug fixes for arvados-bcbio-nextgen.py

Refs #3823

3644: Moved some common regex patterns into SDK

Merge branch 'master' into 3644-arv-mount-projects

3644: Restore 'tag' tests and add 'SharedDirectory' and 'HomeDirectory' tests.
All tests should pass now.

Merge branch '3663-collection-reader-performance'

Closes #3663.

Merge branch 'master' into 3654-combine-selections

3453: Add ensure_unique_name=True to collection create.

3654: redirection to newly created collection is now working.

Merge branch 'master' into 3453-arv-list-docker-images

Added create#ensure_unique_name to discovery document.  "Add a subproject"
button now uses "ensure_unique_name" to avoid errors when the user creates more
than one project called "New project".  refs #3822

3453: Create links and collection objects in the specified project, even if
the docker image has already been uploaded to some other project.

Merge branch 'master' into 3654-combine-selections

3654: slight update to redirect to newly created collection

3654: little cleanup around the post method

3654: use POST method to combine selections.

Updated Gemfile again with published package version.  refs #3822

Merge branch '3822-ensure-unique-names' refs #3822

Conflicts:
services/api/Gemfile
services/api/Gemfile.lock

3822: Updated Gemfile

3822: Fixed use of string instead of symbol in hash, added missing list separator.

3822: Added 'ensure_unique_name' option to #create method for API server to
choose a unique name when there is a name collision in the database.
arv-run-pipeline-instance checks to see if there is an output file with the
same name and contents, and uses 'ensure_unique_name' when creating collection.

3654: combine options is enabled when only data collections are selected in project view.

3654: add selection dropdown to collections page

3654: test update

Merge branch 'master' into 3654-combine-selections

3654: add selection dropdown to collections page

3654: add selection dropdown to collections page

3654: add selection dropdown to collection#show page

3654: add integration and funtional tests for combining collections and collection contents.

Replace all remaining references to Clinical Future with Curoverse.

no issue #

3720: Update arvados Gem versions.

Gemfiles need to be in sync with the latest commit on master.
Refs #3720.

3644: minor control block indentation fix.

3644: Changed so ctime == mtime because ctime is not creation time (arg!).
Added atime.  Tweaked timestamps behavior be a bit more useful.

Merge branch '3720-big-manifest-performance-wip'

Closes #3720, #3806.

3720: Limit Workbench file rendering for large Collections.

Rendering too many files can cause rendering to take too long, and
there's not much point because it can really strain browsers too.
Arbitrarily cap rendering at 10,000 files.

3720: Refactor manifest parsing from API server to Ruby SDK.

To date, the API server has been parsing manifests and returning
parsed information in the files attribute.  That's convenient, but
causes performance problems in large Collections.  Profiling indicates
that most of the API server's response time is spent in the
as_api_response method; rendering the same information twice really
hurts.

This commits removes the API server's need to always parse manifests,
and moves the parsing code to the Ruby SDK.  Both the API server and
Workbench use this Gem to parse manifests on an as-needed basis.
This, combined with improvements to the new Keep::Manifest class, lays
the groundwork for future performance gains.

3720: arvados-cli Gemfile refers to gemspec.

This change helps avoid loops where you have to have arvados-cli
installed to build arvados-cli.

3720: Clean up+skip Ruby SDK tests.

First I changed these to get them passing again.  With that done, I
added the skip.  We're not currently running these tests, and getting
them going the right way again (e.g., with run_test_server.py or
mocks) is out of scope for my current task.

3453: Now lists images by default if called with no parameters.  Fixed reported
timestamps on images without a 'timestamp' property.  Added 'Docker image'
prefix to default name.  Renamed variables in list_images_in_arv() to be more
friendly.

Merge branch 'master' into 3654-combine-selections

Merge branch '3710-combine-selections-bug' refs #3710

3710: Refactored code to reduce redundancy.  Use select() to get the manifest
text instead of reloading each object for performance.

3644: fuse_arvados test pass.

Remove name and description columns on jobs table introduced accidentally
(refs #3036).  Fixed workbench so tests pass.

Merge branch 'master' into 3654-combine-selections

3710: handle the scenario where files from named collections are selected

3704: Treat project filters consistently in Workbench chooser.

Before this, a chooser that was loaded on a specific project would
return empty results if the user selected a different project.  This
is because it would search for items with two different owner_uuids,
both the project selected at load time, and the project the user
selected later.  This patch fixes that by separating the project
filter from other filters, and preseeding it in the same place where
it's updated by the project selection AJAX.  Closes #3704, #3778.

3663: update test_file_reader unit test

Because StreamFileReader.read() calls are now aligned on block
boundaries, the unit test needs to take that into account when testing
the results of individual reads.

3644: Add --by-id to invocation of arv-mount in crunch-job to get the same
behavior as before.

3644: Added choose-your-own-adventure README files to the --all and --by-id
directories.  Regular expressions are now compiled once at the top for
efficiency and readability.

3710: update the combine_selected_files_into_collection method to also handle the scenarios where a collection uuid or "collection uuid/filename" is passed.

3663: StreamFileReader.read() returns just one chunk

The StreamFileReader read() call reads just a single chunk from the
input stream on each call, instead of reading as many bytes as possible.

3644: Change metafiles to .arvados#collection and .arvados#project.  Change
--by-hash to be --by-id since it works with both uuids and portable data
hashes.

Revert 2 hunks from a5819ec1e48fba90658fcf676ffc50c1f216d484, thus
un-breaking crunch-job in two important ways:

* task stdout and stderr are propagated again

* tasks can actually run because crunch-src is available in the docker
  container again

no issue #