3550: Remove extraneous "to" in usage message.

3411: set default collection expiration policy

* Added default_scope to Collections restricting them to collections that
  have not yet expired

* Added a default_trash_lifetime setting in application.default.yml,
  exposed in the discovery doc setting 'defaultTrashLifetime' (default:
  2 weeks)

* Added test fixtures to exercise fetching expired collections and
  collections that expire in the future.

3878: Fix block cache sharing across threads so arv-mount uses a bounded amount
of memory to store block.  Also fixes bug in cache management code and cleans
some exception handler error reporting.

Merge branch 'master' into 2761-diagnostic-suite

closes #2875
Merge branch '2875-pipeline-description'

2875: minor text update

2875: collection description is now textile and also the display is updated.

2875: remove junk migration lines

3877: Fix memory leak after "log truncated" decision. Clean up code.

3705: update for code review

* Changed the type of the NextItem channel from *list.Element to
  interface{} (i.e. a list.Element.Value)
* Better comments
* Cleaner testing framework
* TestBlockWorkListReaderBlocks to exercise the case where readers block
  when the list is exhausted, and resume when new data is supplied.

3705: describe BlockWorkList flow more explicitly

Updated file comments to describe the overall data flow for a
BlockWorkList manager and worker more explicitly.

3550: Update docs to match new flag name. Add note about job re-use.

Merge branch 'master' into 2761-diagnostic-suite

Conflicts:
apps/workbench/config/application.default.yml

no issue # fix failing test to use selenium driver

2875: integration tests to verify description on pipeline templates, instances, and jobs.

3550: Merge branch 'master' into 3550-local-pipeline

3550: Clarify help message, mention that there are limitations.

Updated Gemfile to pull in changes from commit:ac594f1 refs #3187

2875: render template description as textile attribte in show recent page

2875: add description option

2875: add initial description to pipeline instance when created using arv-run-pipeline-instance script

Merge branch 'master' into 2875-pipeline-description

closes #3654
Merge branch '3654-combine-selections'

Merge branch 'master' into 3654-combine-selections

2875: initial description on pipeline instance when the template has no name.

Merge branch 'master' into 2875-pipeline-description

2875: set initial description on the new pipeline instance created by running a template.

Bug fix: manifests with extra spaces

Extend the regular expression to match manifest_text to permit more than
a single space in manifest entries (seen in e.g. 91534558193f42a2f7f8aca872e5a78d+15723)

No issue #

3654: disable search icon collection show page rather than hide it when it is not applicable.

Merge branch 'master' into 3654-combine-selections

Merge branch 'master' into 2875-pipeline-description

Conflicts:
services/api/app/models/pipeline_instance.rb
services/api/db/structure.sql

2875: add new partial to display name and description.

3605: Provide "info" field to all requesters.  Filters out any keys with text
"secret" to non-admin users.  Also fix fiddlesticks on workbench viewing
details for node.

Merge branch '3187-start-finish-timestamps-tasks-pipelines' refs #3187

Fixed typo Y% -> %Y

3654: update tests to match the selection dropdown text changes.

2875: add description to jobs and pipeline_instances.

Included included file.

Moved code to seperate file for syntax coloring.
Switched to using arv.List instead of arv.Call.

3338: Tests that the fixture collection count for a project matches what is displayed in the tab

3338: vital action missing from previous commit

3338: System in place that allows for item counts to be displayed next to tab titles via AJAX.
(Currently does not refresh itself after activities such as adding or removing items, but this is now eminently possible.)

Merge branch 'master' into 3654-combine-selections

3654: move the checkbox to the left of the row in collection show page. also, fixed a bug where the newly added selection dropdown shows up in the collection file chooser popup.

3187: Update the task start time when the task actually starts.

Fallout from #3036: the test for the checkbox value on acceptance of the
user agreement was expecting a keep hash, rather than an Arvados UUID.

This fixes accepting the user agreement (if one or more are present).

refs #3036

3654: add a default name to newly created combined collection

3705: replace pullmgr with a BlockWorkList

Merge branch 'master' into 3654-combine-selections

Clean up manifest whitespace in split-fastq.

The previous code was generating two spaces between the stream name
and block list, because it had the space from as_manifest() as well as
its own join.  This yielded an invalid manifest.

No issue #.

2761: update comment

2761: input selection revisited

3661: tentative implementation of Capybara "best practice" of using that class's reset_sessions! in the teardown

3661: Add a new test that ensures that the new "Copy to project" button works for collections

Merge branch 'master' into 3187-start-finish-timestamps-tasks-pipelines

Merge branch 'master' into 2761-diagnostic-suite

2761: file path needs lookup in prevew panel

3705: add BlockWorkList and unit tests

Prevent PySDK CollectionReader from sending UUIDs to Keep.

No issue #.  I tickled this while I was working on #3147.  Ward saw
the apparent symptom come up in a Job log, so I'm pushing the fix at
his request.  I have a test prepared in my branch, along with a bunch
of test infrastructure.

2761: test in staging.

Merge branch 'master' into 2761-diagnostic-suite

2761: wait for the pipeline run to complete or until wait time exceeds.

3846: Improve timeout handling in PySDK KeepClient.

* Catch socket errors (including timeouts) and treat them as
  transient with regard to retry logic.
* Increase the default timeout to 5 minutes.  Given how long it can
  take to PUT 64MiB to a proxy and wait for two servers to return
  success, this seems like a reasonable default.  Future improvements
  could set different timeouts based on the request type and whether
  or not we're talking to a proxy.

Closes #3846.

3661: make existing tests pass

Merge branch 'master' into 2761-diagnostic-suite

2761: test updates to be able to handle multiple inputs

3661: Added buttons for Copy and Move to the general #show page, showing them if the model class #goes_in_projects?

3842: Keep::Manifest concatenates file information from manifest.

The previous implementation failed to consider the possibility that
file information would be spread across multiple lines of a manifest.
This would cause, e.g., the same file to be yielded many times from
each_file.

This requirement makes it impossible to return file size information
without parsing the entire manifest.  Because of that, I have reworked
the Ruby SDK API so that method names are more consistent with their
performance characteristics.  I have also added some methods to do
some basic file existence checking that do not require parsing the
whole manifest.

Closes #3842.  Refs #3720.

2761: load inputs dynamically

2761: diagnostics testing config in application.yml

3187: Record started_at and finished_at for tasks and pipelines.

2761: use application.yml to configure diagnostics testing

Merge branch 'master' into 2761-diagnostic-suite

Merge branch 'master' into 3654-combine-selections

3654: display show icon for files only when the file suffix is one of txt, gif etc. Also, fixed a bug in summary html where the collection show was failing when finished_at is not available.

#3830: Make crunch-job's git calls more robust.

* Check git's exit status and only continue on 0.
* Log git's exit status after optional calls.
* Always log the resolved commit hash when it's found.

Hopefully this will prevent a recurrence of refs #3830, or help rule
out some possibilities if it does happen.  Tested by hand on 4xphq.

3187: Migration to add started_at and finished_at to job_tasks and pipeline_instances.

Merge branch 'master' into 3654-combine-selections

Merge branch 'master' into 2761-diagnostic-suite

2761: diagnostics testing

Merge branch '3453-arv-list-docker-images' closes #3453, #3472, refs #3125

3453: Rename check_project_exists to desired_project_uuid.  Now raises and
catches distinct apiclient.errors.Error, ValueError errors for project not
found or invalid uuid.

Merge branch '3586-job-priority' closes #3586

Merge branch 'master' into 3586-job-priority closes #3586

Added to Go SDK documentation:

* Added link to instuctions on how to develop with bleeding edge client code.
* Fixed type error in documentation.
* Added instructions on how to view all returned fields with a map.

Merge branch '3644-arv-mount-projects' closes #3644

3453: Refactored arv-put to remove support for name links, correctly use
ensure_name_unique to prevent name collisions.  arv-keepdocker should now
correctly handle cases where the user provides a image hash instead of
repository/tag. Fixed tests.

3644: Update tests broken by merge

3823: bug fixes for arvados-bcbio-nextgen.py

Refs #3823

3644: Moved some common regex patterns into SDK

Merge branch 'master' into 3644-arv-mount-projects

3644: Restore 'tag' tests and add 'SharedDirectory' and 'HomeDirectory' tests.
All tests should pass now.

Merge branch '3663-collection-reader-performance'

Closes #3663.

Merge branch 'master' into 3654-combine-selections

3453: Add ensure_unique_name=True to collection create.

3654: redirection to newly created collection is now working.

Merge branch 'master' into 3453-arv-list-docker-images

Added create#ensure_unique_name to discovery document.  "Add a subproject"
button now uses "ensure_unique_name" to avoid errors when the user creates more
than one project called "New project".  refs #3822

3453: Create links and collection objects in the specified project, even if
the docker image has already been uploaded to some other project.

Merge branch 'master' into 3654-combine-selections