5614: Workbench shows error flash if combining collections fails to create provenance link.

5614: Workbench renders error flash separately from others.

5614: Fixup Ruby SDK cp_r test.

5614: Use assert_includes very consistently in combine collections tests.

5614: Improve Workbench combine collections performance.

* Get links with API list calls, instead of fetching each one
  individually.

* Get a list mapping portable data hashes to UUIDs, and add a single
  UUID per portable data hash to the fetch list.  This helps us avoid
  downloading multiple copies the same manifest text, and is probably
  the single-biggest win in this entire commit for most use cases.

* Use the Ruby SDK to build the new collection.  This lets us avoid
  spawning new arv-normalize processes, and piping large manifests to
  them.  It also lets us build the entire collection and normalize
  only when we're done.

* Create provenance links after we send a response to the browser.  No
  reason not to, really.

* Use Oj instead of JSON.

5614: Use assert_includes more in Workbench tests for better diagnostics.

5614: Ruby SDK cp_r method creates streams as needed.

5614: Add Collection#each_file to Ruby SDK.

5614: Add Collection#exist? to Ruby SDK.

Merge branch '5416-git-config' refs #5416

5416: Improve logging.

5416: Do not blow up tests when git global config is uninitialized.

Merge branch '5642-crunch-job-swap-limits-wip'

Closes #5642, #5664.

5642: crunch-job uses higher memory limit when running few tasks.

This gives a task all of the node's RAM when it's the only task
running this round, which is more in line with user expectations.

5642: Explicitly make all swap available under Docker in crunch-job.

Without this, Docker 1.2 through 1.5 send subprocesses SIGKILL if they
exceed the memory limit.  Refer to #5642 for an example.

--memory-swap is pretty new (newer than 1.3.3), so we don't want to
require it.  At the same time, we don't want to impose any memory
limits if we can't use it, because killing subprocesses that exceed a
--memory limit is too strict.  This commit arranges to use both
--memory and --memory-swap only if the latter is available.

Include arvados/collection in the Ruby SDK gem.

No issue #.

Merge branch '5653-arv-copy-multiple-branches-wip'

Closes #5653, #5673.

5653: arv-copy copies multiple commits from the same repository+pipeline.

arv-copy previously used the repository name alone to determine which
job scripts it had already copied to the destination.  If a pipeline
used unrelated commits from the same repository, it would skip copying
over all but the first.  Track script versions throughout the copy
process and make sure all of them are copied to the destination
repository.

Merge branch '5352-crunch-dispatch-salloc-tempfail-wip'

Closes #5352, #5670.

5352: crunch-dispatch treats node allocation failure as temporary.

Imagine a scenario where multiple crunch-dispatch processes are
sitting idle, then suddenly a new job appears in the queue.  They will
all race to dispatch the job.  When this happens, we frequently see
that salloc fails for most of them, because they all requested the
same node(s) and only the winner will get them.  crunch-dispatch has
no way to know the exit code "came from" salloc and not crunch-job,
and so marks the job failed.

This patch sets the SLURM_EXIT_IMMEDIATE environment variable to make
salloc use exit code 75 when the allocation fails.  crunch-dispatch
already recognizes this exit code as a temporary failure, and will
leave the Arvados job record unchanged.  Refer to salloc(1) and the
long comment in Dispatch#reap_children.

closes #5565
Merge branch '5565-breadcrumbs-in-anonyymous-view'

5565: show parent project hierarchy in breadcrumbs in anonymous view; not just current objects's parent.

Merge branch 'master' into 5565-breadcrumbs-in-anonyymous-view

closes #5492
Merge branch '5492-home-project-in-my-account'

Merge branch 'master' into 5492-home-project-in-my-account

Merge branch 'master' into 5565-breadcrumbs-in-anonyymous-view

5565: show trimmed down version of breadcrumbs in anonymous view.

Tighten up DNS check in arvdock.

I got arvdock stuck in an infinite loop because I had the right
nameserver line in /etc/resolv.conf, except it was commented out, so
arvdock kept checking for a name that it would never find.  Use awk to
find and check the first functional nameserver line instead.

No issue #.

5492: add "Home project" link to my account menu.

Add missing global declaration in arv-copy.

No issue #.

Fix debug log formatting in PySDK.

When multiple arguments are passed to a logger method, the first
argument is expected to be a printf-style format string, with the
remaining arguments expected to fill in the formatters.

No issue #.

5518: PySDK arvados.util must import arvados.

Closes #5518.

Merge branch '5416-repo-dir-is-uuid'

Refs #5416.

4253: Gitolite migration makes a name symlink for arvados repository.

This is necessary for other supporting infrastructure around this
repository in Gitolite installs; e.g., the cron job that keeps them in
sync with upstream.  Refs #4253.

Merge branch '4752-docker-websockets' closes #4752

Make arvdock abort with a nice error message if docker or curl can not
be found.

refs #4752

Merge branch '5626-git-server-hostname' closes #5626

5626: Expand test to check both positive and negative cases a bit per request.

5626: Add test for git_hostname configuration option.

4752: Websockets works.  Fix compute node containers to restart correctly.  Fix
git server hostname.  Arvdock waits for API/workbench to be ready before telling
the user to go to workbench.

Merge branch '5626-git-server-hostname' into 4752-docker-websockets

5416: Prefer repos stored locally by uuid, fall back to name. Update tests to suit 4523 fixtures.

5626: Add git_hostname configuration option.

5627: Python file-like objects use SEET_SET as the default whence.

This is a brown paper bag commit.  All that time I spent grumbling
that we had the wrong default was completely incorrect.  We had it
right earlier, and I blew it.  See
<https://docs.python.org/2/library/stdtypes.html#file.seek>.

Closes #5627.

4752: Fix failing setup by polling for API server to come up.

closes #5420
Merge branch '5420-collection-checkbox-selections'

4752: Update documentation related to docker

5420: remove search box autocomplete off update so that this can be addressed in a separate issue.

Merge branch 'master' into 5420-collection-checkbox-selections

Merge branch '4253-gitolite-migration-wip'

Closes #4253, #5617.

4253: Add script to migrate existing Gitolite installations.

4752: Use passenger standalone for API server instead of passenger apache module and set ARVADOS_WEBSOCKETS=1

Merge branch '4253-user-repos-wip'

Refs #4253.  Closes #5605.

4253: Add Workbench interface to create repositories.

Commit includes contributions from Tom Clegg.

4253: Let Workbench Manage Account partials render their whole pane.

I'm about to add another "Add" button to the Repositories pane, so I'd
rather do it this way than try to maintain a generic loop inside
_manage_account.html.erb.

4253: Sync up Docker with our production Gitolite setup.

This updates our API server Docker image to store repositories by
UUID, with name aliases available.  .gitolite.rc enables the aliasing,
and update-gitolite.rb generates the necessary configuration.  This
makes it possible to test the recent repository changes in Docker.

4253: Users can manage their own repositories.

This commit allows users to create their own repositories, as long as
the repository name starts with their own username.

To support this change, we've modified our Gitolite setup to store
repositories primarily by UUID, with a name alias for easier
checkout.  fetch_url and push_url become generated attributes
accordingly.  This makes it easier to rename the repository later and
allow checkouts to continue to work.

Commit includes contributions from Tom Clegg.

Merge branch '5612-munge-docker-cleanup' closes #5612

5612: Wrap munge with startup script that cleans up /var/run/munge of stale
sockets and pidfiles.  Can now run jobs after stopping and restarting
containers.

Merge branch 'master' into 5420-collection-checkbox-selections

Merge branch '5539-better-docker' closes #5539

Merge branch '5416-arv-git-httpd' refs #5416

5416: Merge branch 'master' into 5416-arv-git-httpd

5416: Add permission-denied tests.

5416: Improve variable names & filenames. Report original error if git fails with nothing on stderr.

Merge branch '5502-node-manager-gce-ssd-wip'

Refs #5502.

Merge branch 'master' into 5420-collection-checkbox-selections

5502: Node Manager attaches a local SSD to GCE compute nodes.

This is the best option to provide temporary working space for compute
work on GCE.

5502: Adjust id and name of Node Manager cloud object mocks.

Some GCE objects like disk types have predictable names, so it's
helpful to be able to mock objects with the same name.  Use the
name_id argument is the literal name, and generate an id from it.

closes #5556
Merge branch '5556-collection-show-timeout'

Merge branch 'master' into 5556-collection-show-timeout

refs #5247
closes #5248
Merge branch '5247-anonymous-doc'

5247: couple more caption updates.

Merge branch 'master' into 5556-collection-show-timeout

5247: some caption updates.

5416: Fix overly sensitive error message regexp.

Merge branch 'master' into 5247-anonymous-doc

closes #5534
Merge branch '5534-limit-log-lines'

Merge branch 'master' into 5534-limit-log-lines

closes #3762
Merge branch '3762-delete-list-worker'

Merge branch 'master' into 3762-delete-list-worker

Merge branch 'master' into 5420-collection-checkbox-selections

5420: address checkbox selection caching issue with Safari and Chrome.

Merge branch '4253-user-usernames-wip'

Refs #4253.  Closes #5512.

Added a comment to volume Delete() about race condition.

4253: Use new username to set up repository and VM logins.

The usernames added in 4253 have stricter limits than past usernames
generated to set up a repository and VM login.  Use the new generated
username to avoid a weird disconnect between that and these related
objects.  Do a little cleanup in the tests, including removing some
test parameters that now seem redundant under the new rules.

4253: Clean up some user setup methods.

As much as possible, use more methods provided by Rails, rather than
reimplementing them ourselves.

4253: Add a username attribute to users.

* Add the column, and propagate it based on available VM logins or
  e-mail address, if possible.
* Add format validation and tests.
* Set new usernames based on e-mail address, with tests.

5556: add test to invoke collection#show with and without include_accept_encoding_header_in_api_requests config parameter.

5556: Added select() to @logs in CollectionsController#show to avoid trasporting the unneeded log properties.
Also, added Accept-Encoding request header in workbench request to api server.

Documentation: installation pages improvements. Be clear about the
purpose of each installation method, and its limitations.

No issue #

5416: Merge remote-tracking branch 'origin/5416-arv-git-httpd' into 5416-arv-git-httpd

5416: gofmt formatting changes.

5416: Add BasicAuth compatibility shim for go1.3.

5247: white space

5247: anonymous access documentation

5539: Require that the user update resolv.conf, and use FQDN (api.dev.arvados,
workbench.dev.arvados) to refer to services more consistently.

5534: When a pipeline has long running jobs with hundreds of thousands of log lines, the log line display is timing out
fetching all those lines. Limiting the number of log lines retrieved helped resolve this issue. Using limit size of 2000.
I was able to see log when I limited to 10000 log lines as well, but it took much longer wait time and I felt a quicker
response might provide a better user experience and hence using 2000 log lines as the limit. Thus the most recent 2000
log lines are fetched, followed by newer log lines from event log if the job is still running.

Merge branch 'master' into 5539-better-docker

Merge branch '5536-retry-discover-servers' closes #5536