4889: improve error message, unit test

Per review in #4889-17:

Updated the CopyPipeToChan error message to be more descriptive, for the
benefit of anyone reading log output.

Corrected the test to confirm that the error message is received even if
the child process does not close the stderr log (which matches the usage
patterns in production).

4889: added CopyPipeToChan unit test

Added TestCopyPipeToChanLongLines test to confirm that when
CopyPipeToChan attempts to read a line too long for bufio.Scanner, that
it generates an error message on the output channel.

4889: close the child stderr pipe before returning

Updated CopyPipeToChan to close the child's stderr pipe before
returning, so that even if it returns for some reason other than
EOF (e.g. line too long) the child will not deadlock on writing stderr
output.

Merge branch '5016-ctrl-c-arv-ws' closes #5016

5029: API server uses bugfixed crunch-job.

Refs #5029.

5029: Fix crunch-job logging when SDK requested+virtualenv unavailable.

* Properly concatenate the message.

* Query and log installed SDK packages in this scenario, since we
  might fall back to what's available in the Docker image.

Closes #5029.

refs #4926
Merge branch '4926-browser-based-upload'

4926: move tutorial_expectations into sections that are describing command line tools.

Merge branch '4838-fuse-executable-files' closes #4838

4838: Set +x on all StreamReaderFiles

4926: add description with section links

Merge branch '4840-workbench-selections-action-forms-wip'

Closes #4840, #4996.

4840: Workbench selection actions are submitted by POST.

The previous implementation could get 414 Request URI Too Long
responses by stuffing a large number of selections into the link href.
This commit sidesteps that problem by POSTing the data with a hidden
form instead.  It's based on rails-ujs' strategy for handling links
with data-method that we were already using for some selection
actions, so it should be minimally disruptive.

4840: All Workbench selection links toggle dropdown.

4840: Restore checkbox to project Pipelines and Jobs tab.

Merge branch 'master' into 4926-browser-based-upload

5016: PollClient.run_forever() polls self.stop() in order to have a chance to process KeyboardInterrupt.

closes #3686
Merge branch '3686-sharing-repositories'

3686: ensure Advanced is always the last pane even after adding the Sharing pane.

Merge branch 'master' into 3686-sharing-repositories

Merge branch '4922-google-api-client-force-install'

Fixes #4922.

4922: force google-api-python-client install

Install google-api-python-client with 'pip install -I' to fix the case
where the Docker image already has an older version of
google-api-python-client installed.

Update bundle. refs #3021

Merge branch '3021-workbench-perf' refs #3021

3021: Reset API fixtures before running the first test case.

3021: Do not drop/create API database at startup if run-tests.sh has done that for us.

3021: Revert "3021: Do not drop/create API database at startup: run-tests.sh does that for us."

This reverts commit 591446b97754292031a4214f08039adebd56cfe8.

3021: Merge branch 'master' into 3021-workbench-perf

3021: Do not show user notifications on error pages.

3021: Update Gemfile for Ruby SDK bugfix.

Merge branch '3835-pysdk-keep-exceptions-wip'

Closes #3835, #4972.

3021: Remove reference to deleted speclist arg.

3835: PySDK raises NotFoundError when all Keep services report such.

Previously, we raised this error when >= 75% of services reported
such, as the most reasonable available cutoff to make the
distinction.  Now that Keep exceptions include detailed information
about the error from each service, it seems useful to make this
threshold stricter, and only raise NotFoundError when we're sure
that's the problem.  See further discussion from
<https://arvados.org/issues/3835#note-11>.

3835: Improve error reporting in PySDK Keep client.

* Create a KeepRequestError base exception to store information about
  errors encountered when talking to Keep services, and include those
  in the default formatting.
* Include Keep service error information in exceptions raised by the
  Keep client.

Merge branch 'master' into 3686-sharing-repositories

4926: trailing white space

Merge branch 'master' into 4926-browser-based-upload

4926: minor text update

Reduce file_names limit to 2^12. refs #4523.

4926: improved image quality

Merge branch 'master' into 4926-browser-based-upload

closes #4523
Merge branch '4523-search-index'

4926: download images

4926: expand downloading data section

Merge branch '4523-search-index-TC' into 4523-search-index

Conflicts:
services/api/test/integration/collections_api_test.rb

4523: Clear up manifest-signing vs. locator-signing.

4523: update signed_locator in test

Merge branch 'master' into 4926-browser-based-upload

Merge branch 'master' into 4523-search-index

4523: try to resolve column order by down and up migrations through VERSION=20140817035914

4523: use filters instead of where for search

4523: check for a specific file name and stream names in file_names.

Python packages use python-daemon<2.

It's good to see python-daemon under active development, but they're
working out so many little issues so rapidly that we're having a hard
time keeping on top of them in our builds.  We're pinning the version
until things settle down a little.  No issue #.

4523: update migration script to use execute instead of update_sql so that output is not printed to console.

Merge branch 'master' into 4523-search-index

closes #3756
Merge branch '3756-show-user-button'

Merge branch 'master' into 3756-show-user-button

Merge branch 'master' into 3686-sharing-repositories

3686: Support sharing pane in repository show page.
Refactor current project sharing work into application area and reuse it for sharing repositories.
Refactor methods used by tests into helper and reuse in repository sharing tests.

3021: Merge branch 'master' into 3021-workbench-perf

Merge branch '4968-refresh-project-dir' closes #4968

4523: update migrate script to use batch size and instance method on collection.

Merge branch 'master' into 4523-search-index

3021: Do not check user notifications unless they are going to be displayed.

3021: Add web-inspectable profiling mode.

* Run Workbench with environment variable ENABLE_PROFILING=yes. Timing
  figures should appear at the top left of each page. Click to get
  more detail.

* Visit {workbench-uri}?pp=flamegraph to see a profiling graph instead
  of the requested page itself.

* More: https://github.com/MiniProfiler/rack-mini-profiler

Explicitly specify ruby 2.1 in "rvm alias" no issue #

4968: Fix polling refresh on project directories

3756: do not show 'Show' button in admin user's own row.

Merge branch '4924-arv-edit-error-handling' closes #4924

4924: Collapse JSON rescue blocks to reduce duplicate code.

4924: Update prints uuid from results, not the uuid originally specified.
Catch Oj::ParseError as well as JSON::ParserError.  Titleize only HTTP status
messages, not every error message.

4924: Rename HTTPResponse to ArvadosAPIError.  Use NET::HTTP Response titles
for error codes if no other error is available.

3021: Optimize manifest parsing.

3021: Update bundle.

3021: Do not drop/create API database at startup: run-tests.sh does that for us.

3021: Fix races in performance test.

4523: revert test update now that text attributes in non-collections objects are not omitted from search index.

Merge branch 'master' into 4523-search-index

4523: include stream names in file_names

4523: exclude manifest_text from collection -> searchable_columns and leave the other text columns for other objects.

Add a magic pseudoclass to body, instead of appending a magic div. Selenium seems to like this better. refs #3021

Diagnostics really do need selenium. refs #3021

Make angular shim minify-safe. No issue #

Merge branch 'master' into 4523-search-index

4926: add "upload using workbench"

4924: Distinguish between errors the user can do something about (syntax errors
or well-formed server errors) and errors that the user probably can't recover
from (everything else.)  Prints "Updated object" on success.

4523: update migration script to use sql to set file_names

3021: Fix phantomjs races by waiting for pages to appear. refs #3021

Merge branch '3408-go-sdk-api-errors' refs #3408

3408: Propagate API error messages to caller.

4523: slightly improved large description

Merge branch 'master' into 4523-search-index

4523: add a few functional tests for collections with file_names testing.

Merge branch '4312-crunch-report-sdk-version' closes #4312

4312: Remove redundant parenthesis.

4523: separate filename based tests and description based tests.

4924: Refactor arv edit and arv create to improve error handling.

* Error messages are now added in a comment block at the top of the file, and
  the file is re-opened in the user's editor.
* Does not try to update attributes that are not changed.
* Exiting the editor with the file unchanged exits the editing loop.

4312: Fix dpkg search to use dpkg-query.

4523: some more test assertions

4312: Call virtualenv pip directly instead of using activate.