Merge branch 'master' into 3188-remove-selected-button

Improve error checking a bit on find_commit_range for bad revisions and missing
repositories.  no issue #

Display first file in collection if name field is nil or empty. refs #3504

Merge branch '3504-clients-compatible-with-3036' refs #3504

3504: Don't create stand-in "name" links for post #3036 apiserver

3504: Support copy and moving collections on new apiserver

3504: Back out tags on project rows.  Revisit in a later story.

3504: Remove link to links index page on tags.  Add comment to
CollectionsController#choose.  Adjust column width in collections file table.

3504: Don't set owner_uuid redundantly.

3036: Use preload_objects to fetch owner_uuids in the controller instead of in the view.

Be smarter about cleanup in crunch-job after a job finishes. This should
resolve the problem of the many leftover stale mount points.

no issue #

3504: Set owner_uuid when creating collection (will set owner_uuid of name link
on old apiserver, and set owner of collection object directly on new
apiserver.)

3504: Set the capybara driver explicitly so tests pass again.

Merge remote-tracking branch 'origin/master' into 3504-clients-compatible-with-3036

3504: Fixed preload_links_for_objects to use @objects.to_a.  Fix collections
page to restore link names.  Remove obsolete tests for "persist" button.  Tweak
pipeline instance tests.

3504: Use preload_links_for_objects in projects_controller.  Use
self[:portable_data_hash] in collection.rb to avoid recursive definition of
.uuid and .portable_data_hash.  Revert change to show_attributes.  Removed
column from collections show_recent.  Reverted python tests to correspond to
behavior of pre-3036 API server so test pass.

Fix run_test_server Keep blob filename handling.

No issue #.

3504: CollectionReader accepts arvados object collection uuids.  'arv-put' sets
owner_uuid when collection is created.  Fixed indentation.

3036: Fix arv-put to write name/owner of collections object directly when
'name' field is present on the returned object.  Python SDK tests pass.

2800: run_test_server only uses tests/tmp for real Python tests.

tests/tmp is not available for Go tests.
This fixes a bug introduced in da01d7e1.
No issue #.

Update "standard objects" page to reflect change from keep_disks to
keep_services, and add some sanity checks. No issue #

Add libpcre3-dev dependency. Sort package names in apt-get install command.

No issue #

2800: Delay API client creation in Python CollectionReader.

This more closely matches prior behavior, and is necessary to make the
Keep tests pass.  See included comments for detailed rationale.
Refs #2800.

Treat success=true exitcode!=0 as success when collating output,
just like we did when we decided the task completed. No issue #

Merge branch '2800-pysdk-no-global-keep-client-wip'

Closes #2800, #3639.

2800: Use local KeepClients in Python SDK tests.

This improves test isolation, and demonstrates the preferred way to
use the API.

2800: Introduce TestCaseWithServers to Python SDK.

This is a subclass of unittest.TestCase.  It looks for specific class
variables to launch supporting Arvados servers for subclass test
cases, taking care to adjust the environment and local Arvados
configuration to match.  Put another away, this refactors a number of
similar setUpClass/tearDownClass methods throughout the SDK tests.

2800: Make run_test_server put Keep tempfiles in tests/tmp/.

2800: Use dedicated logger in Python SDK api module.

2800: Migrate from Keep to KeepClient in the Python SDK.

2800: Remove global state from KeepClient.

This commit makes it possible to build and use a KeepClient that isn't
influenced by changes in outside state.  Changing the KeepClient based
on global state has been pushed up to the simple Keep class.

This commit changes the tests as little as possible to demonstrate
backward compatibility.  Refactoring the tests to build KeepClients
directly will come in the future.

2800: Improve spec conformance of Python SDK KeepLocator.

* Require size to immediately follow digest.
* Accept all valid hints.

2800: Introduce config.flag_is_true() to Python SDK.

Merge branch '3499-home-project-docs-wip'

Closes #3516.  Refs #3499.

3499: Update Keep tutorial for recent UI changes.

3499: Update pipeline tutorial for recent UI changes.

3499: Improve style consistency throughout docs.

* Capitalize Dashboard.

* Article use: "access Workbench," "access the Dashboard."

* Bold references to Workbench UI elements.

* Make example Arvados environment variables more realistic.

Merge branch '3610-pipeline-log-refresh' closes #3610

3610: Move live log display into its own tab, avoid clobbering with tab reload.

* PipelineInstances#show gets a Log tab dedicated to the live log
  window, rather than hiding it below the components table.

* Jobs#show uses its Log tab to show a live log window (instead of a
  teaser) when the log is not yet finished/written to disk.

* In both cases, the live log window's tab pane intercepts and ignores
  the arv:tab:reload event. (Previously, in addition to appending log
  entries to the live window, websocket events would trigger a
  "refresh all tabs" event, which would blow away the whole log viewer
  anyway.)

* Behave sensibly when multiple lines of stderr arrive in a single
  websocket update event.

* Stop displaying "update {pipeline-uuid}" messages that have no
  additional content.

* Stop scrolling to bottom every time an ajax:complete fires
  somewhere. (Previously, seeing anything above the last page of logs
  was somewhere between annoying and impossible.)

* Make the log window taller.

Merge branch 'master' into 3504-clients-compatible-with-3036

3504: Fix collection chooser.  Fix generic link render to use uuid if nothing
else is available.  Fix tags for objects other than collections.

3504: Fix collection page rendering to work with collections as regular uuids.
Render tags onn project page.  Improve helper function for rendering links to
Arvados objects.

Merge branch '3114-copy-to-project' closes #3114

3114: Follow return_to param, if given, when redirecting users#show to projects#show.

Don't redirect non-html requests.

3114: Update test case: searching for own uuid now shows home project.

3114: Merge branch 'master' into 3114-copy-to-project

3593: Add explanatory comment about Workbench's user cache.

Refs #3593.

3114: Fix href in json response for generic #create action too. See 7485476.

Merge branch '2800-pgs' refs #2800

2800: Sort import statements.

Merge branch '3604-theme-and-new-user-process' closes #3604

2800: Restore deleted comment which is still relevant.

2800: Remove unnecessary sha1. Just use the tuple as an array key.

3188: add data-toggle to link

3604: Remove useless slice.

3604: Remove useless loop.

Do not try to predict uuid of new collection. refs #3261 refs #3504

Do not throw away permission hints when writing data. refs #3261

3604: Update comment to reflect lack of built-in default.

3604: Remove unused style.

Display progress by default when writing to regular files and stderr isatty. No issue #

Merge branch '3441-python-keep-log-level' refs #3441

3604: Fix user deactivation test.

3604: Fix tests, and restore ability to view user agreement before completing profile.

3604: Fix up profile and redirect handling.

3604: Fix user_agreements behavior, update tests to expect redirects.

3604: Add test for redirect to welcome page

3604: Verify permission cache behavior in unsetup test

3604: Remove test for persistent/cache switch on wrong page.

3604: Do not check for notifications if user is not even activated.

3604: Fix stale permission cache by using destroy instead of delete.

3604: Fix theme support for welcome page

3441: Change logging level of nonfatal Keep errors to "debug".

2800: Clean up exceptions, variable names, handling of discoveryServiceUrl vs host args.

2800: Merge branch 'master' into 2800-pgs

Merge branch '2800-python-global-state' into 2800-pgs

Conflicts:
sdk/python/arvados/api.py

docker: be a bit smarter in the make clean target, so that we also
accomodate diretories underneath the generated directory.

refs #3551

Merge branch '3593-workbench-exception-rendering'

Closes #3593, #3595.

3593: Another round of hardening Workbench's render_exception.

render_exception was counting on session[:user] to help render the
error page.  We recently excised that, which is turning exceptions
into 500s.  This commit restores the session user object, but uses it
only for error rendering, in keeping with the spirit of the previous
revert.  This commit also defends against more possible failure cases
in render_exception, and adds a basic test for it.

gitignore sdk/cli/vendor. refs #3551

Restore trailing newline in manifest format sanity check.

Amends 3cc80b447efcaf416ea4d6857d6d40583e462ff8
No issue #

Merge branch '3551-go-layout' closes #3551

3551: Merge branch 'master' into 3551-go-layout

Merge branch '3505-virtual-work-dir' refs #3505

Merge branch 'master' into 3505-virtual-work-dir

3505: tinker with logging

3505: Fix typo in run-command

3505: Move helper scripts into crunchutil module.  In run-command, added
task.stdin redirection, and renamed save.stdout to task.stdout for consistency.
Stylistic change "x == None" and "x != None" to "x is None" and "x is not
None".

3551: Revert "3551: When testing keep clients, write keepstore/keepproxy logs to"

This reverts commit 63871346153fea194b169eec38f6efae3061ebf6.

The default Popen behavior is to use stderr, and that's fine. This was
a mistaken attempt to reveal missing logs, the real solution for which
is 5fcff4c13ae17527ee1efd6fa01d08133212085b.

3551: Remove superfluous chmod(). Umask is 022 here.

3114: bug fix: when rendering JSON response to a generic #show action, correctly set an 'href' attribute in the response to be the #show url for the object

Increase Capybara timeout to accommodate slow test server. No issue #

Report unexpected slurm states as "down". No issue #

3551: Use FileUtils.rm_r so deleting stale generated/{dir} works.

Merge branch '3421-wide-project-tables-wip'

Closes #3421, #3584.

3421: Make Workbench project contents tables variable width.

This change will ensure that users can see the "edit name" buttons, by
letting a table row grow as needed to accommodate long names.  It puts
each row's buttons in dedicated cells to try to stay true to the
original layout as much as possible.

Merge branch '3405-pipeline-error-logging-wip'

Closes #3405, #3582.

3405: Mark pipeline instances failed when they're aborted.

3405: Log errors about launching pipeline instances.

There's a couple of components to this:

* Do some basic checks on the organization of the pipeline instance
  before we start running it, and abort if any of them fail.

* If the pipeline runner aborts for any reason, send that as pipeline
  instance stderr to the API server, so other tools like Workbench can
  render it for users' benefit.

3551: Remove chmod 755, no longer necessary now that config.rb does that.