Merge branch 'master' into 3036-collection-uuids

Conflicts:
services/api/app/controllers/arvados/v1/collections_controller.rb
services/api/app/models/collection.rb

3036: Updated migration to set modified_at instead of updated_at, added modified_by.

Merge branch '3114-copy-to-project' closes #3114

3114: Follow return_to param, if given, when redirecting users#show to projects#show.

Don't redirect non-html requests.

3114: Update test case: searching for own uuid now shows home project.

3114: Merge branch 'master' into 3114-copy-to-project

3593: Add explanatory comment about Workbench's user cache.

Refs #3593.

3114: Fix href in json response for generic #create action too. See 7485476.

Merge branch '2800-pgs' refs #2800

2800: Sort import statements.

Merge branch '3604-theme-and-new-user-process' closes #3604

3036: Ruby style change, use :search_up and :search_down symbols instead of UP and DOWN constants.

2800: Restore deleted comment which is still relevant.

2800: Remove unnecessary sha1. Just use the tuple as an array key.

3604: Remove useless slice.

3604: Remove useless loop.

Do not try to predict uuid of new collection. refs #3261 refs #3504

Do not throw away permission hints when writing data. refs #3261

3036: API server unit tests pass again after adding uniqueness constraints.

3604: Update comment to reflect lack of built-in default.

3604: Remove unused style.

Display progress by default when writing to regular files and stderr isatty. No issue #

Merge branch '3441-python-keep-log-level' refs #3441

3036: Migration will rename rows if necessary to ensure (owner_uuid, name) uniqueness

3604: Fix user deactivation test.

3604: Fix tests, and restore ability to view user agreement before completing profile.

3604: Fix up profile and redirect handling.

3604: Fix user_agreements behavior, update tests to expect redirects.

3604: Add test for redirect to welcome page

3604: Verify permission cache behavior in unsetup test

3604: Remove test for persistent/cache switch on wrong page.

3604: Do not check for notifications if user is not even activated.

3604: Fix stale permission cache by using destroy instead of delete.

3604: Fix theme support for welcome page

3036: Migration adding (owner_uuid, name) uniqueness constraints to
collections, pipeline_templates, pipeline_instances, jobs, groups.

3036: API server tests pass

3441: Change logging level of nonfatal Keep errors to "debug".

2800: Clean up exceptions, variable names, handling of discoveryServiceUrl vs host args.

2800: Merge branch 'master' into 2800-pgs

Merge branch '2800-python-global-state' into 2800-pgs

Conflicts:
sdk/python/arvados/api.py

3036: Restored normalize_collection_uuids removed in 22457e1

3036: Remove include_linked from project contents method because 'name' links
are obsolete.  Remove tests related to include_linked.  Fix docker image lookups.

3036: Test fixing work in progress.

docker: be a bit smarter in the make clean target, so that we also
accomodate diretories underneath the generated directory.

refs #3551

Merge branch '3593-workbench-exception-rendering'

Closes #3593, #3595.

3593: Another round of hardening Workbench's render_exception.

render_exception was counting on session[:user] to help render the
error page.  We recently excised that, which is turning exceptions
into 500s.  This commit restores the session user object, but uses it
only for error rendering, in keeping with the spirit of the previous
revert.  This commit also defends against more possible failure cases
in render_exception, and adds a basic test for it.

gitignore sdk/cli/vendor. refs #3551

Restore trailing newline in manifest format sanity check.

Amends 3cc80b447efcaf416ea4d6857d6d40583e462ff8
No issue #

3036: Adding pre-validation callback to set the portable_data_hash if necessay.
Added validation callback to check that portable_data_hash matches manifest_text.

3036: ensure_owner_uuid_is_permitted checks that owner_uuid is a User or Group.
Added comments on permission logic.

3036: Fixing uuid -> portable_data_hash in collections controller tests.

3036: Remove obsolete 'name' link tests.

3036: Split out logic to determine if a user is actually allowed to set the
uuid into validate_uuid.  Fix docker/collection/job tests to use
portable_data_hash instead of uuid where appropriate.

Merge branch '3551-go-layout' closes #3551

3551: Merge branch 'master' into 3551-go-layout

3036: Removed special case normalize_collection_uuids.  Removed special case
'name' links granting read permission.  Renamed helper function
"collection_uuid" to "stripped_portable_data_hash" and moved to helpers
directory.

3036: Removed special case find_object_by_uuid.  Converted some queries that
interact with jobs to use portable_data_hash instead of uuid.

Merge branch '3505-virtual-work-dir' refs #3505

3036: Removed special case uuid_like_pattern.  Removed special case in
resource_class_for_uuid.  Removed special cases for "name" links.

3036: Removed "add can_read link after creating collection record" logic.

3036: Manually migrated collections and name links on test fixtures.

Merge branch 'master' into 3505-virtual-work-dir

3505: tinker with logging

3505: Fix typo in run-command

3505: Move helper scripts into crunchutil module.  In run-command, added
task.stdin redirection, and renamed save.stdout to task.stdout for consistency.
Stylistic change "x == None" and "x != None" to "x is None" and "x is not
None".

3036: More work on migration.  Converts collection->collection provenance links into jobs.  Handles orphan collections;

3551: Revert "3551: When testing keep clients, write keepstore/keepproxy logs to"

This reverts commit 63871346153fea194b169eec38f6efae3061ebf6.

The default Popen behavior is to use stderr, and that's fine. This was
a mistaken attempt to reveal missing logs, the real solution for which
is 5fcff4c13ae17527ee1efd6fa01d08133212085b.

3551: Remove superfluous chmod(). Umask is 022 here.

3114: bug fix: when rendering JSON response to a generic #show action, correctly set an 'href' attribute in the response to be the #show url for the object

Increase Capybara timeout to accommodate slow test server. No issue #

Report unexpected slurm states as "down". No issue #

3551: Use FileUtils.rm_r so deleting stale generated/{dir} works.

Merge branch '3421-wide-project-tables-wip'

Closes #3421, #3584.

3421: Make Workbench project contents tables variable width.

This change will ensure that users can see the "edit name" buttons, by
letting a table row grow as needed to accommodate long names.  It puts
each row's buttons in dedicated cells to try to stay true to the
original layout as much as possible.

Merge branch '3405-pipeline-error-logging-wip'

Closes #3405, #3582.

3405: Mark pipeline instances failed when they're aborted.

3405: Log errors about launching pipeline instances.

There's a couple of components to this:

* Do some basic checks on the organization of the pipeline instance
  before we start running it, and abort if any of them fail.

* If the pipeline runner aborts for any reason, send that as pipeline
  instance stderr to the API server, so other tools like Workbench can
  render it for users' benefit.

3551: Remove chmod 755, no longer necessary now that config.rb does that.

3551: Set mode of generated files more aggressively (overrule umask).

3551: Handle missing GOPATH and multiple-entry GOPATH sensibly.

3551: Merge branch 'master' into 3551-go-layout

3551: When invoking run_test_server.py during tests, pass stderr
through to caller instead of discarding.

3551: Behave correctly when Read() yields some data along with the EOF condition.

"a Reader returning a non-zero number of bytes at the end of the input
stream may return either err == EOF or err == nil."

-- http://golang.org/pkg/io/#Reader

3505: Fixed typo comparison of list against 0 instead of len(list).

3551: When invoking run_test_server.py during tests, pass stderr
through to caller instead of discarding.

3551: When testing keep clients, write keepstore/keepproxy logs to
tmp/run_test_server.log instead of discarding.

3505: Adjust order of initialization to reflect potential side effects (e.g. file
creation) on using functions such as $(glob) in the command.

Fix degenerate case exponential runtime in regular expression use by
CollectionReader to validate locators and manifests.  no issue #

Merge branch '3457-pysdk-logging-wip'

Closes #3457, #3577.

3457: Make arv-get display interface messages directly.

The logger isn't appropriate for this.

3457: Revamp Python SDK and tool logging.

The primary goal of this commit is to introduce a dedicated logging
object to the arvados module, which we configure to our
specifications, and use it consistently throughout the SDK and tools.
This lets us handle our logging configuration consistently in one
place, and avoid interfering with logging in SDK users.  I made some
minor style changes to logging calls while I was at it.

3114: When current user, show root/home project rather than user attributes when landing on show user page.
(This is meant to be a compromise due to the fact that a home project's uuid has "user" as its arvados type, rather than "group".)

3114: bug fix: 'Copy' button is now disabled until a project has been selected for copying to

Added virtual working directory "task.vwd" option to run-command.  Added
"task.cwd" to set the starting directory.  Refactored upload retry logic from
run-command into robust_put.py and modified decompress-all to use it.  no issue #

3551: Fix more package paths.

Update Gemfile to use crunch-job from latest arvados-cli gem. refs #3570

3036: More work verifying that migration does the right thing.

closes #3296
Merge branch '3296-user-profile'

3296: fix test issue

3296: fix tests