3899: Fix for counting complete/failed components

Merge branch '3961-uuid-assignment-not-permitted'

Closes #3961.

3961: fix FuseSharedTest

Added new active_user collection to the FuseSharedTest.

Merge branch '3961-uuid-assignment-not-permitted'

Closes #3961.

3961: more explicit assertions and error text

3961: test creating subprojects under home with duplicate names

New tests:
* unprivileged user creating a subproject under their home project, with
  an existing name, returns 422
* unprivileged user creating a subproject under their home project, with
  an existing name, and ensure_unique_name=true, succeeds

3866: PySDK KeepClient accommodates services with IPv6 addresses.

I thought there was going to be a nicer way to construct URLs than
this, but urllib.urlunparse is still expecting the host+port as a
single string, so this approach is easier.  Closes #3866.

Merge branch '3848-egg-default-git-tag-wip'

Closes #3848, #3952.

3848: Package version numbers use UTC timestamps.

Per note-9 in the issue.

3848: Python packages build with git tag by default.

This moves the build logic that we currently encode in Jenkins into
our setup.py, and makes it easier for developers to have versions in
sync with real users.

closes #3889
Merge branch '3889-functional-testing'

3961: reset object UUID when ensure_unique_name is set

When saving an object that has to be renamed with ensure_unique_name,
force @object.uuid to nil so that validate_uuid will not be confused
into thinking we are trying to reassign the uuid.

Merge branch 'master' into 3889-functional-testing

Merge branch '3616-live-stream' closes #3616

Merge branch 'master' into 3889-functional-testing

3889: add a new integration tester for users controller. Refactor code so that users functional and integration tests can reuse some of the helper methods.

Merge branch '3871-non-ascii-project-names' closes #3871

3616: Use "ensure" to close response stream.

3871: Pass on UnicodeEncodeError.  Don't return those entries in the directory
listing because the user won't be able to access them anyway.  Add --encoding
parameter to command line to allow the user to specify desired filesystem
encoding.

Merge branch 'master' into 3889-functional-testing

Conflicts:
services/fuse/tests/test_mount.py

Merge branch '3901-component-rendering-errors'

Refs #3901.

3616: Use ActionController::Live to avoid buffering entire response in memory.

Merge branch 'master' into 3901-component-rendering-errors

Conflicts:
apps/workbench/app/helpers/pipeline_instances_helper.rb

closes #3836
Merge branch '3836-remove-collection-from-project-bug'

Merge branch 'master' into 3836-remove-collection-from-project-bug

3889: minor test assertion updates

3889: remove the job fixture "job_with_unnormalized_output_and_log" and instead use "foobar"

3901: added unit test for pipeline rendering

Merge branch 'master' into 3889-functional-testing

Conflicts:
services/api/test/fixtures/jobs.yml

3889: some monir assertion updates.

Fix typo in error message. Refs #3961

3871: Encode/decode file and directory names to UTF-8

Merge branch '3899-crunch-use-job-state' closes #3899

3899: Uncomment line that was commented out for debugging and committed by mistake.

3889: add "#{user} can get collection using portable data hash" test

3899: pipeline_instances_helper: Don't set :state if it's already set.  Add newline to jobs.yml.

Merge branch '3168-crunch-git-fetch' closes #3168

Remove useless take() and untake() methods.

3168: Instead of crashing using save! log an error and go to the next job.

Merge remote-tracking branch 'origin/master' into 3899-crunch-use-job-state

3899: jobs_controller uses state = Queued instead of multiple state columns.
Updated fixture so that tests pass.

Merge branch '3991-docker-workbench-address' closes #3991

3889: update the fuse test to expect the newly added pipeline instances.

3991: Merge branch 'master' into 3991-docker-workbench-address

3168: Fail on git tag collision instead of putting job back into the queue.

3899: Set :state in pipeline_instance_helper.rb and remove Job::state.

3991: Fix config checks in admin_notifier.

Merge branch 'master' into 3889-functional-testing

3889: Since all offending tests are fixed, update test_helper to generate an error if any functional test performs more than one action in on test in the future.

3889: update the test "update script_parameters one at a time using merge param" to use fixture instead of create a new pipeline instance.

3991: Change docker default to "no root url redirect". Make "not found" message more friendly.

Merge branch 'master' into 3901-component-rendering-errors

3901: allow job to be either Hash or Job

Refactoring to ensure that a component "job" data structure may either
be a Hash (parsed directly from the component's JSON representation) or
a real Job object retrieved from the database.

When rendering a pipeline, parse the :started_at and :finished_at
timestamp fields, respectively, if necessary.

3889: add fixture "pipeline_with_tagged_collection_input"

3988: Add note to Job.state.  Replace logic to compute state based on
success/running columns with the same logic as used on apiserver.

bug fix: args_retries => args.retries

No issue #

3899: Shorten count of ended/succeed/failed in a-r-p-i with some clever Ruby.
Improve reporting to test for state == Cancelled instead of looking at
cancelled_at, and distinguish between cancelled the state being unexpectedly
changed to success/failed.  pipeline_instances_helper uses state attribute.

Merge branch 'master' into 3836-remove-collection-from-project-bug

3889: fix typo in test name

3991: Use db:structure:load and db:seed instead of db:setup: the database already exists here.

3991: Handle "no workbench_address configured" more gracefully.

* Remove example config from default production section.
* Follow config rule: false = feature disabled, nil = sysadmin error.
* Respond 404 at root url if no workbench_address is configured.
* Never redirect to workbench if client requested JSON.

3991: Run passenger script using bundle exec.

Passenger was installed in a previous step, but that was done using
"bundle install", which installs into ./vendor/bundle instead of a
system-wide install dir. This way, we install the passenger version
listed in services/api/Gemfile.lock instead of installing some other
version (or failing completely).

3991: Set workbench_address in docker config.

Merge branch 'master' into 3889-functional-testing

3889: Since all failing API server functional tests are fixed, update test_helper to fail any future tests that execute multiple acions in one single functional test.

3889: update the test "use ownership and permission links to determine which logs a user can see" to account for the newly added log fixture.

3889: split the test "get all pages of group-owned objects" into multiple tests that pull pages with offset of 5.

3901: improve component rendering error reports

The "Components" tab on the /pipeline_instances page now includes the
error that was encountered, and a collapsed panel with the full backtrace.

In our docker jobs image: use our debian packages for the python sdk and
fuse driver.

No issue #

In our docker base image: do not rely on pgp.mit.edu, use
pool.sks-keyservers.net instead.

No issue #

3889: add the job fixture "job_with_unnormalized_output_and_log"

3889: split the test "normalize output and log uuids when creating job" into two tests:
1) that creates a job with unnormalized output and log and verifies that normalization happened and
2) that updates a job with unnormalized output and log (a fixture) with normalized output and log.

3889: split the test "update a job without failing script_version check" into two tests instead of two action in one test.

3889: split the test "cancel a running job" into two tests: one that cancels a running job and another that cancels an already cancelled job.

3889: split test doing post and get requests into two different tests by using a fixture.

3889: break the "add keep disk with no filesystem_uuid" test into two tests, instead of doing two post actions in the same test.

3889: fix tests that were doing multiple actions in one test.

3889: update the test "non-admin user can limit index" to perform the limit check in two tests rather than twice in one test.

3889: split the test "setup user in multiple steps and verify response" into multiple tests invoking setup on active user,
rather than perform three setup actions in one test.

3889: remove the functional test "setup and unsetup user" that is performing two actions in one test,
since other tests in this file already cover the two actions and hence this test is not reduntant.

3988: Job.queue uses "state = Queued" instead of previous multi-column-null test.

3889: fix a few tests that were performing multiple actions on a single instance of TestCase object.

3889: Fix two functional tests that were performing multiple actions on a single instance of TestCase object.

3168: Check internal git repository if the commit already exists before calling
fetch-pack.  Check if a job tag has already been created or not, and if the tag
already exists, that it points to the expected commit.

refs #3889: Merge monkey patch code updates to detect tests that are reusing ActionController::TestCase.
For now, print warning instead of raising error. After the tests are corrected, we can change this behavior to raise an error.
Merge branch '3889-functional-testing'

Merge branch 'master' into 3889-functional-testing

API server: setting workbench_address is not required. This unbreaks the
docker build for the api server image.

refs #3038

Protect the one place in the api server code where we assume the
workbench_address parameter is always set, it is in fact optional.

refs #3038

Merge branch 'master' into 3889-functional-testing

Merge branch 'master' into 3836-remove-collection-from-project-bug

3836: update the fuse test to expect the newly added collections.

Merge branch '3960-show-more-repos' closes #3960

3836: if rescued an error other than unique constraint violation, raise it back.

3836: minor update to test assertion

3836: add integration test to verify name change when a collection is removed from a project,
and another collection with the same name already exists in the home project.

3960: Merge branch 'master' into 3960-show-more-repos

Merge branch '2881-node-has-job-wip'

Refs #2881.  Closes #3944.

2881: crunch-dispatch updates nodes' job assignments.

With this commit, crunch-dispatch updates all the information that
update_node_attributes used to, so it's removed.

2881: API server associates nodes with their assigned jobs.

This will enable us to write better administrative tools (like the
Node Manager) and dashboards.

Merge branch '3413-keep-trash-list'

Closes #3413.