Merge branch 'master' into 3889-functional-testing

3889: add a new integration tester for users controller. Refactor code so that users functional and integration tests can reuse some of the helper methods.

Merge branch '3871-non-ascii-project-names' closes #3871

3871: Pass on UnicodeEncodeError.  Don't return those entries in the directory
listing because the user won't be able to access them anyway.  Add --encoding
parameter to command line to allow the user to specify desired filesystem
encoding.

Merge branch 'master' into 3889-functional-testing

Conflicts:
services/fuse/tests/test_mount.py

Merge branch '3901-component-rendering-errors'

Refs #3901.

Merge branch 'master' into 3901-component-rendering-errors

Conflicts:
apps/workbench/app/helpers/pipeline_instances_helper.rb

closes #3836
Merge branch '3836-remove-collection-from-project-bug'

Merge branch 'master' into 3836-remove-collection-from-project-bug

3889: minor test assertion updates

3889: remove the job fixture "job_with_unnormalized_output_and_log" and instead use "foobar"

3901: added unit test for pipeline rendering

Merge branch 'master' into 3889-functional-testing

Conflicts:
services/api/test/fixtures/jobs.yml

3889: some monir assertion updates.

Fix typo in error message. Refs #3961

3871: Encode/decode file and directory names to UTF-8

Merge branch '3899-crunch-use-job-state' closes #3899

3899: Uncomment line that was commented out for debugging and committed by mistake.

3889: add "#{user} can get collection using portable data hash" test

3899: pipeline_instances_helper: Don't set :state if it's already set.  Add newline to jobs.yml.

Merge branch '3168-crunch-git-fetch' closes #3168

Remove useless take() and untake() methods.

3168: Instead of crashing using save! log an error and go to the next job.

Merge remote-tracking branch 'origin/master' into 3899-crunch-use-job-state

3899: jobs_controller uses state = Queued instead of multiple state columns.
Updated fixture so that tests pass.

Merge branch '3991-docker-workbench-address' closes #3991

3889: update the fuse test to expect the newly added pipeline instances.

3991: Merge branch 'master' into 3991-docker-workbench-address

3168: Fail on git tag collision instead of putting job back into the queue.

3899: Set :state in pipeline_instance_helper.rb and remove Job::state.

3991: Fix config checks in admin_notifier.

Merge branch 'master' into 3889-functional-testing

3889: Since all offending tests are fixed, update test_helper to generate an error if any functional test performs more than one action in on test in the future.

3889: update the test "update script_parameters one at a time using merge param" to use fixture instead of create a new pipeline instance.

3991: Change docker default to "no root url redirect". Make "not found" message more friendly.

Merge branch 'master' into 3901-component-rendering-errors

3901: allow job to be either Hash or Job

Refactoring to ensure that a component "job" data structure may either
be a Hash (parsed directly from the component's JSON representation) or
a real Job object retrieved from the database.

When rendering a pipeline, parse the :started_at and :finished_at
timestamp fields, respectively, if necessary.

3889: add fixture "pipeline_with_tagged_collection_input"

3988: Add note to Job.state.  Replace logic to compute state based on
success/running columns with the same logic as used on apiserver.

bug fix: args_retries => args.retries

No issue #

3899: Shorten count of ended/succeed/failed in a-r-p-i with some clever Ruby.
Improve reporting to test for state == Cancelled instead of looking at
cancelled_at, and distinguish between cancelled the state being unexpectedly
changed to success/failed.  pipeline_instances_helper uses state attribute.

Merge branch 'master' into 3836-remove-collection-from-project-bug

3889: fix typo in test name

3991: Use db:structure:load and db:seed instead of db:setup: the database already exists here.

3991: Handle "no workbench_address configured" more gracefully.

* Remove example config from default production section.
* Follow config rule: false = feature disabled, nil = sysadmin error.
* Respond 404 at root url if no workbench_address is configured.
* Never redirect to workbench if client requested JSON.

3991: Run passenger script using bundle exec.

Passenger was installed in a previous step, but that was done using
"bundle install", which installs into ./vendor/bundle instead of a
system-wide install dir. This way, we install the passenger version
listed in services/api/Gemfile.lock instead of installing some other
version (or failing completely).

3991: Set workbench_address in docker config.

Merge branch 'master' into 3889-functional-testing

3889: Since all failing API server functional tests are fixed, update test_helper to fail any future tests that execute multiple acions in one single functional test.

3889: update the test "use ownership and permission links to determine which logs a user can see" to account for the newly added log fixture.

3889: split the test "get all pages of group-owned objects" into multiple tests that pull pages with offset of 5.

3901: improve component rendering error reports

The "Components" tab on the /pipeline_instances page now includes the
error that was encountered, and a collapsed panel with the full backtrace.

In our docker jobs image: use our debian packages for the python sdk and
fuse driver.

No issue #

In our docker base image: do not rely on pgp.mit.edu, use
pool.sks-keyservers.net instead.

No issue #

3889: add the job fixture "job_with_unnormalized_output_and_log"

3889: split the test "normalize output and log uuids when creating job" into two tests:
1) that creates a job with unnormalized output and log and verifies that normalization happened and
2) that updates a job with unnormalized output and log (a fixture) with normalized output and log.

3889: split the test "update a job without failing script_version check" into two tests instead of two action in one test.

3889: split the test "cancel a running job" into two tests: one that cancels a running job and another that cancels an already cancelled job.

3889: split test doing post and get requests into two different tests by using a fixture.

3889: break the "add keep disk with no filesystem_uuid" test into two tests, instead of doing two post actions in the same test.

3889: fix tests that were doing multiple actions in one test.

3889: update the test "non-admin user can limit index" to perform the limit check in two tests rather than twice in one test.

3889: split the test "setup user in multiple steps and verify response" into multiple tests invoking setup on active user,
rather than perform three setup actions in one test.

3889: remove the functional test "setup and unsetup user" that is performing two actions in one test,
since other tests in this file already cover the two actions and hence this test is not reduntant.

3988: Job.queue uses "state = Queued" instead of previous multi-column-null test.

3889: fix a few tests that were performing multiple actions on a single instance of TestCase object.

3889: Fix two functional tests that were performing multiple actions on a single instance of TestCase object.

3168: Check internal git repository if the commit already exists before calling
fetch-pack.  Check if a job tag has already been created or not, and if the tag
already exists, that it points to the expected commit.

refs #3889: Merge monkey patch code updates to detect tests that are reusing ActionController::TestCase.
For now, print warning instead of raising error. After the tests are corrected, we can change this behavior to raise an error.
Merge branch '3889-functional-testing'

Merge branch 'master' into 3889-functional-testing

API server: setting workbench_address is not required. This unbreaks the
docker build for the api server image.

refs #3038

Protect the one place in the api server code where we assume the
workbench_address parameter is always set, it is in fact optional.

refs #3038

Merge branch 'master' into 3889-functional-testing

Merge branch 'master' into 3836-remove-collection-from-project-bug

3836: update the fuse test to expect the newly added collections.

Merge branch '3960-show-more-repos' closes #3960

3836: if rescued an error other than unique constraint violation, raise it back.

3836: minor update to test assertion

3836: add integration test to verify name change when a collection is removed from a project,
and another collection with the same name already exists in the home project.

3960: Merge branch 'master' into 3960-show-more-repos

Merge branch '2881-node-has-job-wip'

Refs #2881.  Closes #3944.

2881: crunch-dispatch updates nodes' job assignments.

With this commit, crunch-dispatch updates all the information that
update_node_attributes used to, so it's removed.

2881: API server associates nodes with their assigned jobs.

This will enable us to write better administrative tools (like the
Node Manager) and dashboards.

Merge branch '3413-keep-trash-list'

Closes #3413.

3899: crunch-dispatch uses state column to mark crashed jobs as failed.

Merge remote-tracking branch 'origin/master' into 3988-crunch-use-job-state

3899: Fix syntax errors in arv-run-pipeline-instance, and update job record if
job is queued or running.

Merge branch 'master' into 3889-functional-testing

Merge branch 'master' into 3836-remove-collection-from-project-bug

closes #3038
Merge branch '3038-default-port-numbers'

3889: update test_helper.rb with Tom's updates.

3988: look at job state instead of cancelled_at to determine if the job should
be stopped.

3988: Update crunch-job, arv-run-pipeline-instance and workbench to read/write
"state" field of jobs instead of using running/success (+
cancelled_at/started_at/finished_at) to figure out what state the job is in.

Merge branch '3889-functional-testing-TC' into 3889-functional-testing

Merge branch 'master' into 3889-functional-testing

3038: address review feeback; change the config parametter values in default yml files to avoid conflicts

3413: code review update

3889: Clean up counter checks. For now, warn instead of failing.

3038: revert update to remove implementation that was accidentatlly pushed to this branch instead of 3836 branch!

3836: if there is a unique constraint violation when a collection is removed from a project,
which happens if there is already a collection with that same name in the Home project,
rename the collection to ensure the removal process can complete.