3775: Remove redundant log message.

3775: Clean up reporting of exit codes: say "0 with signal 2", not "512".

3775: Add TODO comments in suspicious-looking collate_output corners.

3775: Run local/dev jobs on code from arbitrary remote git repositories.

* repository is a local path X -> use local repository X or X/.git.

* repository is a git url (git://, https://, git@host:repo.git, etc)
  fetch branches, tags, and objects from the remote and use the result
  to resolve script_version to a commit sha1 and run the job.

* else -> look up the named repository in Arvados and use its
  fetch_url as a remote git url as above.

* --git-dir is given on the command line -> use that instead of
  $Job->{repository} in the above logic. (This isn't new. It ensures
  we don't go off fetching arbitrary remotes when crunch-dispatch.rb
  has already pulled the code into its own internal git repo.)

Incidental changes:

* Lose support for looking up subversion revision numbers using
  git-svn tags.

* Lose support for CRUNCH_DEFAULT_GIT_DIR environment variable. Pass
  --git-dir instead.

* Improve log messages during checkout/install phase.

3775: Remove stagnant $job_has_uuid flag. Every job has a uuid. The
only time to skip updating the job record on the server side is when
croak() happens before $Job is created/fetched.

3775: Fix syntax error 2 commits ago.

3775: Merge branch 'master' into 3775-fetch-git-repo

Merge branch '3052-crunch-log-stdout' closes #3052

Merge branch 'master' into 3052-crunch-log-stdout

3052: Change ruby style ruby style {:stderr => ''} to json style {stderr: ''}

Merge branch '3782-large-job-logs'

Closes #3782.

3782: fix FuseSharedTest

Add test fixture to fix "test_cancel_someone_else's_visible_job" refs #3859

Merge branch '3859-api-job-lock-method' refs #3859

3782: code review feedback

* Fixed whitespace, JavaScript style in _show_log.html.erb
* Removed unused bytecount variable from file_enumerator
* Changed the new job and collection fixtures to have the job uuid match
  the uuid listed in the log.

3782: added state to job fixture

Merge branch 'master' into 3782-large-job-logs

Conflicts:
services/api/test/fixtures/collections.yml
services/api/test/fixtures/jobs.yml

Merge branch '3782-stub-file-content' refs #3782

3782: Merge branch 'master' into 3782-stub-file-content

3782: Use stubbed file content for "inactive user can retrieve user agreement" test.

Merge branch '4000-rerun-pipeline-changed-template'

Closes #4000.

4000: update both functional tests.

4000: tighten up functional test

Updated the test to ensure that a copied pipeline instance actually has
the expected script_parameters from both the source instance and source
template, respectively.

Use job state field instead of running/success columns. refs #3898

3782: bugfix and added integration test

* Fixed bug where log viewer would always request partial log and receive
  206, even when total log size is shorter than log_viewer_max_bytes.
* Added integration tests:
** set up KEEP_LOCAL_STORE with dummy log
** test retrieving full job log
** test retrieving partial job log

3859: unit test for job state changes

3782: Merge branch 'master' into 3782-stub-file-content

3782: Remove obsolete helper method.

3859: Added AlreadyLockedError for job lock conflict.  Added runningbarbaz
fixture so test "cancel someone else's visible job" is testing the right thing.

Merge branch '4004-restore-dashboard-buttons' closes #4004

4004: Add newlines for readability

3775: Fix crunch-job exit status: exit non-zero after "freeze"
path (which includes task failure, INT, TERM, etc.)

Also fix wrong todo list (and therefore todo count in progress stats)
after permanent task failure.

3899: Fix for counting complete/failed components refs #3899

3859: Add functional test for locking and fix tests broken by validate_state_change.

Merge branch 'master' into 3859-api-job-lock-method

4000: fix copying pipeline instances with newer templates

* When copying script parameters from a pipeline instance, check that
  the component exists in the source instance before blindly
  dereferencing it.
* Added tests for copying when components=use_latest and when
  script=use_same (the two edge cases exposed by this bug)

3859: Cleaned up validate_state_change.  Added unit test for job locking.

4004: Rename "Compute status" to "Compute and job status".  Added integration
tests for buttons.  Reduced dashboard page rendering time by at least 25% by
batching certain API server requests (previously happing per-object),

3782: check for Content-Range header in response

Change the logic for detecting whether the log has been truncated to:
* response status code is 206
* a Content-Range header is present with 'bytes 0-x/y'
* x + 1 < y

Add a "download full log" link that is present when the full log is
available to be viewed.

Merge branch '3961-uuid-assignment-not-permitted'

Closes #3961.

3961: fix FuseSharedTest

Added new active_user collection to the FuseSharedTest.

3052: Style tweak, iterate over j[:buf] to read streams

Merge branch '3961-uuid-assignment-not-permitted'

Closes #3961.

3961: more explicit assertions and error text

3782: Isolate file_enumerator stubbing to the current test. Introduce mocha.

3052: Rename variable "std" to "stream"

3961: test creating subprojects under home with duplicate names

New tests:
* unprivileged user creating a subproject under their home project, with
  an existing name, returns 422
* unprivileged user creating a subproject under their home project, with
  an existing name, and ensure_unique_name=true, succeeds

3782: keep log viewer code in _show_log.html.erb

Keep log-related restrictions in the log viewer and not in general
purpose workbench code:

* Add Rails.configuration.log_viewer_max_bytes to specify the maximum
  number of log bytes to display
* The log viewer specifies a byte limit via the HTTP Range header. The
  Content-Length of the response is set to the minimum of the 'size'
  query parameter and the byte range. If the log appears to have been
  truncated, the viewer reports it in the 'log_viewer_overview' pane.
* CollectionsController.FileStreamer either delivers the entire file
  or exactly opts[:maxbytes] bytes, whichever comes first.  It does not
  add any log-specific message.

3052: capture stdout to log in crunch-dispatch

3866: PySDK KeepClient accommodates services with IPv6 addresses.

I thought there was going to be a nicer way to construct URLs than
this, but urllib.urlunparse is still expecting the host+port as a
single string, so this approach is easier.  Closes #3866.

3782: print log lines compatible with the log viewer

When the log is truncated, make it parsable by the log viewer regex in
addToLogViewer().

Merge branch '3848-egg-default-git-tag-wip'

Closes #3848, #3952.

3848: Package version numbers use UTC timestamps.

Per note-9 in the issue.

3848: Python packages build with git tag by default.

This moves the build logic that we currently encode in Jenkins into
our setup.py, and makes it easier for developers to have versions in
sync with real users.

closes #3889
Merge branch '3889-functional-testing'

3961: reset object UUID when ensure_unique_name is set

When saving an object that has to be renamed with ensure_unique_name,
force @object.uuid to nil so that validate_uuid will not be confused
into thinking we are trying to reassign the uuid.

Merge branch 'master' into 3889-functional-testing

Merge branch '3616-live-stream' closes #3616

Merge branch 'master' into 3889-functional-testing

3889: add a new integration tester for users controller. Refactor code so that users functional and integration tests can reuse some of the helper methods.

3782: restore default of no maxbytes

Use the 'size' query parameter to specify the limit of log bytes to
display for a job.  If no 'size' parameter is present, the FileStreamer
class reads up to 2**16 bytes from the API server.

Merge branch '3871-non-ascii-project-names' closes #3871

3616: Use "ensure" to close response stream.

3871: Pass on UnicodeEncodeError.  Don't return those entries in the directory
listing because the user won't be able to access them anyway.  Add --encoding
parameter to command line to allow the user to specify desired filesystem
encoding.

Merge branch 'master' into 3889-functional-testing

Conflicts:
services/fuse/tests/test_mount.py

Merge branch '3901-component-rendering-errors'

Refs #3901.

3616: Use ActionController::Live to avoid buffering entire response in memory.

Merge branch 'master' into 3901-component-rendering-errors

Conflicts:
apps/workbench/app/helpers/pipeline_instances_helper.rb

closes #3836
Merge branch '3836-remove-collection-from-project-bug'

Merge branch 'master' into 3836-remove-collection-from-project-bug

3889: minor test assertion updates

3889: remove the job fixture "job_with_unnormalized_output_and_log" and instead use "foobar"

3901: added unit test for pipeline rendering

Merge branch 'master' into 3889-functional-testing

Conflicts:
services/api/test/fixtures/jobs.yml

3889: some monir assertion updates.

Fix typo in error message. Refs #3961

Merge branch 'master' into 3859-api-job-lock-method

Conflicts:
services/api/script/crunch-dispatch.rb

3871: Encode/decode file and directory names to UTF-8

4004: Put "All jobs/pipelines/collections" buttons back onto dashboard.  Also
tweak minimum height of top panels so they line up.

Merge branch '3899-crunch-use-job-state' closes #3899

3899: Uncomment line that was commented out for debugging and committed by mistake.

3889: add "#{user} can get collection using portable data hash" test

3899: pipeline_instances_helper: Don't set :state if it's already set.  Add newline to jobs.yml.

Merge branch '3168-crunch-git-fetch' closes #3168

Remove useless take() and untake() methods.

3168: Instead of crashing using save! log an error and go to the next job.

Merge remote-tracking branch 'origin/master' into 3899-crunch-use-job-state

3899: jobs_controller uses state = Queued instead of multiple state columns.
Updated fixture so that tests pass.

Merge branch '3991-docker-workbench-address' closes #3991

3889: update the fuse test to expect the newly added pipeline instances.

3991: Merge branch 'master' into 3991-docker-workbench-address

3168: Fail on git tag collision instead of putting job back into the queue.

3899: Set :state in pipeline_instance_helper.rb and remove Job::state.

3991: Fix config checks in admin_notifier.

Merge branch 'master' into 3889-functional-testing

3889: Since all offending tests are fixed, update test_helper to generate an error if any functional test performs more than one action in on test in the future.

3889: update the test "update script_parameters one at a time using merge param" to use fixture instead of create a new pipeline instance.

3991: Change docker default to "no root url redirect". Make "not found" message more friendly.

Merge branch 'master' into 3901-component-rendering-errors

3901: allow job to be either Hash or Job

Refactoring to ensure that a component "job" data structure may either
be a Hash (parsed directly from the component's JSON representation) or
a real Job object retrieved from the database.

When rendering a pipeline, parse the :started_at and :finished_at
timestamp fields, respectively, if necessary.