2798: Continued refactoring buffer reader into separate buffer package.  Made
internal buffer management functions package-internal and added a public API.
Updated keepclient to use buffer package public API.  Added HashCheckingReader
to provide transparent checking of checksums.  Added more package and API
comments.

Prevent admin from creating an object with empty string as UUID.

2770: terminate on SIGTERM.

When SIGTERM is received, the Keep server shuts down gracefully. (refs #2770)

2809: Fix arvados_api_client usage in FileStreamer. refs #2809

Remove debug log message. refs #1969

2809: Fix disappearing ArvadosApiClient in development mode. refs #2809

2755: Defer to CollectionReader to get manifests instead of going
directly to Keep (which only works when Keep has no permission
checks).

refs #2755

Merge branch '0000-arv-mount-bugfixes'

This closes #2831

CollectionReader can throw exceptions (for example, when passing an
argument that is not a manifest or collection UUID). Trap those and
print an error message, instead blowing up the fuse driver.

2798: Completed move of Transfer() related code out to 'buffer' package.

2798: Added AuthorizedGet(), Ask() and AuthorizedAsk().  Added BLOCKSIZE
constant and moved errors.New() declarations to the top of the file.  Improved
test server runner.  Changed some test methods to take copies of KeepClient
instead of pointer.

Moved non-keep-specific buffering code into a separate package.

1885: Renamed DiscoverKeepDisks to DiscoverKeepServers, moved error.New()
declarations to the top, changed some tests to use KeepClient copy instead of
pointer.

In daemon mode, arv-mount should set up the fuse connection before
forking to the background, so that any failures to set up are reported
to the user.

1885: First commit of most complete keep proxy, no tests yet.  Removed build.sh
in favor of go.sh that wraps 'go' with the desired GOPATH and 'go get'.  Added
keepclient.Ask() method which does HTTP HEAD.  Added AuthorizedGet() and
AuthorizedAsk() which provide signature and timestamp.

2809: Merge branch '2809-workbench-rails4' refs #2809

2809: Merge branch 'master' into 2809-workbench-rails4 refs #2809

Conflicts:
apps/workbench/app/models/arvados_api_client.rb

2809: Move coffee-rails out of :assets section to make tests thread-safe.

Otherwise, when Rails decides to build assets while running the test
suite, we get:

WARN: tilt autoloading 'coffee_script' in a non thread-safe way; explicit require 'coffee_script' suggested.

2809: Remove javascript and coffeescript boilerplate.

2809: Remove some unnecessary sleep(0.1).

2809: Rearrange "run API server during tests" to suit Minitest 5.
Also, use passenger instead of webrick.

2809: Upgrade to Rails 4.1

2809: Add wait_for_ajax after submitting forms, to avoid race condition.

2809: Remove debug printfs, add comment explaining why so much "permit!"

2809: Add note about harmless warning when installing the themes_for_rails gem.

2809: Fix whitespace.

2809: Turn off secret_key_base by default, instead of requiring it in config.

2809: Fix load_config so it loads in time to set passenger configs.

2809: Merge branch 'master' refs #2809

Conflicts:
apps/workbench/Gemfile.lock
apps/workbench/app/controllers/application_controller.rb
apps/workbench/app/models/arvados_api_client.rb
apps/workbench/app/models/group.rb
apps/workbench/app/models/user.rb
apps/workbench/app/views/layouts/application.html.erb

2756: Fix "duplicate tab" behavior in Chrome.

2756: Fix ajax refresh on pipeline instance page.

Merge branch '2762-owner-uuid-integrity'

closes #2762

2762: Merge branch 'master' into 2762-owner-uuid-integrity

2755: Verify permission signatures on create.

Phase 1 of #2755: when creating a new collection, verify any permission
signatures found in the manifest.  Unsigned locators in the manifest are
implicitly permitted (to be disabled in Phase 4)

* Collections.create checks permission signatures in a manifest.
* Collections.show signs locators in a manifest.
* Unit test test_create_collection_with_signed_manifest exercises the
  'create' and 'show' methods on a signed manifest.
* application.default.yml, application.yml.example: added configuration
  variable Rails.configuration.permission_key.

Merge branch 'master' into 2798-go-keep-client

2798: Full integration test with real API server and Keep server succeeds.
Expanded return values a bit to include the URL that a block was actually
downloaded from on GET, and the number of replicas written on PUT.

Merge branch 'master' of git.curoverse.com:arvados

Added block GET, and tests.

2798: All PUT tests against stub server pass.  Added explict setting of
Content-Length to avoid unnecessary chunked transfer encoding, and is also
necessary so slices can directly WriteTo() the socket.

2762: Fix wrong class used in test case.

2762: Finish enigmatic comment.

2762: Move destroy_permission_links method to HasUuid.

2328: fix log.Warning bug

oops.

Merge branch '2328-keep-permission-flags' (closes #2328)

Merge branch '1968-monitor-disk-usage'
Lots of changes to datamanager. refs #2719

2328: code review comments.

2798: Read requests from Transfer() now return a slice.  Added BufferReader
WriteTo() but for some reason http.Request Body isn't using it.

Reversed histogram format, so timestamps come first.

2798: Added uploadToKeepServer() test

2798: Checkpoint commit, tests for ReadIntoBuffer() and Transfer() pass.

Really write log messages to logfile. refs #2221 commit:ced5e21

Fix job state cleanup in crunch-job failure case.

2673: Use _method=GET hack to avoid combining request body with GET
method (but still support parameters too long to fit in a query
string).

2328: more 80-column fixes

2328: incorporate code review comments.

Wrap very long lines to 80 columns.

Describe each test failure more explicitly.

TestIndexHandler: Add /index/prefix tests for unauthenticated and
authenticated non-superusers.

TestGetHandler: initialize all variables in one var block.

main: failure to read permission key or data manager token is now a
fatal error.

Specify required ruby version (>= 2.1.0) in gems.

2673: Update bundle to ensure we get commit:67f1781 at runtime.

2673: Move auth to headers, avoid combining request body with GET method.

2821: Add "delete" button to pipeline instances page. closes #2821

2673: Update bundle to ensure we get commit:7ff8586 at runtime.

2638: Fix css syntax.

2798: Merged branch with code to read environment variables with branch working on Put support.

Merge remote-tracking branch 'origin/2798-go-keep-client' into 2798-go-keep-client

Conflicts:
sdk/go/src/arvados.org/keepclient/keepclient.go
sdk/go/src/arvados.org/keepclient/keepclient_test.go

2798: Work in progress connecting data read from input Reader to POST requests.

Add self-signed.{key,pem} to .gitignore files.

Merge branch '2673-no-request-body-in-get'

closes #2673

2673: Move auth to headers, avoid combining request body with GET method.

2754: Hide unhelpful "Add a new job" button.

2812: Fix "not in" filter so it can retrieve rows with null values.

closes #2812

Merge branch 'master' into 2352-remove-attrs

2808: Fix paging on jobs, pipeline_instances, api_client_authorizations.
Restore Jobs link to left nav.

closes #2808

2798: Working on Transfer function, which will be the core function for
mananging concurrent writes to Keep servers.

Merge branch 'master' into 2352-remove-attrs

Merge branch 'master' into 2762-owner-uuid-integrity

2756: Use site-default x-editable mode for pipeline instance name.

Inline mode avoided an "editable popup hides behind left nav" bug
which was fixed in c66afecd36cf7d91223b5db79f3e120954f8217d.

2798: Fixed inconsistencies with Python implementation of ShuffledServiceRoots.
Started working on KeepPut.

2762: Rename assign_uuid to has_uuid to reflect expanded scope.

2762: When deleting an object, delete permissions and fail if other
links would be left dangling.

2798: Started adding tests that ShuffledServiceRoots behavior is consistent
with Python reference implementation.

2798: Added comments to Python shuffled_service_roots and ported function to Go

2798: Turns list of keep disk objects into sorted slice of http URLs for keep servers

2798: Initial commit, supports querying API server for list of Keep disks.
(new branch because I forgot to commit before leaving work)

2762: Test assigning random non-existent owner_uuids to new objects.

2762: Protect owner_uuid referential integrity when changing uuids and
deleting users and groups.

2352: log statement to include uuid if either active or success found in changed attributes.

2328: restrict all /index requests to superuser

Per discussion with Tom on IRC: all /index requests, whether they
include a prefix argument or not, should be restricted to the superuser.

2352: Address review feedback: (1) input can be edited even in Ready state, (2) pipeline cleanup to set state to Paused if RunningOnClient.

Merge branch 'master' into 2352-remove-attrs

2803: Make all Python required versions match wheezy.

2803: Further relax Python SDK requirement for httplib2.

Our build server is using version 0.7.4, so it's apparently fine.

Merge branch '2803-python-package-split-wip'

Closes #2803, #2804.

2803: Relax Python library requirements.

Refs #2803.  We're generally undemanding on the libraries we pull in,
and this can help us use more OS-packaged libraries.

2803: FUSE driver is now under the AGPL.

This is both our intent after the package split, and consistent with
/COPYING file.

2803: Split arvados and arvados_fuse Python modules.

Prior commits tried to make separate SDK and FUSE packages from the
same sdk/python source tree.  However, this didn't work as intended
once the packages were installed.  Python modules don't work like Ruby
namespaces.  If you ask Python to import arvados.fuse, it finds the
arvados module, then looks for the fuse submodule under it.  So you
can't have arvados.fuse installed somewhere completely differently.

In addition, Python packages assume the installation script is called
setup.py.  So they wouldn't find setup_fuse.py.

We still want to have the FUSE module separate, so in discussion on
IRC we decided that the least worst option was to rename the module to
arvados_fuse.  This commit implements that.  If accepted, the new
build procedure will be:

  $ python setup.py egg_info -b \
    ".$(git log --format=format:%ct.%h -n1 .)" sdist upload

Refs #2803.

2352: add a info level log statement in pipeline_instance.rb if active or success flags are updated. The expection is that this should no longer happen.

2352: Update the workbench and arv-run-pipeline-instance script to use pipeline_instance status instead of active and success flags.

2803: Remove unused setup.py.src.

Fix whitespace.

Fix Python SDK test suite issues.

Fix python SDK test suite issues.

2328: handler_test.go refactoring

Refactoring to make tests easier to read and understand.