Add python client library package: arv-get, arv-put, arvados module

refs #1646

Merge branch 'master' into 1646-arv-put

Conflicts:
sdk/python/arvados.py

Add arv-get -f (force overwrite) and --skip-existing flags.

If neither is specified, and local destination files exist, refuse to
write anything.

refs #1646

Support "arv-get {locator}/filename path/to/localdir" invocation:
write file data to path/to/localdir/file

refs #1646

Fail gracefully when fetching a raw block that does not exist

Fail more gracefully on some common error conditions

Use our own exception classes, instead of just Exception

Fix crash when destination directory supplied without trailing slash,
and crash when asked to copy a directory to a file.

refs #1646

Use body={...} instead of object_type=json.dumps({...})

Add example scripts and libraries for bwa, samtools, picard, gatk2

closes #1598

Ignore config/environments/test.rb and production.rb

Ignore tmp directory created by cli tests

Remove spurious "if".

Use some helpful HTTP status codes, not just generic 422.

* 403 for PermissionDeniedError
* 401 for UnauthorizedError

Check permission before deleting objects

Allow overriding of default ports for API, doc, SSO, and workbench
servers when started with run.sh

Fix failing test by parsing timestamp correctly.

Fix PermissionDeniedError when a non-admin user is the first to log in
from a given ApiClient.

Add arvados.getjobparam() convenience function.

Accept empty string as root stream name "." in
arvados.CollectionWriter, to mirror os.path.split()

Accept data from a generator in arvados.CollectionWriter.write()

Sort filenames when writing multi-level streams in
arvados.CollectionWriter.

Add arvados.util.clear_tmpdir() function.

Pass through stderr in real time by default in util.run_command()

Allow caller to override close_fds in util.run_command()

Use collection hash instead of entire manifest as symlink target
in arvados.collection_extract(), even when the manifest was passed as
a function argument.

Only require keep volume when a keep container is being started.

Improve compatibility with whput.

* Default to --raw when operating on a single file or stdin
* Accept --use-filename for --filename
* Accept --in-manifest for --manifest
* In --raw mode use comma instead of space between locators

refs #1646

Fix sha1 test, dry up "remove ./tmp/foo" preparations

refs #1646

Command line usability improvements.

* Read from stdin if no path arguments are given.
* Add --stream, --manifest, --raw flags (equivalent to --as-*).

refs #1646

Make the sample "Add authorized key" button non-clickable.

If it behaves like a real button in the browser, users are inclined to
think it *is* a real button, rather than just an image of what to look
for.

Fixes #1664

Add delete button to generic Workbench index page.

Fixes #1665

Remove Rails default scaffold CSS.

Add arv-get, a whget replacement built on the Python SDK.

refs #1646

Add arv-put --as-raw option.

refs #1646

Add CollectionWriter.data_locators()

Add --as-stream test.

refs #1646

Add arv-put, a whput replacement built on the Python SDK.

refs #1646

Show how crunch job tasks get their runtime parameters. refs #1513

Clear TASK_WORK before starting a task.

Use new-style Python classes (subclass object), so super() can work

Add --api, --sso, --workbench, --doc, --keep options to run.sh.
Default is to run all servers.

Refactored and updated run.sh:

* support ENABLE_SSH environment variable
* start 2 keep containers (backed by the same filesystem for now)

build.sh has been superseded by Makefile.

Rename docserver to doc for consistency.

Add an SSH server in each docker container.

It will not be started by default, but can be enabled by setting an
environment (ENABLE_SSH) when starting a container, and is useful for
debugging.

Do not require filesystem_uuid in first keep_disks/ping request.

Record it if provided, but do not try to do any sanity-checking with
it.

Update crunch_refresh_trigger config setting name in tests.

Add job.cancel API.

Same as job.update(job={"cancelled_at":"2112-12-21 21:12"}) but more
convenient.

Closes #1654

Fix config setting name.

Update comments in config/environment/ files.

Check refresh trigger in crunch-job instead of crunch-dispatch.

Crunch-job now checks the timestamp on the trigger file, rather than
waiting for crunch-dispatch notice that the trigger file appeared and
send HUP to its child processes. This way we don't depend on srun
doing what we want with signals.

See f99ffd6844ae9b88cfd17c8fe6e9fcc85a55d79c

Avoid starting new jobs when TERM signal has been received.

Ruby 2.0.0-p247 -> p353 (now installed as stable).

Avoid infinite poll loop triggered by (:running and !(:finished or :cancelled))

Fix scalar gmtime() usage.

Fix missing "my" scope.

Allow users to cancel a running crunch job by updating cancelled_at
(to something other than nil).

Also:
* Add test fixtures for jobs
* Take care to update the Job object piecemeal during crunch-job
  (avoid overwriting cancelled_at)

Fix base class of ApiClient model so as_api_response works

Fix up keep_disks/ping and add tests. refs #1581

Only apply the auto_admin_user configuration rule when no admin users
exist yet, but exclude the default root system user from that count.
Just in case.

Only apply the auto_admin_user configuration rule when no admin users
exist yet. Just in case.

add script/create_superuser_token.rb

Merge branch 'master' of git.clinicalfuture.com:arvados

* Docker API container: add support for the auto_admin_user feature (API server).

This closes #1655

* Default WORKBENCH_INSECURE_HTTPS in config.yml.example to true,
  because we use self-signed certificates in the development environment.

Converted README to real markdown.

Fix dependencies.

Improve Makefile rules.
Start Keep container from run.sh.

Add a config setting: auto_admin_user

This setting is optional, and can be configured to the The e-mail
address of the user you would like to become marked as an admin user on
their first login. This is useful during installation.

In the default configuration, authentication happens through the Arvados
SSO server, which uses openid against Google's servers. In that case
this e-mail address should be an address associated with a Google
account.

Converted README to real markdown.

Fix dependencies.

Improve Makefile rules.
Start Keep container from run.sh.

Make workbench work with the API server.

Make sure the API rails app tmp directory is writable by www-data

* Mention SSO server to documentation in README

* Fix up SSO and API server configuration to allow API and SSO server to communicate

Add threaded Keep.put()

Fixed Makefile dependencies, added docker_build script to work around
https://github.com/dotcloud/docker/issues/1875.

Optimize docserver/Dockerfile

* Make arvados/passenger container
* Build time optimization of the various containers

Fix encoding issue so Python clients can store binary data in Keep

http://stackoverflow.com/questions/8705962/python-http-put-with-unencoded-binary-data

Warehouse docker image no longer requires local checked-out source.

Refuse to stream responses unless request Accept header has text/plain
or */*. Closes #1604

Send "Accept: application/json" header with API requests. refs #1604

Merge branch 'master' of git.clinicalfuture.com:arvados

Updated Makefile for more accurate dependency management.

Move api/job-tasks to api/crunch-scripts and add some explanation

Fix navorder of API resource pages

Merge branch 'master' of git.clinicalfuture.com:arvados

Conflicts:
docker/base/Dockerfile

Added Makefile to track dependencies for Docker images.

Update the dockserver Dockerfile to take advantage of the doc/Gemfile,
as well as the fact that locale generation and the DEBIAN_FRONTEND
environment variable are now set in the base container.

Merge branch 'master' of git.clinicalfuture.com:arvados

Move UTF-8 locale generation and the DEBIAN_FRONTEND environment setting
into the base image.

Fix job script attribute (not script_name), and update script_version
notes to match current code

Do not re-attempt failed job tasks, unless there is some reason to
believe the failure is temporary (i.e., exit value 111 or slurm
failure). closes #1619

Update development-mode crunch-job notes

add doc/Gemfile

Document user#event_stream. closes #1605

* OMNIAUTH_APP_SECRET is no longer used
* We include an omniauth-to-openid gateway container now ('sso')

Add threading locks in Keep client

remove unused class DataReader