Stream API responses for jobs.log_tail_follow and users.log_stream

Handle unexpected server responses better, clean up usage/help code

Remove TMP/src.commit too, when removing TMP/src.

Fix left nav link order

Store crunch-job log in a collection instead of just raw data blocks.

Fix gatk_tbz locator.

Revert "Rename annotation DepthOfCoverage to Coverage"

This reverts commit 6d21143f763a0a3a5098acb5698cb549f37a6db5.

Rename annotation DepthOfCoverage to Coverage

GATK 2.6-4-g3e5ff60 says:

Annotation DepthOfCoverage is no longer available in the GATK; it has
been deprecated since version 2.4 (renamed to Coverage)

Add input parameter tables and source code link for each crunch example.

closes #1656

Fix reference to picard source distribution -> binary distribution.

refs #1656

Remove unused module import.

Use git@git.[...] not git://git.[...] as default repository fetch_url.

closes #1691

Formatting tweaks, mosting changing <pre> to textiles block code (bc.) mark.

Merge branch '1637-improve-arv-tutorial'

Fixed formatting.

Added Keep tutorial (refs #1647)

Add "crunch examples" and "crunch utility libraries" pages
in doc/user/.

refs #1513
refs #1656

Clear $CRUNCH_TMP/src when starting a job.

closes #1687

Add GATK2 exome fastq->vcf pipeline example

closes #1574

When running "arv-get -n", it is OK if destination files already exist.

refs #1646

Add docstrings to arvados_samtools module.

closes #1639

Removed numbering and put navorder for tutorial 2 at 102 to hide it.

Missing file

Cleaned up comments to be hidden from rendered page (still visible in
page source).  Tutorial 2 is glaringly unfinished but otherwise we can
go ahead and merge into master to end the sprint.

Cleaned up old files and reorganized navigation order.

Finished first tutorial.

Merge branch '1646-arv-put'

Point "arv keep get/put" to arv-get/put and unsupport "arv get/put"
style.

refs #1646

Add "Install client libraries" page to doc/install/.

refs #1646

Support invoking arv-get and arv-put via "arv get" and "arv put".

refs #1646

Add python client library package: arv-get, arv-put, arvados module

refs #1646

Fix port flags for "run.sh start".

Rename doc page to match title.

Add "Create standard objects" page in install docs.

Support the use of groups to grant repository permissions.

Now, if user A can_read group B, and group B can_read repository C,
then /arvados/v1/repositories/get_all_permissions will indicate that
user A has gitolite_permissions "R" on repository C.

Clean up arvados_bwa module and add docstrings.

closes #1638

Merge branch 'master' into 1646-arv-put

Conflicts:
sdk/python/arvados.py

Merge branch '1587-fix-test-suites-in-devsandbox'

Add arv-get -f (force overwrite) and --skip-existing flags.

If neither is specified, and local destination files exist, refuse to
write anything.

refs #1646

Support "arv-get {locator}/filename path/to/localdir" invocation:
write file data to path/to/localdir/file

refs #1646

Fail gracefully when fetching a raw block that does not exist

Fail more gracefully on some common error conditions

Use our own exception classes, instead of just Exception

Fix crash when destination directory supplied without trailing slash,
and crash when asked to copy a directory to a file.

refs #1646

Use body={...} instead of object_type=json.dumps({...})

Add example scripts and libraries for bwa, samtools, picard, gatk2

closes #1598

Merge remote-tracking branch 'origin/master' into 1637-improve-arv-tutorial

A little bit of documentation work from home

Adding 'run.sh test api' to run API server Rails tests.

Documentation work in progress, making evening check-in.

Ignore config/environments/test.rb and production.rb

Ignore tmp directory created by cli tests

Added 'test' command to run.sh.

run.sh: bug fixes

Rewriting documentation work in progress.

run.sh: add "stop" command, also remove old containers before trying to start them

Remove spurious "if".

Use some helpful HTTP status codes, not just generic 422.

* 403 for PermissionDeniedError
* 401 for UnauthorizedError

Check permission before deleting objects

Reorganized code to support 'start' command.

Merge branch 'master' of git.clinicalfuture.com:arvados into 1637-improve-arv-tutorial

run.sh prints instructions/settings for running a test suite.

Notes on new user documentation

Add support for ARVADOS_API_PORT.

Superuser script must be run as ./script/create_superuser_token.rb.

API_SUPERUSER_TOKEN must be named API_SUPERUSER_SECRET to be autogenerated.

run.sh bug fixes.

Mount separate volumes for each keep container launched.

Allow overriding of default ports for API, doc, SSO, and workbench
servers when started with run.sh

Fix failing test by parsing timestamp correctly.

Fix PermissionDeniedError when a non-admin user is the first to log in
from a given ApiClient.

Changes to permit keep_server containers to authenticate to api_server.

* Generate an API "superuser token" and deliver this token to the
  Keep server via warehouse.conf.
* Start the keep_server containers with a link to api_server.
* Add config.yml to the dependency chain for the base image (so it will
  be rebuilt if PUBLIC_KEY_PATH is changed).

Add arvados.getjobparam() convenience function.

Accept empty string as root stream name "." in
arvados.CollectionWriter, to mirror os.path.split()

Accept data from a generator in arvados.CollectionWriter.write()

Sort filenames when writing multi-level streams in
arvados.CollectionWriter.

Add arvados.util.clear_tmpdir() function.

Pass through stderr in real time by default in util.run_command()

Allow caller to override close_fds in util.run_command()

Use collection hash instead of entire manifest as symlink target
in arvados.collection_extract(), even when the manifest was passed as
a function argument.

Only require keep volume when a keep container is being started.

Improve compatibility with whput.

* Default to --raw when operating on a single file or stdin
* Accept --use-filename for --filename
* Accept --in-manifest for --manifest
* In --raw mode use comma instead of space between locators

refs #1646

Fix sha1 test, dry up "remove ./tmp/foo" preparations

refs #1646

Command line usability improvements.

* Read from stdin if no path arguments are given.
* Add --stream, --manifest, --raw flags (equivalent to --as-*).

refs #1646

Make the sample "Add authorized key" button non-clickable.

If it behaves like a real button in the browser, users are inclined to
think it *is* a real button, rather than just an image of what to look
for.

Fixes #1664

Add delete button to generic Workbench index page.

Fixes #1665

Remove Rails default scaffold CSS.

Add arv-get, a whget replacement built on the Python SDK.

refs #1646

Add arv-put --as-raw option.

refs #1646

Add CollectionWriter.data_locators()

Add --as-stream test.

refs #1646

Add arv-put, a whput replacement built on the Python SDK.

refs #1646

Show how crunch job tasks get their runtime parameters. refs #1513

Clear TASK_WORK before starting a task.

Use new-style Python classes (subclass object), so super() can work

Add --api, --sso, --workbench, --doc, --keep options to run.sh.
Default is to run all servers.

Refactored and updated run.sh:

* support ENABLE_SSH environment variable
* start 2 keep containers (backed by the same filesystem for now)

build.sh has been superseded by Makefile.

Rename docserver to doc for consistency.

Add an SSH server in each docker container.

It will not be started by default, but can be enabled by setting an
environment (ENABLE_SSH) when starting a container, and is useful for
debugging.