Merge remote-tracking branch 'origin/master' into 2049-run-job-from-workbench

Added section about installing libwarehouse-perl.

Gemfile update using ruby 2.1.1

Merge pull request #1 from gitaway/patch-1

Correct parameterized input collection reference

Correct parameterized input collection reference

Attempting to follow the tutorial I was blocked because the UUID for the alternate input supplied as a command line parameter was incomplete. This can be easily overlooked because in fact the final filtered output is a zero-length file in either case: it's just that currently it is zero-length only because its input is empty!

Be consistent in referring to the 'All users' group.

Fixed broken links in documentation that were using {{site.basedoc}} instead of {{site.baseurl}}.
Fixed some other links so that documentation can be browsed from file:///
Made some updates to API server setup guide.

Fix jobs.cancel and add integration test. closes #2258

Fix usage message dependent on credentials. Remove unused argparse import.

Set up virtualenv and install custom SDK only if SDK appears in
arvados/sdk/python -- ignore sdk/python.

This means scripts that are run straight from the arvados tree will
use whatever SDK is installed on the compute node, rather than
installing the SDK and dependencies into a virtualenv.

If you want your scripts to be in [a fork of] the arvados tree rather
than bringing in arvados as a submodule, *and* you want to pin jobs to
a specific SDK version, add a symbolic link in your source tree
(/arvados -> .).

Add build.sh step to Python SDK install recipe (part 2).

Add build.sh step to Python SDK install recipe.

Do not try to extract git archive if none was provided by calling process.

Fixed handling of optional/required parameters with no specified or default value when constructing initial components hash.

Fix text color of active+hover nav link

Increased refresh rate to every 15 seconds from every 30 seconds.

Merge remote-tracking branch 'origin/master' into 2049-run-job-from-workbench

Fix refresh feature on pipeline_instances/show.

Note symbolic link to ../application/show.html.erb seems to be
necessary for "render template: 'pipeline_instances/show'" to work;
rails doesn't fall back to application/show automatically here.

Revert "Move left nav all the way to the top left corner."

This reverts commit d7a07294a8d4a546852a33417972924f658e4024.

Improved/fixed color coding of job status for pipelines.

Merge remote-tracking branch 'origin/master' into 2049-run-job-from-workbench

Conflicts:
apps/workbench/app/views/layouts/application.html.erb

Moved code specific to editing pipelines from editable.js to pipeline_instance.js.
Improved detection of paramater data type to choose the right editing control.

UI for editing component parameters now correctly highlights the background of required parameters that are not set, and removes the highlight when the parameter is set.

Editing input values of pipeline_instances mostly works, but needs polishing.

Pipeline parameter editing supports selection box for choosing from workbench persistent selection list.  Actually committing changes not tested yet.
Also changed layout of selection dropdown and added "clear selections" button.

Move left nav all the way to the top left corner.

Merge remote-tracking branch 'origin/master' into 2049-run-job-from-workbench

Do not blow up on node create when the ec2 configuration values are not
set.

All this ec2-specific stuff needs to be ripped out, but for now this
will have to do.

Checkpoint, working on form to set component inputs.

Merge branch '2060-edit-tags-in-workbench'

closes #2060
closes #1981

Turn off CSS animation on loading graphic; make it red instead.

Fix spacing of tag labels.

Fix files=nil -> files=[] in API response for empty collection.

Merge branch 'master' into 2060-edit-tags-in-workbench

Merge branch 'master' into 2060-edit-tags-in-workbench

Fixed url_for() so that links/redirects to workbench records work as expected.
Can now click a "play" button next to a pipeline template and create a pipeline instance.

Update Python SDK docs to reflect new llfuse dependencies.

Document pkg-config dependency for llfuse.

Consume all arguments after arv-mount --exec, and fork subprocess
without a shell to avoid double shell expansion.

Use fusermount -z to force detach and avoid hanging on exit.

Update Docker-based services to ruby-2.1.0.

Use rvm-exec to eliminate extra bash process provided by "rvm do". closes #2095

Update Python SDK install step, add virtualenv dependency

Use %N instead of %n format and parse node ranges ourselves if slurm <2.3

Frontend feature to add items to locally-stored selection list that is session-persistent.

Update arvdock instructions.

Added selection box to collections

Added localStorage selection to generic index pages.

Remove -h flag from arv examples in docs, now that it means --help.

Merge branch 'master' of git.clinicalfuture.com:arvados

# Please enter a commit message to explain why this merge is necessary,
# especially if it merges an updated upstream into a topic branch.
#
# Lines starting with '#' will be ignored, and an empty message aborts
# the commit.

Merge branch '1965-fuse-support-directories'

Conflicts:
sdk/python/arvados/keep.py

Hash now uses get_task_param_mount() to read from fuse mount instead of CollectionReader.

Added alternate option to one_task_per_input_file to encode specification of input files as collection/stream/file instead of raw manifest text.

Added StreamFileReader.as_manifest() back and added test for it.
Refactored manifest text generation a bit.

Merge branch 'master' into 2199-crunch-virtualenv

get_job_param_mount() and get_task_param_mount() tested and working.

Added symlink arv-mount, arv-normalize, arv-ls to cli/bin

Added get_job_param_mount() and get_task_param_mount()

Changed JOB_WORK to TASK_WORK in mounting keep directory.

Added arv-mount

--exec works

Added --exec, needs testing.

Fixed caching so that reads by other threads for a block which is already
being downloaded will block all threads until the block is downloaded.

caching wip

Added test for magic directories.

Added basic unit test for fuse mount.

changed fusepy to llfuse

installing llfuse from pip instead of debian

Added comments and some refactoring.

Improve headings in Python SDK installation section.

Update Python SDK documentation to reflect availability of PyPI package,
as well as the updated build-from-source instructions.

Improve python sdk package building to allow for easy distribution via
pypi.

Update url field in python sdk setup.py file.

Robustness improvements

Fuse driver works for mounting collections and reading files.  Tested with jlake collection, spot checked m5dsum values of several files which matched the md5sum catalog in the jlake collection.

Working on fuse mount

Directory browsing works, working on error handling for file reading.

Work in progress arv-mount based on llfuse and supporting directories listings.

Fixed file page to sort by stream name, then by file name

Do a partial normalization of file list before sending to client.

Put some code into collection model to do normalization but I don't think that is the right place for it.

Re-order left nav and make labels consistent with arvados vocabulary.

Added arv keep normalized

Added arv-normalize

added -s option

implemented arv-ls to replace whls

Working on arv-ls

Merge branch 'master' into 2199-crunch-virtualenv

Fix more namespace bugs.

Install Python SDK from repository (if present) into virtualenv for
crunch job.

Fix missing : separator in PYTHONPATH.

Tests pass

Fix namespace bugs.

Added readfrom()

Unit tests for arvados.locators_and_ranges

Add {repo}/arvados/sdk/python to Python search path during crunch job.

Merge branch 'master' into 2060-edit-tags-in-workbench

Update fixed header rows after new content arrives via ajax.

Lighten and add tooltips to "delete tag" buttons.

Fix breadcrumb-hiding on user agreements page. closes #2191