Merge branch 'master' into 3586-job-priority closes #3586

Merge branch '3644-arv-mount-projects' closes #3644

3644: Update tests broken by merge

3823: bug fixes for arvados-bcbio-nextgen.py

Refs #3823

3644: Moved some common regex patterns into SDK

Merge branch 'master' into 3644-arv-mount-projects

3644: Restore 'tag' tests and add 'SharedDirectory' and 'HomeDirectory' tests.
All tests should pass now.

Merge branch '3663-collection-reader-performance'

Closes #3663.

Added create#ensure_unique_name to discovery document.  "Add a subproject"
button now uses "ensure_unique_name" to avoid errors when the user creates more
than one project called "New project".  refs #3822

Updated Gemfile again with published package version.  refs #3822

Merge branch '3822-ensure-unique-names' refs #3822

Conflicts:
services/api/Gemfile
services/api/Gemfile.lock

3822: Updated Gemfile

3822: Fixed use of string instead of symbol in hash, added missing list separator.

3822: Added 'ensure_unique_name' option to #create method for API server to
choose a unique name when there is a name collision in the database.
arv-run-pipeline-instance checks to see if there is an output file with the
same name and contents, and uses 'ensure_unique_name' when creating collection.

Replace all remaining references to Clinical Future with Curoverse.

no issue #

3720: Update arvados Gem versions.

Gemfiles need to be in sync with the latest commit on master.
Refs #3720.

3644: minor control block indentation fix.

3644: Changed so ctime == mtime because ctime is not creation time (arg!).
Added atime.  Tweaked timestamps behavior be a bit more useful.

Merge branch '3720-big-manifest-performance-wip'

Closes #3720, #3806.

3720: Limit Workbench file rendering for large Collections.

Rendering too many files can cause rendering to take too long, and
there's not much point because it can really strain browsers too.
Arbitrarily cap rendering at 10,000 files.

3720: Refactor manifest parsing from API server to Ruby SDK.

To date, the API server has been parsing manifests and returning
parsed information in the files attribute.  That's convenient, but
causes performance problems in large Collections.  Profiling indicates
that most of the API server's response time is spent in the
as_api_response method; rendering the same information twice really
hurts.

This commits removes the API server's need to always parse manifests,
and moves the parsing code to the Ruby SDK.  Both the API server and
Workbench use this Gem to parse manifests on an as-needed basis.
This, combined with improvements to the new Keep::Manifest class, lays
the groundwork for future performance gains.

3720: arvados-cli Gemfile refers to gemspec.

This change helps avoid loops where you have to have arvados-cli
installed to build arvados-cli.

3720: Clean up+skip Ruby SDK tests.

First I changed these to get them passing again.  With that done, I
added the skip.  We're not currently running these tests, and getting
them going the right way again (e.g., with run_test_server.py or
mocks) is out of scope for my current task.

Merge branch '3710-combine-selections-bug' refs #3710

3710: Refactored code to reduce redundancy.  Use select() to get the manifest
text instead of reloading each object for performance.

3644: fuse_arvados test pass.

Remove name and description columns on jobs table introduced accidentally
(refs #3036).  Fixed workbench so tests pass.

3710: handle the scenario where files from named collections are selected

3704: Treat project filters consistently in Workbench chooser.

Before this, a chooser that was loaded on a specific project would
return empty results if the user selected a different project.  This
is because it would search for items with two different owner_uuids,
both the project selected at load time, and the project the user
selected later.  This patch fixes that by separating the project
filter from other filters, and preseeding it in the same place where
it's updated by the project selection AJAX.  Closes #3704, #3778.

3663: update test_file_reader unit test

Because StreamFileReader.read() calls are now aligned on block
boundaries, the unit test needs to take that into account when testing
the results of individual reads.

3644: Add --by-id to invocation of arv-mount in crunch-job to get the same
behavior as before.

3644: Added choose-your-own-adventure README files to the --all and --by-id
directories.  Regular expressions are now compiled once at the top for
efficiency and readability.

3710: update the combine_selected_files_into_collection method to also handle the scenarios where a collection uuid or "collection uuid/filename" is passed.

3663: StreamFileReader.read() returns just one chunk

The StreamFileReader read() call reads just a single chunk from the
input stream on each call, instead of reading as many bytes as possible.

3644: Change metafiles to .arvados#collection and .arvados#project.  Change
--by-hash to be --by-id since it works with both uuids and portable data
hashes.

Revert 2 hunks from a5819ec1e48fba90658fcf676ffc50c1f216d484, thus
un-breaking crunch-job in two important ways:

* task stdout and stderr are propagated again

* tasks can actually run because crunch-src is available in the docker
  container again

no issue #

3644: Add threadsafe arvados api access.  arv-mount now releases llfuse global
lock when performing network requests.

3644: Tweak CollectionReader manifest text regular expression to use multiline
match.

3644: Tested, fixed various mount modes.

3644: Default mount mode now includes home, shared, by_hash, and by_tag.

3644: Re-added support for files with json contents of arvados objects.
Changed block size reported by getattr() use 512 byte blocks which is seems to
be necessary to get 'du' to compute the right results.

closes #3637
Merge branch '3637-copy-selections'

3637: add one more test that verifies that the copy action is disabled when a subproject under a project is selected.

3644: Collections work again, added .portable_data_hash and .manifest_text
virtual files to detect if a directory is a collection.

3644: HomeDirectory and ProjectDirectories work, added filename sanitization.

3644: Shared project list almost works, still debugging.

Merge branch 'master' into 3637-copy-selections

3637: remove unwanted tab chars

3637: add integration tests for "copy", "move", and "remove" operations from the project selection dropdown.

Add name and description columns back in for jobs.  refs #3036

Merge branch 'master' into 3586-job-priority

Conflicts:
services/api/db/structure.sql

Delete names and description columns from jobs that shouldn't be there.  Delete
jobs_owner_uuid_name_unique and pipeline_instance_owner_uuid_name_unique
indexes added by mistake.  refs #3036.

3637: copy selected items

Merge branch 'master' into 3637-copy-selections

Conflicts:
apps/workbench/app/views/application/_choose.js.erb
apps/workbench/config/routes.rb

3637: undo some of the changes to absorb Tom's updates to chooser implementation

Do not blow up when running jobs in local mode.

This bug was introduced in a5819ec1e48fba90658fcf676ffc50c1f216d484

no issue #

refs #3637 - merge Tom's updates to chooser implementation, where selected items are passed as parameters.
Merge branch '3637-selection-through-chooser'

3644: build_project_trees method ported from workbench, needs testing

Merge branch '3704-broken-filters-param'

Unfortunately, this does not completely fix the bug, but at least it's
an improvement.  See refs #3704 for more discussion.  Closes #3777.

crunchstat: fix typos in comments and help/error text.

no issue #

Do not blow up when arv is called with an unrecognized argument.

Calling option_parser.educate suffices, no need for a call to
Trollop::die that fails and throws a stacktrace.

no issue #

3637: Propagate checkbox selection through chooser modal, remove session hack.

3637: Operate only on selections within this container, even if clippy has more.

3704: Force params[:filters] into native format so views and helpers can use it.

3644: Project and Home directory work.  Added support for returning correct
timestamps on projects, collections, files.  Should be update
CollectionDirectory if the underlying collection record changes.  Fixed bugs.

Merge branch '3763-move-collections-error' closes #3763

3763: Workbench will not send attributes to API server that are nil and not
changed.

3644: Working on adding timestamps

closes #3714
Merge branch '3714-report-issue-issues'

Merge branch 'master' into 3714-report-issue-issues

3637: fix test now that "Copy selections" and "Move selections" options are no longer available in clippy.

3637: remove "Copy selections" and "Move selections" options from clippy in topnav.

Merge branch 'master' into 3637-copy-selections

3714: minor updates from review feedback

Merge branch 'master' into 3714-report-issue-issues

3637: refactor code for better maintenance.

Fix arv-put tests refs #3709

Merge branch 'master' into 3637-copy-selections

3637: add copy selected items functionality to project selection dropdown.

3644: More renaming GroupDirectory to ProjectDirectory, removing name links.

Merge branch '3719-improve-subst-error-reporting' closes #3719

3719: Python style/wording fixes.

Merge branch '3709-arv-put-print-uuid' closes #3709

3644: Switched around command line parameters a bit.  Will default to --home
now.  Renamed GroupsDirectory to HomeDirectory and GroupDirectory to
ProjectDirectory.

Fix nil dereference causing a fiddlesticks on the collections index page.  no issue #

Merge branch 'master' into 3709-arv-put-print-uuid

Complain and fail if exec() returns. No issue #

Pass stdin to child process. closes #3751

3709: arv-put now prints collection uuid by default.  Add --portable-data-hash
to arv-put to get the old behavior (print PDH).  Crunch-job uses arv-put
--portable-data-hash to get the PDH to put in the log field.  Crunch-job logs
both PDH and collection UUID.

3586: Migrate "priority" column so it is an integer instead of as string.

Run given command even if src tree already installed. No issue #

3586: Set priority to "0" if nil.  Fix test fixtures.

3586: Set job priority column default to '0', add NOT NULL constraint.

3719: Robust-put uses run-command logger.

3719: run-command uses its own logger instead of the default Python logger to
avoid cross talk with badly behaved modules.

closes #3339
Merge branch '3339-truncate-project-descriptions'

3339: fix typo in test

Merge branch 'master' into 3339-truncate-project-descriptions

Remove assertion testing for obsolete output_is_persistent field.  refs #3342

Merge branch 'master' into 3339-truncate-project-descriptions