Merge branch 'master' into 4062-infinite-scroll-repeat-issue

Make sure to use httpclient 2.5.0 or higher for Workbench. Older
versions force the use of SSLv3, which is no longer advisable now that
Poodle is a thing.

No issue #

4062: created_at filter in load_contents_objects

4083: Searched for everything using strptime and added import _strptime where it was missing. closes #4083

Merge branch '4229-close-files' closes #4229

added by_id subdirectory notes and arvados#collection

No issue #.

4239: Update Python SDK for google-api-python-client 1.3.

This package renames the module from apiclient to googleapiclient.  It
provides a shim apiclient module for compatibility, but it only
exports the appropriate names, not real submodules.  Using it requires
changing imports like

    import apiclient.errors

to

    from apiclient import errors

This approach works (has been tested) with both versions 1.2 and 1.3.
Closes #4239.

4189: Diagnostics suite doesn't try to clear Rails cache.

Refs #4189.

Merge branch 'master' into 4062-infinite-scroll-repeat-issue

Conflicts:
services/api/test/fixtures/collections.yml
services/api/test/fixtures/jobs.yml

4062: Do not include offset in the next_page_href when objects of multiple kinds are being fetched; instead, we will rely on created_at filter alone.
Updated the tests and fixtures to expect all 200+ objects in the pipelines and jobs tab.
The test however is still not working as the created_at filter based fetch is not working.

Merge branch '4189-workbench-project-admin-attr-editing-wip'

Closes #4189, #4202.

4189: Workbench lets users with write permission rename objects in projects.

The key part of this commit are the changes to ApplicationHelper.
There's also some refactoring to more consistently answer questions
about whether or not an attribute is editable.

There are also some tests in here that I wrote while I was tracking
down the problem.  They seem like a useful addition.

4189: Workbench tests clear more state during teardown.

I'm working on some new tests that pick up on stale state without
these changes.

4189: Document the API server's writable_by field.

4189: Add writable_by to User API response, so writable_by is available for every owner_uuid.

4189: Admit in writable_by that an object is writable when its owner_uuid is writable.

4189: Look up owner's writable_by when API did not provide writable_by for the object in question.

4062: test updates

Merge branch '3609-arv-ws' refs #3609

3609: Fix PollClient for case when there are no filters (get everything).

3609: Testing fixups.

3609: Back out setting api_version, api_host, and api_insecure on api client
and instead document that caller to arvados.events.subscribe() should pass in a
freshly created api client.  Add event variable to indicate when subscription
is a success instead of sleeping.  Removed unused "import time".  Fixed "web
sockets" -> "websockets".

4229: Add missing Close() calls

4229: Get rid of sleep() in test

4062: update python testing to handle the multiple fixture object creation, similar to workbench test_helper update.

3609: import signal; add_mutually_exclusive_group doesn't take any arguments.

Python SDK is not compatible with apiclient 1.3.

Figuring out why this is needs more investigation.  It's something I'd
like to do, but it seems urgent to push this fix so builds can pass
again.  No issue #, but see
<https://ci.curoverse.com/job/arvados-api-server/980/>.

Merge branch 'master' into 4062-infinite-scroll-repeat-issue

4062: test update

3609: Add additional api_ fields to api client object so that subscribe() can
create a new api client.  Change test to use event variable instead of
sleeping.  Fix "Web sockets" -> "Websockets".  Make some command line options
mutually exclusive.

Merge branch '4219-verify-with-hints' closes #4219

4219: Add test for missing size hint. Dry up "known signature hint" consts.

Merge branch 'master' into 4062-infinite-scroll-repeat-issue

4062: trailing white space

4062: fix greedy infinite scrolling in tabs displaying more than one kind (Jobs and pipelines tab and Other objects tab).
Not only did scrolling never stopped, it never reloaded the next page and reloaded the same first page again and again.
Added test fixtures with many objects to test scrolling.
Added tests to use vertical scrollbar. The test itself is not able to test infinite scrolling by reloading the next page.
This may be because in integration testing new content is displayed only due to a click action.

Merge branch 'master' into 3609-arv-ws

3609: Prefetch pipeline components to find out which jobs to subscribe to.

4219: Use a precompiled global regexp for signature verification.

4219: Accept signatures even if other hints are present in URL.

Merge branch '4197-remove-enforce-permissions-check-from-index-handler'
Closes #4197

3609: PollClient waits on event object instead of time.sleep, fix filters.  Also fix --poll-interval and --no-poll

3609: Roll back schema change, not appropriate for this branch

Modified IndexHandler to match TrashHandler and PullHandler
* No longer checks for the enforce-permissions flag.
* Still checks for DataManager auth token.
* The HTTP error returned when we don't find the DataManager auth token is now Unauthorized instead of Forbidden.

Modified tests to check for new behavior.

Resolve race condition: wait for response before checking mock expectations. refs #3782

3609: Add test case for PollClient.  arvados.event.subscribe() starts a new
polling thread by default so as to provide the same behavior as websockets.
Add documentation strings to ws.py command line parameters.

3609: Fix schema so 'order' parameter of 'list' is an array instead of a string.

4196: arv-keepdocker uses Docker 1.0 pull syntax.

`docker pull -t` was the old way of pulling an image with a specific
tag.  Docker 1.0 introduced `docker pull repo:tag`, and Docker 1.2
removes support for `-t` completely.  We're well-standardized on 1.1+
at this point, and considering an upgrade to 1.2+, so now's the time
to switch.

Closes #4196.

4126: API server uses fixed a-r-p-i (again).

Refs #4126.

4126: a-r-p-i dereferences parameter values when creating jobs.

Refs #4126.  This is required to run jobs.

4126: API server uses fixed a-r-p-i.

Refs #4126.

Merge branch '3692-event-bus-fix-and' closes #3692

Merge branch '3656-arv-create' closes #3656

3656: Delete unused documentation page

3656: Alphabetize list of subcommands.  Rename tmp -> tmp_file.  Small wording change on doc pages.

3692: Bug fix for inadequate grouping when constructing selection.

Merge branch '4139-blocking-node-manager-tests-wip'

Refs #2881, #4139.  Closes #4184.

4139: Node Manager README links to compute node lifecycle page.

4139: Speed up Node Manager tests.

Previously, the tests would poll interesting mocks, waiting for them
to be called.  This introduces significant overhead to the tests, and
they would frequently time out on Jenkins.  This modifies the tests to
get more information by blocking on the tested actors, which means
more predictability and less fighting for CPU (typical runtimes for
all the tests improved from 5 seconds to 0.5 seconds on my
workstation).

The downside to this approach is that it ties the tests more tightly
to the underlying actors' implementation.  In particular, they
sometimes send a message and block for a response to ensure that any
internal messages generated by the *last* message have been handled.
This is less than ideal, but I don't have a better idea right now.

Fix filters, subscribing to components of pipelines.

3692: Explicitly incorporate sequence number test into where clause

Websocket server side fix, perform database notify in after_save callback on
the log object instead of in log_change on ArvadosBase because crunch-dispatch
was creating Log objects directly and bypassing the notification in log_change.

3609: Add some options to control polling fallback, improve error logging a bit.

Websocket server side fix, perform database notify in after_save callback on
the log object instead of in log_change on ArvadosBase because crunch-dispatch
was creating Log objects directly and bypassing the notification in log_change.

3609: Logging should work for jobs but running into a bug in eventbus

3609: --job and --pipeline logging implemented, needs testing

3609: Refactoring arv-ws into a reusable command module.  Working on adding
ability to monitor pipeline/job log at command line.

closes #4126
Merge branch '4126-preserve-parameter-hash'

3692: Fixed test, and fixed the actual bug

3656: Add missing file

4139: Add README to Node Manager.

Refs #4139.

4139: Add *.egg to Node Manager's .gitignore.

`python setup.py test` will automatically download dependencies to the
source directory if you don't already have them available in your
environment.  Refs #2881, #4139.

4139: Add environment configuration knobs for Node Manager tests.

These are settings I've fiddled with regularly over the course of
development, and now it looks like we're going to need to fiddle them
some more to accommodate Jenkins.  I'm exposing them as environment
variables so I can stop messing with the code appropriately.
Refs #4139.

3656: Documentation updated to use "arv create".

3656: Support additional create parameters on the command line, only open
editor on the object itself, should be less confusing.

3656: Add arv-create command.  Refactor run_editor to be shared by arv_edit and arv_create.

Merge branch '4042-run-command-MxN' closes #4042

4042: Typo fixes.  Highlight run-command and script_parameters in text.  Rename
--job-parameters to --script-parameters and add mention of --dry-run mode.

Update install docs for keep→keepstore rename.

No issue #.  Reported on #arvados.

Merge branch '3381-job-progress-bar-bug' closes #3381

3381: Fix layout comment

4126: undo the hash parameter retention logic for value

Merge branch 'master' into 4126-preserve-parameter-hash

4126: when parameter is a hash, use it as value if nothing else matches.

Merge branch '2881-node-manager'

Closes #2881, #4106.

2881: Add Node Manager service.

Updated examples.

Merge branch '4042-run-command-MxN' of git.curoverse.com:arvados into 4042-run-command-MxN

# Please enter a commit message to explain why this merge is necessary,
# especially if it merges an updated upstream into a topic branch.
#
# Lines starting with '#' will be ignored, and an empty message aborts
# the commit.

4042: Update documentation samples.  Small fix to dry-run to allow supplying custom TASK_KEEPMOUNT.

4042: Rename bad reuse of 'p' to 'match' in expand_item.  Finish describing
$(task.outdir).  Clarify that list functions take a user parameter name.  Fix
other spelling and grammatical errors in documentation.

Merge branch '4044-crunchstat-wait' refs #4044

4044: Merge branch 'master' into 4044-crunchstat-wait

4044: Add comments to "continue" statements.

3381: Reorganize _running_components to be clearer.  Fixing workbench.

4126: Preserve hash form when populating component parameters.

closes #3990
Merge branch '3990-owner-when-rerunning-pipeline'

3990: minor test update

4044: Clean up channel and pipe usage.

* Remove code for using one goroutine to copy stdout and stderr from
  channels to pipes. Instead, copy stderr from channel to pipe in a
  simple goroutine, and use give the child our own Stdout to use (we
  don't use it ourselves anyway).

* Rename functions (OutputChannel -> CopyChanToPipe, ReadLineByLine ->
  CopyPipeToChan).

* Add "stop" channel to shut down polling loop when child process
  exits.

* Check for errors when opening cgroup stats files. Report errors
  instead of displaying bogus stats.

* Split main() into run() and a short main() with os.Exit logic, so
  deferred functions run regardless of exit path.

* Close dangling filehandle when cgroup_cidfile succeeds.

* Fix slight divide-by-zero opportunity when elapsed==0.

* Fix condition triggering the "could not read cid file" error
  message.

Merge branch 'master' into 3990-owner-when-rerunning-pipeline

closes #3882
Merge branch '3882-cancel-already-cancelled-job'

3882: update "after_validation :update_timestamps_when_state_changes" to "before_save :update_timestamps_when_state_changes",
and also add comple more test combinations around cancelled state.