Merge branch '3021-more-phantomjs' refs #3021

3021: Use selenium to land on #Advanced tab.

3021: Merge branch 'master' into 3021-more-phantomjs

3021: Add random part to magic string.

Merge branch '4598-crunch-failure-stats'

Fixes #4598.

4598: actually rename this time

PEBCAK failure led to deleting the file without staging the new one. d'oh.

4598: rename script

Renamed crunch-failure-report.py to crunch_failure_report.py to permit
importing (and eventually testing).

3021: Wait for shown.bs.modal before trying to click butttons in the modal.
Remove a stray Headless.new.start.

4598: catch exceptions more aggressively when looking up pipeline names

Added exception handling for cases where:
* job is not recorded as belonging to any pipeline instance
* pipeline instance has no pipeline template

Merge branch '4570-multi-auth-method' refs #4570

3021: Fix assertion broken in 9c10212.

4570: Fix tabs, CSS on log in button.

3021: Wait for dialog to close before asserting page transition.

Merge branch '4836-first-tab-load-wip'

Closes #4836, #4870.

4836: Trigger Workbench infinite scroll load on tab show.

If an infinite scroller is in the first tab of a show page, but the
user is going to a different tab, we'll queue up the first event
to load data for the container, but when it fires the container won't
be visible so it will decline to load anything.  Then you can only get
data to load if you resize the window.

Fire a scroll event when a new tab is shown, to spur the infinite
scroller to load data as appropriate.

4598: account for queued and cancelled jobs, fix sorting

Per code review:
* Updated report to include job states "Cancelled" and "Queued" as well
  as Failed, Running and Complete, and to take these into account when
  calculating job counts.
* Fixed sorting for failure classes.

Merge branch 'master' into 4570-multi-auth-method

4570: Revert to links on log in page instead of form.  Fixup documentation to
to describe a production setup.

3021: Use headless helper in performance and diagnostics tests, too.

3021: 4399: Refactor headless stuff into a module. Clear up new/start/stop use.

* Create one Headless per test process, when encountering the first
  test case that needs one.

* Call headless.start & stop exactly once for each test case that uses
  it.

4598: formatting and calculation fixes (code review)

Incorporating code review feedback from #4598-13.

Bugs fixed:
* Correct counting and percentage calculation of job failures.
** Jobs were getting categorized as both "unknown" and as a specific failure type.
* Crashes fixed: should not raise any unhandled exceptions.

Formatting fixes:
* Itemized failures are now sorted in descending order by failure type
* Better horizontal alignment
* Modified formatting to account for updated description.

Merge branch '4869-keepalive' refs #4869

4869: Client.Timeout and Client.Transport are now correctly set in
DiscoverKeepServers().  Improved comments.

3021: Clean up headless/selenium/javascript choices.

3021: Skip angular init if angular is not loaded.

3021: Silence "invalid regexp" errors while typing regexp; put input in "has-error" state instead.

3021: 4399: Convert some tests from selenium to phantomjs. Restart Headless less.

Remove cruft. No issue #

Merge branch '4887-invalidate-duplicate-ip-on-old-compute-nodes'

closes #4887

Merge branch 'master' into 4887-invalidate-duplicate-ip-on-old-compute-nodes

Address review comments:

* change stale_conflicting_nodes to a local variable
* minor performance optimization: add an additional check for ip_address being nil

refs #4887

Merge branch '4877-dont-delete-stdout'

Fixes #4877

4877: don't delete /dev/stdout

Fixed the filename check before trying to delete /dev/stdout.

4598: added failure types and short names

Added the sys/docker failure type. Failures now reported by short
failure name rather than by regex.

4598: remove more dev/debugging features.

4598: take out some debug reporting and --match option

Remove debugging features.

4598: fetch logs from Keep, more failure reporting

Per standup review: fetch logs with a CollectionReader on the log
collection uuid, rather than fetching log records from the API server.

Perform full failure reporting including job URL details.

Detect stale compute node records with the same IP address as the new
node on its first ping. Clear the ip_address field on the stale nodes.

Refs #4887

Cleanups:

* Remove old commented out code
* Remove superfluous test for presence of file on disk

refs #4887

4598: bug fixes, added full stats collection

Added code to report full stats on failed, successful, and incomplete
jobs.  Perform basic reporting on failed job causes (not yet working).

4869: Enable TCP keepalive and adjust connection timeouts to Keep client.

Fix whitespace, cf. gofmt. refs #4875

Merge branch '4875-keepclient-test-race' closes #4875

4875: Merge branch 'master' into 4875-keepclient-test-race

Conflicts:
sdk/go/keepclient/keepclient_test.go

Fix version strings to comply with PEP-440. No issue #

Merge branch '4523-owner_uuid-index' refs #4523

Merge branch '4869-keepproxy' refs #4869

4869: Strip all newlines from error responses, not just leading and trailing
whitespace.

4523: Dry up migration and test cases.

4869: Based on Go documentation, don't set a body ReadCloser on the request
when body length is 0.

4523: Fix column order to match migration order.

4523: Remove dev-only checks in migration.

4869: Correctly handle zero-length blocks in Keep client/Keep proxy.  Remove
X-Block-Size.  Choose default request timeout based on if client is talking to
a proxy or not.  Use double quotes in logging.  Rename "tag" to "requestId".

4523: Fix whitespace.

4869: Keepstore now returns Content-Length headers, and logs the error message
sent to the client on errors.

4869: KeepClient now has a default timeout per block request (10 minutes).  In
keepproxy, the timeout is set to 20 seconds per block.  Also rearranged some
keepclient and keepproxy logging to provide better information.

Merge branch '4754-performance-TC' closes #4754

Merge branch '4844-stricter-min-nodes-wip'

refs #4844

Merge branch 'master' into 4844-stricter-min-nodes-wip

Skip two more CLI tests that need a running API server.

refs #4156

4869: Improve logging

4875: Let the OS choose port numbers for fake servers.

Fixes a race condition where test case N+1 can't listen on port 2990
because test case N hasn't shut down its listener.

Also removes the artificial acceptance requirement that nobody else on
the testing host is using the arbitrarily assigned port range
2990..299x.

Incidental changes:

* rename RunBogusKeepServer to RunFakeKeepServer (to match
  RunSomeFakeKeepServers and fix the misleading implication that the
  resulting server does something bogus).

* return a KeepServer object from RunFakeKeepServer (for better parity
  with RunSomeFakeKeepServers).

4875: Use range in for loops.

Merge branch '4858-graph-not-comparing' refs #4358

Merge branch 'master' into 4358-graph-not-comparing

4844: Node Manager doesn't treat min_nodes as min_nodes_idle.

There's a bad interaction between the past bugfixes to (a) implement
min_nodes, and (b) boot new nodes when existing nodes are busy.
Because min_nodes has been implemented at the server wishlist level in
the past, the daemon can't distinguish between "nodes requested to
fulfill min_nodes" and "nodes requested to fulfill jobs."

This commit puts all the responsibility for enforcing min_nodes in the
daemon, so that the server wishlist always represents real job
requirements.  This lets the daemon correctly decide whether or not to
boot a new node when >= min_nodes are busy.

Merge branch '4670-node-manager-robust-tags-wip'

Closes #4670, #4812.

4670: Add a post-create hook to Node Manager for EC2 tagging.

The previous code was relying on the post-create tagging in libcloud's
EC2 driver.  Unfortunately, that's not working out too well for us: if
it fails, you get no indication of that, and it doesn't get retried.
This moves the work up into Node Manager, where failures can be logged
and retried appropriately.

The retry support may be sufficient to resolve #4670.  If it's not,
then the additional logging will help us track down the root cause.

4670: Node Manager handles more libcloud exceptions.

libcloud compute drivers (at least EC2 and GCE) raise bare Exceptions
when there's some problem talking to the cloud service.  The previous
code was expecting to see a LibcloudError, so it wouldn't handle these
errors as intended.

I didn't want to just catch errors with "except Exception" everywhere,
so I added an is_cloud_exception class method to our driver classes to
more accurately identify exceptions that represent trouble talking to
the cloud service.  It recognizes exact Exceptions, plus the other
classes we were catching before.

While I was at this, I gave more specific names to the wrapper methods
in compute node actor decorators, as a debugging aid.

4800: run-command calls sys.exit() with an integer.

Closes #4800.

4818: Add missing timeout in Node Manager test.

Refs #4818.

Merge branch '4515-search-empty-project' closes #4515

Remove excess heading and divider. No issue #

Restore scroll on projects menu. Do not offer "Add project" button in projects dropdown in chooser dialog. closes #4811

Ignore .eggs/ (*.egg isn't enough: .eggs/README.txt gets installed too, as a human-readable .gitignore.)

No issue #

4515: Add controller tests for search dialog.

4818: Node Manager unpairs Arvados node when cloud node shuts down.

Without this, Node Manager doesn't correctly pair the Arvados node
with a new cloud node that's booted later.  Closes #4818.

4754: Move perf/prof deps to :test/:performance groups.
Move "do not reset unless Rails.env==test" logic into one place.

Merge branch '4481-update-user-docs-TC'

Closes #4741, #4790.

4481: Fix ambiguous "Keep id" -> "locator" in example scripts.

4481: Refresh Crunch script tutorial page.

* The script now normalizes the output path, for consistency with
  other scripts, and it looks nicer.
* Modernize the job log output slightly, and adjust text to match.

4481: Update tutorial Crunch scripts to use newer PySDK methods.

Most focus is on the file Collection file methods added in #3603.

Merge branch '4792-arv-ls-normalize-wip'

Closes #4792, #4813.

4358: fixed: the provenance graph was being generated twice, the second time for only one pipeline

4792: arv-ls normalizes the collection before listing.

I sort of ended up rewriting arv-ls to make it testable, but hey,
that's part of the support task.  Normalization is the only functional
change I made.

closes #4414
Merge branch '4414-add-new-in-project-dropdown'

4414: use ensure_unique_name option to instruct api server to create unique name for new project.

4414: add "Add a new project" link to project dropdown.

4598: correct search criteria for Crunch job output

Crunch stderr output is stored in the properties/text field of logs with
event_type 'stderr'.

Limited the filter criteria to event_type = 'stderr' and modified
text pattern filtering appropriately.

Now uses arvados.util.list_all to retrieve all stderr rows within the
specified time frame.

closes #4476
closes #4804
Merge branch '4476-search-next-page-issue'

closes #4799
Merge branch '4799-move-selected-error'

refs #4754
Merge branch '4754-performance-benchmarks'

Merge branch 'master' into 4754-performance-benchmarks

4804: search dialog retains project_uuid param in next_page_href.

4598: add crunch-failure-report.py

4476: include filters in search next_page_href url.

4799: do not offer "move selected" option when current user cannot write to the project.

4027: Document arvados_sdk_version's virtualenv requirement.

Refs #4027.

4754: add command to be used to run diagnostics testing as a comment.

4754: update assertion to look for a data-object-uuid