4823: Working on porting more StreamReader tests to ArvadosFile.

Merge branch 'master' into 4823-python-sdk-writable-collection-api

Merge branch '4869-keepalive' refs #4869

Merge branch 'master' into 4823-python-sdk-writable-collection-api

4869: Client.Timeout and Client.Transport are now correctly set in
DiscoverKeepServers().  Improved comments.

3198: Apply StreamFileReader tests to ArvadosFileReader

3198: Fixed up the rest of the tests to mock the session.

3198: Figured out how to mock session object, reverted most tests updated in
previous commit.

3198: Added Collection.rename (needs test).  Fixing tests broken on account of
using a requests session object so mocking requests.get and requests.put
doesn't work any more.

3198: KeepClient creates a requests session to re-use connections.  export_manifest correctly strips hints when portable_manifest=True.

Remove cruft. No issue #

Merge branch '4887-invalidate-duplicate-ip-on-old-compute-nodes'

closes #4887

Merge branch 'master' into 4887-invalidate-duplicate-ip-on-old-compute-nodes

Address review comments:

* change stale_conflicting_nodes to a local variable
* minor performance optimization: add an additional check for ip_address being nil

refs #4887

3198: Bugfixes.  Working on benchmarking upload/download performance.

Merge branch '4877-dont-delete-stdout'

Fixes #4877

4877: don't delete /dev/stdout

Fixed the filename check before trying to delete /dev/stdout.

3198: Many tests.  Fixed lots of bugs.

Detect stale compute node records with the same IP address as the new
node on its first ping. Clear the ip_address field on the stale nodes.

Refs #4887

Cleanups:

* Remove old commented out code
* Remove superfluous test for presence of file on disk

refs #4887

4869: Enable TCP keepalive and adjust connection timeouts to Keep client.

Fix whitespace, cf. gofmt. refs #4875

Merge branch '4875-keepclient-test-race' closes #4875

3198: Start using BlockManager.  Needs tests.

4875: Merge branch 'master' into 4875-keepclient-test-race

Conflicts:
sdk/go/keepclient/keepclient_test.go

Fix version strings to comply with PEP-440. No issue #

Merge branch '4523-owner_uuid-index' refs #4523

Merge branch '4869-keepproxy' refs #4869

3198: Fix syntax errors

4869: Strip all newlines from error responses, not just leading and trailing
whitespace.

4523: Dry up migration and test cases.

4869: Based on Go documentation, don't set a body ReadCloser on the request
when body length is 0.

4523: Fix column order to match migration order.

4523: Remove dev-only checks in migration.

4869: Correctly handle zero-length blocks in Keep client/Keep proxy.  Remove
X-Block-Size.  Choose default request timeout based on if client is talking to
a proxy or not.  Use double quotes in logging.  Rename "tag" to "requestId".

4523: Fix whitespace.

4869: Keepstore now returns Content-Length headers, and logs the error message
sent to the client on errors.

4869: KeepClient now has a default timeout per block request (10 minutes).  In
keepproxy, the timeout is set to 20 seconds per block.  Also rearranged some
keepclient and keepproxy logging to provide better information.

Merge branch '4754-performance-TC' closes #4754

Merge branch '4844-stricter-min-nodes-wip'

refs #4844

Merge branch 'master' into 4844-stricter-min-nodes-wip

Skip two more CLI tests that need a running API server.

refs #4156

4869: Improve logging

3198: Async put, read prefetch via BlockManager.  Added arvfile tests (forgot
to add before).  No testing yet.

3198: Populate collection with locator or manifest.  Also added Python container API.

4875: Let the OS choose port numbers for fake servers.

Fixes a race condition where test case N+1 can't listen on port 2990
because test case N hasn't shut down its listener.

Also removes the artificial acceptance requirement that nobody else on
the testing host is using the arbitrarily assigned port range
2990..299x.

Incidental changes:

* rename RunBogusKeepServer to RunFakeKeepServer (to match
  RunSomeFakeKeepServers and fix the misleading implication that the
  resulting server does something bogus).

* return a KeepServer object from RunFakeKeepServer (for better parity
  with RunSomeFakeKeepServers).

4875: Use range in for loops.

Merge branch '4858-graph-not-comparing' refs #4358

Merge branch 'master' into 4358-graph-not-comparing

3198: Writing files works

3198: More refactoring and bug/test fixing

4844: Node Manager doesn't treat min_nodes as min_nodes_idle.

There's a bad interaction between the past bugfixes to (a) implement
min_nodes, and (b) boot new nodes when existing nodes are busy.
Because min_nodes has been implemented at the server wishlist level in
the past, the daemon can't distinguish between "nodes requested to
fulfill min_nodes" and "nodes requested to fulfill jobs."

This commit puts all the responsibility for enforcing min_nodes in the
daemon, so that the server wishlist always represents real job
requirements.  This lets the daemon correctly decide whether or not to
boot a new node when >= min_nodes are busy.

3198: Fixing tests broken by previous commit's refactoring.  Creating new
ArvadosFile/ArvadosFileReader/ArvadosFileWriter classes.

3198: Refactoring.  Added Range object instead of fiddling with arrays, should
make the code easier to comprehend.

3198: New Collection/AravosFile design work in progress

Merge branch '4670-node-manager-robust-tags-wip'

Closes #4670, #4812.

4670: Add a post-create hook to Node Manager for EC2 tagging.

The previous code was relying on the post-create tagging in libcloud's
EC2 driver.  Unfortunately, that's not working out too well for us: if
it fails, you get no indication of that, and it doesn't get retried.
This moves the work up into Node Manager, where failures can be logged
and retried appropriately.

The retry support may be sufficient to resolve #4670.  If it's not,
then the additional logging will help us track down the root cause.

4670: Node Manager handles more libcloud exceptions.

libcloud compute drivers (at least EC2 and GCE) raise bare Exceptions
when there's some problem talking to the cloud service.  The previous
code was expecting to see a LibcloudError, so it wouldn't handle these
errors as intended.

I didn't want to just catch errors with "except Exception" everywhere,
so I added an is_cloud_exception class method to our driver classes to
more accurately identify exceptions that represent trouble talking to
the cloud service.  It recognizes exact Exceptions, plus the other
classes we were catching before.

While I was at this, I gave more specific names to the wrapper methods
in compute node actor decorators, as a debugging aid.

3198: Support repacking buffer blocks when writes are superceded.

4800: run-command calls sys.exit() with an integer.

Closes #4800.

4818: Add missing timeout in Node Manager test.

Refs #4818.

Merge branch '4515-search-empty-project' closes #4515

3198: Working on optimizing rewrites

3198: Random access updates works.

3198: Refactor stream and file classes and functions a little bit for readability.

Remove excess heading and divider. No issue #

Restore scroll on projects menu. Do not offer "Add project" button in projects dropdown in chooser dialog. closes #4811

3198: Can use write to append only.

3198: Support for truncating files.  A few tests.  Next step work on random access writing.

Ignore .eggs/ (*.egg isn't enough: .eggs/README.txt gets installed too, as a human-readable .gitignore.)

No issue #

4515: Add controller tests for search dialog.

3198: Initial support appending to streams.

4818: Node Manager unpairs Arvados node when cloud node shuts down.

Without this, Node Manager doesn't correctly pair the Arvados node
with a new cloud node that's booted later.  Closes #4818.

4754: Move perf/prof deps to :test/:performance groups.
Move "do not reset unless Rails.env==test" logic into one place.

Merge branch '4481-update-user-docs-TC'

Closes #4741, #4790.

4481: Fix ambiguous "Keep id" -> "locator" in example scripts.

4481: Refresh Crunch script tutorial page.

* The script now normalizes the output path, for consistency with
  other scripts, and it looks nicer.
* Modernize the job log output slightly, and adjust text to match.

4481: Update tutorial Crunch scripts to use newer PySDK methods.

Most focus is on the file Collection file methods added in #3603.

Merge branch '4792-arv-ls-normalize-wip'

Closes #4792, #4813.

4358: fixed: the provenance graph was being generated twice, the second time for only one pipeline

4792: arv-ls normalizes the collection before listing.

I sort of ended up rewriting arv-ls to make it testable, but hey,
that's part of the support task.  Normalization is the only functional
change I made.

closes #4414
Merge branch '4414-add-new-in-project-dropdown'

3198: Start to refactor locators_and_ranges to use for replacing ranges

4414: use ensure_unique_name option to instruct api server to create unique name for new project.

4414: add "Add a new project" link to project dropdown.

closes #4476
closes #4804
Merge branch '4476-search-next-page-issue'

closes #4799
Merge branch '4799-move-selected-error'

refs #4754
Merge branch '4754-performance-benchmarks'

Merge branch 'master' into 4754-performance-benchmarks

4804: search dialog retains project_uuid param in next_page_href.

4476: include filters in search next_page_href url.

4799: do not offer "move selected" option when current user cannot write to the project.

4027: Document arvados_sdk_version's virtualenv requirement.

Refs #4027.

4754: add command to be used to run diagnostics testing as a comment.

4754: update assertion to look for a data-object-uuid

4754: support RAILS_ENV=performance

Merge branch 'master' into 4754-performance-benchmarks

Merge branch '4499-one-task-per-input-file-normalize'

Fixes #4499.

Download bwa and samtools from a self-hosted mirror, sf.net downloads
are way too unreliable.

No issue #

Merge branch '4293-node-manager-timed-bootstrap-wip'

Closes #4293, #4732.  Refs #4380.