7751: Set up an arv-mount scratch directory for each task, and put its path in TASK_KEEPMOUNT_TMP.

closes #6027
Merge branch '6027-git-repo-doc'

6027: fix typo

Merge branch 'master' into 6027-git-repo-doc

Merge branch '7868-docker-run-args' closes #7868

7868: Allow admin to add arguments to "docker run" commands.

6027: update git-arvados-guide to instruct the users to create scripts in crunch_scripts subdirectory.

7313: Fix sprintf formatter in crunch-job warning message.

Refs #7313.

closes #7748
Merge branch '7748-datamanager-dry-run'

7748: correct the local variable declaration

Merge branch 'master' into 7748-datamanager-dry-run

Conflicts:
services/datamanager/datamanager_test.go

closes #7710
Merge branch '7710-keepclient-all-service-types'

7710: text updates around the -service-type argument.

7710: update crunchrunner.upload.go to compile; this was broken after the keep-web updates; also, add this package to gostuff in run-tests.sh

7710: update serviceType argument handling to ignore any keepservices that are of a different type. Add a datamanager test with one extra unsupported-typed keepserver, which should hence be ignored by datamanager.

7710: Remove KeepClient.Using_proxy and all it's references since we are no longer using it.
Update datamanager to use a configured supported service type instead of hardcoding "disk" type.

7710: Add keep_services#accessible test.

7710: improve keepclient to use non-disk timeouts when any non-disk typed keepservices are found; previously, this was done for proxy typed keepservices only.

7748: use local variables for arvLogger.Update

Merge branch 'master' into 7748-datamanager-dry-run

Merge branch '7697-socket-retry' closes #7697

7697: Avoid reusing long-idle HTTP connections. Avoid retrying non-idempotent operations.

Merge branch '7870-crunch-dispatch-retry-fail-lock-wip'

Closes #7870, #7877.

7870: Teach crunch-dispatch to fail jobs it already locked.

The fail_job method has been written with the assumption that the job
should be unlocked.  The retry support added in #4410 breaks this
assumption.  Teach fail_job to acquire the lock only when we don't
know we already have it.

Merge branch '6309-file-cache-runtime-constraint' closes #6309

7748: when dryRun continue and leave the regular flow untouched.

Merge branch 'master' into 6309-file-cache-runtime-constraint

6309: Use arv-mount default cache size.  Fix documentation typo.

7748: address dryRun in summary.WritePullLists and keep.SendTrashLists

Merge branch 'master' into 7748-datamanager-dry-run

closes #7252
Merge branch '7252-go-sdk-errors'

Merge branch 'master' into 7748-datamanager-dry-run

Merge branch 'master' into 7252-go-sdk-errors

Mock dispatch instead of relying on rollback in child proc.

No issue #. amends d88316705b23d1022ee2167c7ed0e5cf5e460cbe

Clear job queue before testing crunch-dispatch start/stop.

Otherwise, it might get as far as starting jobs before we send TERM.

No issue # but see build 2249.

Merge branch '7851-available-port' refs #7851

Fix crash on removing nonexistent directory.

No issue #

7851: Use a random display (:100-:499 = port 6100-6499) for Xvfb, instead of always :99.

7748: add dry-run command line argument.

7851: Choose available ports for selenium and poltergeist.

Also, display the chosen port numbers at startup.

Without this the Selenium driver defaults to 7055, which causes
interference between concurrent test runs.

Warn, but do not error out, if a collection has conflicting block sizes.

If this is treated as a fatal error, any user can stop all garbage
collection entirely by hand-editing a collection (accidentally or
maliciously) to include the same block with different size hints.

No issue #

refs #7253
Merge branch '7253-datamanager-test-errors'

7253: update the manifest_text for the test fixture multilevel_collection_2 to be valid.

Update capybara in workbench bundle.

No issue #

Merge branch 'master' into 7252-go-sdk-errors

Conflicts:
sdk/go/manifest/manifest_test.go

closes #7253
Merge branch '7253-datamanager-test-errors'

7253: update manigest.parseManifestStream to raise error when the given manifest does not have any block locators or file tokens.

7253: update BlockIterWithDuplicates to return any errors through Manifest, rather than BlockLocator.

Merge branch 'master' into 7253-datamanager-test-errors

7253: consume all blocks from BlockIterWithDuplicates, not just the first in test.

Merge branch '7832-pysdk-use-slots' refs #7832

7253: update arvadostest.stub to offer ServerStub and remove the redundant KeepServerStub; update tests accordingly.

7253: rename arvadostest/testing.go as stub.go

Merge branch 'master' into 7253-datamanager-test-errors

7252: convert fatalf's into errors in logger sdk code; remove AssertFromString from blockdigest and instead use FromString in all places where it was being used.

7832: Add __slots__ and remove __del__ which interfers with garbage collection.  Memory usage comes down by ~40%

Move remaining arv-run-pipeline-instance usage info from comments to --help message.

No issue #

7751: Clean up KEEP_LOCAL_STORE env var after tests.

refs #7751

7253: instead of ignoring errors during BlockIterWithDuplicates, send them to the caller.

5824: Move run_test_server diag messages from stdout to stderr.

refs #5824

Merge branch '7751-mount-tmp' refs #7751

7751: Fix race by telling fuse not to cache the .arvados#collection dirent.

7751: Refactor TmpCollectionDirectory: generate .arvados#collection less often.

7751: Fix stack trace on shutdown caused by race between destroy() and llfuse unmount.

7751: Fix shell wrapper code path.

7751: Lowercase method name for PEP-0008.

7751: Suppress help messages when testing usage errors.

7751: Update explanation of special .arvados#collection file. Fix wayward use of "Keep locator".

7751: Return an empty array from InodeCache.find() instead of None.

7751: Test mount arguments.

7751: Add tests for --mount-tmp option.

7751: Move code from arv-mount executable to module.

7751: Add --mount-tmp option.

Merge branch '7676-dispatch-cheaper-nodes' closes #7676

7676: Improve comments.

7676: Test choosing cheaper nodes, and basic crunch-dispatch startup/locking.

7676: Move crunch dispatch code into lib.

7676: Prefer cheaper nodes when allocating nodes to jobs.

7253: Update test so that it compiles and passes.

6309: Add runtime constraint keep_cache_mb_per_task

7253: Write a test that "does not" fail when an invalid manifest text is retrieved during collection.GetCollections(). The expected behavior: GetCollections() raises error in this case and hence datamanager aborts without deleting any blocks.

7253: Refactor APIStub and KeepServerStub into a testing.go so that the code can be reused from various packages

7751: 7654: Rename bool to _closed to avoid conflicting with superclass closed() method.

refs #7654

Fix Azure node listing in node manager.  refs #5353

closes #7255
Merge branch '7255-manifests-in-datamanager'

Merge branch 'master' into 7255-manifests-in-datamanager

7255: rename test and update comments.

Install guide crunch-dispatch runit script exports $HOME.

crunch-dispatch needs $HOME set in order to do some path
manipulation.  We set it to $(pwd) in production, which should
normally be the runit service definition directory.

This seems weird and it seems likely that there's a better value, but
until we investigate that and figure that out, documenting what we
have in production is better than letting crunch-dispatch crash.

Reported in IRC.  No issue #.

Merge branch 'master' into 7255-manifests-in-datamanager

Conflicts:
services/datamanager/datamanager_test.go

closes #7490
Merge branch '7490-datamanager-dont-die-return-error'

Merge branch 'master' into 7490-datamanager-dont-die-return-error

Merge branch '7490-datamanager-dont-die-return-error' of git.curoverse.com:arvados into 7490-datamanager-dont-die-return-error

7490: Quote strings in error messages, fixup error matching in tests.

Merge branch '5353-booted-size' refs #5353

5352: Set node size on records returned from libcloud create_node

Merge branch '7711-record-node-price' closes #7711

7711: Store cloud node size id and price in properties of Arvados node record.

7255: update TestPutAndGetCollectionsWithMultipleStreamsAndBlocks to verify that expected number of unique block locators are created.

7255: improve createMultiStreamBlockCollection to create collection with multiple blocks per stream.

Fix for _size_shutdowns and node prices in node manager refs #5353