Merge branch '6432-pysdk-more-ca-certs-wip'

Closes #6432, #6434.

6432: Python SDK can find and use CA certs on Red Hat.

closes #6234
Merge branch '6234-user-edit-self'

Merge branch 'master' into 6234-user-edit-self

Update arvados_fuse version dependency on arvados-python-client.  refs #3198

Merge branch '3198-writable-fuse' closes #3198

3198: Rename --enable-write to --read-write.  Tweak docs.

refs #6218
Merge branch '6218-add-performance-profiling-to-python-sdk'

6218: update the exception handling.

6218: correct exception handling.

6320: Update Workbench test for active user VM setup.

Now that the test fixtures give the active user access to testvm2,
this test needs to be updated to account for it, just like the API
server tests were.  Refs #6320.

Remove unused modules from PySDK setup.py.

No issue #.

6218: update the symlink and comment

Merge branch '4410-slurm-fails-are-tempfails-wip'

Closes #4410, #6283.

6218: Refactor profiler as a decorator

4410: Crunch retries jobs when all SLURM nodes fail.

See the ticket for detailed background discussion and implementation
rationale, especially notes 13 and 14.

This required a couple of ancillary changes:

* crunch-job now makes a distinction between "task failed because a
  node failed," and "task failed for other temporary reason."  It uses
  this additional information to decide when it should retry tasks
  itself, and when it needs to give up and kick the problem up to
  crunch-dispatch.

* crunch-job now handles creating log collections itself from
  manifests generated by arv-put.  This enables it to append to logs
  generated during previous attempts to run the job.

4410: crunch-dispatch logs crunch-job exit later.

This makes it easier to log the exit code, and makes the logs look
nicer because the exit log doesn't interrupt crunch-job's stderr.

6218: fix typo in sample test

6218: add performance profiling and a sample test in python sdk.

3198: Fix test

3198: concurrency test and associated fixes

WIP

Merge branch '6320-api-logins-include-groups-wip'

Refs #6320.  Closes #6325.

6320: API virtual machines login method include groups information.

This is necessary for the virtual machine user setup script to see the
groups information added in #6254.

This required updating a few tests that assumed the active user had no
access to testvm2.

6320: Add tests for API virtual machines login method.

closes #6156
Merge branch '6156-hostnames-in-nodes'

6156: convert the ping-should-fail test when hostname config is malformed into a controller test.

Merge branch 'master' into 6156-hostnames-in-nodes

refs #6277
Merge branch '6277-manifest-validation-api'

6277: since locators are added to multilevel_collection_1 fixture, the collection retrieved after an update will have
a signed manifest; hence, the test needs to compare the old manifest with the new one after stripping signatures.

refs #6277
Merge branch '6277-manifest-validation-api'

6277: rename the before_validation filter check_manifest_validity as log_invalid_manifest_format until we are ready to actually validate manifest formats.

Merge branch 'master' into 6277-manifest-validation-api

6156: use only sprintf formatting for node slot_number config.

Merge branch 'master' into 6156-hostnames-in-nodes

6234: admin user can see other users' home projects; also add link to users' home projects in /users page rows.

6277: Simplify manifest-building loop, fix up truncation tests.

6234: In /users page, display the "Show" button to admin users as well; however, ensure redirection to
projects/{user-uuid} takes user to user's home project while /users/{user-uuid} takes to user's page.
Also, move should correctly display user's home project.

Merge branch '6272-index-eof' closes #6272

6272: Add blank line to indicate index response EOF. Error out of data manager if not received.

Do not blow up if HOME is not set. refs #2256

3198: Add enable_write flag to FUSE and --enable-write and --read-only to
arv-mount.  Update documentation.  Code cleanup in locators_and_ranges() and
set_state().

Merge branch '6222-precompile-regexps' refs #6222

6222: Precompile all regexps. Remove wasted effort in GetBlockHandler.

Added comments about zero-replica blocks in underReplicated.

Now reading default replication level from api server.

6156: support config format for setting a node's hostname

6277: Add check_manifest_validity before_filter in collection model; however, at the moment, this method always true after logging the validation error.

refs #6277
Merge branch '6277-manifest-validation'

Merge branch 'master' into 6277-manifest-validation

6277: all that work and missed the basic nil and empty string check!!!

3198: Performance tuning based on benchmarking.  Limit number of segments to
look ahead for prefetch, don't prefetch blocks over and over again.

closes #6254
Merge branch '6254-groups-during-setup'

refs #6277 : ruby sdk with manifest validation method
Merge branch '6277-manifest-validation'

6277: extra white space

Merge branch 'master' into 6277-manifest-validation

6254: minor update to Groups text field label to avoid conflict with 'Virtual Machine' lebel.

6254: better groups text field label

6254: instead of tooltip, use a self explanatory label for groups text field.

7254: add groups to vm link.

3198: Fix frontrunning (subsequent updates after a commit causing the
collection to conflict with itself).  Also fix filename character encoding.

6254: remove redundant statement

6254: add groups and verify in test.

Merge branch '6149-quiet-egg-info-stderr-wip'

Closes #6149, #6284.

6149: crunch-job installer handles egg_info errors better.

Capture the command's stderr and confirm that the error refers to
git.  If it does, ignore the stderr and set a build tag.  Otherwise,
propagate stderr and abort.

6254: slight performance improvement where the can_login link is not retrieved and checked if the groups passed in are the same as those already saved.

6254: add "groups" to user setup process; these comma separated groups entered in the popup will be saved as an array of groups property for the user's can_login link.

3198: Fix tests for change in ~conflict~ format.  Tweak comments.

3198: Additional fixes based on review feedback.

* Adjust how ~conflict~ files are renamed
* Add finalize() on fuse inodes() to terminate put and get threads.
* Improve naming of some test case helpers
* Relax regex match on authorization token

3198: arvfile.py and collection.py updates based on feedback.

* Add retryable ERROR state to buffer blocks.
* Fix race conditions in testing a bufferblock state before trying to change state.
* Change "modified" to "committed" (which has the opposite meaning, but is more
accurate the way the flag is used)
* Refactor block manager background upload/download threads
* Fix Collection.mkdirs() to match behavior of os.makedirs()

6277: Catch whitespace errors, and "." and ".." in paths. Rename valid? to validate!.

6277: Add more restrictions to manifest format such as cannot start with '/' and end with '/' for file names,
as well as stream names and files names should not contain '//'.
Added the tests provided by Tom during review.

6277: valid manifest must end with new line.

6277: improve error message for missing file tokens.

6277: add Manifest::valid? method in ruby sdk.

3198: Adjust language of errors to say what the error is instead of saying what the
input should be.

Merge branch 'master' into 3198-writable-fuse

Update arvados in bundle. refs #6203 refs #6277

Use default word wrap (no mid-word line breaks). refs #6057

qr1hi-automated-performance-suite is failing because the test doesnt give enough time for the page to render (now 50s makes the test past.). no issue #

qr1hi-automated-performance-suite is failing because the test doesnt give enough time for the page to render

no issue #

Added unit test for protocols in From field.

Fixed outdated comments in arvadosclient.Discovery().

Merge branch 'master' into 3408-production-datamanager

Renamed BlockToReplication BlockToDesiredReplication.
Added protocol field to servers in pull list.

openssl self cert creation failed because missing of "tmp" directory.
api server failed to start because missing "tmp/logs" and "tmp/api" ditectories

no issue #

Merge branch '6235-go-sdk-discovery' closes #6235

Merge branch '5790-copy-most-recent-docker-image-wip'

Closes #5790, #6103.

5790: Improve Docker image listing in Python SDK.

* Always fetch all relevant Docker links.
* Support finding images by image hash.
* Show image hashes when listing images by name.
* Like Docker itself, when an image has multiple names and we're not
  filtering by name, list each one.
* Better match the API server's priority logic:
  * Ignore links to collections that aren't found.
  * Links with an image_timestamp always have priority over those that
    don't, regardless of their respective created_at timestamps.

The main motivation for this change is to make sure arv-copy gets the
right Docker image when copying a pipeline template recursively.

This implementation goes through some trouble to parse timestamps out
of each Docker link only once.

Merge branch '6152-compute-node-no-arv-wip'

Closes #6152, #6256.

6152: Use Python SDK for compute node installation.

This eliminates an otherwise-needless dependency on `arv` and the
entire Ruby stack.

closes #6093
Merge branch '6093-refresh-docs'

6093: remove "Alternate way to add SSH keys" and add the "Manage account" link blurb to "Adding your keys" section itself.

Merge branch '6203-locator-regexp' refs #6203 refs #6277

added shell-image back again to the build. I checked on my local machine and works great

no issue #

5790: Fix PySDK Docker image listing comparing ints and datetimes.

Closes #5790.

Add instructions to the 'Create standard objects' page to create a cluster-wide readable project for standard Arvados Docker images.

refs #6096

closes #6203
Merge branch '6203-collection-perf-api'

Merge branch '6203-collection-perf-api-TC' of git.curoverse.com:arvados into 6203-collection-perf-api-TC

Conflicts:
services/api/app/models/collection.rb

6203: Fix loophole allowing locators in bogus manifests to be accepted
without verification and then signed in responses. refs #6277