22076: Fix ActiveModel::MissingAttributeError on select=[full_name].

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

22076: Add description, created_at, and modified_at to zip metadata.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

22076: Include file_count=N in upload and download logs.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

22076: Check suggested filename when testing single-dir download.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

22768: Commit the bug fix in structure.sql

Also added some notes to the test

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22768: Add migration

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22768: Add test checking container priority when trash_at is in the future

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22238: Set a fact to record if config.yml changes

This is a more reliable solution to the problem the deleted comment was
trying to address, since skipped tasks still get registered and we lose
the previous changed state.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Add arvados_websocket to cluster install playbook

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Add arvados_workbench to cluster install playbook

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Add arvados_keep_web to cluster install playbook

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Support additional server names in nginx site config

keep-web often wants this.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Support remote SSL certs

This lets administrators use the Ansible installer with certs that are
already on the server via another channel (e.g., obtained by certbot).

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Improve notify syntax

I don't think there's a problem with the a string version but the list
is nicer for consistency.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Add arvados_keepproxy to cluster install playbook

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Add arvados_keepstore to cluster install playbook

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Remove handler from arvados_apt

Instead register the result and let later tasks handle it how they wish.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Run service plays serially

This is what we want for load-balanced setups and doesn't hurt anything
in simpler cases.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Restart services after config.yml changes

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Add arvados_controller role and support to installer playbook

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Start cluster install playbook with arvados_api role

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '22778-arvados-pkgs-pin'. Closes #22778

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

22778: Updates arvados-formula commit id.

Now it points to the latest main merged version.

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

22785: Fix ambiguous column name in join query.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

22785: Test failure mode with ambiguous column in order param.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

22238: Install python3-psycopg2 from roles that need it

This library is required by community.postgresql tasks. By the
time any of those run, Ansible should be bootstrapped enough for us to
install this package, reducing the amount of boilerplate required in
each playbook.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Write PostgreSQL server configuration from arvados_postgresql

Most deployments will at least need to change Debian's default
listen_address of `localhost`. Provide a general way to do this and make
other PostgreSQL server configuration changes.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Use cluster config for arvados_postgresql user defaults

This reflects what most callers will want most of the time.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Use cluster config for arvados_database defaults

This is expected to be the common case, and it's easier to make
exceptions to it than to have users pass configuration through each
time.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22238: Configure APT::Periodic from distro_apt role

This is something we'll want to do on all production deployments.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22680: Rename columns based on feedback

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22778: Updates arvados-formula commit.

Uses the latest version with simplified pin package logic, not requiring
an additional pillar key to enable it.

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

Merge branch '22564-multiselect-tests'

closes #22564

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22679: Update header comment about supported distros

Refs #22679.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22564: adjusted cypress commands

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22394: Wrap MPV tests in fake store now that it's connected.

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

22680: Include credential_id in credential_secret API

Removed the special logic on expires_at.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22394: Add tests for default project tab setting

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

22394: Update wuth store with updated user if uuid matches logged in user

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

22394: Extract router from props to avoid passing it to child components

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

22680: Expire credential_secret in trash_sweep

Add missing test file

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22760: Bypass auth for ports marked "public" in published_ports.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

22680: Trying to get the schema all synchronized

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22680: Make expires_at more strict

Don't allow expires_at to be moved into the future after it has been
set unless also changing the secret.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22680: Add CredentialScopes to Go SDK

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22680: Fix table styles

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22680: Add documentation for credentials API

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22394: Reset project tabs to preferred when route changes

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

22394: Set default project tab based on user preference

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

22680: Add credential_scopes

I'm certain that we will want this eventually (I want to have a way to
look up what credentials to use based on the resource being accessed),
so it should just be included from the beginning.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22680: Don't create obsolete column modified_by_client_uuid

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22680: Fix syntax

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22680: Passing API server tests

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22680: Build out the tests, add secret fetching

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22394: Fix prefs page styling and display project tab options as row

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

22680: Add initial migration and classes

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22778: Makes installer use the newer arvados-formula with pkg pin support.

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

22778: Enables Arvados package pinning when applicable.

This setting makes arvados-formula to pin arvados packages to the requested
version. If version is 'latest' (the default), it won't apply the pinning.

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

22394: Add writableBy to readonly fields, radio component, prefs save action

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

22564: adjusted tests:

* removed untrash collection test becuase it is covered elsewhere, and in this test it ends up being on page 2 of the data explorer
* changed user fullName values so as not to collide with those same values in other tests

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Merge branch '21074-workflow-collection-link' refs #21074

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21074: Fix end of file newline merge error

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22076: Log filename if zip contains exactly one file.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch 'main' into 21074-workflow-collection-link

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

Merge branch '22415-java-sdk-17'

Refs #22415.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21074: Only apply strict validation to linked workflow collections

If you have a collection of type: workflow, strict validation only
applies if it is actually linked.  This accomodates legacy collections
which have type: workflow but don't have all the newly defined fields.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22564: cleanup

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22564: changed assertion in single collection test

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Merge branch '22581-api-service-support' refs #22581

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22581: Fix typo

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22076: File-download logging and permission checks for zip files.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21074: Refactor signature of update_linked_workflows

Improve test coverage

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22564: user tests done

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22564: groups tests done

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Merge branch '22792-cuda-570'

Closes #22792.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22564: workflow tests done

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22415: Pass through script arguments to Gradle as intended

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22792: Convert license header to Jinja comment

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22792: Update CUDA tasks for version 570 driver

Version 570 introduces a udev rule to load the driver when needed.
`/etc/modules-load.d/nvidia.conf` is gone, and we no longer need to
arrange to load it dynamically.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22415: Extend Java SDK Docker test script

* Pass arbitrary arguments from the script to Gradle to make it easier
  to use interactively and eliminate the magic $gradle_upload variable.

* Skip the signing task if it isn't configured, so the default passes in
  a development environment.

* Make the scripts stricter to aid future development.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22564: multi-resource tests done

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22415: Upgrade Gradle to version 6

Upgrading to version 7 requires code changes.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22415: Upgrade mockito to latest version

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '22781-name-endpoints'

Closes #22781, #22789.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21074: Prevent changing collection type: workflow when linked

Simplify some other validation as well

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21074: Linking workflow record to collection

(I have squashed a bunch of commits because of an issue of
accidentally including and then subsequently removing some unrelated
database migrations.)

Tests filling in workflow record from collection

Test for synchronization of workflow record with collection

Hide workflows where the collection is trashed

Validate properties on collection

Test destroying workflow collection

Use dependent association instead of after_destroy hook

Added include=collection_uuid to group contents API

Add collection.properties.blah table join filters

Documentation for linking workflow to collection

Figuring out manifest_text in response

Fix behavior & add tests for include=collection_uuid

Specifically need special behavior for manifest_text so it is not
returned by default and can't be selected (because Controller won't
sign it) but unsigned_manifest_text is ok.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

null values fall back to zero when computing read_length

found refs #21074, original bugfix refs #22232

Null is not the same as zero, in SQL (null + a number) is null, not
the number.  As a result a single null value would cause the entire
row to be considered null (and Ruby would assign it zero size)
regardless of the size of the other columns in the row.  Use coalese()
to get the intended behavior.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22564 process tests done

* also removed now-redundant tests in other test files

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22581: Update discovery doc

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22581: "published_ports" is no longer tied to "service"

Made documentation clarifications.

Made sure the tests are testing what the are supposed to be testing.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22564: collection and selector popover tests done

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22564: multiselect collection tests

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Filter the development- prefix before sorting, refs #22767

Unfortunately 'development' sorts before numbers, so the
development-3.0.0 tag was continuing to show up at the top (resulting
in it assigning 3.1.0~dev versions even after 3.1.0 had been released
and tagged) when it should have been picking up 3.1.0 as the most
recent version.  Tweak the logic to get rid of the development prefix
before sorting.  With this, it correctly generates the versions as
3.2.0~dev.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

22781: Add service name to endpoint diagnostic messages

This should make it easier for an administrator spot accidental URL
mix-ups in configuration.

Since I need to change URL access anyway, we make a copy of the endpoint
URL to avoid mutating the original.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '22788-ansible-key-fix'

Refs #22788.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22564: Finished single project tests

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22788: Ensure private key ends with a newline

Otherwise `ssh-keygen` will refuse to parse it.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22788: Fix getting dispatch public key from private key content

As commented, the way we tried to pass the private key to ssh-keygen via
stdin unfortunately doesn't work. ssh-keygen really wants to work with a
file, so write a tempfile to do that.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

22564: Added multi-project tests

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

22394: Add user preferences page

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>