21700: Install Bundler system-wide in Rails postinst

This effectively reverts 7e2165a5b7561f0c84ede6ab4ae58003a1551a48 and
follow-ups. Other parts of our install process like test-provision
assume that the correct version of Bundler is installed system-wide
after installing arvados-api-server. So just do that and find the
`bundle` command after the fact. Refs #21700.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21721-refresh-python-deps'

Refs #21721.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21700-remove-rvm'

Closes #21700.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Tighten Gemfile.lock parsing

Avoid a bug if some subsection comes after `specs` under `GEM`.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Remove arvbox special case from run-tests.sh

This was already a noop after ed268e53d2014ce5c49301559a46e67660f1404c,
and I suspect it's no longer necessary now that we do a better job of
standardizing the Bundler version anywhere, thanks in part to the
version locking added in Bundler 2.3.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Modernize arvbox bundler install recipe

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21722-remove-chokidar' into main. Closes #21722

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21721: Remove sdk/cwl version pins

Both of these were set to work around limitations in the old pip
resolver. We have since standardized on the new one in our build
process, so they are no longer needed.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21721: Remove msgpack version pin

This was pinned to avoid an install bug in version 1.0.4. Newer releases
seem fine. See e2267bd9920.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21721: Remove pycurl version pin

This was originally pinned because of library conflicts on Debian 10,
which we no longer support. See commit
d655e2addaba4168f76fb7c4e2e9f6d649917bcc.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21721: Remove ruamel.yaml dependency

We import it a few times but never actually use it.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21721: Remove httplib2 and associated version pins

This whole stack was pinned to stay on an older version of
google-python-api-client, which has since been relaxed, and then keep
things working under the old pip resolver, which we've standardized off
of. Refs #18336.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21721: Remove google-auth version pin

Refs #18001. The original motivation for this pin is not
well-documented. My best guess is it was to retain Python 2.7 support,
which is no longer a concern.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21721: Remove tests_require=mock

unittest.mock in the stdlib is good enough for us.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21719-deps-security-updates'. Closes #21719

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

21721: Clean various test imports for Python 3

This is not everything but cleans up files where I happened to notice
explicit version checks.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21721: Remove tests_require=pbr

This module is a setuptools plugin that requires activation to
use. We're currently not doing that, so it's completely unused and safe
to remove.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21719: Upgrades golang.org/x/net to 0.24.0

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

21722: Remove node-sass-chokidar to fix security issues

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

Merge branch '21697-slow-client-blocking'

fixes #21697

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21697: Fix typo.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21697: Comment why releaseSession func exists.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21696-slow-propfind'

fixes #21696

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21700: Fix option typo

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21697: Don't hold session lock while processing read requests.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21700: Set GEM_PATH in Rails postinst

This is necessary to get the desired behavior in Ruby 2.7. Otherwise
Bundler gets installed somewhere else.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Adjust `gem fetch` syntax to work on Ruby 2.7

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21037-upgrade-react-scripts'

closes #21307

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21700: Narrow `bundle install` workaround options

This prevents `gem install` from resolving dependencies differently from
Bundler and creating its own set of problems.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21037: added eslintrc to gitignore Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21700: Install Bundler alongside bundled gems in Rails postinst

See comments for rationale.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Work around incomplete `bundle cache` bug

It seems like the problem I was working around for zlib 3.1.0 on Ubuntu
20.04 earlier can affect basically any gem at any step, if you happen to
already have the exact same version installed on the system. This commit
adds workarounds for all gems at all steps of the bundle setup.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21696: Comment optimized PortableDataHash func.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21696: Update test case & timing results for ill-packed manifests.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21696: Cache subpath->fnode lookups.

Avoids extra locks/lookups when loading non-contiguous chunks.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21696: Speed up PortableDataHash by not using regexp.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21696: Add test for non-contiguous file data segments.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21696: Fix slow loading of non-contiguous file data segments.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21700: Make workbench2 package respect --only-build

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Remove package-test-dockerfiles/Makefile

There's zero need for it after removing RVM.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Select more desired modules in rocky8 test Dockerfile

This prevents needless thrashing when the Dockerfile installs one set of
packages and then packages we test enable and reinstall a different
module stream.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Test the RailsAPI Bundler version

See comments for rationale.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Update the RailsAPI Bundler version

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Remove `bundle install` from package build Dockerfiles

This work is better done in the package build script. I suspect the
problem that it's trying to solve is better solved by isolating the
RailsAPI `vendor` directory as done in
0333f33a7413aadb7159563e0a7aa2a0a50acaec.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Standardize on Bundler~>2.4.0

These are the last versions to support Ruby 2.7, which we're still
supporting as I write this.

Our usual install recipe is:

  gem install --conservative --version '~> 2.4.0' bundler

In environments where we *know* we have Ruby 3, that becomes:

  gem install --conservative --version '>= 2.4.0' bundler

As long as we have something at least as recent as 2.4.0, that should be
enough for function. This recipe meets our functional needs while
striking a balance between being easy to implement and avoiding
redundant installs.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Remove RVM support

We haven't reliably tested this in a long time, and it's a lot of code
for no benefit.  In general we want to support the versions of Ruby that
come with the distributions we support. Anybody in a very weird case can
install a supported version of Ruby from source.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21700: Better isolate Bundler from the build source

This helps ensure that when we build the RailsAPI package with Bundler,
we don't accidentally pick up settings or files from the developer's
machine. This shouldn't matter when we build packages on Jenkins but
this makes it easier for developers to test package builds on their own
systems.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21606-keep-web-output-buffer'

closes #21606

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21383-salt-debian12'

Closes #21524, #21583, #21661.
Refs #21383.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21606: Document units for WebDAVOutputBuffer config.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21037: moved entire beforeall into beforeeach in auto-logaout spec Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: fixed timers in auto-logout spec Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: fixed search-input spec Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: removed stray whitespace in xml example Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: fixed auth-middleware test Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Revert "21037: changed jest timer mocks to settimeouts Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>"

Reverting due to false positives in search-input spec

This reverts commit 515f96c411358b45a978b6b7c93da860b09ee7d0.

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21254: Add workaround for Bundler zlib bug

See comments for discussion.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21383: Salt provisioner installs systemd-cron

See comments for rationale.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21383: Reconfigure Salt logrotate service

See comments for rationale.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21383: Remove docker-ce version pin

Now that we've removed support for older distros, all the distros we
currently support have the minimum version of docker-ce
available. Meanwhile, that older version is not available for some newer
distros we want to support. Remove the pin accordingly.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21383: Standardize on os-release variables

This script was getting this information three different ways: by
reading /etc/os-release, calling lsb_release, and using its own internal
lookup tables. This is silly. Just read /etc/os-release and use those
variables throughout.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21383: Update Salt installer formulas

I'm not aware of any specific reason we need this, but it's good
maintenance since I'm in here anyway.

letsencrypt 3.0.0 does introduce a backwards incompatible change because
it no longer installs the Apache plugin by default. Since we never
wanted that plugin and always specify the pkgs we want anyway, this
shouldn't affect us.
https://github.com/saltstack-formulas/letsencrypt-formula/blob/master/CHANGELOG.md#300-2021-07-02

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21383: Use postgres formula with support for Debian 12

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21383: Upgrade Salt installer to Salt 3006

Salt 3006 is the first version to support Python 3.11, included with
Debian 12.

Because 3006 is the current stable, we have to update the bootstrap
invocation to match. I guess we'll have to make another change after it
becomes old-stable.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21583: Configure Passenger with passenger_preload_bundler

This helps avoid situations where Passenger loads gems that create
a conflict with our bundle. We're currently seeing this with the base64
gem, where Passenger on Ruby 3.[0-3] can load the version shipped with
that Ruby before our RailsAPI bundle gets loaded. This causes an error:

  [ E 2024-03-12 15:12:44.8347 907382/Tf age/Cor/App/Implementation.cpp:221 ]:
  Could not spawn process for application /var/www/arvados-api/current:
  The application encountered the following error: You have already
  activated base64 0.1.1, but your Gemfile requires base64 0.2.0. Since
  base64 is a default gem, you can either remove your dependency on it or
  try updating to a newer version of bundler that supports base64 as a
  default gem. (Gem::LoadError)

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21583: Update link for Phusion Passenger install guide

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21037: changed jest timer mocks to settimeouts Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Merge branch '21644-flaky-test'

fixes #21644

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21696: Fix unnecessary copy-by-value.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21696: Exercise less efficient code path by mixing up block order.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21692-go-packages-no-build-id'

Refs #21692. Closes #21694.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21037: removed jszip mock in spec Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: fixed sharingdialog import in spec Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21696: Add "large collection" test with large files.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21037: renamed a few "require" functions to adapt to webpack now reserving that word Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21692: Test RPM packages for build id conflicts

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21692: Don't include build id links in Go packages

See comment for rationale.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21644: Fix unreliable test.

Test the bucket that doesn't depend on actual test speed.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21037: fixed all linter warnings Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: added eslintcache to gitignore Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: added eslintcache to gitignore Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: fixed most of the linter warnings Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21037: app compiles Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Merge branch '21691-wb2-dependency-upgrades' into main. Closes #21691

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

Merge branch '21688-io-panel-style-fixes' into main. Closes #21688

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21691: Update tar to 6.2.1

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21691: Add minor improvements to test reliability

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21691: Add types to replace files methods for differing parameter/result types

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21691: Add type to login method to satisfy result type

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21691: Avoid error by changing method of clearing token

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21691: Update axios to 0.28.1

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21606: Change default output buffer size to 0.

See https://dev.arvados.org/issues/21606#note-8.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21606: Improve code comments.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21606: Update config comment.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21606: Add output buffer for webdav downloads.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21657-diag-docker-format'

fixes #21657

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21659-gh-workflow-tests' into main. Closes #21659

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21688: Move json out of tableWrapper and add flexbox stretch to collection tab

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

Merge branch '21654-net-imap-downgrade'. Refs #21654

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

21654: Reverts net-imap to a previous version to keep ruby compatibility.

Bundler upgraded this gem when upgrading rails to 7.0.8.1, making it
incompatible with ruby 2.7.2, but rails doesn't explicitly asks a new
net-imap version.

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>