21367/21230: Set up dev-jobs with virtualenv

The functional goal here is to do all pip installs inside the Dockerfile
inside a virtualenv to avoid the global pip install issues.

Changes that fall out of that:

* Installing python3-venv is all we need to go back to the -slim Debian
  image.
* Stop installing other Python packages we'll just install inside the
  virtualenv anyway.
* Rather than having separate arguments and code blocks for every
  package we might want to install, just set up a dedicated build
  context for the Docker image with all the packages we want to install,
  and install them all unconditionally during the image build. This is
  much less code and hopefully easier to follow.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21367: Remove environment check

You only need for this for `arv-keepdocker` at the end of the process,
which can read from settings.conf just fine too. Even if it fails, the
developer will have the command handy to fix their environment and try
that again easily.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21367: Remove debug print

Doubly redundant since we're using `set -x` here anyway.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21367: Use regular bullseye instead of bullseye-slim

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21367: Add arvados virtualenv to $PATH

This is both more user-friendly (now a-c-r itself is in $PATH) and a
cleaner implementation than the previous version.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21367: Modernize apt key handling in arvados/jobs Dockerfile

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21367: Remove debug prints

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21367: Update arvados/jobs image to bullseye

Required for Python 3.7 deprecation.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21258-flaky-adc-test'

fixes #21258

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21036-keep-balance-metrics'

fixes #21036

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '20846-package-build-fixes'

Closes #21273.
Refs #20846, #21230.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21285-max-gw-tunnels'

refs #21285

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21036: Test all balancerStats metrics.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

20846: Use Python build variables more consistently

Rather than have the virtualenv process use its own python command,
ensure PYTHON3_EXECUTABLE points to a specific minor version, and use it
throughout the entire build process.

The changes to the virtualenv manipulation with sed are meant to clean
things up with fewer commands and tighter regexps, but not make any
functional change beyond referring to a specific minor Python version.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

20846: Remove unused Python packaging constants

I believe these are remnants from when we packaged our modules for
system use, outside a virtualenv.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21273: Build rocky8 Python packages against python39

We can no longer support the Python 3.6 that ships with rocky8. Building
against the latest appstream release is the most straightforward way to
continue building packages for the distro.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21273: Remove support for unsupported distros

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21278-search-redirect' refs #21278

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

Merge branch '21290-sync-past-versions' refs #21290

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

Merge branch '21128-toolbar-context-menu'

Merging branch copied from arvados-workbench2 repo

refs #21128

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21285: Document that only HPC dispatchers use tunnel slots.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21128: Merge commit 'adbbc9e3c7a36d39b30f403555ee5889e32adcc0' into 21128-toolbar-context-menu

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

20846: Update dpkg .so search to handle merged-/usr systems

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Merge branch '21200-breadcrumbs-issues'

closes #21200

Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: removed vestigial virtual machines refs Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21258: Ensure at least one boot failure.

With the previous approach, it was possible for all containers needing
a type4 instance to finish, and a different instance type to report a
quota error and cause the scheduler to shut down the now-unneeded
instance, all before the "guaranteed broken" node reached
TimeoutBooting. In such a case it would not be counted as a boot
failure.

To avoid this, the new approach induces boot failures on *all* type4
instances until 2x TimeoutBooting intervals have passed.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

20846: Python package build uses one specific Python version

This is meant to prevent all kinds of weird problems that can arise if
`python3` ever stops being the same version that we used to build the
package.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21036: Report remaining balancerStats as prometheus metrics.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

20846: Remove module versions print

`pip install` writes this information at the end of the process. Writing
it again ourselves is redundant verbosity.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

20846/21230: Remove Python transitional metapackages from the package build

The build process for this is relatively expensive (we set up a
dedicated virtualenv for each one) and not PEP 668-compliant (it tries
to upgrade packages globally). We don't need these packages anymore for
the Arvados 3.0 release. Stop building all of them.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

20846/21230: Modernize virtualenv setup in package building

This change sets up the virtualenv earlier, then does all work inside
it, starting with installing build dependencies, to comply with PEP 668.

A couple optimizations that were easy to do as part of this work:

* We install modules in as few pip commands as possible, to reduce
  the overhead of determining what's currently installed, what's
  available from PyPI, etc.

* Removed a special case for CentOS 7 that we no longer need.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

20846: Migrate from pkg_resources to importlib in sdk/cwl

Now that we're deprecating Python 3.7, it's easy to rely on importlib
from the stdlib.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

20846: Ensure packages directories and indexes are world-readable

See comments for rationale.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21258: Fix log message.

Reverts an unintentional logging change in
1875af9bcf4a1afe435176e952e63341a9ae9c03 from

msg="creating new instance" InstanceType="type8" ...

to

msg="creating new instance" InstanceType="{type8 providertype8 8 8589934592 0 0 0 0.984 false {  0}}" ...

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21290: Use update_all to efficiently sync past version records

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

Fix misspelled configuration in doc AllowTrashWhileReadOnly -> AllowTrashWhenReadOnly

no issue #

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21278: Remove the '/search.*' to '/search-results' redirect

It produces an infinite loop and I don't think the /search endpoint is
really compatible with the /search-results endpoint anyway, and it's
less likely for people to have old hyperlinks to search results than
to projects or collections.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

Fix version displayed in workbench2.

refs #18874

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21059-signup-email' refs #21059

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21059: Fix "Arvado" typo.  Use URI::join.

Also delete some commented-out debug code.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

Merge branch '21206-ws-requesting-container-uuid'

closes #21206

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21276-test-race'

fixes #21276

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21285: Propagate HTTP status code in tunnel setup error.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21206: Add test for property fields returned in log events.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21276: Fix unreliable test.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

20846/20690: Remove Workbench1 build in debian12/ubuntu2204

This applies the change from c7cf228372bee18d84b14fc4089a758bc157fe76 to
the debian12 and ubuntu2204 package build Dockerfiles.

Refs #20690, #20846. These branches were in development in parallel, so
the changes from the former weren't applied to the latter.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

20846/21089: Update BRANCH support in debian12/ubuntu2204

This applies the change from 73cc3ce5feb6d22c40742c499db9c799aa5ff874 to
the debian12 and ubuntu2204 package build Dockerfiles.

Refs #21089, #20846. These branches were in development in parallel, so
the changes from the former weren't applied to the latter.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

20846/18874: Update NodeJS/Yarn in debian12/ubuntu2204

This applies the change from c4d4088d3e7f3e3f896ed0bb482560ab702d5465 to
the debian12 and ubuntu2204 package build Dockerfiles. It uses a
slightly different yarn install recipe to avoid the "double ln" and
associated layer, but the end result is the same.

Refs #18874, #20846. These branches were in development in parallel, so
the changes from the former weren't applied to the latter.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Copyedit scoped token creation example

* Mark up user input
* Use zzzzz cluster id

No issue #.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

Use full paths for API documentation links

Most of the cross-reference links in our documentation point to a
specific page. These links are unusual in that they point to a
directory. Lately the linkchecker has been intermittently complaining
about them:

  URL        `file:///tmp/workspace/developer-run-tests-doc-and-sdk-R/doc/.site/api'
  Name       `API documentation'
  Parent URL file:///tmp/workspace/developer-run-tests-doc-and-sdk-R/doc/.site/admin/scoped-tokens.html, line 306, col 576
  Real URL   file:///tmp/workspace/developer-run-tests-doc-and-sdk-R/doc/.site/api/
  Warning    [file-missing-slash] Added trailing slash to
             directory.
  Result     Valid: directory

This causes a test failure. Spell out the rest of the link to prevent
that. No issue #.

Arvados-DCO-1.1-Signed-off-by: Brett Smith <brett.smith@curii.com>

21285: Send all SSH and tunnel endpoints to tunnel queue.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21285: Update HPC dispatcher install docs, add upgrade note.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21285: Use separate request limit/queue for gateway tunnel requests.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21200: cleanup Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: set proper breadcrumbs when nav from all users Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: deactivate sidepanel node on admin/shell access Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: cleanup Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: removed excess breadcrumb check Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: moved activatesidepaneltreeitem to loadvirtualmachine function Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: fixed shell access label and icon Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: select user always goes to profile page Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: rebase Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: select user always goes to profile page Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: <msg here> Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: copied branch from arvados-workbench2 Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Merge branch '21305-doc-maintenance' refs #21305

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21305: Refactor and respect do not track for GA

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21305: Refactor piwik and GA tracking a little bit

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21305: Add piwik and google analytics tracking to layout

This used to be a hidden branch that was cherry-picked called
"public-site-piwik", so this just brings it into the main branch to be
able to maintain it.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21305: Add meta robots noindex when current doesn't match latest

The goal is to get Google to only display results for the current
version of the documentation pages.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

Merge branch '19675-instance-types-panel' into main. Closes #19675

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Add instance types panel to collapsed side panel

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21128: fixed toolbar not scrolling Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21059: Fix tests as "inactive user" email is now tied to is_invited

Also adjust the text of active/inactive user emails a bit.

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21059: Remote user status WIP

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

21200: modified virtual machine int test Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21200: modified unit test Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21059: Testing email notification WIP

Arvados-DCO-1.1-Signed-off-by: Peter Amstutz <peter.amstutz@curii.com>

19675: Update caniuse db

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Remove unused import

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Add keep buffer and discount ram accounting to instance types panel
with tests

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Restore accidentally removed cost formatter

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Add instance types info box with panel description.

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21128: fixed faulty breadcrumb naming Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21128: fixed breadcrumb nav to group Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21128: stopped new breadcrumb when navigating to home  Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

21128: breadcrmubs now shows user name when viewing user page Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>

Merge branch '21309-x-crypto-upgrade'. Closes #21309

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

19675: Use detailsattribute to display instance type properties similar to
resources panel

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Reorder instance type fields

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Sort instance types panel by price then by ProviderType

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Move instance types panel to left panel

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

21309: Upgrades golang.org/x/crypto dependency

Arvados-DCO-1.1-Signed-off-by: Lucas Di Pentima <lucas.dipentima@curii.com>

19675: Rename memory icon to reflect resource usage, use icon for instance type
panel

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

19675: Add CWL size formatter and display MiB max ram/disk request alongside
human readable units

Arvados-DCO-1.1-Signed-off-by: Stephen Smith <stephen@curii.com>

Merge branch '21254-test-race'

fixes #21254

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

Merge branch '21214-dav-virtual-projects'

fixes #21214

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21214: Note cycle detection/behavior on WebDAV doc page.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21214: Include project/collection singletons in customfs MemorySize.

Previously, a hardlink returned its target's MemorySize, which
overreported the size of a tree in which a collection or project was
reachable by multiple paths.

Since 3d5a798ef6f4bd3b1a771bacdf0acf70edf6c1f5 a hardlink returns a
MemorySize reflecting only the hardlink itself, so the MemorySize of
the hardlink targets (project/collection singletons) needs to be added
explicitly by customFilesystem.

Arvados-DCO-1.1-Signed-off-by: Tom Clegg <tom@curii.com>

21128: removed excess dependancy in useeffect Arvados-DCO-1.1-Signed-off-by: Lisa Knox <lisa.knox@curii.com>