6098: Fix up record_filters API. Add (but skip) test that full-text index is used.

bundler 1.10 brakes workbench build because

https://github.com/lucasefe/themes_for_rails/blob/master/themes_for_rails.gemspec

has a bug. And it's a NOTICE in 1.9.9 but its a FATAL in 1.10.x

this is our workaround.

no issue #

Merge branch '6146-log-squeue-lost-tasks' refs #6146

6146: Document how --steps really works. Simplify squeue output format and parsing.

Merge branch '6074-collections-index' closes #6074

6087: Fix MissingAttribute check, and change it to a debug warning for now
because it reveals too many bugs. refs #6087

6087: Fix MissingAttribute firing for new records during changes_applied. refs #6087

Merge branch '6087-collection-timing' closes #6087

6087: If attributes are accessed but not loaded due to select(), raise instead of returning nil/{}/[].

6087: Remove unneeded CollectionsController#update special case.

ArvadosBase#save now covers the general case of omitting unchanged attributes.

6087: Reset changed-attrs list after saving. Fix only-send-changed-attrs logic. Add tests.

6087: Strengthen "manifest_text is not lost in update" test.

6087: Add big-manifest tests, with some finer-grained performance numbers on stderr.

6074: Use each instead of find_each, so our order() and limit() constraints are respected.

According to http://apidock.com/rails/ActiveRecord/Batches/find_each,
both order and limit are ignored.

The existing test "max_index_database_read does not interfere with
order" had two fatal bugs that prevented it from catching the
find_each problem:

1. It didn't select the 'name' column, so the 'name' order was
   ignored. But the test passed because the name wasn't returned,
   item['name'] was nil, and... nil !~ /pattern/ is true. Both
   problems are fixed here.

   (This explains why it seemed to find 15 names starting with
   Collection_9, rather than just the 11 that exist (_9 and _90..99).)

2. It tested only that the returned results followed the requested
   order, not that the order was followed when deciding what the limit
   should be. All of the items_available were the same size, so _any_
   order would have set the limit at 15 and passed the test.

The second problem is fixed by adding a separate test.

6074: Update config docs to match new max_index_database_read behavior.

6074: Never exceed the configured max_index_database_read (even by one
record) unless necessary to return one row.

Fix copy&paste error in test case.

6074: Clear any existing ActiveRecord select() before adding our own,
otherwise we'll read all the big values when we're really just trying
to predict the result size.

6074: Speed up db query by using octet_length() instead of length(). closes #6223

6087: Use HTTPClient's compression feature (instead of adding the
Content-Encoding header ourselves). Rename config knob to describe
purpose instead of implementation.

6087: Compute portable_data_hash only once during check_signatures.

6087: Use app-configured key by default for blob signing and verification.

Merge branch '6146-log-squeue-lost-tasks' refs #6146

6146: Better log message.

6146: Use new SLURM_JOB_ID env var instead of old SLURM_JOBID

6146: Improvements to "kill srun process if slurm task disappears" feature:

* Log when we notice a process is orphaned.

* Log when we decide to kill an orphaned process.

* Use `squeue --jobs $SLURM_JOBID` so slurm doesn't have to tell us
  about other jobs' tasks.

* Do not kill a process that is still reporting stderr.

* Do not check `squeue` at all if every process has reported stderr
  since the last squeue check. (In such cases, it seems safe to assume
  no children are hung/dead.)

* Use the same timer/interval (15 seconds) for both noticing and
  killing orphaned processes.

refs #6093
Merge branch '6093-refresh-docs'

6093: delete the redundant details in "alternate way to add ssh keys" section.

Merge branch 'master' into 6093-refresh-docs

closes #5930. Merge branch '5930-smalldocfix'

5930: fixed as per code review

Merge branch '6194-python-arvfile-large-write' closes #6194

6194: Simplify test_large_write a little bit.

Merge branch 'master' into 6093-refresh-docs

6194: Make splitting loop simpler since [n:n+KEEP_BLOCK_SIZE] returns a short
slice when there isn't KEEP_BLOCK_SIZE data.  Update test.

Merge branch 'master' into 6194-python-arvfile-large-write

6194: Fix test.  Lots of small writes break across blocks differently than one huge
one.

6194: Fix typo in invocation of writeto() and use memoryview to avoid copying slices.

Remove non-existent migration from structure.sql. refs #3036

Update example dns_server_update_command. refs #6146

Merge branch '6146-dns-update-command' refs #6146

6146: Add dns_server_update_command. Update docs & tests for DNS update hooks.

Tell tar to read to EOF (even if it detects trailing NULs).

Avoids SIGPIPE when feeding a tarball made with tar -A.

refs #6146 refs #6094

6194: Chunk large ArvadosFile writes automatically instead of raising an error.

Merge branch '6146-ignore-tar-sigpipe' refs #6146 refs #6094

6146: Ignore SIGPIPE while feeding data to tar. Rely on close() retval instead.

In install script, log archive hash before running tar. refs #6146

Merge branch '6146-job-runtime-sanity' refs #6146

6146: Exit TEMPFAIL early (without failing the job) if worker nodes cannot run a trivial command.

This is meant to improve the way we handle a couple of edge cases.

1. A worker node doesn't get bootstrapped properly. It works well
enough to persuade nodemanager and the API server that it's alive and
ready to run jobs, but it can't actually run jobs. This means there's
a bug in the bootstrapping process -- its startup script shouldn't
tell slurm State=RESUME without checking itself -- but even so this
doesn't deserve to fail a job: it's definitely a system problem,
there's zero chance a different job would have gone any differently.

2. A worker node has a hardware problem, or it has fallen off the
network, or something like that, but slurm hasn't yet noticed and set
its state to DOWN, so slurm still uses it to satisfy crunch-dispatch's
"salloc" commands. As above, there's zero chance this could have gone
differently for any other job, so it doesn't make sense to fail the
job.

Merge branch '6146-retry-install' refs #6146

6146: Retry install (max 3 attempts) if install script fails with no error messages.

Also: if install fails, croak() instead of exit(1) so we still get a log file.

Merge branch 'master' into 6093-refresh-docs

Conflicts:
doc/user/tutorials/tutorial-submit-job.html.textile.liquid

closes #6057
Merge branch '6057-public-projects-page'

6057: few more minor tweaks

Merge branch '6141-doc-workbench-links' refs #6141

Merge branch 'master' into 6057-public-projects-page

Merge branch '6090-docker-use-local-sso' closes #6138

Add GPG key for RVM installation in the doc.

No issue #

Merge branch '6098-full-text-index' refs #6098

6098: Recreate full text indexes with leading spaces, to persuade Postgres to actually use them.

Merge branch 'master' into 6057-public-projects-page

6057: if /projects/public is accessed when anonymous config is not enabled, show 404.

Merge branch 'master' into 6093-refresh-docs

6093: one more

6093: a few more updates

6093: some more doc updates.

Merge branch '6094-install-script-sigpipe' refs #6094

6094: Propagate install script stderr+stdout to job log.

Merge branch '6095-arv-copy-preserve-object-order-wip'

Closes #6095, #6117.

6095: arv-copy preserves order of copied JSON.

This means arv-copy no longer loses the order of pipeline template
components, which makes for a nicer presentation in Workbench.

Other Python clients that would like to preserve the order of JSON
responses can use OrderedJsonModel the same way.

6093: doc updates

Merge branch '6094-install-script-sigpipe' (early part) refs #6094

Merge branch 'master' into 6057-public-projects-page

6057: add projects/public page, which lists publicly accessible projects.

6141: Remove hard-coded "https://" from "https://{{site.arvados_workbench_host}}" and require that arvados_workbench_host include the url scheme instead.

6094: Consider arvados_sdk_version (not just script_version) when
deciding there's no need to extract or install anything.

6094: Avoid SIGPIPE by consuming DATA section even when it's not needed.

6138: Added --domain to set ARVADOS_DOMAIN.  Removed useless comments in apache2_vhost that mentioned qr1hi.

Add installation instructions for compute nodes; update the installation
instructions for crunch dispatcher.

No issue #

Merge branch '6087-collection-timing' (early part) refs #6087 refs #6092

6087: Get database time only once per manifest-signing/verifying event, rather than once per locator.

Update tutorial pipeline page to match new definition.

No issue #.

6090: Docker install uses local SSO server instead of auth.curoverse.com.  Also
clean up references to dev.arvados to use @@ARVADOS_DOMAIN@@.

Update tutorial pipeline template definition.

This helps it run out of the box again.
No issue #.

refs #6061
6061: set profiling_enabled to true in workbench application.default.yml for test env.

Documentation fix (quoting) for the 'Add an Arvados repository' page.

No issue #

5748: Remove unused import. refs #5748

5748: Remove runtime.GC() obsoleted by bufferpool. refs #5748

closes #6064
Merge branch '6064-collection-output-of-perf-issue'

integration_performance tests: add comment describing how to run the tests; also remove the ENV variable which is not needed
since the tests in this directory will not be part of regular test run because it is not a standard rails test directory.

6064: rollback cache update so that it can be done in a separate branch.

Merge branch 'master' into 6064-collection-output-of-perf-issue

Merge branch '6071-java-sdk-timeouts' closes #6071

6071: Bump up timeout to 120 seconds.

refs #6061
Merge branch '6061-intg-perf-tests'

Merge branch '6073-pycurl-version' refs #6073

6061: add workbench integration_performance test folder.

6071: Fix URL

6071: Refactor project organization a bit.

6071: Increase default timeout and enable retry support.

6073: Pycurl depends on latest in Arvados SDK setup.py