Merge branch '5011-thread-safe-test' refs #5011

Merge branch '5200-anonymous-download'

Closes #5200

Merge branch 'master' into 5200-anonymous-download

Minor fixes, see #5090

Merge branch 'master' into 3408-production-datamanager

Added different event types for started, partially complete and final log entries.

Moved some logging code from datamananager to loggerutil.

Updated logger to do all work in a dedicated goroutine, so we don't need to worry about locking. Small changes to calling code.

Renamed timestamp fields to begin with "time_"

Now fetch Keep Server Status and record it to the log. Renamed some fields and added a comment for a potential improvement to decrease lock contention.

Improved erorr message to make it clear what's a size and what's a timestamp.

Renamed BlockDigest's ToString() to String() to implement fmt.Stringer() interface so that we get more readable error messages when structs contain BlockDigests.

A bunch of changes, most in response to Peter's review.

Logger:
Edit() and Record() have been replaced with the single Update() method which takes a function as input (suggested by Tom).
lastWrite replaced by nextWriteAllowed, for cleaner logic
Added writeScheduled to reduce the number of writes scheduled and attempted, thereby reducing lock contention
Added sanity-checking of params
A bunch of overdue cleanup
Update documentation to reflect the above changes

Manifest:
Renamed ManifestLine to ManifestStream

Util:
Deleted a lot of crap that proved less useful than I thought.
Moved collection.NumberCollectionsAvailable() to util.NumberItemsAvailable() and made it more generic.

collection:
Just cleanup in response to changes in above packages.

keep:
Switched Mtime from int to int64 to avoid y2038 problems.
Switched approach for avoiding keep proxy from using "accessible" to filtering on service_type = disk.
Cleanup in response to changes in above packages.

loggerutil:
Cleanup in response to changes in logger.

Added comment, ran gofmt.

Added Logger.MutateLog() on Tom's suggestion. Tried it out in one instance to make sure it works.

Finished adding logging to keep.GetServerContents but have not tested fully yet.

ran gofmt

Broke keep.GetServerContents() into smaller functions.

Removed channel awareness from keep.GetServerContents().

gofmt'd all my source code. No other changes.

Started logging in keep.go. More work to be done.

Created loggerutil to hold common datamanager logger code. Moved FatalWithMessage to it.

Moved some logic from datamanager.go to keep.go.

Started reading collections and keep data in parallel. Moved some logic from datamanager.go to collections.go. Added logging to end of run.

Merge branch 'master' of git.curoverse.com:arvados into 3408-production-datamanager

Conflicts resolved:
services/api/Gemfile
services/api/Gemfile.lock

Added recording of fatal errors to logger.

Added ForceRecord() method to enable writing remaining log changes before exiting.

Switched Logger edit hooks to write hooks so they'll trigger less often.

Switched batch size to 50. Added logging of batch size.

Added memory alloc in use to stats exported to log. Also added EditHooks to Logger, enabling users to add functions to get called on each Edit() call.

Added structure to data manager log entries, grouping similar fields.

Added ability to turn off logging by passing an empty string as the event type.

Started using Logger in data manager and collections.

Added support for MinimumWriteInterval.

Fixed bugs in logger, changed interface some, added documentation.
Still need to add support for MinimunWriteInterval.

Added logger to write log messages that grow over time. Not working yet.

Started focusing on Keep Server responses again. Switched to using blockdigest instead of strings. Added per block info so that we can track block replication across servers.

Fixed heap profile writing so that we overwrite previous heap profiles rather than adding to them. Minor cleanup too.

Added string copying to try to reduce memory usage, didn't seem to work. Cleaned up logging (and logging logic) so that we only see one line per batch.

Started parsing modification date as a timestamp instead of leaving it as a string.

Switched from strings to BlockDigests to hold block digests more efficiently. Started clearing out manifest text once we finished with it. Made profiling conitional on flag (before it crashed if not provided). Added final heap profile once collections were finished.

Runs to completion!

Changes to manifest that I forgot to add to previous checking.

Added blockdigest class to store digests more efficiently. This has the nice side effect of reducing how many string slices we use from the SDK, so the large string can get garbage collected once we remove other usages.

Long overdue checkin of data manager. Current code runs, but uses way too much memory and eventually crashes. This checkin includes heap profiling to track down memory usage.

Added reporting of disk usage. This is the Collection Storage of each user as described here: https://arvados.org/projects/arvados/wiki/Data_Manager_Design_Doc#Reports-Produced
But it does not include the size of projects owned by the user (projects and subprojects are each reported as their own users)

Report is just logged to screen for now.

Started reading index from keep servers.
Added lots of code to handle unexpected results from keep server.

Started reading response from keep server.

Merge branch 'master' of git.curoverse.com:arvados into 3408-production-datamanager

5095: Record mtime() from group#contents

5095: Don't check update when getting mtime().

Merge branch '5037-nonocache' closes #5037

Merge branch '5030-hide-graph-until-data' closes #5030

5011: Fix unreliable test.

The collection writer was (sometimes) consuming the last 200 response
even though it could write 3 copies without it. This shouldn't fail
the test: the only reason we count the PUT calls is to verify all
three of the 200 responses were consumed (i.e., none of the 500
responses were counted toward the achieved replication level). To
verify this without being sensitive to extra requests, we simply
arrange for the three 200 responses to be the last ones available.

5011: Use a threadsafe wrapper to feed side effects to mocks.

5200: Fix overly sensitive fuse test. (Do not fail every time a fixture is added.)

5200: Do not fail tests if application.yml is missing: defaults are enough to pass tests.

4823: Style cleanup on docstrings, renamed some single-letter variables to be
more descriptive.

5200: Enable anonymous file view/download.

Merge branch '4839-worker-state' closes #4839

Merge branch '4904-arv-web' closes #4904

Merge branch 'master' into 4904-arv-web

4904: Remove extraneous ciddir and cidfilepath.  Explicit non-zero exit code
when an ArgumentError is caught.

4823: Revert settings mistakenly added to application.yml.example

Merge branch 'master' into 4823-python-sdk-writable-collection-api

Conflicts:
sdk/python/arvados/collection.py
sdk/python/tests/test_keep_client.py

4839: Use node[crunch_worker_state], not node[info][slurm_state], to make shutdown decisions.

Node Manager daemon tests avoid checking monitor.is_alive().

Checking is_alive() creates race conditions, because we might check
the actor's live state before it's had a chance to process a stop
message in its queue.  We just had a build fail because of this:
<https://ci.curoverse.com/job/arvados-api-server/1299/>.  Always check
that a monitor is alive by sending it a real message.  No issue #.

Fix undependable test (incorrectly assumed a particular job would be on the first page of /jobs). No issue #

Merge branch '4951-request-vm-TC' refs #4951

4951: Empty out ActionMailer::Base.deliveries so we can count deliveries caused by the current test.

4951: Rearrange js to make use of Rails built-ins. Add generic AJAX error handler.

4951: Add localStorage to browser dependency checks.

Changed navbars, homepage, to let /doc/index.html function as homepage

4951: fix comment in test

4951: update test to also verify that an email was sent when request shell access button was clicked.

Merge branch 'master' into 4951-request-vm

closes #5185
Merge branch '5185-collections-tab-zero-size-issue'

3410: Fix munge_manifest_locators!: don't skip locators that have no +hints.

Also, fix portable_manifest_text: do not add a trailing + to a locator
that has no size hint.

Portable data hash of ". d41d8cd98f00b204e9800998ecf8427e+Foo 0:0:x\n"
is md5(". d41d8cd98f00b204e9800998ecf8427e 0:0:x\n")
not md5(". d41d8cd98f00b204e9800998ecf8427e+ 0:0:x\n")

3410: Add tests for replication attributes.

3410: Add replication attributes (and rules about updating them) to model and docs.

3410: Add default_collection_replication to config and discovery doc.

3410: Rename redundancy -> replication columns.

5185: remove the unnecessary test because another test is covering the description column check already.

5185: do not display description at all in Project -> Data collections tab because of concerns such as the description may be too big or has textile etc.

4951: button_to cannot be used to submit; instead change to link_to

5185: in project data collections tab, show description when available; otherwise display modified time.

closes #4951
Merge branch '4951-request-vm'

Merge branch 'master' into 4904-arv-web

Conflicts:
sdk/python/arvados/events.py

4904: Detach from Docker container to get cid from stdout instead of fiddling
with cid file.  Poll "docker ps" to check if the container is still running.  Fixed bugs.
Updated documentation.

Merge branch 'master' into 4951-request-vm

closes #5110
Merge branch '5110-workbench-full-text-search'

5110: update a comment in test; this comment was reflecting ui from before project tabs.

5110: update couple more tests to do a single visit to page than visit home and then visit page.

Merge branch 'master' into 5110-workbench-full-text-search

4904: Refactor arv-web main() into ArvWeb class.  Add CollectionDirectory.change_collection to FUSE.

4951: Incorporate review feedback. Always show the request button, along with the "sent" message if applicable. Include timestamp in sent message. Some text updates as well.

Merge branch 'master' into 4951-request-vm

Merge branch '4958-old-browser-alert' closes #4958

4958: Merge branch 'master' into 4958-old-browser-alert

4958: Tweak wording. Fix margins.

4958: Test WebSocket support.