Added code for generating pull lists.

Made HostPort() an explicit method to print the HostPort, so that String() can change in the future.

Removed a comment that was accidentally copied in.

Switched collection_test.go to use the excellent gocheck framework after seeing it in arvadosclient_test.go.

Started logging memory reserved in addition to memory used.
Started using GetOrCreateMap() in loggerutil
Updated comments, cleaned up typos.

Added logger util GetOrCreateMap() and started using it everywhere.
Moved logging of summary info into ReadCollections.Summarize().
Renamed ComputeBlockReplicationCounts(readServers *ReadServers) to ReadServers.Summarize() and moved logging into method.
Split SummarizeReplication() into BucketReplication() and ComputeCounts().
Some general go-fmting, cleanup and documentation.

gofmt cleanup.

Added a couple helper methods to remove boilerplate from unittests, to make them more readable.

Added some tests.

Cleaned up test.

Fixed bug in BlockSet.ToCollectionIndexSet.
Lots of unittests in summary_test.go.

Added lots of unit tests.
Switched collections.ReadCollections.BlockToCollectionIndex to collections.ReadCollections.BlockToCollectionIndices since a block can belong to more than one collection.
Made collection.Summarize a method of ReadCollections.
Made a couple testing libraries in blockdigest and collection.
Moved collection.MakeBlockDigest() to blockdigest.MakeTestBlockDigest() (in the testing library).
Created collection.MakeTestReadCollections to simply writing and reading tests (in the testing library).
Created the BlockSet and CollectionIndexSet types to hide some of the awkwardness of using maps as sets and added FromSlice methods.
Moved functions for reading and writing data locally to separate file.
Created separate ReplicationSummaryCounts struct and PrettyPrint method.
Added stats for Collections in addition to Blocks.

Added block to collection index map. Started using collection index to save memory over using long uuid strings to identify collections.
Started running summarize() methods after reading data from disk so that we can modify the summarization code and test it without network i/o.

Fixed bug where I wasn't copied saved data.
Computed and logged summary of replication state.

Added flags to write network data and then read it back. This is useful to speed up development, but should not be used in production since data will be stale.
Unfortunately had to switch H,L fields in blockdigest from private to public, otherwise they would not be exported.

Added BlockToReplication field to collection.ReadCollections.
Lots of other little cleanup.

Merge branch 'master' into 3408-production-datamanager refs #3408

Changes to allow datamanager to run indefinitely:

Logger's worker goroutine returns after final write.
minutes-between-runs flag specifies how many minutes to wait between runs (0 means don't loop)

Merge branch '3408-production-datamanager' refs #3408

More changes in response to Peter's review.

Started referencing keep servers by uuid.
Moved more logger init code into constructor call.
Switched logged timestamp label from time_* to *_at.

refs #5090 Merge branch '5090-doc-to-homepage'

3408: Merge branch 'master' into 3408-production-datamanager

refs #4926 Merge branch '4926-rename-share.png'

Merge branch '4759-timestamp-precision-TC' closes #4759

closes #5220
Merge branch '5220-no-sharing-box-for-anon-user'

4926: renamed share.png to sharing.png due to adblock on firefox

5220: whitespace cleanup.

4759: Add functional tests for timestamp precision.

4759: Add test for inequality filters.

4759: Ignore args to as_json.

5220: do not show "Sharing and permissions" box when an anonymous user is viewing a shared collection.

closes #5189
Merge branch '5189-manage-acct-shows-own-repos'

5189: a little cleanup

Merge branch 'master' into 5189-manage-acct-shows-own-repos

Merge branch '3410-replication-attrs' closes #3410 refs #5011

Fix typo in COPYING.

No issue #

3410: Merge branch 'master' into 3410-replication-attrs

Conflicts:
services/api/test/fixtures/collections.yml
services/api/test/unit/collection_test.rb

4759: Use ISO 8601 timestamps with fractional seconds in API responses.

refs #5096
Merge branch '5096-wb-collection-name-or-desc-update'

Merge branch 'master' into 5096-wb-collection-name-or-desc-update

Conflicts:
apps/workbench/test/controllers/collections_controller_test.rb

5096: more efficient update method override.

Merge branch 'master' into 5189-manage-acct-shows-own-repos

Merge branch '5095-fuse-ls-takes-forever' closes #5095

5189: include owned repositories in the list of repositories returned in manage_account.

5095: _mtime on collection defaults to 0 instead of time.time().

5095: Set _mtime when the collection object is updated.

closes #5186
Merge branch '5186-collection-with-empty-properties'

5186: a few more test assertions.

3410: Update comments.

3410: Fix search index so [old versions of] tests pass after down-migration.

3410: Fix overly sensitive test.

5186: collection properties attribute is a hash

3410: Update comments.

3410: Rename maybe_clear_redundancy_confirmed to maybe_clear_replication_confirmed.

5096: if only collection name or description is being updated, do not include manifest_text in the request.

Ensure result order is predictable, even if client-provided orders do not specify a complete ordering.

Fixes intermittent test failures. Example (from
https://ci.curoverse.com/job/arvados-api-server/1305/console):

GroupsTest#test_get_all_pages_of_group-owned_objects [/data/1/jenkins/workspace/arvados-api-server/services/api/test/integration/groups_test.rb:31]:
Received 'zzzzz-4zz18-fy296fx3hot09f7' again on page 3.
<nil> expected but was
<true>.

No issue #

Merge branch '5011-thread-safe-test' refs #5011

Merge branch '5200-anonymous-download'

Closes #5200

Merge branch 'master' into 5200-anonymous-download

Minor fixes, see #5090

Merge branch 'master' into 3408-production-datamanager

Added different event types for started, partially complete and final log entries.

Moved some logging code from datamananager to loggerutil.

Updated logger to do all work in a dedicated goroutine, so we don't need to worry about locking. Small changes to calling code.

Renamed timestamp fields to begin with "time_"

Now fetch Keep Server Status and record it to the log. Renamed some fields and added a comment for a potential improvement to decrease lock contention.

Improved erorr message to make it clear what's a size and what's a timestamp.

Renamed BlockDigest's ToString() to String() to implement fmt.Stringer() interface so that we get more readable error messages when structs contain BlockDigests.

A bunch of changes, most in response to Peter's review.

Logger:
Edit() and Record() have been replaced with the single Update() method which takes a function as input (suggested by Tom).
lastWrite replaced by nextWriteAllowed, for cleaner logic
Added writeScheduled to reduce the number of writes scheduled and attempted, thereby reducing lock contention
Added sanity-checking of params
A bunch of overdue cleanup
Update documentation to reflect the above changes

Manifest:
Renamed ManifestLine to ManifestStream

Util:
Deleted a lot of crap that proved less useful than I thought.
Moved collection.NumberCollectionsAvailable() to util.NumberItemsAvailable() and made it more generic.

collection:
Just cleanup in response to changes in above packages.

keep:
Switched Mtime from int to int64 to avoid y2038 problems.
Switched approach for avoiding keep proxy from using "accessible" to filtering on service_type = disk.
Cleanup in response to changes in above packages.

loggerutil:
Cleanup in response to changes in logger.

Added comment, ran gofmt.

Added Logger.MutateLog() on Tom's suggestion. Tried it out in one instance to make sure it works.

Finished adding logging to keep.GetServerContents but have not tested fully yet.

ran gofmt

Broke keep.GetServerContents() into smaller functions.

Removed channel awareness from keep.GetServerContents().

gofmt'd all my source code. No other changes.

Started logging in keep.go. More work to be done.

Created loggerutil to hold common datamanager logger code. Moved FatalWithMessage to it.

Moved some logic from datamanager.go to keep.go.

Started reading collections and keep data in parallel. Moved some logic from datamanager.go to collections.go. Added logging to end of run.

Merge branch 'master' of git.curoverse.com:arvados into 3408-production-datamanager

Conflicts resolved:
services/api/Gemfile
services/api/Gemfile.lock

Added recording of fatal errors to logger.

Added ForceRecord() method to enable writing remaining log changes before exiting.

Switched Logger edit hooks to write hooks so they'll trigger less often.

Switched batch size to 50. Added logging of batch size.

Added memory alloc in use to stats exported to log. Also added EditHooks to Logger, enabling users to add functions to get called on each Edit() call.

Added structure to data manager log entries, grouping similar fields.

Added ability to turn off logging by passing an empty string as the event type.

Started using Logger in data manager and collections.

Added support for MinimumWriteInterval.

Fixed bugs in logger, changed interface some, added documentation.
Still need to add support for MinimunWriteInterval.

Added logger to write log messages that grow over time. Not working yet.

Started focusing on Keep Server responses again. Switched to using blockdigest instead of strings. Added per block info so that we can track block replication across servers.

Fixed heap profile writing so that we overwrite previous heap profiles rather than adding to them. Minor cleanup too.

Added string copying to try to reduce memory usage, didn't seem to work. Cleaned up logging (and logging logic) so that we only see one line per batch.

Started parsing modification date as a timestamp instead of leaving it as a string.

Switched from strings to BlockDigests to hold block digests more efficiently. Started clearing out manifest text once we finished with it. Made profiling conitional on flag (before it crashed if not provided). Added final heap profile once collections were finished.

Runs to completion!

Changes to manifest that I forgot to add to previous checking.

Added blockdigest class to store digests more efficiently. This has the nice side effect of reducing how many string slices we use from the SDK, so the large string can get garbage collected once we remove other usages.

Long overdue checkin of data manager. Current code runs, but uses way too much memory and eventually crashes. This checkin includes heap profiling to track down memory usage.