15954: Merge branch 'master'
[arvados.git] / lib / config / config.default.yml
1 # Copyright (C) The Arvados Authors. All rights reserved.
2 #
3 # SPDX-License-Identifier: AGPL-3.0
4
5 # Do not use this file for site configuration. Create
6 # /etc/arvados/config.yml instead.
7 #
8 # The order of precedence (highest to lowest):
9 # 1. Legacy component-specific config files (deprecated)
10 # 2. /etc/arvados/config.yml
11 # 3. config.default.yml
12
13 Clusters:
14   xxxxx:
15     SystemRootToken: ""
16
17     # Token to be included in all healthcheck requests. Disabled by default.
18     # Server expects request header of the format "Authorization: Bearer xxx"
19     ManagementToken: ""
20
21     Services:
22
23       # In each of the service sections below, the keys under
24       # InternalURLs are the endpoints where the service should be
25       # listening, and reachable from other hosts in the cluster.
26       SAMPLE:
27         InternalURLs:
28           "http://host1.example:12345": {}
29           "http://host2.example:12345":
30             # Rendezvous is normally empty/omitted. When changing the
31             # URL of a Keepstore service, Rendezvous should be set to
32             # the old URL (with trailing slash omitted) to preserve
33             # rendezvous ordering.
34             Rendezvous: ""
35           SAMPLE:
36             Rendezvous: ""
37         ExternalURL: "-"
38
39       RailsAPI:
40         InternalURLs: {}
41         ExternalURL: "-"
42       Controller:
43         InternalURLs: {}
44         ExternalURL: ""
45       Websocket:
46         InternalURLs: {}
47         ExternalURL: ""
48       Keepbalance:
49         InternalURLs: {}
50         ExternalURL: "-"
51       GitHTTP:
52         InternalURLs: {}
53         ExternalURL: ""
54       GitSSH:
55         InternalURLs: {}
56         ExternalURL: ""
57       DispatchCloud:
58         InternalURLs: {}
59         ExternalURL: "-"
60       SSO:
61         InternalURLs: {}
62         ExternalURL: ""
63       Keepproxy:
64         InternalURLs: {}
65         ExternalURL: ""
66       WebDAV:
67         InternalURLs: {}
68         # Base URL for Workbench inline preview.  If blank, use
69         # WebDAVDownload instead, and disable inline preview.
70         # If both are empty, downloading collections from workbench
71         # will be impossible.
72         #
73         # It is important to properly configure the download service
74         # to migitate cross-site-scripting (XSS) attacks.  A HTML page
75         # can be stored in collection.  If an attacker causes a victim
76         # to visit that page through Workbench, it will be rendered by
77         # the browser.  If all collections are served at the same
78         # domain, the browser will consider collections as coming from
79         # the same origin and having access to the same browsing data,
80         # enabling malicious Javascript on that page to access Arvados
81         # on behalf of the victim.
82         #
83         # This is mitigating by having separate domains for each
84         # collection, or limiting preview to circumstances where the
85         # collection is not accessed with the user's regular
86         # full-access token.
87         #
88         # Serve preview links using uuid or pdh in subdomain
89         # (requires wildcard DNS and TLS certificate)
90         #   https://*.collections.uuid_prefix.arvadosapi.com
91         #
92         # Serve preview links using uuid or pdh in main domain
93         # (requires wildcard DNS and TLS certificate)
94         #   https://*--collections.uuid_prefix.arvadosapi.com
95         #
96         # Serve preview links by setting uuid or pdh in the path.
97         # This configuration only allows previews of public data or
98         # collection-sharing links, because these use the anonymous
99         # user token or the token is already embedded in the URL.
100         # Other data must be handled as downloads via WebDAVDownload:
101         #   https://collections.uuid_prefix.arvadosapi.com
102         #
103         ExternalURL: ""
104
105       WebDAVDownload:
106         InternalURLs: {}
107         # Base URL for download links. If blank, serve links to WebDAV
108         # with disposition=attachment query param.  Unlike preview links,
109         # browsers do not render attachments, so there is no risk of XSS.
110         #
111         # If WebDAVDownload is blank, and WebDAV uses a
112         # single-origin form, then Workbench will show an error page
113         #
114         # Serve download links by setting uuid or pdh in the path:
115         #   https://download.uuid_prefix.arvadosapi.com
116         #
117         ExternalURL: ""
118
119       Keepstore:
120         InternalURLs: {}
121         ExternalURL: "-"
122       Composer:
123         InternalURLs: {}
124         ExternalURL: ""
125       WebShell:
126         InternalURLs: {}
127         # ShellInABox service endpoint URL for a given VM.  If empty, do not
128         # offer web shell logins.
129         #
130         # E.g., using a path-based proxy server to forward connections to shell hosts:
131         # https://webshell.uuid_prefix.arvadosapi.com
132         #
133         # E.g., using a name-based proxy server to forward connections to shell hosts:
134         # https://*.webshell.uuid_prefix.arvadosapi.com
135         ExternalURL: ""
136       Workbench1:
137         InternalURLs: {}
138         ExternalURL: ""
139       Workbench2:
140         InternalURLs: {}
141         ExternalURL: ""
142       Nodemanager:
143         InternalURLs: {}
144         ExternalURL: "-"
145       Health:
146         InternalURLs: {}
147         ExternalURL: "-"
148
149     PostgreSQL:
150       # max concurrent connections per arvados server daemon
151       ConnectionPool: 32
152       Connection:
153         # All parameters here are passed to the PG client library in a connection string;
154         # see https://www.postgresql.org/docs/current/static/libpq-connect.html#LIBPQ-PARAMKEYWORDS
155         host: ""
156         port: ""
157         user: ""
158         password: ""
159         dbname: ""
160         SAMPLE: ""
161     API:
162       # Maximum size (in bytes) allowed for a single API request.  This
163       # limit is published in the discovery document for use by clients.
164       # Note: You must separately configure the upstream web server or
165       # proxy to actually enforce the desired maximum request size on the
166       # server side.
167       MaxRequestSize: 134217728
168
169       # Limit the number of bytes read from the database during an index
170       # request (by retrieving and returning fewer rows than would
171       # normally be returned in a single response).
172       # Note 1: This setting never reduces the number of returned rows to
173       # zero, no matter how big the first data row is.
174       # Note 2: Currently, this is only checked against a specific set of
175       # columns that tend to get large (collections.manifest_text,
176       # containers.mounts, workflows.definition). Other fields (e.g.,
177       # "properties" hashes) are not counted against this limit.
178       MaxIndexDatabaseRead: 134217728
179
180       # Maximum number of items to return when responding to a APIs that
181       # can return partial result sets using limit and offset parameters
182       # (e.g., *.index, groups.contents). If a request specifies a "limit"
183       # parameter higher than this value, this value is used instead.
184       MaxItemsPerResponse: 1000
185
186       # Maximum number of concurrent requests to accept in a single
187       # service process, or 0 for no limit. Currently supported only
188       # by keepstore.
189       MaxConcurrentRequests: 0
190
191       # Maximum number of 64MiB memory buffers per keepstore server
192       # process, or 0 for no limit.
193       MaxKeepBlobBuffers: 128
194
195       # API methods to disable. Disabled methods are not listed in the
196       # discovery document, and respond 404 to all requests.
197       # Example: {"jobs.create":{}, "pipeline_instances.create": {}}
198       DisabledAPIs: {}
199
200       # Interval (seconds) between asynchronous permission view updates. Any
201       # permission-updating API called with the 'async' parameter schedules a an
202       # update on the permission view in the future, if not already scheduled.
203       AsyncPermissionsUpdateInterval: 20s
204
205       # Maximum number of concurrent outgoing requests to make while
206       # serving a single incoming multi-cluster (federated) request.
207       MaxRequestAmplification: 4
208
209       # RailsSessionSecretToken is a string of alphanumeric characters
210       # used by Rails to sign session tokens. IMPORTANT: This is a
211       # site secret. It should be at least 50 characters.
212       RailsSessionSecretToken: ""
213
214       # Maximum wall clock time to spend handling an incoming request.
215       RequestTimeout: 5m
216
217       # Websocket will send a periodic empty event after 'SendTimeout'
218       # if there is no other activity to maintain the connection /
219       # detect dropped connections.
220       SendTimeout: 60s
221
222       WebsocketClientEventQueue: 64
223       WebsocketServerEventQueue: 4
224
225       # Timeout on requests to internal Keep services.
226       KeepServiceRequestTimeout: 15s
227
228     Users:
229       # Config parameters to automatically setup new users.  If enabled,
230       # this users will be able to self-activate.  Enable this if you want
231       # to run an open instance where anyone can create an account and use
232       # the system without requiring manual approval.
233       #
234       # The params AutoSetupNewUsersWith* are meaningful only when AutoSetupNewUsers is turned on.
235       # AutoSetupUsernameBlacklist is a list of usernames to be blacklisted for auto setup.
236       AutoSetupNewUsers: false
237       AutoSetupNewUsersWithVmUUID: ""
238       AutoSetupNewUsersWithRepository: false
239       AutoSetupUsernameBlacklist:
240         arvados: {}
241         git: {}
242         gitolite: {}
243         gitolite-admin: {}
244         root: {}
245         syslog: {}
246         SAMPLE: {}
247
248       # When NewUsersAreActive is set to true, new users will be active
249       # immediately.  This skips the "self-activate" step which enforces
250       # user agreements.  Should only be enabled for development.
251       NewUsersAreActive: false
252
253       # The e-mail address of the user you would like to become marked as an admin
254       # user on their first login.
255       # In the default configuration, authentication happens through the Arvados SSO
256       # server, which uses OAuth2 against Google's servers, so in that case this
257       # should be an address associated with a Google account.
258       AutoAdminUserWithEmail: ""
259
260       # If AutoAdminFirstUser is set to true, the first user to log in when no
261       # other admin users exist will automatically become an admin user.
262       AutoAdminFirstUser: false
263
264       # Email address to notify whenever a user creates a profile for the
265       # first time
266       UserProfileNotificationAddress: ""
267       AdminNotifierEmailFrom: arvados@example.com
268       EmailSubjectPrefix: "[ARVADOS] "
269       UserNotifierEmailFrom: arvados@example.com
270       NewUserNotificationRecipients: {}
271       NewInactiveUserNotificationRecipients: {}
272
273       # Set AnonymousUserToken to enable anonymous user access. You can get
274       # the token by running "bundle exec ./script/get_anonymous_user_token.rb"
275       # in the directory where your API server is running.
276       AnonymousUserToken: ""
277
278       # If a new user has an alternate email address (local@domain)
279       # with the domain given here, its local part becomes the new
280       # user's default username. Otherwise, the user's primary email
281       # address is used.
282       PreferDomainForUsername: ""
283
284     AuditLogs:
285       # Time to keep audit logs, in seconds. (An audit log is a row added
286       # to the "logs" table in the PostgreSQL database each time an
287       # Arvados object is created, modified, or deleted.)
288       #
289       # Currently, websocket event notifications rely on audit logs, so
290       # this should not be set lower than 300 (5 minutes).
291       MaxAge: 336h
292
293       # Maximum number of log rows to delete in a single SQL transaction.
294       #
295       # If MaxDeleteBatch is 0, log entries will never be
296       # deleted by Arvados. Cleanup can be done by an external process
297       # without affecting any Arvados system processes, as long as very
298       # recent (<5 minutes old) logs are not deleted.
299       #
300       # 100000 is a reasonable batch size for most sites.
301       MaxDeleteBatch: 0
302
303       # Attributes to suppress in events and audit logs.  Notably,
304       # specifying {"manifest_text": {}} here typically makes the database
305       # smaller and faster.
306       #
307       # Warning: Using any non-empty value here can have undesirable side
308       # effects for any client or component that relies on event logs.
309       # Use at your own risk.
310       UnloggedAttributes: {}
311
312     SystemLogs:
313
314       # Logging threshold: panic, fatal, error, warn, info, debug, or
315       # trace
316       LogLevel: info
317
318       # Logging format: json or text
319       Format: json
320
321       # Maximum characters of (JSON-encoded) query parameters to include
322       # in each request log entry. When params exceed this size, they will
323       # be JSON-encoded, truncated to this size, and logged as
324       # params_truncated.
325       MaxRequestLogParamsSize: 2000
326
327     Collections:
328
329       # Enable access controls for data stored in Keep. This should
330       # always be set to true on a production cluster.
331       BlobSigning: true
332
333       # BlobSigningKey is a string of alphanumeric characters used to
334       # generate permission signatures for Keep locators. It must be
335       # identical to the permission key given to Keep. IMPORTANT: This
336       # is a site secret. It should be at least 50 characters.
337       #
338       # Modifying BlobSigningKey will invalidate all existing
339       # signatures, which can cause programs to fail (e.g., arv-put,
340       # arv-get, and Crunch jobs).  To avoid errors, rotate keys only
341       # when no such processes are running.
342       BlobSigningKey: ""
343
344       # Enable garbage collection of unreferenced blobs in Keep.
345       BlobTrash: true
346
347       # Time to leave unreferenced blobs in "trashed" state before
348       # deleting them, or 0 to skip the "trashed" state entirely and
349       # delete unreferenced blobs.
350       #
351       # If you use any Amazon S3 buckets as storage volumes, this
352       # must be at least 24h to avoid occasional data loss.
353       BlobTrashLifetime: 336h
354
355       # How often to check for (and delete) trashed blocks whose
356       # BlobTrashLifetime has expired.
357       BlobTrashCheckInterval: 24h
358
359       # Maximum number of concurrent "trash blob" and "delete trashed
360       # blob" operations conducted by a single keepstore process. Each
361       # of these can be set to 0 to disable the respective operation.
362       #
363       # If BlobTrashLifetime is zero, "trash" and "delete trash"
364       # happen at once, so only the lower of these two values is used.
365       BlobTrashConcurrency: 4
366       BlobDeleteConcurrency: 4
367
368       # Maximum number of concurrent "create additional replica of
369       # existing blob" operations conducted by a single keepstore
370       # process.
371       BlobReplicateConcurrency: 4
372
373       # Default replication level for collections. This is used when a
374       # collection's replication_desired attribute is nil.
375       DefaultReplication: 2
376
377       # BlobSigningTTL determines the minimum lifetime of transient
378       # data, i.e., blocks that are not referenced by
379       # collections. Unreferenced blocks exist for two reasons:
380       #
381       # 1) A data block must be written to a disk/cloud backend device
382       # before a collection can be created/updated with a reference to
383       # it.
384       #
385       # 2) Deleting or updating a collection can remove the last
386       # remaining reference to a data block.
387       #
388       # If BlobSigningTTL is too short, long-running
389       # processes/containers will fail when they take too long (a)
390       # between writing blocks and writing collections that reference
391       # them, or (b) between reading collections and reading the
392       # referenced blocks.
393       #
394       # If BlobSigningTTL is too long, data will still be stored long
395       # after the referring collections are deleted, and you will
396       # needlessly fill up disks or waste money on cloud storage.
397       #
398       # Modifying BlobSigningTTL invalidates existing signatures; see
399       # BlobSigningKey note above.
400       #
401       # The default is 2 weeks.
402       BlobSigningTTL: 336h
403
404       # When running keep-balance, this is the destination filename for
405       # the list of lost block hashes if there are any, one per line.
406       # Updated automically during each successful run.
407       BlobMissingReport: ""
408
409       # keep-balance operates periodically, i.e.: do a
410       # scan/balance operation, sleep, repeat.
411       #
412       # BalancePeriod determines the interval between start times of
413       # successive scan/balance operations. If a scan/balance operation
414       # takes longer than RunPeriod, the next one will follow it
415       # immediately.
416       #
417       # If SIGUSR1 is received during an idle period between operations,
418       # the next operation will start immediately.
419       BalancePeriod: 10m
420
421       # Limits the number of collections retrieved by keep-balance per
422       # API transaction. If this is zero, page size is
423       # determined by the API server's own page size limits (see
424       # API.MaxItemsPerResponse and API.MaxIndexDatabaseRead).
425       BalanceCollectionBatch: 0
426
427       # The size of keep-balance's internal queue of
428       # collections. Higher values use more memory and improve throughput
429       # by allowing keep-balance to fetch the next page of collections
430       # while the current page is still being processed. If this is zero
431       # or omitted, pages are processed serially.
432       BalanceCollectionBuffers: 1000
433
434       # Default lifetime for ephemeral collections: 2 weeks. This must not
435       # be less than BlobSigningTTL.
436       DefaultTrashLifetime: 336h
437
438       # Interval (seconds) between trash sweeps. During a trash sweep,
439       # collections are marked as trash if their trash_at time has
440       # arrived, and deleted if their delete_at time has arrived.
441       TrashSweepInterval: 60s
442
443       # If true, enable collection versioning.
444       # When a collection's preserve_version field is true or the current version
445       # is older than the amount of seconds defined on PreserveVersionIfIdle,
446       # a snapshot of the collection's previous state is created and linked to
447       # the current collection.
448       CollectionVersioning: false
449
450       #   0s = auto-create a new version on every update.
451       #  -1s = never auto-create new versions.
452       # > 0s = auto-create a new version when older than the specified number of seconds.
453       PreserveVersionIfIdle: -1s
454
455       # If non-empty, allow project and collection names to contain
456       # the "/" character (slash/stroke/solidus), and replace "/" with
457       # the given string in the filesystem hierarchy presented by
458       # WebDAV. Example values are "%2f" and "{slash}". Names that
459       # contain the substitution string itself may result in confusing
460       # behavior, so a value like "_" is not recommended.
461       #
462       # If the default empty value is used, the server will reject
463       # requests to create or rename a collection when the new name
464       # contains "/".
465       #
466       # If the value "/" is used, project and collection names
467       # containing "/" will be allowed, but they will not be
468       # accessible via WebDAV.
469       #
470       # Use of this feature is not recommended, if it can be avoided.
471       ForwardSlashNameSubstitution: ""
472
473       # Managed collection properties. At creation time, if the client didn't
474       # provide the listed keys, they will be automatically populated following
475       # one of the following behaviors:
476       #
477       # * UUID of the user who owns the containing project.
478       #   responsible_person_uuid: {Function: original_owner, Protected: true}
479       #
480       # * Default concrete value.
481       #   foo_bar: {Value: baz, Protected: false}
482       #
483       # If Protected is true, only an admin user can modify its value.
484       ManagedProperties:
485         SAMPLE: {Function: original_owner, Protected: true}
486
487       # In "trust all content" mode, Workbench will redirect download
488       # requests to WebDAV preview link, even in the cases when
489       # WebDAV would have to expose XSS vulnerabilities in order to
490       # handle the redirect (see discussion on Services.WebDAV).
491       #
492       # This setting has no effect in the recommended configuration,
493       # where the WebDAV is configured to have a separate domain for
494       # every collection; in this case XSS protection is provided by
495       # browsers' same-origin policy.
496       #
497       # The default setting (false) is appropriate for a multi-user site.
498       TrustAllContent: false
499
500       # Cache parameters for WebDAV content serving:
501       # * TTL: Maximum time to cache manifests and permission checks.
502       # * UUIDTTL: Maximum time to cache collection state.
503       # * MaxBlockEntries: Maximum number of block cache entries.
504       # * MaxCollectionEntries: Maximum number of collection cache entries.
505       # * MaxCollectionBytes: Approximate memory limit for collection cache.
506       # * MaxPermissionEntries: Maximum number of permission cache entries.
507       # * MaxUUIDEntries: Maximum number of UUID cache entries.
508       WebDAVCache:
509         TTL: 300s
510         UUIDTTL: 5s
511         MaxBlockEntries:      4
512         MaxCollectionEntries: 1000
513         MaxCollectionBytes:   100000000
514         MaxPermissionEntries: 1000
515         MaxUUIDEntries:       1000
516
517     Login:
518       # These settings are provided by your OAuth2 provider (eg
519       # Google) used to perform upstream authentication.
520       ProviderAppID: ""
521       ProviderAppSecret: ""
522
523       # (Experimental) Authenticate with Google, bypassing the
524       # SSO-provider gateway service. Use the Google Cloud console to
525       # enable the People API (APIs and Services > Enable APIs and
526       # services > Google People API > Enable), generate a Client ID
527       # and secret (APIs and Services > Credentials > Create
528       # credentials > OAuth client ID > Web application) and add your
529       # controller's /login URL (e.g.,
530       # "https://zzzzz.example.com/login") as an authorized redirect
531       # URL.
532       #
533       # Incompatible with ForceLegacyAPI14. ProviderAppID must be
534       # blank.
535       GoogleClientID: ""
536       GoogleClientSecret: ""
537
538       # Allow users to log in to existing accounts using any verified
539       # email address listed by their Google account. If true, the
540       # Google People API must be enabled in order for Google login to
541       # work. If false, only the primary email address will be used.
542       GoogleAlternateEmailAddresses: true
543
544       # The cluster ID to delegate the user database.  When set,
545       # logins on this cluster will be redirected to the login cluster
546       # (login cluster must appear in RemoteClusters with Proxy: true)
547       LoginCluster: ""
548
549       # How long a cached token belonging to a remote cluster will
550       # remain valid before it needs to be revalidated.
551       RemoteTokenRefresh: 5m
552
553     Git:
554       # Path to git or gitolite-shell executable. Each authenticated
555       # request will execute this program with the single argument "http-backend"
556       GitCommand: /usr/bin/git
557
558       # Path to Gitolite's home directory. If a non-empty path is given,
559       # the CGI environment will be set up to support the use of
560       # gitolite-shell as a GitCommand: for example, if GitoliteHome is
561       # "/gh", then the CGI environment will have GITOLITE_HTTP_HOME=/gh,
562       # PATH=$PATH:/gh/bin, and GL_BYPASS_ACCESS_CHECKS=1.
563       GitoliteHome: ""
564
565       # Git repositories must be readable by api server, or you won't be
566       # able to submit crunch jobs. To pass the test suites, put a clone
567       # of the arvados tree in {git_repositories_dir}/arvados.git or
568       # {git_repositories_dir}/arvados/.git
569       Repositories: /var/lib/arvados/git/repositories
570
571     TLS:
572       Certificate: ""
573       Key: ""
574       Insecure: false
575
576     Containers:
577       # List of supported Docker Registry image formats that compute nodes
578       # are able to use. `arv keep docker` will error out if a user tries
579       # to store an image with an unsupported format. Use an empty array
580       # to skip the compatibility check (and display a warning message to
581       # that effect).
582       #
583       # Example for sites running docker < 1.10: {"v1": {}}
584       # Example for sites running docker >= 1.10: {"v2": {}}
585       # Example for disabling check: {}
586       SupportedDockerImageFormats:
587         "v2": {}
588         SAMPLE: {}
589
590       # Include details about job reuse decisions in the server log. This
591       # causes additional database queries to run, so it should not be
592       # enabled unless you expect to examine the resulting logs for
593       # troubleshooting purposes.
594       LogReuseDecisions: false
595
596       # Default value for keep_cache_ram of a container's runtime_constraints.
597       DefaultKeepCacheRAM: 268435456
598
599       # Number of times a container can be unlocked before being
600       # automatically cancelled.
601       MaxDispatchAttempts: 5
602
603       # Default value for container_count_max for container requests.  This is the
604       # number of times Arvados will create a new container to satisfy a container
605       # request.  If a container is cancelled it will retry a new container if
606       # container_count < container_count_max on any container requests associated
607       # with the cancelled container.
608       MaxRetryAttempts: 3
609
610       # The maximum number of compute nodes that can be in use simultaneously
611       # If this limit is reduced, any existing nodes with slot number >= new limit
612       # will not be counted against the new limit. In other words, the new limit
613       # won't be strictly enforced until those nodes with higher slot numbers
614       # go down.
615       MaxComputeVMs: 64
616
617       # Preemptible instance support (e.g. AWS Spot Instances)
618       # When true, child containers will get created with the preemptible
619       # scheduling parameter parameter set.
620       UsePreemptibleInstances: false
621
622       # PEM encoded SSH key (RSA, DSA, or ECDSA) used by the
623       # (experimental) cloud dispatcher for executing containers on
624       # worker VMs. Begins with "-----BEGIN RSA PRIVATE KEY-----\n"
625       # and ends with "\n-----END RSA PRIVATE KEY-----\n".
626       DispatchPrivateKey: ""
627
628       # Maximum time to wait for workers to come up before abandoning
629       # stale locks from a previous dispatch process.
630       StaleLockTimeout: 1m
631
632       # The crunch-run command to manage the container on a node
633       CrunchRunCommand: "crunch-run"
634
635       # Extra arguments to add to crunch-run invocation
636       # Example: ["--cgroup-parent-subsystem=memory"]
637       CrunchRunArgumentsList: []
638
639       # Extra RAM to reserve on the node, in addition to
640       # the amount specified in the container's RuntimeConstraints
641       ReserveExtraRAM: 256MiB
642
643       # Minimum time between two attempts to run the same container
644       MinRetryPeriod: 0s
645
646       Logging:
647         # When you run the db:delete_old_container_logs task, it will find
648         # containers that have been finished for at least this many seconds,
649         # and delete their stdout, stderr, arv-mount, crunch-run, and
650         # crunchstat logs from the logs table.
651         MaxAge: 720h
652
653         # These two settings control how frequently log events are flushed to the
654         # database.  Log lines are buffered until either crunch_log_bytes_per_event
655         # has been reached or crunch_log_seconds_between_events has elapsed since
656         # the last flush.
657         LogBytesPerEvent: 4096
658         LogSecondsBetweenEvents: 5s
659
660         # The sample period for throttling logs.
661         LogThrottlePeriod: 60s
662
663         # Maximum number of bytes that job can log over crunch_log_throttle_period
664         # before being silenced until the end of the period.
665         LogThrottleBytes: 65536
666
667         # Maximum number of lines that job can log over crunch_log_throttle_period
668         # before being silenced until the end of the period.
669         LogThrottleLines: 1024
670
671         # Maximum bytes that may be logged by a single job.  Log bytes that are
672         # silenced by throttling are not counted against this total.
673         LimitLogBytesPerJob: 67108864
674
675         LogPartialLineThrottlePeriod: 5s
676
677         # Container logs are written to Keep and saved in a
678         # collection, which is updated periodically while the
679         # container runs.  This value sets the interval between
680         # collection updates.
681         LogUpdatePeriod: 30m
682
683         # The log collection is also updated when the specified amount of
684         # log data (given in bytes) is produced in less than one update
685         # period.
686         LogUpdateSize: 32MiB
687
688       SLURM:
689         PrioritySpread: 0
690         SbatchArgumentsList: []
691         SbatchEnvironmentVariables:
692           SAMPLE: ""
693         Managed:
694           # Path to dns server configuration directory
695           # (e.g. /etc/unbound.d/conf.d). If false, do not write any config
696           # files or touch restart.txt (see below).
697           DNSServerConfDir: ""
698
699           # Template file for the dns server host snippets. See
700           # unbound.template in this directory for an example. If false, do
701           # not write any config files.
702           DNSServerConfTemplate: ""
703
704           # String to write to {dns_server_conf_dir}/restart.txt (with a
705           # trailing newline) after updating local data. If false, do not
706           # open or write the restart.txt file.
707           DNSServerReloadCommand: ""
708
709           # Command to run after each DNS update. Template variables will be
710           # substituted; see the "unbound" example below. If false, do not run
711           # a command.
712           DNSServerUpdateCommand: ""
713
714           ComputeNodeDomain: ""
715           ComputeNodeNameservers:
716             "192.168.1.1": {}
717             SAMPLE: {}
718
719           # Hostname to assign to a compute node when it sends a "ping" and the
720           # hostname in its Node record is nil.
721           # During bootstrapping, the "ping" script is expected to notice the
722           # hostname given in the ping response, and update its unix hostname
723           # accordingly.
724           # If false, leave the hostname alone (this is appropriate if your compute
725           # nodes' hostnames are already assigned by some other mechanism).
726           #
727           # One way or another, the hostnames of your node records should agree
728           # with your DNS records and your /etc/slurm-llnl/slurm.conf files.
729           #
730           # Example for compute0000, compute0001, ....:
731           # assign_node_hostname: compute%<slot_number>04d
732           # (See http://ruby-doc.org/core-2.2.2/Kernel.html#method-i-format for more.)
733           AssignNodeHostname: "compute%<slot_number>d"
734
735       JobsAPI:
736         # Enable the legacy 'jobs' API (crunch v1).  This value must be a string.
737         #
738         # Note: this only enables read-only access, creating new
739         # legacy jobs and pipelines is not supported.
740         #
741         # 'auto' -- (default) enable the Jobs API only if it has been used before
742         #         (i.e., there are job records in the database)
743         # 'true' -- enable the Jobs API despite lack of existing records.
744         # 'false' -- disable the Jobs API despite presence of existing records.
745         Enable: 'auto'
746
747         # Git repositories must be readable by api server, or you won't be
748         # able to submit crunch jobs. To pass the test suites, put a clone
749         # of the arvados tree in {git_repositories_dir}/arvados.git or
750         # {git_repositories_dir}/arvados/.git
751         GitInternalDir: /var/lib/arvados/internal.git
752
753       CloudVMs:
754         # Enable the cloud scheduler (experimental).
755         Enable: false
756
757         # Name/number of port where workers' SSH services listen.
758         SSHPort: "22"
759
760         # Interval between queue polls.
761         PollInterval: 10s
762
763         # Shell command to execute on each worker to determine whether
764         # the worker is booted and ready to run containers. It should
765         # exit zero if the worker is ready.
766         BootProbeCommand: "docker ps -q"
767
768         # Minimum interval between consecutive probes to a single
769         # worker.
770         ProbeInterval: 10s
771
772         # Maximum probes per second, across all workers in a pool.
773         MaxProbesPerSecond: 10
774
775         # Time before repeating SIGTERM when killing a container.
776         TimeoutSignal: 5s
777
778         # Time to give up on SIGTERM and write off the worker.
779         TimeoutTERM: 2m
780
781         # Maximum create/destroy-instance operations per second (0 =
782         # unlimited).
783         MaxCloudOpsPerSecond: 0
784
785         # Interval between cloud provider syncs/updates ("list all
786         # instances").
787         SyncInterval: 1m
788
789         # Time to leave an idle worker running (in case new containers
790         # appear in the queue that it can run) before shutting it
791         # down.
792         TimeoutIdle: 1m
793
794         # Time to wait for a new worker to boot (i.e., pass
795         # BootProbeCommand) before giving up and shutting it down.
796         TimeoutBooting: 10m
797
798         # Maximum time a worker can stay alive with no successful
799         # probes before being automatically shut down.
800         TimeoutProbe: 10m
801
802         # Time after shutting down a worker to retry the
803         # shutdown/destroy operation.
804         TimeoutShutdown: 10s
805
806         # Worker VM image ID.
807         ImageID: ""
808
809         # An executable file (located on the dispatcher host) to be
810         # copied to cloud instances at runtime and used as the
811         # container runner/supervisor. The default value is the
812         # dispatcher program itself.
813         #
814         # Use the empty string to disable this step: nothing will be
815         # copied, and cloud instances are assumed to have a suitable
816         # version of crunch-run installed.
817         DeployRunnerBinary: "/proc/self/exe"
818
819         # Tags to add on all resources (VMs, NICs, disks) created by
820         # the container dispatcher. (Arvados's own tags --
821         # InstanceType, IdleBehavior, and InstanceSecret -- will also
822         # be added.)
823         ResourceTags:
824           SAMPLE: "tag value"
825
826         # Prefix for predefined tags used by Arvados (InstanceSetID,
827         # InstanceType, InstanceSecret, IdleBehavior). With the
828         # default value "Arvados", tags are "ArvadosInstanceSetID",
829         # "ArvadosInstanceSecret", etc.
830         #
831         # This should only be changed while no cloud resources are in
832         # use and the cloud dispatcher is not running. Otherwise,
833         # VMs/resources that were added using the old tag prefix will
834         # need to be detected and cleaned up manually.
835         TagKeyPrefix: Arvados
836
837         # Cloud driver: "azure" (Microsoft Azure) or "ec2" (Amazon AWS).
838         Driver: ec2
839
840         # Cloud-specific driver parameters.
841         DriverParameters:
842
843           # (ec2) Credentials.
844           AccessKeyID: ""
845           SecretAccessKey: ""
846
847           # (ec2) Instance configuration.
848           SecurityGroupIDs:
849             "SAMPLE": {}
850           SubnetID: ""
851           Region: ""
852           EBSVolumeType: gp2
853           AdminUsername: debian
854
855           # (azure) Credentials.
856           SubscriptionID: ""
857           ClientID: ""
858           ClientSecret: ""
859           TenantID: ""
860
861           # (azure) Instance configuration.
862           CloudEnvironment: AzurePublicCloud
863           ResourceGroup: ""
864           Location: centralus
865           Network: ""
866           Subnet: ""
867           StorageAccount: ""
868           BlobContainer: ""
869           DeleteDanglingResourcesAfter: 20s
870           AdminUsername: arvados
871
872     InstanceTypes:
873
874       # Use the instance type name as the key (in place of "SAMPLE" in
875       # this sample entry).
876       SAMPLE:
877         # Cloud provider's instance type. Defaults to the configured type name.
878         ProviderType: ""
879         VCPUs: 1
880         RAM: 128MiB
881         IncludedScratch: 16GB
882         AddedScratch: 0
883         Price: 0.1
884         Preemptible: false
885
886     Volumes:
887       SAMPLE:
888         # AccessViaHosts specifies which keepstore processes can read
889         # and write data on the volume.
890         #
891         # For a local filesystem, AccessViaHosts has one entry,
892         # indicating which server the filesystem is located on.
893         #
894         # For a network-attached backend accessible by all keepstore
895         # servers, like a cloud storage bucket or an NFS mount,
896         # AccessViaHosts can be empty/omitted.
897         #
898         # Further info/examples:
899         # https://doc.arvados.org/install/configure-fs-storage.html
900         # https://doc.arvados.org/install/configure-s3-object-storage.html
901         # https://doc.arvados.org/install/configure-azure-blob-storage.html
902         AccessViaHosts:
903           SAMPLE:
904             ReadOnly: false
905           "http://host1.example:25107": {}
906         ReadOnly: false
907         Replication: 1
908         StorageClasses:
909           default: true
910           SAMPLE: true
911         Driver: s3
912         DriverParameters:
913           # for s3 driver -- see
914           # https://doc.arvados.org/install/configure-s3-object-storage.html
915           IAMRole: aaaaa
916           AccessKey: aaaaa
917           SecretKey: aaaaa
918           Endpoint: ""
919           Region: us-east-1a
920           Bucket: aaaaa
921           LocationConstraint: false
922           IndexPageSize: 1000
923           ConnectTimeout: 1m
924           ReadTimeout: 10m
925           RaceWindow: 24h
926
927           # For S3 driver, potentially unsafe tuning parameter,
928           # intentionally excluded from main documentation.
929           #
930           # Enable deletion (garbage collection) even when the
931           # configured BlobTrashLifetime is zero.  WARNING: eventual
932           # consistency may result in race conditions that can cause
933           # data loss.  Do not enable this unless you understand and
934           # accept the risk.
935           UnsafeDelete: false
936
937           # for azure driver -- see
938           # https://doc.arvados.org/install/configure-azure-blob-storage.html
939           StorageAccountName: aaaaa
940           StorageAccountKey: aaaaa
941           StorageBaseURL: core.windows.net
942           ContainerName: aaaaa
943           RequestTimeout: 30s
944           ListBlobsRetryDelay: 10s
945           ListBlobsMaxAttempts: 10
946           MaxGetBytes: 0
947           WriteRaceInterval: 15s
948           WriteRacePollTime: 1s
949
950           # for local directory driver -- see
951           # https://doc.arvados.org/install/configure-fs-storage.html
952           Root: /var/lib/arvados/keep-data
953
954           # For local directory driver, potentially confusing tuning
955           # parameter, intentionally excluded from main documentation.
956           #
957           # When true, read and write operations (for whole 64MiB
958           # blocks) on an individual volume will queued and issued
959           # serially.  When false, read and write operations will be
960           # issued concurrently.
961           #
962           # May possibly improve throughput if you have physical spinning disks
963           # and experience contention when there are multiple requests
964           # to the same volume.
965           #
966           # Otherwise, when using SSDs, RAID, or a shared network filesystem, you
967           # should leave this alone.
968           Serialize: false
969
970     Mail:
971       MailchimpAPIKey: ""
972       MailchimpListID: ""
973       SendUserSetupNotificationEmail: true
974
975       # Bug/issue report notification to and from addresses
976       IssueReporterEmailFrom: "arvados@example.com"
977       IssueReporterEmailTo: "arvados@example.com"
978       SupportEmailAddress: "arvados@example.com"
979
980       # Generic issue email from
981       EmailFrom: "arvados@example.com"
982     RemoteClusters:
983       "*":
984         Host: ""
985         Proxy: false
986         Scheme: https
987         Insecure: false
988         ActivateUsers: false
989       SAMPLE:
990         # API endpoint host or host:port; default is {id}.arvadosapi.com
991         Host: sample.arvadosapi.com
992
993         # Perform a proxy request when a local client requests an
994         # object belonging to this remote.
995         Proxy: false
996
997         # Default "https". Can be set to "http" for testing.
998         Scheme: https
999
1000         # Disable TLS verify. Can be set to true for testing.
1001         Insecure: false
1002
1003         # When users present tokens issued by this remote cluster, and
1004         # their accounts are active on the remote cluster, activate
1005         # them on this cluster too.
1006         ActivateUsers: false
1007
1008     Workbench:
1009       # Workbench1 configs
1010       Theme: default
1011       ActivationContactLink: mailto:info@arvados.org
1012       ArvadosDocsite: https://doc.arvados.org
1013       ArvadosPublicDataDocURL: https://playground.arvados.org/projects/public
1014       ShowUserAgreementInline: false
1015       SecretKeyBase: ""
1016
1017       # Scratch directory used by the remote repository browsing
1018       # feature. If it doesn't exist, it (and any missing parents) will be
1019       # created using mkdir_p.
1020       RepositoryCache: /var/www/arvados-workbench/current/tmp/git
1021
1022       # Below is a sample setting of user_profile_form_fields config parameter.
1023       # This configuration parameter should be set to either false (to disable) or
1024       # to a map as shown below.
1025       # Configure the map of input fields to be displayed in the profile page
1026       # using the attribute "key" for each of the input fields.
1027       # This sample shows configuration with one required and one optional form fields.
1028       # For each of these input fields:
1029       #   You can specify "Type" as "text" or "select".
1030       #   List the "Options" to be displayed for each of the "select" menu.
1031       #   Set "Required" as "true" for any of these fields to make them required.
1032       # If any of the required fields are missing in the user's profile, the user will be
1033       # redirected to the profile page before they can access any Workbench features.
1034       UserProfileFormFields:
1035         SAMPLE:
1036           Type: select
1037           FormFieldTitle: Best color
1038           FormFieldDescription: your favorite color
1039           Required: false
1040           Position: 1
1041           Options:
1042             red: {}
1043             blue: {}
1044             green: {}
1045             SAMPLE: {}
1046
1047         # exampleTextValue:  # key that will be set in properties
1048         #   Type: text  #
1049         #   FormFieldTitle: ""
1050         #   FormFieldDescription: ""
1051         #   Required: true
1052         #   Position: 1
1053         # exampleOptionsValue:
1054         #   Type: select
1055         #   FormFieldTitle: ""
1056         #   FormFieldDescription: ""
1057         #   Required: true
1058         #   Position: 1
1059         #   Options:
1060         #     red: {}
1061         #     blue: {}
1062         #     yellow: {}
1063
1064       # Use "UserProfileFormMessage to configure the message you want
1065       # to display on the profile page.
1066       UserProfileFormMessage: 'Welcome to Arvados. All <span style="color:red">required fields</span> must be completed before you can proceed.'
1067
1068       # Mimetypes of applications for which the view icon
1069       # would be enabled in a collection's show page.
1070       # It is sufficient to list only applications here.
1071       # No need to list text and image types.
1072       ApplicationMimetypesWithViewIcon:
1073         cwl: {}
1074         fasta: {}
1075         go: {}
1076         javascript: {}
1077         json: {}
1078         pdf: {}
1079         python: {}
1080         x-python: {}
1081         r: {}
1082         rtf: {}
1083         sam: {}
1084         x-sh: {}
1085         vnd.realvnc.bed: {}
1086         xml: {}
1087         xsl: {}
1088         SAMPLE: {}
1089
1090       # The maximum number of bytes to load in the log viewer
1091       LogViewerMaxBytes: 1M
1092
1093       # When anonymous_user_token is configured, show public projects page
1094       EnablePublicProjectsPage: true
1095
1096       # By default, disable the "Getting Started" popup which is specific to Arvados playground
1097       EnableGettingStartedPopup: false
1098
1099       # Ask Arvados API server to compress its response payloads.
1100       APIResponseCompression: true
1101
1102       # Timeouts for API requests.
1103       APIClientConnectTimeout: 2m
1104       APIClientReceiveTimeout: 5m
1105
1106       # Maximum number of historic log records of a running job to fetch
1107       # and display in the Log tab, while subscribing to web sockets.
1108       RunningJobLogRecordsToFetch: 2000
1109
1110       # In systems with many shared projects, loading of dashboard and topnav
1111       # cab be slow due to collections indexing; use the following parameters
1112       # to suppress these properties
1113       ShowRecentCollectionsOnDashboard: true
1114       ShowUserNotifications: true
1115
1116       # Enable/disable "multi-site search" in top nav ("true"/"false"), or
1117       # a link to the multi-site search page on a "home" Workbench site.
1118       #
1119       # Example:
1120       #   https://workbench.qr1hi.arvadosapi.com/collections/multisite
1121       MultiSiteSearch: ""
1122
1123       # Should workbench allow management of local git repositories? Set to false if
1124       # the jobs api is disabled and there are no local git repositories.
1125       Repositories: true
1126
1127       SiteName: Arvados Workbench
1128       ProfilingEnabled: false
1129
1130       # This is related to obsolete Google OpenID 1.0 login
1131       # but some workbench stuff still expects it to be set.
1132       DefaultOpenIdPrefix: "https://www.google.com/accounts/o8/id"
1133
1134       # Workbench2 configs
1135       VocabularyURL: ""
1136       FileViewersConfigURL: ""
1137
1138       # Workbench welcome screen, this is HTML text that will be
1139       # incorporated directly onto the page.
1140       WelcomePageHTML: |
1141         <img src="/arvados-logo-big.png" style="width: 20%; float: right; padding: 1em;" />
1142         <h2>Please log in.</h2>
1143
1144         <p>The "Log in" button below will show you a sign-in
1145         page. After you log in, you will be redirected back to
1146         Arvados Workbench.</p>
1147
1148         <p>If you have never used Arvados Workbench before, logging in
1149         for the first time will automatically create a new
1150         account.</p>
1151
1152         <i>Arvados Workbench uses your name and email address only for
1153         identification, and does not retrieve any other personal
1154         information.</i>
1155
1156       # Workbench screen displayed to inactive users.  This is HTML
1157       # text that will be incorporated directly onto the page.
1158       InactivePageHTML: |
1159         <img src="/arvados-logo-big.png" style="width: 20%; float: right; padding: 1em;" />
1160         <h3>Hi! You're logged in, but...</h3>
1161         <p>Your account is inactive.</p>
1162         <p>An administrator must activate your account before you can get
1163         any further.</p>
1164
1165       # Connecting to Arvados shell VMs tends to be site-specific.
1166       # Put any special instructions here. This is HTML text that will
1167       # be incorporated directly onto the Workbench page.
1168       SSHHelpPageHTML: |
1169         <a href="https://doc.arvados.org/user/getting_started/ssh-access-unix.html">Accessing an Arvados VM with SSH</a> (generic instructions).
1170         Site configurations vary.  Contact your local cluster administrator if you have difficulty accessing an Arvados shell node.
1171
1172     # Bypass new (Arvados 1.5) API implementations, and hand off
1173     # requests directly to Rails instead. This can provide a temporary
1174     # workaround for clients that are incompatible with the new API
1175     # implementation. Note that it also disables some new federation
1176     # features and will be removed in a future release.
1177     ForceLegacyAPI14: false