Merge branch '21773-keep-service-discovery'
[arvados.git] / lib / config / config.default.yml
1 # Copyright (C) The Arvados Authors. All rights reserved.
2 #
3 # SPDX-License-Identifier: AGPL-3.0
4
5 # Do not use this file for site configuration. Create
6 # /etc/arvados/config.yml instead.
7 #
8 # The order of precedence (highest to lowest):
9 # 1. Legacy component-specific config files (deprecated)
10 # 2. /etc/arvados/config.yml
11 # 3. config.default.yml
12
13 Clusters:
14   xxxxx:
15     # Token used internally by Arvados components to authenticate to
16     # one another. Use a string of at least 50 random alphanumerics.
17     SystemRootToken: ""
18
19     # Token to be included in all healthcheck requests. Disabled by default.
20     # Server expects request header of the format "Authorization: Bearer xxx"
21     ManagementToken: ""
22
23     Services:
24
25       # Each of the service sections below specifies InternalURLs
26       # (each with optional ListenURL) and ExternalURL.
27       #
28       # InternalURLs specify how other Arvados service processes will
29       # connect to the service. Typically these use internal hostnames
30       # and high port numbers. Example:
31       #
32       # InternalURLs:
33       #   "http://host1.internal.example:12345": {}
34       #   "http://host2.internal.example:12345": {}
35       #
36       # ListenURL specifies the address and port the service process's
37       # HTTP server should listen on, if different from the
38       # InternalURL itself. Example, using an intermediate TLS proxy:
39       #
40       # InternalURLs:
41       #   "https://host1.internal.example":
42       #     ListenURL: "http://10.0.0.7:12345"
43       #
44       # When there are multiple InternalURLs configured, the service
45       # process will try listening on each InternalURLs (using
46       # ListenURL if provided) until one works. If you use a ListenURL
47       # like "0.0.0.0" which can be bound on any machine, use an
48       # environment variable
49       # ARVADOS_SERVICE_INTERNAL_URL=http://host1.internal.example to
50       # control which entry to use.
51       #
52       # ExternalURL specifies how applications/clients will connect to
53       # the service, regardless of whether they are inside or outside
54       # the cluster. Example:
55       #
56       # ExternalURL: "https://keep.zzzzz.example.com/"
57       #
58       # To avoid routing internal traffic through external networks,
59       # use split-horizon DNS for ExternalURL host names: inside the
60       # cluster's private network "host.zzzzz.example.com" resolves to
61       # the host's private IP address, while outside the cluster
62       # "host.zzzzz.example.com" resolves to the host's public IP
63       # address (or its external gateway or load balancer).
64
65       RailsAPI:
66         InternalURLs: {SAMPLE: {ListenURL: ""}}
67         ExternalURL: ""
68       Controller:
69         InternalURLs: {SAMPLE: {ListenURL: ""}}
70         ExternalURL: ""
71       Websocket:
72         InternalURLs: {SAMPLE: {ListenURL: ""}}
73         ExternalURL: ""
74       Keepbalance:
75         InternalURLs: {SAMPLE: {ListenURL: ""}}
76         ExternalURL: ""
77       DispatchCloud:
78         InternalURLs: {SAMPLE: {ListenURL: ""}}
79         ExternalURL: ""
80       DispatchLSF:
81         InternalURLs: {SAMPLE: {ListenURL: ""}}
82         ExternalURL: ""
83       DispatchSLURM:
84         InternalURLs: {SAMPLE: {ListenURL: ""}}
85         ExternalURL: ""
86       Keepproxy:
87         InternalURLs: {SAMPLE: {ListenURL: ""}}
88         ExternalURL: ""
89       WebDAV:
90         InternalURLs: {SAMPLE: {ListenURL: ""}}
91         # Base URL for Workbench inline preview.  If blank, use
92         # WebDAVDownload instead, and disable inline preview.
93         # If both are empty, downloading collections from workbench
94         # will be impossible.
95         #
96         # It is important to properly configure the download service
97         # to migitate cross-site-scripting (XSS) attacks.  A HTML page
98         # can be stored in collection.  If an attacker causes a victim
99         # to visit that page through Workbench, it will be rendered by
100         # the browser.  If all collections are served at the same
101         # domain, the browser will consider collections as coming from
102         # the same origin and having access to the same browsing data,
103         # enabling malicious Javascript on that page to access Arvados
104         # on behalf of the victim.
105         #
106         # This is mitigating by having separate domains for each
107         # collection, or limiting preview to circumstances where the
108         # collection is not accessed with the user's regular
109         # full-access token.
110         #
111         # Serve preview links using uuid or pdh in subdomain
112         # (requires wildcard DNS and TLS certificate)
113         #   https://*.collections.uuid_prefix.arvadosapi.com
114         #
115         # Serve preview links using uuid or pdh in main domain
116         # (requires wildcard DNS and TLS certificate)
117         #   https://*--collections.uuid_prefix.arvadosapi.com
118         #
119         # Serve preview links by setting uuid or pdh in the path.
120         # This configuration only allows previews of public data or
121         # collection-sharing links, because these use the anonymous
122         # user token or the token is already embedded in the URL.
123         # Other data must be handled as downloads via WebDAVDownload:
124         #   https://collections.uuid_prefix.arvadosapi.com
125         #
126         ExternalURL: ""
127
128       WebDAVDownload:
129         InternalURLs: {SAMPLE: {ListenURL: ""}}
130         # Base URL for download links. If blank, serve links to WebDAV
131         # with disposition=attachment query param.  Unlike preview links,
132         # browsers do not render attachments, so there is no risk of XSS.
133         #
134         # If WebDAVDownload is blank, and WebDAV uses a
135         # single-origin form, then Workbench will show an error page
136         #
137         # Serve download links by setting uuid or pdh in the path:
138         #   https://download.uuid_prefix.arvadosapi.com
139         #
140         ExternalURL: ""
141
142       Keepstore:
143         InternalURLs:
144           SAMPLE:
145             ListenURL: ""
146             # Rendezvous is normally empty/omitted. When changing the
147             # URL of a Keepstore service, Rendezvous should be set to
148             # the old URL (with trailing slash omitted) to preserve
149             # rendezvous ordering.
150             Rendezvous: ""
151         ExternalURL: ""
152       Composer:
153         InternalURLs: {SAMPLE: {ListenURL: ""}}
154         ExternalURL: ""
155       WebShell:
156         InternalURLs: {SAMPLE: {ListenURL: ""}}
157         # ShellInABox service endpoint URL for a given VM.  If empty, do not
158         # offer web shell logins.
159         #
160         # E.g., using a path-based proxy server to forward connections to shell hosts:
161         # https://webshell.uuid_prefix.arvadosapi.com
162         #
163         # E.g., using a name-based proxy server to forward connections to shell hosts:
164         # https://*.webshell.uuid_prefix.arvadosapi.com
165         ExternalURL: ""
166       Workbench1:
167         InternalURLs: {SAMPLE: {ListenURL: ""}}
168         ExternalURL: ""
169       Workbench2:
170         InternalURLs: {SAMPLE: {ListenURL: ""}}
171         ExternalURL: ""
172       Health:
173         InternalURLs: {SAMPLE: {ListenURL: ""}}
174         ExternalURL: ""
175
176     PostgreSQL:
177       # max concurrent connections per arvados server daemon
178       ConnectionPool: 32
179       Connection:
180         # All parameters here are passed to the PG client library in a connection string;
181         # see https://www.postgresql.org/docs/current/static/libpq-connect.html#LIBPQ-PARAMKEYWORDS
182         host: ""
183         port: ""
184         user: ""
185         password: ""
186         dbname: ""
187         SAMPLE: ""
188     API:
189       # Limits for how long a client token created by regular users can be valid,
190       # and also is used as a default expiration policy when no expiration date is
191       # specified.
192       # Default value zero means token expirations don't get clamped and no
193       # default expiration is set.
194       MaxTokenLifetime: 0s
195
196       # Maximum size (in bytes) allowed for a single API request.  This
197       # limit is published in the discovery document for use by clients.
198       # Note: You must separately configure the upstream web server or
199       # proxy to actually enforce the desired maximum request size on the
200       # server side.
201       MaxRequestSize: 134217728
202
203       # Limit the number of bytes read from the database during an index
204       # request (by retrieving and returning fewer rows than would
205       # normally be returned in a single response).
206       # Note 1: This setting never reduces the number of returned rows to
207       # zero, no matter how big the first data row is.
208       # Note 2: Currently, this is only checked against a specific set of
209       # columns that tend to get large (collections.manifest_text,
210       # containers.mounts, workflows.definition). Other fields (e.g.,
211       # "properties" hashes) are not counted against this limit.
212       MaxIndexDatabaseRead: 134217728
213
214       # Maximum number of items to return when responding to a APIs that
215       # can return partial result sets using limit and offset parameters
216       # (e.g., *.index, groups.contents). If a request specifies a "limit"
217       # parameter higher than this value, this value is used instead.
218       MaxItemsPerResponse: 1000
219
220       # Maximum number of concurrent requests to process concurrently
221       # in a single service process, or 0 for no limit.
222       #
223       # Note this applies to all Arvados services (controller, webdav,
224       # websockets, etc.). Concurrency in the controller service is
225       # also effectively limited by MaxConcurrentRailsRequests (see
226       # below) because most controller requests proxy through to the
227       # RailsAPI service.
228       #
229       # HTTP proxies and load balancers downstream of arvados services
230       # should be configured to allow at least {MaxConcurrentRequest +
231       # MaxQueuedRequests + MaxGatewayTunnels} concurrent requests.
232       MaxConcurrentRequests: 64
233
234       # Maximum number of concurrent requests to process concurrently
235       # in a single RailsAPI service process, or 0 for no limit.
236       MaxConcurrentRailsRequests: 8
237
238       # Maximum number of incoming requests to hold in a priority
239       # queue waiting for one of the MaxConcurrentRequests slots to be
240       # free. When the queue is longer than this, respond 503 to the
241       # lowest priority request.
242       #
243       # If MaxQueuedRequests is 0, respond 503 immediately to
244       # additional requests while at the MaxConcurrentRequests limit.
245       MaxQueuedRequests: 128
246
247       # Maximum time a "lock container" request is allowed to wait in
248       # the incoming request queue before returning 503.
249       MaxQueueTimeForLockRequests: 2s
250
251       # Maximum number of active gateway tunnel connections. One slot
252       # is consumed by each "container shell" connection. If using an
253       # HPC dispatcher (LSF or Slurm), one slot is consumed by each
254       # running container.  These do not count toward
255       # MaxConcurrentRequests.
256       MaxGatewayTunnels: 1000
257
258       # Maximum number of 64MiB memory buffers per Keepstore server process, or
259       # 0 for no limit. When this limit is reached, up to
260       # (MaxConcurrentRequests - MaxKeepBlobBuffers) HTTP requests requiring
261       # buffers (like GET and PUT) will wait for buffer space to be released.
262       # Any HTTP requests beyond MaxConcurrentRequests will receive an
263       # immediate 503 response.
264       #
265       # MaxKeepBlobBuffers should be set such that (MaxKeepBlobBuffers * 64MiB
266       # * 1.1) fits comfortably in memory. On a host dedicated to running
267       # Keepstore, divide total memory by 88MiB to suggest a suitable value.
268       # For example, if grep MemTotal /proc/meminfo reports MemTotal: 7125440
269       # kB, compute 7125440 / (88 * 1024)=79 and set MaxKeepBlobBuffers: 79
270       MaxKeepBlobBuffers: 128
271
272       # API methods to disable. Disabled methods are not listed in the
273       # discovery document, and respond 404 to all requests.
274       # Example: {"jobs.create":{}, "pipeline_instances.create": {}}
275       DisabledAPIs: {}
276
277       # Interval (seconds) between asynchronous permission view updates. Any
278       # permission-updating API called with the 'async' parameter schedules a an
279       # update on the permission view in the future, if not already scheduled.
280       AsyncPermissionsUpdateInterval: 20s
281
282       # Maximum number of concurrent outgoing requests to make while
283       # serving a single incoming multi-cluster (federated) request.
284       MaxRequestAmplification: 4
285
286       # Maximum wall clock time to spend handling an incoming request.
287       RequestTimeout: 5m
288
289       # Websocket will send a periodic empty event after 'SendTimeout'
290       # if there is no other activity to maintain the connection /
291       # detect dropped connections.
292       SendTimeout: 60s
293
294       WebsocketClientEventQueue: 64
295       WebsocketServerEventQueue: 4
296
297       # Timeout on requests to internal Keep services.
298       KeepServiceRequestTimeout: 15s
299
300       # Vocabulary file path, local to the node running the controller.
301       # This JSON file should contain the description of what's allowed
302       # as object's metadata. Its format is described at:
303       # https://doc.arvados.org/admin/metadata-vocabulary.html
304       VocabularyPath: ""
305
306       # If true, a project must have a non-empty description field in
307       # order to be frozen.
308       FreezeProjectRequiresDescription: false
309
310       # Project properties that must have non-empty values in order to
311       # freeze a project. Example: "property_name": {}
312       FreezeProjectRequiresProperties:
313         SAMPLE: {}
314
315       # If true, only an admin user can un-freeze a project. If false,
316       # any user with "manage" permission can un-freeze.
317       UnfreezeProjectRequiresAdmin: false
318
319       # (Experimental) Use row-level locking on update API calls.
320       LockBeforeUpdate: false
321
322     Users:
323       # Config parameters to automatically setup new users.  If enabled,
324       # this users will be able to self-activate.  Enable this if you want
325       # to run an open instance where anyone can create an account and use
326       # the system without requiring manual approval.
327       #
328       # The params AutoSetupNewUsersWith* are meaningful only when AutoSetupNewUsers is turned on.
329       # AutoSetupUsernameBlacklist is a list of usernames to be blacklisted for auto setup.
330       AutoSetupNewUsers: false
331       AutoSetupNewUsersWithVmUUID: ""
332       AutoSetupUsernameBlacklist:
333         arvados: {}
334         git: {}
335         gitolite: {}
336         gitolite-admin: {}
337         root: {}
338         syslog: {}
339         SAMPLE: {}
340
341       # When NewUsersAreActive is set to true, new users will be active
342       # immediately.  This skips the "self-activate" step which enforces
343       # user agreements.  Should only be enabled for development.
344       NewUsersAreActive: false
345
346       # Newly activated users (whether set up by an admin or via
347       # AutoSetupNewUsers) immediately become visible to other active
348       # users.
349       #
350       # On a multi-tenant cluster, where the intent is for users to be
351       # invisible to one another unless they have been added to the
352       # same group(s) via Workbench admin interface, change this to
353       # false.
354       ActivatedUsersAreVisibleToOthers: true
355
356       # If a user creates an account with this email address, they
357       # will be automatically set to admin.
358       AutoAdminUserWithEmail: ""
359
360       # If AutoAdminFirstUser is set to true, the first user to log in when no
361       # other admin users exist will automatically become an admin user.
362       AutoAdminFirstUser: false
363
364       # Support email address to display in Workbench.
365       SupportEmailAddress: "arvados@example.com"
366
367       # Outgoing email configuration:
368       #
369       # In order to send mail, Arvados expects a default SMTP server
370       # on localhost:25.  It cannot require authentication on
371       # connections from localhost.  That server should be configured
372       # to relay mail to a "real" SMTP server that is able to send
373       # email on behalf of your domain.
374
375       # Recipient for notification email sent out when a user sets a
376       # profile on their account.
377       UserProfileNotificationAddress: ""
378
379       # When sending a NewUser, NewInactiveUser, or UserProfile
380       # notification, this is the 'From' address to use
381       AdminNotifierEmailFrom: arvados@example.com
382
383       # Prefix for email subjects for NewUser and NewInactiveUser emails
384       EmailSubjectPrefix: "[ARVADOS] "
385
386       # When sending a welcome email to the user, the 'From' address to use
387       UserNotifierEmailFrom: arvados@example.com
388
389       # The welcome email sent to new users will be blind copied to
390       # these addresses.
391       UserNotifierEmailBcc:
392         SAMPLE: {}
393
394       # Recipients for notification email sent out when a user account
395       # is created and already set up to be able to log in
396       NewUserNotificationRecipients:
397         SAMPLE: {}
398
399       # Recipients for notification email sent out when a user account
400       # has been created but the user cannot log in until they are
401       # set up by an admin.
402       NewInactiveUserNotificationRecipients:
403         SAMPLE: {}
404
405       # Set AnonymousUserToken to enable anonymous user access. Populate this
406       # field with a random string at least 50 characters long.
407       AnonymousUserToken: ""
408
409       # The login provider for a user may supply a primary email
410       # address and one or more alternate email addresses.  If a new
411       # user has an alternate email address with the domain given
412       # here, use the username from the alternate email to generate
413       # the user's Arvados username. Otherwise, the username from
414       # user's primary email address is used for the Arvados username.
415       # Currently implemented for OpenID Connect only.
416       PreferDomainForUsername: ""
417
418       # Send an email to each user when their account has been set up
419       # (meaning they are able to log in).
420       SendUserSetupNotificationEmail: true
421
422       # Ruby ERB template used for the email sent out to users when
423       # they have been set up.
424       UserSetupMailText: |
425         <% if not @user.full_name.empty? -%>
426         <%= @user.full_name %>,
427         <% else -%>
428         Hi there,
429         <% end -%>
430
431         Your Arvados account has been set up.  You can log in at
432
433         <%= Rails.configuration.Services.Workbench1.ExternalURL %>
434
435         Thanks,
436         Your Arvados administrator.
437
438       # If RoleGroupsVisibleToAll is true, all role groups are visible
439       # to all active users.
440       #
441       # If false, users must be granted permission to role groups in
442       # order to see them. This is more appropriate for a multi-tenant
443       # cluster.
444       RoleGroupsVisibleToAll: true
445
446       # If CanCreateRoleGroups is true, regular (non-admin) users can
447       # create new role groups.
448       #
449       # If false, only admins can create new role groups.
450       CanCreateRoleGroups: true
451
452       # During each period, a log entry with event_type="activity"
453       # will be recorded for each user who is active during that
454       # period. The object_uuid attribute will indicate the user's
455       # UUID.
456       #
457       # Multiple log entries for the same user may be generated during
458       # a period if there are multiple controller processes or a
459       # controller process is restarted.
460       #
461       # Use 0 to disable activity logging.
462       ActivityLoggingPeriod: 24h
463
464       # The SyncUser* options control what system resources are managed by
465       # arvados-login-sync on shell nodes. They correspond to:
466       # * SyncUserAccounts: The user's Unix account on the shell node
467       # * SyncUserGroups: The group memberships of that account
468       # * SyncUserSSHKeys: Whether to authorize the user's Arvados SSH keys
469       # * SyncUserAPITokens: Whether to set up the user's Arvados API token
470       # All default to true.
471       SyncUserAccounts: true
472       SyncUserGroups: true
473       SyncUserSSHKeys: true
474       SyncUserAPITokens: true
475
476       # If SyncUserGroups=true, then arvados-login-sync will ensure that all
477       # managed accounts are members of the Unix groups listed in
478       # SyncRequiredGroups, in addition to any groups listed in their Arvados
479       # login permission. The default list includes the "fuse" group so
480       # users can use arv-mount. You can require no groups by specifying an
481       # empty list (i.e., `SyncRequiredGroups: []`).
482       SyncRequiredGroups:
483         - fuse
484
485       # SyncIgnoredGroups is a list of group names. arvados-login-sync will
486       # never modify these groups. If user login permissions list any groups
487       # in SyncIgnoredGroups, they will be ignored. If a user's Unix account
488       # belongs to any of these groups, arvados-login-sync will not remove
489       # the account from that group. The default is a set of particularly
490       # security-sensitive groups across Debian- and Red Hat-based
491       # distributions.
492       SyncIgnoredGroups:
493         - adm
494         - disk
495         - kmem
496         - mem
497         - root
498         - shadow
499         - staff
500         - sudo
501         - sys
502         - utempter
503         - utmp
504         - wheel
505
506     AuditLogs:
507       # Time to keep audit logs, in seconds. (An audit log is a row added
508       # to the "logs" table in the PostgreSQL database each time an
509       # Arvados object is created, modified, or deleted.)
510       #
511       # Currently, websocket event notifications rely on audit logs, so
512       # this should not be set lower than 300 (5 minutes).
513       MaxAge: 336h
514
515       # Maximum number of log rows to delete in a single SQL transaction.
516       #
517       # If MaxDeleteBatch is 0, log entries will never be
518       # deleted by Arvados. Cleanup can be done by an external process
519       # without affecting any Arvados system processes, as long as very
520       # recent (<5 minutes old) logs are not deleted.
521       #
522       # 100000 is a reasonable batch size for most sites.
523       MaxDeleteBatch: 0
524
525       # Attributes to suppress in events and audit logs.  Notably,
526       # specifying {"manifest_text": {}} here typically makes the database
527       # smaller and faster.
528       #
529       # Warning: Using any non-empty value here can have undesirable side
530       # effects for any client or component that relies on event logs.
531       # Use at your own risk.
532       UnloggedAttributes: {}
533
534     SystemLogs:
535
536       # Logging threshold: panic, fatal, error, warn, info, debug, or
537       # trace
538       LogLevel: info
539
540       # Logging format: json or text
541       Format: json
542
543       # Maximum characters of (JSON-encoded) query parameters to include
544       # in each request log entry. When params exceed this size, they will
545       # be JSON-encoded, truncated to this size, and logged as
546       # params_truncated.
547       MaxRequestLogParamsSize: 2000
548
549       # In all services except RailsAPI, periodically check whether
550       # the incoming HTTP request queue is nearly full (see
551       # MaxConcurrentRequests) and, if so, write a snapshot of the
552       # request queue to {service}-requests.json in the specified
553       # directory.
554       #
555       # Leave blank to disable.
556       RequestQueueDumpDirectory: ""
557
558     Collections:
559
560       # Enable access controls for data stored in Keep. This should
561       # always be set to true on a production cluster.
562       BlobSigning: true
563
564       # BlobSigningKey is a string of alphanumeric characters used to
565       # generate permission signatures for Keep locators. It must be
566       # identical to the permission key given to Keep. IMPORTANT: This
567       # is a site secret. It should be at least 50 characters.
568       #
569       # Modifying BlobSigningKey will invalidate all existing
570       # signatures, which can cause programs to fail (e.g., arv-put,
571       # arv-get, and Crunch jobs).  To avoid errors, rotate keys only
572       # when no such processes are running.
573       BlobSigningKey: ""
574
575       # Enable garbage collection of unreferenced blobs in Keep.
576       BlobTrash: true
577
578       # Time to leave unreferenced blobs in "trashed" state before
579       # deleting them, or 0 to skip the "trashed" state entirely and
580       # delete unreferenced blobs.
581       #
582       # If you use any Amazon S3 buckets as storage volumes, this
583       # must be at least 24h to avoid occasional data loss.
584       BlobTrashLifetime: 336h
585
586       # How often to check for (and delete) trashed blocks whose
587       # BlobTrashLifetime has expired.
588       BlobTrashCheckInterval: 24h
589
590       # Maximum number of concurrent "trash blob" and "delete trashed
591       # blob" operations conducted by a single keepstore process. Each
592       # of these can be set to 0 to disable the respective operation.
593       #
594       # If BlobTrashLifetime is zero, "trash" and "delete trash"
595       # happen at once, so only the lower of these two values is used.
596       BlobTrashConcurrency: 4
597       BlobDeleteConcurrency: 4
598
599       # Maximum number of concurrent "create additional replica of
600       # existing blob" operations conducted by a single keepstore
601       # process.
602       BlobReplicateConcurrency: 4
603
604       # Default replication level for collections. This is used when a
605       # collection's replication_desired attribute is nil.
606       DefaultReplication: 2
607
608       # BlobSigningTTL determines the minimum lifetime of transient
609       # data, i.e., blocks that are not referenced by
610       # collections. Unreferenced blocks exist for two reasons:
611       #
612       # 1) A data block must be written to a disk/cloud backend device
613       # before a collection can be created/updated with a reference to
614       # it.
615       #
616       # 2) Deleting or updating a collection can remove the last
617       # remaining reference to a data block.
618       #
619       # If BlobSigningTTL is too short, long-running
620       # processes/containers will fail when they take too long (a)
621       # between writing blocks and writing collections that reference
622       # them, or (b) between reading collections and reading the
623       # referenced blocks.
624       #
625       # If BlobSigningTTL is too long, data will still be stored long
626       # after the referring collections are deleted, and you will
627       # needlessly fill up disks or waste money on cloud storage.
628       #
629       # Modifying BlobSigningTTL invalidates existing signatures; see
630       # BlobSigningKey note above.
631       #
632       # The default is 2 weeks.
633       BlobSigningTTL: 336h
634
635       # When running keep-balance, this is the destination filename for
636       # the list of lost block hashes if there are any, one per line.
637       # Updated automically during each successful run.
638       BlobMissingReport: ""
639
640       # keep-balance operates periodically, i.e.: do a
641       # scan/balance operation, sleep, repeat.
642       #
643       # BalancePeriod determines the interval between start times of
644       # successive scan/balance operations. If a scan/balance operation
645       # takes longer than BalancePeriod, the next one will follow it
646       # immediately.
647       #
648       # If SIGUSR1 is received during an idle period between operations,
649       # the next operation will start immediately.
650       BalancePeriod: 6h
651
652       # Limits the number of collections retrieved by keep-balance per
653       # API transaction. If this is zero, page size is
654       # determined by the API server's own page size limits (see
655       # API.MaxItemsPerResponse and API.MaxIndexDatabaseRead).
656       BalanceCollectionBatch: 0
657
658       # The size of keep-balance's internal queue of
659       # collections. Higher values may improve throughput by allowing
660       # keep-balance to fetch collections from the database while the
661       # current collection are still being processed, at the expense of
662       # using more memory.  If this is zero or omitted, pages are
663       # processed serially.
664       BalanceCollectionBuffers: 4
665
666       # Maximum time for a rebalancing run. This ensures keep-balance
667       # eventually gives up and retries if, for example, a network
668       # error causes a hung connection that is never closed by the
669       # OS. It should be long enough that it doesn't interrupt a
670       # long-running balancing operation.
671       BalanceTimeout: 6h
672
673       # Maximum number of replication_confirmed /
674       # storage_classes_confirmed updates to write to the database
675       # after a rebalancing run. When many updates are needed, this
676       # spreads them over a few runs rather than applying them all at
677       # once.
678       BalanceUpdateLimit: 100000
679
680       # Maximum number of "pull block from other server" and "trash
681       # block" requests to send to each keepstore server at a
682       # time. Smaller values use less memory in keepstore and
683       # keep-balance. Larger values allow more progress per
684       # keep-balance iteration. A zero value computes all of the
685       # needed changes but does not apply any.
686       BalancePullLimit: 100000
687       BalanceTrashLimit: 100000
688
689       # Default lifetime for ephemeral collections: 2 weeks. This must not
690       # be less than BlobSigningTTL.
691       DefaultTrashLifetime: 336h
692
693       # Interval (seconds) between trash sweeps. During a trash sweep,
694       # collections are marked as trash if their trash_at time has
695       # arrived, and deleted if their delete_at time has arrived.
696       TrashSweepInterval: 60s
697
698       # If true, enable collection versioning.
699       # When a collection's preserve_version field is true or the current version
700       # is older than the amount of seconds defined on PreserveVersionIfIdle,
701       # a snapshot of the collection's previous state is created and linked to
702       # the current collection.
703       CollectionVersioning: true
704
705       #   0s = auto-create a new version on every update.
706       #  -1s = never auto-create new versions.
707       # > 0s = auto-create a new version when older than the specified number of seconds.
708       PreserveVersionIfIdle: 10s
709
710       # If non-empty, allow project and collection names to contain
711       # the "/" character (slash/stroke/solidus), and replace "/" with
712       # the given string in the filesystem hierarchy presented by
713       # WebDAV. Example values are "%2f" and "{slash}". Names that
714       # contain the substitution string itself may result in confusing
715       # behavior, so a value like "_" is not recommended.
716       #
717       # If the default empty value is used, the server will reject
718       # requests to create or rename a collection when the new name
719       # contains "/".
720       #
721       # If the value "/" is used, project and collection names
722       # containing "/" will be allowed, but they will not be
723       # accessible via WebDAV.
724       #
725       # Use of this feature is not recommended, if it can be avoided.
726       ForwardSlashNameSubstitution: ""
727
728       # Include "folder objects" in S3 ListObjects responses.
729       S3FolderObjects: true
730
731       # Managed collection properties. At creation time, if the client didn't
732       # provide the listed keys, they will be automatically populated following
733       # one of the following behaviors:
734       #
735       # * UUID of the user who owns the containing project.
736       #   responsible_person_uuid: {Function: original_owner, Protected: true}
737       #
738       # * Default concrete value.
739       #   foo_bar: {Value: baz, Protected: false}
740       #
741       # If Protected is true, only an admin user can modify its value.
742       ManagedProperties:
743         SAMPLE: {Function: original_owner, Protected: true}
744
745       # In "trust all content" mode, Workbench will redirect download
746       # requests to WebDAV preview link, even in the cases when
747       # WebDAV would have to expose XSS vulnerabilities in order to
748       # handle the redirect (see discussion on Services.WebDAV).
749       #
750       # This setting has no effect in the recommended configuration, where the
751       # WebDAV service is configured to have a separate domain for every
752       # collection and XSS protection is provided by browsers' same-origin
753       # policy.
754       #
755       # The default setting (false) is appropriate for a multi-user site.
756       TrustAllContent: false
757
758       # Cache parameters for WebDAV content serving:
759       WebDAVCache:
760         # Time to cache manifests, permission checks, and sessions.
761         TTL: 300s
762
763         # Maximum amount of data cached in /var/cache/arvados/keep.
764         # Can be given as a percentage of filesystem size ("10%") or a
765         # number of bytes ("10 GiB")
766         DiskCacheSize: 10%
767
768         # Approximate memory limit (in bytes) for session cache.
769         #
770         # Note this applies to the in-memory representation of
771         # projects and collections -- metadata, block locators,
772         # filenames, etc. -- not the file data itself (see
773         # DiskCacheSize).
774         MaxCollectionBytes: 100 MB
775
776         # Persistent sessions.
777         MaxSessions: 100
778
779       # Selectively set permissions for regular users and admins to
780       # download or upload data files using the upload/download
781       # features for Workbench, WebDAV and S3 API support.
782       WebDAVPermission:
783         User:
784           Download: true
785           Upload: true
786         Admin:
787           Download: true
788           Upload: true
789
790       # Selectively set permissions for regular users and admins to be
791       # able to download or upload blocks using arv-put and
792       # arv-get from outside the cluster.
793       KeepproxyPermission:
794         User:
795           Download: true
796           Upload: true
797         Admin:
798           Download: true
799           Upload: true
800
801       # Post upload / download events to the API server logs table, so
802       # that they can be included in the arv-user-activity report.
803       # You can disable this if you find that it is creating excess
804       # load on the API server and you don't need it.
805       WebDAVLogEvents: true
806
807       # If a client requests partial content past the start of a file,
808       # and a request from the same client for the same file was logged
809       # within the past WebDAVLogDownloadInterval, do not write a new log.
810       # This throttling applies to both printed and API server logs.
811       # This reduces log output when clients like `aws s3 cp` download
812       # one file in small chunks in parallel.
813       # Set this to 0 to disable throttling and log all requests.
814       WebDAVLogDownloadInterval: 30s
815
816       # Per-connection output buffer for WebDAV downloads. May improve
817       # throughput for large files, particularly when storage volumes
818       # have high latency.
819       #
820       # Size be specified as a number of bytes ("0") or with units
821       # ("128KiB", "1 MB").
822       WebDAVOutputBuffer: 0
823
824     Login:
825       # One of the following mechanisms (Google, PAM, LDAP, or
826       # LoginCluster) should be enabled; see
827       # https://doc.arvados.org/install/setup-login.html
828
829       Google:
830         # Authenticate with Google.
831         Enable: false
832
833         # Use the Google Cloud console to enable the People API (APIs
834         # and Services > Enable APIs and services > Google People API
835         # > Enable), generate a Client ID and secret (APIs and
836         # Services > Credentials > Create credentials > OAuth client
837         # ID > Web application) and add your controller's /login URL
838         # (e.g., "https://zzzzz.example.com/login") as an authorized
839         # redirect URL.
840         ClientID: ""
841         ClientSecret: ""
842
843         # Allow users to log in to existing accounts using any verified
844         # email address listed by their Google account. If true, the
845         # Google People API must be enabled in order for Google login to
846         # work. If false, only the primary email address will be used.
847         AlternateEmailAddresses: true
848
849         # Send additional parameters with authentication requests. See
850         # https://developers.google.com/identity/protocols/oauth2/openid-connect#authenticationuriparameters
851         # for a list of supported parameters.
852         AuthenticationRequestParameters:
853           # Show the "choose which Google account" page, even if the
854           # client is currently logged in to exactly one Google
855           # account.
856           prompt: select_account
857
858           SAMPLE: ""
859
860       OpenIDConnect:
861         # Authenticate with an OpenID Connect provider.
862         Enable: false
863
864         # Issuer URL, e.g., "https://login.example.com".
865         #
866         # This must be exactly equal to the URL returned by the issuer
867         # itself in its config response ("isser" key). If the
868         # configured value is "https://example" and the provider
869         # returns "https://example:443" or "https://example/" then
870         # login will fail, even though those URLs are equivalent
871         # (RFC3986).
872         Issuer: ""
873
874         # Your client ID and client secret (supplied by the provider).
875         ClientID: ""
876         ClientSecret: ""
877
878         # OpenID claim field containing the user's email
879         # address. Normally "email"; see
880         # https://openid.net/specs/openid-connect-core-1_0.html#StandardClaims
881         EmailClaim: "email"
882
883         # OpenID claim field containing the email verification
884         # flag. Normally "email_verified".  To accept every returned
885         # email address without checking a "verified" field at all,
886         # use an empty string "".
887         EmailVerifiedClaim: "email_verified"
888
889         # OpenID claim field containing the user's preferred
890         # username. If empty, use the mailbox part of the user's email
891         # address.
892         UsernameClaim: ""
893
894         # Send additional parameters with authentication requests,
895         # like {display: page, prompt: consent}. See
896         # https://openid.net/specs/openid-connect-core-1_0.html#AuthRequest
897         # and refer to your provider's documentation for supported
898         # parameters.
899         AuthenticationRequestParameters:
900           SAMPLE: ""
901
902         # Accept an OIDC access token as an API token if the OIDC
903         # provider's UserInfo endpoint accepts it.
904         #
905         # AcceptAccessTokenScope should also be used when enabling
906         # this feature.
907         AcceptAccessToken: false
908
909         # Before accepting an OIDC access token as an API token, first
910         # check that it is a JWT whose "scope" value includes this
911         # value. Example: "https://zzzzz.example.com/" (your Arvados
912         # API endpoint).
913         #
914         # If this value is empty and AcceptAccessToken is true, all
915         # access tokens will be accepted regardless of scope,
916         # including non-JWT tokens. This is not recommended.
917         AcceptAccessTokenScope: ""
918
919       PAM:
920         # Use PAM to authenticate users.
921         Enable: false
922
923         # PAM service name. PAM will apply the policy in the
924         # corresponding config file (e.g., /etc/pam.d/arvados) or, if
925         # there is none, the default "other" config.
926         Service: arvados
927
928         # Domain name (e.g., "example.com") to use to construct the
929         # user's email address if PAM authentication returns a
930         # username with no "@". If empty, use the PAM username as the
931         # user's email address, whether or not it contains "@".
932         #
933         # Note that the email address is used as the primary key for
934         # user records when logging in. Therefore, if you change
935         # PAMDefaultEmailDomain after the initial installation, you
936         # should also update existing user records to reflect the new
937         # domain. Otherwise, next time those users log in, they will
938         # be given new accounts instead of accessing their existing
939         # accounts.
940         DefaultEmailDomain: ""
941
942       LDAP:
943         # Use an LDAP service to authenticate users.
944         Enable: false
945
946         # Server URL, like "ldap://ldapserver.example.com:389" or
947         # "ldaps://ldapserver.example.com:636".
948         URL: "ldap://ldap:389"
949
950         # Use StartTLS upon connecting to the server.
951         StartTLS: true
952
953         # Skip TLS certificate name verification.
954         InsecureTLS: false
955
956         # Mininum TLS version to negotiate when connecting to server
957         # (ldaps://... or StartTLS). It may be necessary to set this
958         # to "1.1" for compatibility with older LDAP servers that fail
959         # with 'LDAP Result Code 200 "Network Error": TLS handshake
960         # failed (tls: server selected unsupported protocol version
961         # 301)'.
962         #
963         # If blank, use the recommended minimum version (1.2).
964         MinTLSVersion: ""
965
966         # Strip the @domain part if a user supplies an email-style
967         # username with this domain. If "*", strip any user-provided
968         # domain. If "", never strip the domain part. Example:
969         # "example.com"
970         StripDomain: ""
971
972         # If, after applying StripDomain, the username contains no "@"
973         # character, append this domain to form an email-style
974         # username. Example: "example.com"
975         AppendDomain: ""
976
977         # The LDAP attribute to filter on when looking up a username
978         # (after applying StripDomain and AppendDomain).
979         SearchAttribute: uid
980
981         # Bind with this username (DN or UPN) and password when
982         # looking up the user record.
983         #
984         # Example user: "cn=admin,dc=example,dc=com"
985         SearchBindUser: ""
986         SearchBindPassword: ""
987
988         # Directory base for username lookup. Example:
989         # "ou=Users,dc=example,dc=com"
990         SearchBase: ""
991
992         # Additional filters to apply when looking up users' LDAP
993         # entries. This can be used to restrict access to a subset of
994         # LDAP users, or to disambiguate users from other directory
995         # entries that have the SearchAttribute present.
996         #
997         # Special characters in assertion values must be escaped (see
998         # RFC4515).
999         #
1000         # Example: "(objectClass=person)"
1001         SearchFilters: ""
1002
1003         # LDAP attribute to use as the user's email address.
1004         #
1005         # Important: This must not be an attribute whose value can be
1006         # edited in the directory by the users themselves. Otherwise,
1007         # users can take over other users' Arvados accounts trivially
1008         # (email address is the primary key for Arvados accounts.)
1009         EmailAttribute: mail
1010
1011         # LDAP attribute to use as the preferred Arvados username. If
1012         # no value is found (or this config is empty) the username
1013         # originally supplied by the user will be used.
1014         UsernameAttribute: uid
1015
1016       Test:
1017         # Authenticate users listed here in the config file. This
1018         # feature is intended to be used in test environments, and
1019         # should not be used in production.
1020         Enable: false
1021         Users:
1022           SAMPLE:
1023             Email: alice@example.com
1024             Password: xyzzy
1025
1026       # The cluster ID to delegate the user database.  When set,
1027       # logins on this cluster will be redirected to the login cluster
1028       # (login cluster must appear in RemoteClusters with Proxy: true)
1029       LoginCluster: ""
1030
1031       # How long a cached token belonging to a remote cluster will
1032       # remain valid before it needs to be revalidated.
1033       RemoteTokenRefresh: 5m
1034
1035       # How long a client token created from a login flow will be valid without
1036       # asking the user to re-login. Example values: 60m, 8h.
1037       # Default value zero means tokens don't have expiration.
1038       TokenLifetime: 0s
1039
1040       # If true (default), tokens are allowed to create new tokens and
1041       # view existing tokens belonging to the same user.
1042       # If false, tokens are not allowed to view or create other
1043       # tokens. New tokens can only be created by going through login
1044       # again.
1045       IssueTrustedTokens: true
1046
1047       # Origins (scheme://host[:port]) of clients trusted to receive
1048       # new tokens via login process.  The ExternalURLs of the local
1049       # Workbench1 and Workbench2 are trusted implicitly and do not
1050       # need to be listed here.  If this is a LoginCluster, you
1051       # probably want to include the other Workbench instances in the
1052       # federation in this list.
1053       #
1054       # A wildcard like "https://*.example" will match client URLs
1055       # like "https://a.example" and "https://a.b.c.example".
1056       #
1057       # Example:
1058       #
1059       # TrustedClients:
1060       #   "https://workbench.other-cluster.example": {}
1061       #   "https://workbench2.other-cluster.example": {}
1062       TrustedClients:
1063         SAMPLE: {}
1064
1065       # Treat any origin whose host part is "localhost" or a private
1066       # IP address (e.g., http://10.0.0.123:3000/) as if it were
1067       # listed in TrustedClients.
1068       #
1069       # Intended only for test/development use. Not appropriate for
1070       # production use.
1071       TrustPrivateNetworks: false
1072
1073     TLS:
1074       # Use "file:///var/lib/acme/live/example.com/cert" and
1075       # ".../privkey" to load externally managed certificates.
1076       Certificate: ""
1077       Key: ""
1078
1079       # Accept invalid certificates when connecting to servers. Never
1080       # use this in production.
1081       Insecure: false
1082
1083       ACME:
1084         # Obtain certificates automatically for ExternalURL domains
1085         # using an ACME server and http-01 validation.
1086         #
1087         # To use Let's Encrypt, specify "LE".  To use the Let's
1088         # Encrypt staging environment, specify "LE-staging".  To use a
1089         # different ACME server, specify the full directory URL
1090         # ("https://...").
1091         #
1092         # Note: this feature is not yet implemented in released
1093         # versions, only in the alpha/prerelease arvados-server-easy
1094         # package.
1095         #
1096         # Implies agreement with the server's terms of service.
1097         Server: ""
1098
1099     Containers:
1100       # List of supported Docker Registry image formats that compute nodes
1101       # are able to use. `arv keep docker` will error out if a user tries
1102       # to store an image with an unsupported format. Use an empty array
1103       # to skip the compatibility check (and display a warning message to
1104       # that effect).
1105       #
1106       # Example for sites running docker < 1.10: {"v1": {}}
1107       # Example for sites running docker >= 1.10: {"v2": {}}
1108       # Example for disabling check: {}
1109       SupportedDockerImageFormats:
1110         "v2": {}
1111         SAMPLE: {}
1112
1113       # Include details about job reuse decisions in the server log. This
1114       # causes additional database queries to run, so it should not be
1115       # enabled unless you expect to examine the resulting logs for
1116       # troubleshooting purposes.
1117       LogReuseDecisions: false
1118
1119       # Default value for keep_cache_ram of a container's
1120       # runtime_constraints.  Note: this gets added to the RAM request
1121       # used to allocate a VM or submit an HPC job.
1122       #
1123       # If this is zero, container requests that don't specify RAM or
1124       # disk cache size will use a disk cache, sized to the
1125       # container's RAM requirement (but with minimum 2 GiB and
1126       # maximum 32 GiB).
1127       #
1128       # Note: If you change this value, containers that used the previous
1129       # default value will only be reused by container requests that
1130       # explicitly specify the previous value in their keep_cache_ram
1131       # runtime constraint.
1132       DefaultKeepCacheRAM: 0
1133
1134       # Number of times a container can be unlocked before being
1135       # automatically cancelled.
1136       MaxDispatchAttempts: 10
1137
1138       # Default value for container_count_max for container requests.  This is the
1139       # number of times Arvados will create a new container to satisfy a container
1140       # request.  If a container is cancelled it will retry a new container if
1141       # container_count < container_count_max on any container requests associated
1142       # with the cancelled container.
1143       MaxRetryAttempts: 3
1144
1145       # Schedule all child containers on preemptible instances (e.g. AWS
1146       # Spot Instances) even if not requested by the submitter.
1147       #
1148       # If false, containers are scheduled on preemptible instances
1149       # only when requested by the submitter.
1150       #
1151       # This flag is ignored if no preemptible instance types are
1152       # configured, and has no effect on top-level containers.
1153       AlwaysUsePreemptibleInstances: false
1154
1155       # Automatically add a preemptible variant for every
1156       # non-preemptible entry in InstanceTypes below. The maximum bid
1157       # price for the preemptible variant will be the non-preemptible
1158       # price multiplied by PreemptiblePriceFactor. If 0, preemptible
1159       # variants are not added automatically.
1160       #
1161       # A price factor of 1.0 is a reasonable starting point.
1162       PreemptiblePriceFactor: 0
1163
1164       # When the lowest-priced instance type for a given container is
1165       # not available, try other instance types, up to the indicated
1166       # maximum price factor.
1167       #
1168       # For example, with AvailabilityPriceFactor 1.5, if the
1169       # lowest-cost instance type A suitable for a given container
1170       # costs $2/h, Arvados may run the container on any instance type
1171       # B costing $3/h or less when instance type A is not available
1172       # or an idle instance of type B is already running.
1173       MaximumPriceFactor: 1.5
1174
1175       # PEM encoded SSH key (RSA, DSA, or ECDSA) used by the
1176       # cloud dispatcher for executing containers on worker VMs.
1177       # Begins with "-----BEGIN RSA PRIVATE KEY-----\n"
1178       # and ends with "\n-----END RSA PRIVATE KEY-----\n".
1179       #
1180       # Use "file:///absolute/path/to/key" to load the key from a
1181       # separate file instead of embedding it in the configuration
1182       # file.
1183       DispatchPrivateKey: ""
1184
1185       # Maximum time to wait for workers to come up before abandoning
1186       # stale locks from a previous dispatch process.
1187       StaleLockTimeout: 1m
1188
1189       # The crunch-run command used to start a container on a worker node.
1190       #
1191       # When dispatching to cloud VMs, this is used only if
1192       # DeployRunnerBinary in the CloudVMs section is set to the empty
1193       # string.
1194       CrunchRunCommand: "crunch-run"
1195
1196       # Extra arguments to add to crunch-run invocation
1197       # Example: ["--cgroup-parent-subsystem=memory"]
1198       CrunchRunArgumentsList: []
1199
1200       # Extra RAM to reserve on the node, in addition to
1201       # the amount specified in the container's RuntimeConstraints
1202       ReserveExtraRAM: 550MiB
1203
1204       # Minimum time between two attempts to run the same container
1205       MinRetryPeriod: 0s
1206
1207       # Container runtime: "docker" (default) or "singularity"
1208       RuntimeEngine: docker
1209
1210       # When running a container, run a dedicated keepstore process,
1211       # using the specified number of 64 MiB memory buffers per
1212       # allocated CPU core (VCPUs in the container's runtime
1213       # constraints). The dedicated keepstore handles I/O for
1214       # collections mounted in the container, as well as saving
1215       # container logs.
1216       #
1217       # A zero value disables this feature.
1218       #
1219       # In order for this feature to be activated, no volume may use
1220       # AccessViaHosts, and no writable volume may have Replication
1221       # lower than Collections.DefaultReplication. If these
1222       # requirements are not satisfied, the feature is disabled
1223       # automatically regardless of the value given here.
1224       #
1225       # When an HPC dispatcher is in use (see SLURM and LSF sections),
1226       # this feature depends on the operator to ensure an up-to-date
1227       # cluster configuration file (/etc/arvados/config.yml) is
1228       # available on all compute nodes. If it is missing or not
1229       # readable by the crunch-run user, the feature will be disabled
1230       # automatically. To read it from a different location, add a
1231       # "-config=/path/to/config.yml" argument to
1232       # CrunchRunArgumentsList above.
1233       #
1234       # When the cloud dispatcher is in use (see CloudVMs section) and
1235       # this configuration is enabled, the entire cluster
1236       # configuration file, including the system root token, is copied
1237       # to the worker node and held in memory for the duration of the
1238       # container.
1239       LocalKeepBlobBuffersPerVCPU: 1
1240
1241       # When running a dedicated keepstore process for a container
1242       # (see LocalKeepBlobBuffersPerVCPU), write keepstore log
1243       # messages to keepstore.txt in the container's log collection.
1244       #
1245       # These log messages can reveal some volume configuration
1246       # details, error messages from the cloud storage provider, etc.,
1247       # which are not otherwise visible to users.
1248       #
1249       # Accepted values:
1250       # * "none" -- no keepstore.txt file
1251       # * "all" -- all logs, including request and response lines
1252       # * "errors" -- all logs except "response" logs with 2xx
1253       #   response codes and "request" logs
1254       LocalKeepLogsToContainerLog: none
1255
1256       Logging:
1257         # Container logs are written to Keep and saved in a
1258         # collection, which is updated periodically while the
1259         # container runs.  This value sets the interval between
1260         # collection updates.
1261         LogUpdatePeriod: 30m
1262
1263         # The log collection is also updated when the specified amount of
1264         # log data (given in bytes) is produced in less than one update
1265         # period.
1266         LogUpdateSize: 32MiB
1267
1268       ShellAccess:
1269         # An admin user can use "arvados-client shell" to start an
1270         # interactive shell (with any user ID) in any running
1271         # container.
1272         Admin: false
1273
1274         # Any user can use "arvados-client shell" to start an
1275         # interactive shell (with any user ID) in any running
1276         # container that they started, provided it isn't also
1277         # associated with a different user's container request.
1278         #
1279         # Interactive sessions make it easy to alter the container's
1280         # runtime environment in ways that aren't recorded or
1281         # reproducible. Consider the implications for automatic
1282         # container reuse before enabling and using this feature. In
1283         # particular, note that starting an interactive session does
1284         # not disqualify a container from being reused by a different
1285         # user/workflow in the future.
1286         User: false
1287
1288       SLURM:
1289         PrioritySpread: 0
1290         SbatchArgumentsList: []
1291         SbatchEnvironmentVariables:
1292           SAMPLE: ""
1293
1294       LSF:
1295         # Arguments to bsub when submitting Arvados containers as LSF jobs.
1296         #
1297         # Template variables starting with % will be substituted as follows:
1298         #
1299         # %U uuid
1300         # %C number of VCPUs
1301         # %M memory in MB
1302         # %T tmp in MB
1303         # %G number of GPU devices (runtime_constraints.cuda.device_count)
1304         # %W maximum run time in minutes (see MaxRunTimeOverhead and
1305         #    MaxRunTimeDefault below)
1306         #
1307         # Use %% to express a literal %. For example, the %%J in the
1308         # default argument list will be changed to %J, which is
1309         # interpreted by bsub itself.
1310         #
1311         # Note that the default arguments cause LSF to write two files
1312         # in /tmp on the compute node each time an Arvados container
1313         # runs. Ensure you have something in place to delete old files
1314         # from /tmp, or adjust the "-o" and "-e" arguments accordingly.
1315         #
1316         # If ["-We", "%W"] or ["-W", "%W"] appear in this argument
1317         # list, and MaxRunTimeDefault is not set (see below), both of
1318         # those arguments will be dropped from the argument list when
1319         # running a container that has no max_run_time value.
1320         BsubArgumentsList: ["-o", "/tmp/crunch-run.%%J.out", "-e", "/tmp/crunch-run.%%J.err", "-J", "%U", "-n", "%C", "-D", "%MMB", "-R", "rusage[mem=%MMB:tmp=%TMB] span[hosts=1]", "-R", "select[mem>=%MMB]", "-R", "select[tmp>=%TMB]", "-R", "select[ncpus>=%C]", "-We", "%W"]
1321
1322         # Arguments that will be appended to the bsub command line
1323         # when submitting Arvados containers as LSF jobs with
1324         # runtime_constraints.cuda.device_count > 0
1325         BsubCUDAArguments: ["-gpu", "num=%G"]
1326
1327         # Use sudo to switch to this user account when submitting LSF
1328         # jobs.
1329         #
1330         # This account must exist on the hosts where LSF jobs run
1331         # ("execution hosts"), as well as on the host where the
1332         # Arvados LSF dispatcher runs ("submission host").
1333         BsubSudoUser: "crunch"
1334
1335         # When passing the scheduling_constraints.max_run_time value
1336         # to LSF via "%W", add this much time to account for
1337         # crunch-run startup/shutdown overhead.
1338         MaxRunTimeOverhead: 5m
1339
1340         # If non-zero, MaxRunTimeDefault is used as the default value
1341         # for max_run_time for containers that do not specify a time
1342         # limit.  MaxRunTimeOverhead will be added to this.
1343         #
1344         # Example:
1345         # MaxRunTimeDefault: 2h
1346         MaxRunTimeDefault: 0
1347
1348       CloudVMs:
1349         # Enable the cloud scheduler.
1350         Enable: false
1351
1352         # Name/number of port where workers' SSH services listen.
1353         SSHPort: "22"
1354
1355         # Interval between queue polls.
1356         PollInterval: 10s
1357
1358         # Shell command to execute on each worker to determine whether
1359         # the worker is booted and ready to run containers. It should
1360         # exit zero if the worker is ready.
1361         BootProbeCommand: "systemctl is-system-running"
1362
1363         # Minimum interval between consecutive probes to a single
1364         # worker.
1365         ProbeInterval: 10s
1366
1367         # Maximum probes per second, across all workers in a pool.
1368         MaxProbesPerSecond: 10
1369
1370         # Time before repeating SIGTERM when killing a container.
1371         TimeoutSignal: 5s
1372
1373         # Time to give up on a process (most likely arv-mount) that
1374         # still holds a container lockfile after its main supervisor
1375         # process has exited, and declare the instance broken.
1376         TimeoutStaleRunLock: 5s
1377
1378         # Time to give up on SIGTERM and write off the worker.
1379         TimeoutTERM: 2m
1380
1381         # Maximum create/destroy-instance operations per second (0 =
1382         # unlimited).
1383         MaxCloudOpsPerSecond: 10
1384
1385         # Maximum concurrent instance creation operations (0 = unlimited).
1386         #
1387         # MaxConcurrentInstanceCreateOps limits the number of instance creation
1388         # requests that can be in flight at any one time, whereas
1389         # MaxCloudOpsPerSecond limits the number of create/destroy operations
1390         # that can be started per second.
1391         #
1392         # Because the API for instance creation on Azure is synchronous, it is
1393         # recommended to increase MaxConcurrentInstanceCreateOps when running
1394         # on Azure. When using managed images, a value of 20 would be
1395         # appropriate. When using Azure Shared Image Galeries, it could be set
1396         # higher. For more information, see
1397         # https://docs.microsoft.com/en-us/azure/virtual-machines/linux/capture-image
1398         #
1399         # MaxConcurrentInstanceCreateOps can be increased for other cloud
1400         # providers too, if desired.
1401         MaxConcurrentInstanceCreateOps: 1
1402
1403         # The maximum number of instances to run at a time, or 0 for
1404         # unlimited.
1405         #
1406         # If more instances than this are already running and busy
1407         # when the dispatcher starts up, the running containers will
1408         # be allowed to finish before the excess instances are shut
1409         # down.
1410         MaxInstances: 64
1411
1412         # The minimum number of instances expected to be runnable
1413         # without reaching a provider-imposed quota.
1414         #
1415         # This is used as the initial value for the dispatcher's
1416         # dynamic instance limit, which increases (up to MaxInstances)
1417         # as containers start up successfully and decreases in
1418         # response to high API load and cloud quota errors.
1419         #
1420         # Setting this to 0 means the dynamic instance limit will
1421         # start at MaxInstances.
1422         #
1423         # Situations where you may want to set this (to a value less
1424         # than MaxInstances) would be when there is significant
1425         # variability or uncertainty in the actual cloud resources
1426         # available.  Upon reaching InitialQuotaEstimate the
1427         # dispatcher will switch to a more conservative behavior with
1428         # slower instance start to avoid over-shooting cloud resource
1429         # limits.
1430         InitialQuotaEstimate: 0
1431
1432         # Maximum fraction of available instance capacity allowed to
1433         # run "supervisor" containers at any given time. A supervisor
1434         # is a container whose purpose is mainly to submit and manage
1435         # other containers, such as arvados-cwl-runner workflow
1436         # runner.
1437         #
1438         # If there is a hard limit on the amount of concurrent
1439         # containers that the cluster can run, it is important to
1440         # avoid crowding out the containers doing useful work with
1441         # containers who just create more work.
1442         #
1443         # For example, with the default MaxInstances of 64, it will
1444         # schedule at most floor(64*0.50) = 32 concurrent workflow
1445         # runners, ensuring 32 slots are available for work.
1446         SupervisorFraction: 0.50
1447
1448         # Interval between cloud provider syncs/updates ("list all
1449         # instances").
1450         SyncInterval: 1m
1451
1452         # Time to leave an idle worker running (in case new containers
1453         # appear in the queue that it can run) before shutting it
1454         # down.
1455         TimeoutIdle: 1m
1456
1457         # Time to wait for a new worker to boot (i.e., pass
1458         # BootProbeCommand) before giving up and shutting it down.
1459         TimeoutBooting: 10m
1460
1461         # Maximum time a worker can stay alive with no successful
1462         # probes before being automatically shut down.
1463         TimeoutProbe: 10m
1464
1465         # Time after shutting down a worker to retry the
1466         # shutdown/destroy operation.
1467         TimeoutShutdown: 10s
1468
1469         # Worker VM image ID.
1470         # (aws) AMI identifier
1471         # (azure) managed disks: the name of the managed disk image
1472         # (azure) shared image gallery: the name of the image definition. Also
1473         # see the SharedImageGalleryName and SharedImageGalleryImageVersion fields.
1474         # (azure) unmanaged disks (deprecated): the complete URI of the VHD, e.g.
1475         # https://xxxxx.blob.core.windows.net/system/Microsoft.Compute/Images/images/xxxxx.vhd
1476         ImageID: ""
1477
1478         # Shell script to run on new instances using the cloud
1479         # provider's UserData (EC2) or CustomData (Azure) feature.
1480         #
1481         # It is not necessary to include a #!/bin/sh line.
1482         InstanceInitCommand: ""
1483
1484         # An executable file (located on the dispatcher host) to be
1485         # copied to cloud instances at runtime and used as the
1486         # container runner/supervisor. The default value is the
1487         # dispatcher program itself.
1488         #
1489         # Use an empty string to disable this step: nothing will be
1490         # copied, and cloud instances are assumed to have a suitable
1491         # version of crunch-run installed; see CrunchRunCommand above.
1492         DeployRunnerBinary: "/proc/self/exe"
1493
1494         # Install the Dispatcher's SSH public key (derived from
1495         # DispatchPrivateKey) when creating new cloud
1496         # instances. Change this to false if you are using a different
1497         # mechanism to pre-install the public key on new instances.
1498         DeployPublicKey: true
1499
1500         # Tags to add on all resources (VMs, NICs, disks) created by
1501         # the container dispatcher. (Arvados's own tags --
1502         # InstanceType, IdleBehavior, and InstanceSecret -- will also
1503         # be added.)
1504         ResourceTags:
1505           SAMPLE: "tag value"
1506
1507         # Prefix for predefined tags used by Arvados (InstanceSetID,
1508         # InstanceType, InstanceSecret, IdleBehavior). With the
1509         # default value "Arvados", tags are "ArvadosInstanceSetID",
1510         # "ArvadosInstanceSecret", etc.
1511         #
1512         # This should only be changed while no cloud resources are in
1513         # use and the cloud dispatcher is not running. Otherwise,
1514         # VMs/resources that were added using the old tag prefix will
1515         # need to be detected and cleaned up manually.
1516         TagKeyPrefix: Arvados
1517
1518         # Cloud driver: "azure" (Microsoft Azure), "ec2" (Amazon AWS),
1519         # or "loopback" (run containers on dispatch host for testing
1520         # purposes).
1521         Driver: ec2
1522
1523         # Cloud-specific driver parameters.
1524         DriverParameters:
1525
1526           # (ec2) Credentials. Omit or leave blank if using IAM role.
1527           AccessKeyID: ""
1528           SecretAccessKey: ""
1529
1530           # (ec2) Instance configuration.
1531
1532           # (ec2) Region, like "us-east-1".
1533           Region: ""
1534
1535           # (ec2) Security group IDs. Omit or use {} to use the
1536           # default security group.
1537           SecurityGroupIDs:
1538             "SAMPLE": {}
1539
1540           # (ec2) One or more subnet IDs. Omit or leave empty to let
1541           # AWS choose a default subnet from your default VPC. If
1542           # multiple subnets are configured here (enclosed in brackets
1543           # like [subnet-abc123, subnet-def456]) the cloud dispatcher
1544           # will detect subnet-related errors and retry using a
1545           # different subnet. Most sites specify one subnet.
1546           SubnetID: ""
1547
1548           EBSVolumeType: gp2
1549           AdminUsername: debian
1550           # (ec2) name of the IAMInstanceProfile for instances started by
1551           # the cloud dispatcher. Leave blank when not needed.
1552           IAMInstanceProfile: ""
1553
1554           # (ec2) how often to look up spot instance pricing data
1555           # (only while running spot instances) for the purpose of
1556           # calculating container cost estimates. A value of 0
1557           # disables spot price lookups entirely.
1558           SpotPriceUpdateInterval: 24h
1559
1560           # (ec2) per-GiB-month cost of EBS volumes. Matches
1561           # EBSVolumeType. Used to account for AddedScratch when
1562           # calculating container cost estimates. Note that
1563           # https://aws.amazon.com/ebs/pricing/ defines GB to mean
1564           # GiB, so an advertised price $0.10/GB indicates a real
1565           # price of $0.10/GiB and can be entered here as 0.10.
1566           EBSPrice: 0.10
1567
1568           # (azure) Credentials.
1569           SubscriptionID: ""
1570           ClientID: ""
1571           ClientSecret: ""
1572           TenantID: ""
1573
1574           # (azure) Instance configuration.
1575           CloudEnvironment: AzurePublicCloud
1576           Location: centralus
1577
1578           # (azure) The resource group where the VM and virtual NIC will be
1579           # created.
1580           ResourceGroup: ""
1581
1582           # (azure) The resource group of the Network to use for the virtual
1583           # NIC (if different from ResourceGroup)
1584           NetworkResourceGroup: ""
1585           Network: ""
1586           Subnet: ""
1587
1588           # (azure) managed disks: The resource group where the managed disk
1589           # image can be found (if different from ResourceGroup).
1590           ImageResourceGroup: ""
1591
1592           # (azure) shared image gallery: the name of the gallery
1593           SharedImageGalleryName: ""
1594           # (azure) shared image gallery: the version of the image definition
1595           SharedImageGalleryImageVersion: ""
1596
1597           # (azure) unmanaged disks (deprecated): Where to store the VM VHD blobs
1598           StorageAccount: ""
1599           BlobContainer: ""
1600
1601           # (azure) How long to wait before deleting VHD and NIC
1602           # objects that are no longer being used.
1603           DeleteDanglingResourcesAfter: 20s
1604
1605           # Account (that already exists in the VM image) that will be
1606           # set up with an ssh authorized key to allow the compute
1607           # dispatcher to connect.
1608           AdminUsername: arvados
1609
1610     InstanceTypes:
1611
1612       # Use the instance type name as the key (in place of "SAMPLE" in
1613       # this sample entry).
1614       SAMPLE:
1615         # Cloud provider's instance type. Defaults to the configured type name.
1616         ProviderType: ""
1617         VCPUs: 1
1618         RAM: 128MiB
1619         IncludedScratch: 16GB
1620         AddedScratch: 0
1621         # Hourly price ($), used to select node types for containers,
1622         # and to calculate estimated container costs. For spot
1623         # instances on EC2, this is also used as the maximum price
1624         # when launching spot instances, while the estimated container
1625         # cost is computed based on the current spot price according
1626         # to AWS. On Azure, and on-demand instances on EC2, the price
1627         # given here is used to compute container cost estimates.
1628         Price: 0.1
1629         Preemptible: false
1630         # Include this section if the node type includes GPU (CUDA) support
1631         CUDA:
1632           DriverVersion: "11.0"
1633           HardwareCapability: "9.0"
1634           DeviceCount: 1
1635
1636     StorageClasses:
1637
1638       # If you use multiple storage classes, specify them here, using
1639       # the storage class name as the key (in place of "SAMPLE" in
1640       # this sample entry).
1641       #
1642       # Further info/examples:
1643       # https://doc.arvados.org/admin/storage-classes.html
1644       SAMPLE:
1645
1646         # Priority determines the order volumes should be searched
1647         # when reading data, in cases where a keepstore server has
1648         # access to multiple volumes with different storage classes.
1649         Priority: 0
1650
1651         # Default determines which storage class(es) should be used
1652         # when a user/client writes data or saves a new collection
1653         # without specifying storage classes.
1654         #
1655         # If any StorageClasses are configured, at least one of them
1656         # must have Default: true.
1657         Default: true
1658
1659     Volumes:
1660       SAMPLE:
1661         # AccessViaHosts specifies which keepstore processes can read
1662         # and write data on the volume.
1663         #
1664         # For a local filesystem, AccessViaHosts has one entry,
1665         # indicating which server the filesystem is located on.
1666         #
1667         # For a network-attached backend accessible by all keepstore
1668         # servers, like a cloud storage bucket or an NFS mount,
1669         # AccessViaHosts can be empty/omitted.
1670         #
1671         # Further info/examples:
1672         # https://doc.arvados.org/install/configure-fs-storage.html
1673         # https://doc.arvados.org/install/configure-s3-object-storage.html
1674         # https://doc.arvados.org/install/configure-azure-blob-storage.html
1675         AccessViaHosts:
1676           SAMPLE:
1677             ReadOnly: false
1678           "http://host1.example:25107": {}
1679         ReadOnly: false
1680         # AllowTrashWhenReadOnly enables unused and overreplicated
1681         # blocks to be trashed/deleted even when ReadOnly is
1682         # true. Normally, this is false and ReadOnly prevents all
1683         # trash/delete operations as well as writes.
1684         AllowTrashWhenReadOnly: false
1685         Replication: 1
1686         StorageClasses:
1687           # If you have configured storage classes (see StorageClasses
1688           # section above), add an entry here for each storage class
1689           # satisfied by this volume.
1690           SAMPLE: true
1691         Driver: S3
1692         DriverParameters:
1693           # for s3 driver -- see
1694           # https://doc.arvados.org/install/configure-s3-object-storage.html
1695           AccessKeyID: aaaaa
1696           SecretAccessKey: aaaaa
1697           Endpoint: ""
1698           Region: us-east-1
1699           Bucket: aaaaa
1700           LocationConstraint: false
1701           V2Signature: false
1702           IndexPageSize: 1000
1703           ConnectTimeout: 1m
1704           ReadTimeout: 10m
1705           RaceWindow: 24h
1706           PrefixLength: 0
1707
1708           # For S3 driver, potentially unsafe tuning parameter,
1709           # intentionally excluded from main documentation.
1710           #
1711           # Enable deletion (garbage collection) even when the
1712           # configured BlobTrashLifetime is zero.  WARNING: eventual
1713           # consistency may result in race conditions that can cause
1714           # data loss.  Do not enable this unless you understand and
1715           # accept the risk.
1716           UnsafeDelete: false
1717
1718           # for azure driver -- see
1719           # https://doc.arvados.org/install/configure-azure-blob-storage.html
1720           StorageAccountName: aaaaa
1721           StorageAccountKey: aaaaa
1722           StorageBaseURL: core.windows.net
1723           ContainerName: aaaaa
1724           RequestTimeout: 30s
1725           ListBlobsRetryDelay: 10s
1726           ListBlobsMaxAttempts: 10
1727           MaxGetBytes: 0
1728           WriteRaceInterval: 15s
1729           WriteRacePollTime: 1s
1730
1731           # for local directory driver -- see
1732           # https://doc.arvados.org/install/configure-fs-storage.html
1733           Root: /var/lib/arvados/keep-data
1734
1735           # For local directory driver, potentially confusing tuning
1736           # parameter, intentionally excluded from main documentation.
1737           #
1738           # When true, read and write operations (for whole 64MiB
1739           # blocks) on an individual volume will queued and issued
1740           # serially.  When false, read and write operations will be
1741           # issued concurrently.
1742           #
1743           # May possibly improve throughput if you have physical spinning disks
1744           # and experience contention when there are multiple requests
1745           # to the same volume.
1746           #
1747           # Otherwise, when using SSDs, RAID, or a shared network filesystem, you
1748           # should leave this alone.
1749           Serialize: false
1750
1751     RemoteClusters:
1752       "*":
1753         Host: ""
1754         Proxy: false
1755         Scheme: https
1756         Insecure: false
1757         ActivateUsers: false
1758       SAMPLE:
1759         # API endpoint host or host:port; default is {id}.arvadosapi.com
1760         Host: sample.arvadosapi.com
1761
1762         # Perform a proxy request when a local client requests an
1763         # object belonging to this remote.
1764         Proxy: false
1765
1766         # Default "https". Can be set to "http" for testing.
1767         Scheme: https
1768
1769         # Disable TLS verify. Can be set to true for testing.
1770         Insecure: false
1771
1772         # When users present tokens issued by this remote cluster, and
1773         # their accounts are active on the remote cluster, activate
1774         # them on this cluster too.
1775         ActivateUsers: false
1776
1777     Workbench:
1778       # Workbench1 configs
1779       Theme: default
1780       ActivationContactLink: mailto:info@arvados.org
1781       ArvadosDocsite: https://doc.arvados.org
1782       ArvadosPublicDataDocURL: https://playground.arvados.org/projects/public
1783       ShowUserAgreementInline: false
1784
1785       # Set this configuration to true to avoid providing an easy way for users
1786       # to share data with unauthenticated users; this may be necessary on
1787       # installations where strict data access controls are needed.
1788       DisableSharingURLsUI: false
1789
1790       # Below is a sample setting of user_profile_form_fields config parameter.
1791       # This configuration parameter should be set to either false (to disable) or
1792       # to a map as shown below.
1793       # Configure the map of input fields to be displayed in the profile page
1794       # using the attribute "key" for each of the input fields.
1795       # This sample shows configuration with one required and one optional form fields.
1796       # For each of these input fields:
1797       #   You can specify "Type" as "text" or "select".
1798       #   List the "Options" to be displayed for each of the "select" menu.
1799       #   Set "Required" as "true" for any of these fields to make them required.
1800       # If any of the required fields are missing in the user's profile, the user will be
1801       # redirected to the profile page before they can access any Workbench features.
1802       UserProfileFormFields:
1803         SAMPLE:
1804           Type: select
1805           FormFieldTitle: Best color
1806           FormFieldDescription: your favorite color
1807           Required: false
1808           Position: 1
1809           Options:
1810             red: {}
1811             blue: {}
1812             green: {}
1813             SAMPLE: {}
1814
1815         # exampleTextValue:  # key that will be set in properties
1816         #   Type: text  #
1817         #   FormFieldTitle: ""
1818         #   FormFieldDescription: ""
1819         #   Required: true
1820         #   Position: 1
1821         # exampleOptionsValue:
1822         #   Type: select
1823         #   FormFieldTitle: ""
1824         #   FormFieldDescription: ""
1825         #   Required: true
1826         #   Position: 1
1827         #   Options:
1828         #     red: {}
1829         #     blue: {}
1830         #     yellow: {}
1831
1832       # Use "UserProfileFormMessage to configure the message you want
1833       # to display on the profile page.
1834       UserProfileFormMessage: 'Welcome to Arvados. All <span style="color:red">required fields</span> must be completed before you can proceed.'
1835
1836       SiteName: Arvados Workbench
1837
1838       # Workbench2 configs
1839       FileViewersConfigURL: ""
1840
1841       # Idle time after which the user's session will be auto closed.
1842       # This feature is disabled when set to zero.
1843       IdleTimeout: 0s
1844
1845       # UUID of a collection.  This collection should be shared with
1846       # all users.  Workbench will look for a file "banner.html" in
1847       # this collection and display its contents (should be
1848       # HTML-formatted text) when users first log in to Workbench.
1849       BannerUUID: ""
1850
1851       # Workbench welcome screen, this is HTML text that will be
1852       # incorporated directly onto the page.
1853       WelcomePageHTML: |
1854         <img src="/arvados-logo-big.png" style="width: 20%; float: right; padding: 1em;" />
1855         <h2>Please log in.</h2>
1856
1857         <p>If you have never used Arvados Workbench before, logging in
1858         for the first time will automatically create a new
1859         account.</p>
1860
1861         <i>Arvados Workbench uses your information only for
1862         identification, and does not retrieve any other personal
1863         information.</i>
1864
1865       # Workbench screen displayed to inactive users.  This is HTML
1866       # text that will be incorporated directly onto the page.
1867       InactivePageHTML: |
1868         <img src="/arvados-logo-big.png" style="width: 20%; float: right; padding: 1em;" />
1869         <h3>Hi! You're logged in, but...</h3>
1870         <p>Your account is inactive.</p>
1871         <p>An administrator must activate your account before you can get
1872         any further.</p>
1873
1874       # Connecting to Arvados shell VMs tends to be site-specific.
1875       # Put any special instructions here. This is HTML text that will
1876       # be incorporated directly onto the Workbench page.
1877       SSHHelpPageHTML: |
1878         <a href="https://doc.arvados.org/user/getting_started/ssh-access-unix.html">Accessing an Arvados VM with SSH</a> (generic instructions).
1879         Site configurations vary.  Contact your local cluster administrator if you have difficulty accessing an Arvados shell node.
1880
1881       # Sample text if you are using a "switchyard" ssh proxy.
1882       # Replace "zzzzz" with your Cluster ID.
1883       #SSHHelpPageHTML: |
1884       # <p>Add a section like this to your SSH configuration file ( <i>~/.ssh/config</i>):</p>
1885       # <pre>Host *.zzzzz
1886       #  TCPKeepAlive yes
1887       #  ServerAliveInterval 60
1888       #  ProxyCommand ssh -p2222 turnout@switchyard.zzzzz.arvadosapi.com -x -a $SSH_PROXY_FLAGS %h
1889       # </pre>
1890
1891       # If you are using a switchyard ssh proxy, shell node hostnames
1892       # may require a special hostname suffix.  In the sample ssh
1893       # configuration above, this would be ".zzzzz"
1894       # This is added to the hostname in the "command line" column
1895       # the Workbench "shell VMs" page.
1896       #
1897       # If your shell nodes are directly accessible by users without a
1898       # proxy and have fully qualified host names, you should leave
1899       # this blank.
1900       SSHHelpHostSuffix: ""
1901
1902 # (Experimental) Restart services automatically when config file
1903 # changes are detected. Only supported by `arvados-server boot` in
1904 # dev/test mode.
1905 AutoReloadConfig: false