Merge branch 'master' into 4232-slow-pipes-n-jobs
[arvados.git] / services / nodemanager / doc / gce.example.cfg
1 # Google Compute Engine configuration for Arvados Node Manager.
2 # All times are in seconds unless specified otherwise.
3
4 [Daemon]
5 # Node Manager will ensure that there are at least this many nodes
6 # running at all times.
7 min_nodes = 0
8
9 # Node Manager will not start any compute nodes when at least this
10 # many are running.
11 max_nodes = 8
12
13 # Poll compute nodes and Arvados for new information every N seconds.
14 poll_time = 60
15
16 # Polls have exponential backoff when services fail to respond.
17 # This is the longest time to wait between polls.
18 max_poll_time = 300
19
20 # If Node Manager can't succesfully poll a service for this long,
21 # it will never start or stop compute nodes, on the assumption that its
22 # information is too outdated.
23 poll_stale_after = 600
24
25 # "Node stale time" affects two related behaviors.
26 # 1. If a compute node has been running for at least this long, but it
27 # isn't paired with an Arvados node, do not shut it down, but leave it alone.
28 # This prevents the node manager from shutting down a node that might
29 # actually be doing work, but is having temporary trouble contacting the
30 # API server.
31 # 2. When the Node Manager starts a new compute node, it will try to reuse
32 # an Arvados node that hasn't been updated for this long.
33 node_stale_after = 14400
34
35 # File path for Certificate Authorities
36 certs_file = /etc/ssl/certs/ca-certificates.crt
37
38 [Logging]
39 # Log file path
40 file = /var/log/arvados/node-manager.log
41
42 # Log level for most Node Manager messages.
43 # Choose one of DEBUG, INFO, WARNING, ERROR, or CRITICAL.
44 # WARNING lets you know when polling a service fails.
45 # INFO additionally lets you know when a compute node is started or stopped.
46 level = INFO
47
48 # You can also set different log levels for specific libraries.
49 # Pykka is the Node Manager's actor library.
50 # Setting this to DEBUG will display tracebacks for uncaught
51 # exceptions in the actors, but it's also very chatty.
52 pykka = WARNING
53
54 # Setting apiclient to INFO will log the URL of every Arvados API request.
55 apiclient = WARNING
56
57 [Arvados]
58 host = zyxwv.arvadosapi.com
59 token = ARVADOS_TOKEN
60 timeout = 15
61
62 # Accept an untrusted SSL certificate from the API server?
63 insecure = no
64
65 [Cloud]
66 provider = gce
67
68 # Shutdown windows define periods of time when a node may and may not
69 # be shut down.  These are windows in full minutes, separated by
70 # commas.  Counting from the time the node is booted, the node WILL
71 # NOT shut down for N1 minutes; then it MAY shut down for N2 minutes;
72 # then it WILL NOT shut down for N3 minutes; and so on.  For example,
73 # "54, 5, 1" means the node may shut down from the 54th to the 59th
74 # minute of each hour of uptime.
75 # GCE bills by the minute, and does not provide information about when
76 # a node booted.  Node Manager will store this information in metadata
77 # when it boots a node; if that information is not available, it will
78 # assume the node booted at the epoch.  These shutdown settings are
79 # very aggressive.  You may want to adjust this if you want more
80 # continuity of service from a single node.
81 shutdown_windows = 20, 999999
82
83 [Cloud Credentials]
84 user_id = client_email_address@developer.gserviceaccount.com
85 key = path_to_certificate.pem
86 project = project-id-from-google-cloud-dashboard
87 timeout = 60
88
89 # Optional settings. For full documentation see
90 # http://libcloud.readthedocs.org/en/latest/compute/drivers/gce.html#libcloud.compute.drivers.gce.GCENodeDriver
91 #
92 # datacenter = us-central1-a
93 # auth_type = SA               # SA, IA or GCE
94 # scopes = https://www.googleapis.com/auth/compute
95 # credential_file =
96
97 [Cloud List]
98 # A comma-separated list of tags that must be applied to a node for it to
99 # be considered a compute node.
100 # The driver will automatically apply these tags to nodes it creates.
101 tags = zyxwv, compute
102
103 [Cloud Create]
104 # New compute nodes will send pings to Arvados at this host.
105 # You may specify a port, and use brackets to disambiguate IPv6 addresses.
106 ping_host = hostname:port
107
108 # A file path for an SSH key that can log in to the compute node.
109 # ssh_key = path
110
111 # The GCE image name and network zone name to use when creating new nodes.
112 # * Valid image aliases: https://cloud.google.com/sdk/gcloud/reference/compute/instances/create
113 # * Valid location (zone) names: https://cloud.google.com/compute/docs/zones
114 image = debian-7
115 location = us-central1-a
116 # network = your_network_name
117
118 # JSON string of service account authorizations for this cluster.
119 # See http://libcloud.readthedocs.org/en/latest/compute/drivers/gce.html#specifying-service-account-scopes
120 # service_accounts = [{'email':'account@example.com', 'scopes':['storage-ro']}]
121
122 [Size n1-standard-2]
123 # You can define any number of Size sections to list node sizes you're
124 # willing to use.  The Node Manager should boot the cheapest size(s) that
125 # can run jobs in the queue (N.B.: defining more than one size has not been
126 # tested yet).
127 #
128 # The Size fields are interpreted the same way as with a libcloud NodeSize:
129 # http://libcloud.readthedocs.org/en/latest/compute/api.html#libcloud.compute.base.NodeSize
130 #
131 # See https://cloud.google.com/compute/docs/machine-types for a list
132 # of known machine types that may be used as a Size parameter.
133 #
134 # Each size section MUST define the number of cores are available in this
135 # size class (since libcloud does not provide any consistent API for exposing
136 # this setting).
137 # You may also want to define the amount of scratch space (expressed
138 # in GB) for Crunch jobs.
139 cores = 2
140 scratch = 100
141 ram = 512