7324: Implemented deletion of previous nginx access log fifo before creation,
[arvados.git] / sdk / python / tests / run_test_server.py
1 #!/usr/bin/env python
2
3 from __future__ import print_function
4 import argparse
5 import atexit
6 import httplib2
7 import os
8 import pipes
9 import random
10 import re
11 import shutil
12 import signal
13 import socket
14 import subprocess
15 import string
16 import sys
17 import tempfile
18 import time
19 import unittest
20 import yaml
21
22 MY_DIRNAME = os.path.dirname(os.path.realpath(__file__))
23 if __name__ == '__main__' and os.path.exists(
24       os.path.join(MY_DIRNAME, '..', 'arvados', '__init__.py')):
25     # We're being launched to support another test suite.
26     # Add the Python SDK source to the library path.
27     sys.path.insert(1, os.path.dirname(MY_DIRNAME))
28
29 import arvados
30 import arvados.config
31
32 ARVADOS_DIR = os.path.realpath(os.path.join(MY_DIRNAME, '../../..'))
33 SERVICES_SRC_DIR = os.path.join(ARVADOS_DIR, 'services')
34 SERVER_PID_PATH = 'tmp/pids/test-server.pid'
35 if 'GOPATH' in os.environ:
36     gopaths = os.environ['GOPATH'].split(':')
37     gobins = [os.path.join(path, 'bin') for path in gopaths]
38     os.environ['PATH'] = ':'.join(gobins) + ':' + os.environ['PATH']
39
40 TEST_TMPDIR = os.path.join(ARVADOS_DIR, 'tmp')
41 if not os.path.exists(TEST_TMPDIR):
42     os.mkdir(TEST_TMPDIR)
43
44 my_api_host = None
45 _cached_config = {}
46
47 def find_server_pid(PID_PATH, wait=10):
48     now = time.time()
49     timeout = now + wait
50     good_pid = False
51     while (not good_pid) and (now <= timeout):
52         time.sleep(0.2)
53         try:
54             with open(PID_PATH, 'r') as f:
55                 server_pid = int(f.read())
56             good_pid = (os.kill(server_pid, 0) is None)
57         except IOError:
58             good_pid = False
59         except OSError:
60             good_pid = False
61         now = time.time()
62
63     if not good_pid:
64         return None
65
66     return server_pid
67
68 def kill_server_pid(pidfile, wait=10, passenger_root=False):
69     # Must re-import modules in order to work during atexit
70     import os
71     import signal
72     import subprocess
73     import time
74     try:
75         if passenger_root:
76             # First try to shut down nicely
77             restore_cwd = os.getcwd()
78             os.chdir(passenger_root)
79             subprocess.call([
80                 'bundle', 'exec', 'passenger', 'stop', '--pid-file', pidfile])
81             os.chdir(restore_cwd)
82         now = time.time()
83         timeout = now + wait
84         with open(pidfile, 'r') as f:
85             server_pid = int(f.read())
86         while now <= timeout:
87             if not passenger_root or timeout - now < wait / 2:
88                 # Half timeout has elapsed. Start sending SIGTERM
89                 os.kill(server_pid, signal.SIGTERM)
90             # Raise OSError if process has disappeared
91             os.getpgid(server_pid)
92             time.sleep(0.1)
93             now = time.time()
94     except IOError:
95         pass
96     except OSError:
97         pass
98
99 def find_available_port():
100     """Return an IPv4 port number that is not in use right now.
101
102     We assume whoever needs to use the returned port is able to reuse
103     a recently used port without waiting for TIME_WAIT (see
104     SO_REUSEADDR / SO_REUSEPORT).
105
106     Some opportunity for races here, but it's better than choosing
107     something at random and not checking at all. If all of our servers
108     (hey Passenger) knew that listening on port 0 was a thing, the OS
109     would take care of the races, and this wouldn't be needed at all.
110     """
111
112     sock = socket.socket()
113     sock.bind(('0.0.0.0', 0))
114     port = sock.getsockname()[1]
115     sock.close()
116     return port
117
118 def _wait_until_port_listens(port, timeout=10):
119     """Wait for a process to start listening on the given port.
120
121     If nothing listens on the port within the specified timeout (given
122     in seconds), print a warning on stderr before returning.
123     """
124     try:
125         subprocess.check_output(['which', 'lsof'])
126     except subprocess.CalledProcessError:
127         print("WARNING: No `lsof` -- cannot wait for port to listen. "+
128               "Sleeping 0.5 and hoping for the best.")
129         time.sleep(0.5)
130         return
131     deadline = time.time() + timeout
132     while time.time() < deadline:
133         try:
134             subprocess.check_output(
135                 ['lsof', '-t', '-i', 'tcp:'+str(port)])
136         except subprocess.CalledProcessError:
137             time.sleep(0.1)
138             continue
139         return
140     print(
141         "WARNING: Nothing is listening on port {} (waited {} seconds).".
142         format(port, timeout),
143         file=sys.stderr)
144
145 def run(leave_running_atexit=False):
146     """Ensure an API server is running, and ARVADOS_API_* env vars have
147     admin credentials for it.
148
149     If ARVADOS_TEST_API_HOST is set, a parent process has started a
150     test server for us to use: we just need to reset() it using the
151     admin token fixture.
152
153     If a previous call to run() started a new server process, and it
154     is still running, we just need to reset() it to fixture state and
155     return.
156
157     If neither of those options work out, we'll really start a new
158     server.
159     """
160     global my_api_host
161
162     # Delete cached discovery document.
163     shutil.rmtree(arvados.http_cache('discovery'))
164
165     pid_file = os.path.join(SERVICES_SRC_DIR, 'api', SERVER_PID_PATH)
166     pid_file_ok = find_server_pid(pid_file, 0)
167
168     existing_api_host = os.environ.get('ARVADOS_TEST_API_HOST', my_api_host)
169     if existing_api_host and pid_file_ok:
170         if existing_api_host == my_api_host:
171             try:
172                 return reset()
173             except:
174                 # Fall through to shutdown-and-start case.
175                 pass
176         else:
177             # Server was provided by parent. Can't recover if it's
178             # unresettable.
179             return reset()
180
181     # Before trying to start up our own server, call stop() to avoid
182     # "Phusion Passenger Standalone is already running on PID 12345".
183     # (If we've gotten this far, ARVADOS_TEST_API_HOST isn't set, so
184     # we know the server is ours to kill.)
185     stop(force=True)
186
187     restore_cwd = os.getcwd()
188     api_src_dir = os.path.join(SERVICES_SRC_DIR, 'api')
189     os.chdir(api_src_dir)
190
191     # Either we haven't started a server of our own yet, or it has
192     # died, or we have lost our credentials, or something else is
193     # preventing us from calling reset(). Start a new one.
194
195     if not os.path.exists('tmp'):
196         os.makedirs('tmp')
197
198     if not os.path.exists('tmp/api'):
199         os.makedirs('tmp/api')
200
201     if not os.path.exists('tmp/logs'):
202         os.makedirs('tmp/logs')
203
204     if not os.path.exists('tmp/self-signed.pem'):
205         # We assume here that either passenger reports its listening
206         # address as https:/0.0.0.0:port/. If it reports "127.0.0.1"
207         # then the certificate won't match the host and reset() will
208         # fail certificate verification. If it reports "localhost",
209         # clients (notably Python SDK's websocket client) might
210         # resolve localhost as ::1 and then fail to connect.
211         subprocess.check_call([
212             'openssl', 'req', '-new', '-x509', '-nodes',
213             '-out', 'tmp/self-signed.pem',
214             '-keyout', 'tmp/self-signed.key',
215             '-days', '3650',
216             '-subj', '/CN=0.0.0.0'],
217         stdout=sys.stderr)
218
219     # Install the git repository fixtures.
220     gitdir = os.path.join(SERVICES_SRC_DIR, 'api', 'tmp', 'git')
221     gittarball = os.path.join(SERVICES_SRC_DIR, 'api', 'test', 'test.git.tar')
222     if not os.path.isdir(gitdir):
223         os.makedirs(gitdir)
224     subprocess.check_output(['tar', '-xC', gitdir, '-f', gittarball])
225
226     port = find_available_port()
227     env = os.environ.copy()
228     env['RAILS_ENV'] = 'test'
229     env['ARVADOS_WEBSOCKETS'] = 'yes'
230     env.pop('ARVADOS_TEST_API_HOST', None)
231     env.pop('ARVADOS_API_HOST', None)
232     env.pop('ARVADOS_API_HOST_INSECURE', None)
233     env.pop('ARVADOS_API_TOKEN', None)
234     start_msg = subprocess.check_output(
235         ['bundle', 'exec',
236          'passenger', 'start', '-d', '-p{}'.format(port),
237          '--pid-file', os.path.join(os.getcwd(), pid_file),
238          '--log-file', os.path.join(os.getcwd(), 'log/test.log'),
239          '--ssl',
240          '--ssl-certificate', 'tmp/self-signed.pem',
241          '--ssl-certificate-key', 'tmp/self-signed.key'],
242         env=env)
243
244     if not leave_running_atexit:
245         atexit.register(kill_server_pid, pid_file, passenger_root=api_src_dir)
246
247     match = re.search(r'Accessible via: https://(.*?)/', start_msg)
248     if not match:
249         raise Exception(
250             "Passenger did not report endpoint: {}".format(start_msg))
251     my_api_host = match.group(1)
252     os.environ['ARVADOS_API_HOST'] = my_api_host
253
254     # Make sure the server has written its pid file and started
255     # listening on its TCP port
256     find_server_pid(pid_file)
257     _wait_until_port_listens(port)
258
259     reset()
260     os.chdir(restore_cwd)
261
262 def reset():
263     """Reset the test server to fixture state.
264
265     This resets the ARVADOS_TEST_API_HOST provided by a parent process
266     if any, otherwise the server started by run().
267
268     It also resets ARVADOS_* environment vars to point to the test
269     server with admin credentials.
270     """
271     existing_api_host = os.environ.get('ARVADOS_TEST_API_HOST', my_api_host)
272     token = auth_token('admin')
273     httpclient = httplib2.Http(ca_certs=os.path.join(
274         SERVICES_SRC_DIR, 'api', 'tmp', 'self-signed.pem'))
275     httpclient.request(
276         'https://{}/database/reset'.format(existing_api_host),
277         'POST',
278         headers={'Authorization': 'OAuth2 {}'.format(token)})
279     os.environ['ARVADOS_API_HOST_INSECURE'] = 'true'
280     os.environ['ARVADOS_API_HOST'] = existing_api_host
281     os.environ['ARVADOS_API_TOKEN'] = token
282
283 def stop(force=False):
284     """Stop the API server, if one is running.
285
286     If force==False, kill it only if we started it ourselves. (This
287     supports the use case where a Python test suite calls run(), but
288     run() just uses the ARVADOS_TEST_API_HOST provided by the parent
289     process, and the test suite cleans up after itself by calling
290     stop(). In this case the test server provided by the parent
291     process should be left alone.)
292
293     If force==True, kill it even if we didn't start it
294     ourselves. (This supports the use case in __main__, where "run"
295     and "stop" happen in different processes.)
296     """
297     global my_api_host
298     if force or my_api_host is not None:
299         kill_server_pid(os.path.join(SERVICES_SRC_DIR, 'api', SERVER_PID_PATH))
300         my_api_host = None
301
302 def _start_keep(n, keep_args):
303     keep0 = tempfile.mkdtemp()
304     port = find_available_port()
305     keep_cmd = ["keepstore",
306                 "-volume={}".format(keep0),
307                 "-listen=:{}".format(port),
308                 "-pid="+_pidfile('keep{}'.format(n))]
309
310     for arg, val in keep_args.iteritems():
311         keep_cmd.append("{}={}".format(arg, val))
312
313     kp0 = subprocess.Popen(
314         keep_cmd, stdin=open('/dev/null'), stdout=sys.stderr)
315     with open(_pidfile('keep{}'.format(n)), 'w') as f:
316         f.write(str(kp0.pid))
317
318     with open("{}/keep{}.volume".format(TEST_TMPDIR, n), 'w') as f:
319         f.write(keep0)
320
321     _wait_until_port_listens(port)
322
323     return port
324
325 def run_keep(blob_signing_key=None, enforce_permissions=False):
326     stop_keep()
327
328     keep_args = {}
329     if blob_signing_key:
330         with open(os.path.join(TEST_TMPDIR, "keep.blob_signing_key"), "w") as f:
331             keep_args['--permission-key-file'] = f.name
332             f.write(blob_signing_key)
333     if enforce_permissions:
334         keep_args['--enforce-permissions'] = 'true'
335
336     api = arvados.api(
337         version='v1',
338         host=os.environ['ARVADOS_API_HOST'],
339         token=os.environ['ARVADOS_API_TOKEN'],
340         insecure=True)
341     for d in api.keep_services().list().execute()['items']:
342         api.keep_services().delete(uuid=d['uuid']).execute()
343     for d in api.keep_disks().list().execute()['items']:
344         api.keep_disks().delete(uuid=d['uuid']).execute()
345
346     for d in range(0, 2):
347         port = _start_keep(d, keep_args)
348         svc = api.keep_services().create(body={'keep_service': {
349             'uuid': 'zzzzz-bi6l4-keepdisk{:07d}'.format(d),
350             'service_host': 'localhost',
351             'service_port': port,
352             'service_type': 'disk',
353             'service_ssl_flag': False,
354         }}).execute()
355         api.keep_disks().create(body={
356             'keep_disk': {'keep_service_uuid': svc['uuid'] }
357         }).execute()
358
359 def _stop_keep(n):
360     kill_server_pid(_pidfile('keep{}'.format(n)), 0)
361     if os.path.exists("{}/keep{}.volume".format(TEST_TMPDIR, n)):
362         with open("{}/keep{}.volume".format(TEST_TMPDIR, n), 'r') as r:
363             shutil.rmtree(r.read(), True)
364         os.unlink("{}/keep{}.volume".format(TEST_TMPDIR, n))
365     if os.path.exists(os.path.join(TEST_TMPDIR, "keep.blob_signing_key")):
366         os.remove(os.path.join(TEST_TMPDIR, "keep.blob_signing_key"))
367
368 def stop_keep():
369     _stop_keep(0)
370     _stop_keep(1)
371
372 def run_keep_proxy():
373     if 'ARVADOS_TEST_PROXY_SERVICES' in os.environ:
374         return
375     stop_keep_proxy()
376
377     admin_token = auth_token('admin')
378     port = find_available_port()
379     env = os.environ.copy()
380     env['ARVADOS_API_TOKEN'] = admin_token
381     kp = subprocess.Popen(
382         ['keepproxy',
383          '-pid='+_pidfile('keepproxy'),
384          '-listen=:{}'.format(port)],
385         env=env, stdin=open('/dev/null'), stdout=sys.stderr)
386
387     api = arvados.api(
388         version='v1',
389         host=os.environ['ARVADOS_API_HOST'],
390         token=admin_token,
391         insecure=True)
392     for d in api.keep_services().list(
393             filters=[['service_type','=','proxy']]).execute()['items']:
394         api.keep_services().delete(uuid=d['uuid']).execute()
395     api.keep_services().create(body={'keep_service': {
396         'service_host': 'localhost',
397         'service_port': port,
398         'service_type': 'proxy',
399         'service_ssl_flag': False,
400     }}).execute()
401     os.environ["ARVADOS_KEEP_PROXY"] = "http://localhost:{}".format(port)
402     _setport('keepproxy', port)
403     _wait_until_port_listens(port)
404
405 def stop_keep_proxy():
406     if 'ARVADOS_TEST_PROXY_SERVICES' in os.environ:
407         return
408     kill_server_pid(_pidfile('keepproxy'), wait=0)
409
410 def run_arv_git_httpd():
411     if 'ARVADOS_TEST_PROXY_SERVICES' in os.environ:
412         return
413     stop_arv_git_httpd()
414
415     gitdir = os.path.join(SERVICES_SRC_DIR, 'api', 'tmp', 'git')
416     gitport = find_available_port()
417     env = os.environ.copy()
418     env.pop('ARVADOS_API_TOKEN', None)
419     agh = subprocess.Popen(
420         ['arv-git-httpd',
421          '-repo-root='+gitdir+'/test',
422          '-address=:'+str(gitport)],
423         env=env, stdin=open('/dev/null'), stdout=sys.stderr)
424     with open(_pidfile('arv-git-httpd'), 'w') as f:
425         f.write(str(agh.pid))
426     _setport('arv-git-httpd', gitport)
427     _wait_until_port_listens(gitport)
428
429 def stop_arv_git_httpd():
430     if 'ARVADOS_TEST_PROXY_SERVICES' in os.environ:
431         return
432     kill_server_pid(_pidfile('arv-git-httpd'), wait=0)
433
434 def run_nginx():
435     if 'ARVADOS_TEST_PROXY_SERVICES' in os.environ:
436         return
437     nginxconf = {}
438     nginxconf['KEEPPROXYPORT'] = _getport('keepproxy')
439     nginxconf['KEEPPROXYSSLPORT'] = find_available_port()
440     nginxconf['GITPORT'] = _getport('arv-git-httpd')
441     nginxconf['GITSSLPORT'] = find_available_port()
442     nginxconf['SSLCERT'] = os.path.join(SERVICES_SRC_DIR, 'api', 'tmp', 'self-signed.pem')
443     nginxconf['SSLKEY'] = os.path.join(SERVICES_SRC_DIR, 'api', 'tmp', 'self-signed.key')
444     nginxconf['ACCESSLOG'] = os.path.join(TEST_TMPDIR, 'nginx_access_log.fifo')
445
446     conftemplatefile = os.path.join(MY_DIRNAME, 'nginx.conf')
447     conffile = os.path.join(TEST_TMPDIR, 'nginx.conf')
448     with open(conffile, 'w') as f:
449         f.write(re.sub(
450             r'{{([A-Z]+)}}',
451             lambda match: str(nginxconf.get(match.group(1))),
452             open(conftemplatefile).read()))
453
454     env = os.environ.copy()
455     env['PATH'] = env['PATH']+':/sbin:/usr/sbin:/usr/local/sbin'
456
457     try:
458         os.remove(nginxconf['ACCESSLOG'])
459     except OSError:
460         pass
461
462     os.mkfifo(nginxconf['ACCESSLOG'], 0700)
463     nginx = subprocess.Popen(
464         ['nginx',
465          '-g', 'error_log stderr info;',
466          '-g', 'pid '+_pidfile('nginx')+';',
467          '-c', conffile],
468         env=env, stdin=open('/dev/null'), stdout=sys.stderr)
469     cat_access = subprocess.Popen(
470         ['cat', nginxconf['ACCESSLOG']],
471         stdout=sys.stderr)
472     _setport('keepproxy-ssl', nginxconf['KEEPPROXYSSLPORT'])
473     _setport('arv-git-httpd-ssl', nginxconf['GITSSLPORT'])
474
475 def stop_nginx():
476     if 'ARVADOS_TEST_PROXY_SERVICES' in os.environ:
477         return
478     kill_server_pid(_pidfile('nginx'), wait=0)
479
480 def _pidfile(program):
481     return os.path.join(TEST_TMPDIR, program + '.pid')
482
483 def _portfile(program):
484     return os.path.join(TEST_TMPDIR, program + '.port')
485
486 def _setport(program, port):
487     with open(_portfile(program), 'w') as f:
488         f.write(str(port))
489
490 # Returns 9 if program is not up.
491 def _getport(program):
492     try:
493         return int(open(_portfile(program)).read())
494     except IOError:
495         return 9
496
497 def _apiconfig(key):
498     if _cached_config:
499         return _cached_config[key]
500     def _load(f, required=True):
501         fullpath = os.path.join(SERVICES_SRC_DIR, 'api', 'config', f)
502         if not required and not os.path.exists(fullpath):
503             return {}
504         return yaml.load(fullpath)
505     cdefault = _load('application.default.yml')
506     csite = _load('application.yml', required=False)
507     _cached_config = {}
508     for section in [cdefault.get('common',{}), cdefault.get('test',{}),
509                     csite.get('common',{}), csite.get('test',{})]:
510         _cached_config.update(section)
511     return _cached_config[key]
512
513 def fixture(fix):
514     '''load a fixture yaml file'''
515     with open(os.path.join(SERVICES_SRC_DIR, 'api', "test", "fixtures",
516                            fix + ".yml")) as f:
517         yaml_file = f.read()
518         try:
519           trim_index = yaml_file.index("# Test Helper trims the rest of the file")
520           yaml_file = yaml_file[0:trim_index]
521         except ValueError:
522           pass
523         return yaml.load(yaml_file)
524
525 def auth_token(token_name):
526     return fixture("api_client_authorizations")[token_name]["api_token"]
527
528 def authorize_with(token_name):
529     '''token_name is the symbolic name of the token from the api_client_authorizations fixture'''
530     arvados.config.settings()["ARVADOS_API_TOKEN"] = auth_token(token_name)
531     arvados.config.settings()["ARVADOS_API_HOST"] = os.environ.get("ARVADOS_API_HOST")
532     arvados.config.settings()["ARVADOS_API_HOST_INSECURE"] = "true"
533
534 class TestCaseWithServers(unittest.TestCase):
535     """TestCase to start and stop supporting Arvados servers.
536
537     Define any of MAIN_SERVER, KEEP_SERVER, and/or KEEP_PROXY_SERVER
538     class variables as a dictionary of keyword arguments.  If you do,
539     setUpClass will start the corresponding servers by passing these
540     keyword arguments to the run, run_keep, and/or run_keep_server
541     functions, respectively.  It will also set Arvados environment
542     variables to point to these servers appropriately.  If you don't
543     run a Keep or Keep proxy server, setUpClass will set up a
544     temporary directory for Keep local storage, and set it as
545     KEEP_LOCAL_STORE.
546
547     tearDownClass will stop any servers started, and restore the
548     original environment.
549     """
550     MAIN_SERVER = None
551     KEEP_SERVER = None
552     KEEP_PROXY_SERVER = None
553
554     @staticmethod
555     def _restore_dict(src, dest):
556         for key in dest.keys():
557             if key not in src:
558                 del dest[key]
559         dest.update(src)
560
561     @classmethod
562     def setUpClass(cls):
563         cls._orig_environ = os.environ.copy()
564         cls._orig_config = arvados.config.settings().copy()
565         cls._cleanup_funcs = []
566         os.environ.pop('ARVADOS_KEEP_PROXY', None)
567         os.environ.pop('ARVADOS_EXTERNAL_CLIENT', None)
568         for server_kwargs, start_func, stop_func in (
569                 (cls.MAIN_SERVER, run, reset),
570                 (cls.KEEP_SERVER, run_keep, stop_keep),
571                 (cls.KEEP_PROXY_SERVER, run_keep_proxy, stop_keep_proxy)):
572             if server_kwargs is not None:
573                 start_func(**server_kwargs)
574                 cls._cleanup_funcs.append(stop_func)
575         if (cls.KEEP_SERVER is None) and (cls.KEEP_PROXY_SERVER is None):
576             cls.local_store = tempfile.mkdtemp()
577             os.environ['KEEP_LOCAL_STORE'] = cls.local_store
578             cls._cleanup_funcs.append(
579                 lambda: shutil.rmtree(cls.local_store, ignore_errors=True))
580         else:
581             os.environ.pop('KEEP_LOCAL_STORE', None)
582         arvados.config.initialize()
583
584     @classmethod
585     def tearDownClass(cls):
586         for clean_func in cls._cleanup_funcs:
587             clean_func()
588         cls._restore_dict(cls._orig_environ, os.environ)
589         cls._restore_dict(cls._orig_config, arvados.config.settings())
590
591
592 if __name__ == "__main__":
593     actions = [
594         'start', 'stop',
595         'start_keep', 'stop_keep',
596         'start_keep_proxy', 'stop_keep_proxy',
597         'start_arv-git-httpd', 'stop_arv-git-httpd',
598         'start_nginx', 'stop_nginx',
599     ]
600     parser = argparse.ArgumentParser()
601     parser.add_argument('action', type=str, help="one of {}".format(actions))
602     parser.add_argument('--auth', type=str, metavar='FIXTURE_NAME', help='Print authorization info for given api_client_authorizations fixture')
603     args = parser.parse_args()
604
605     if args.action not in actions:
606         print("Unrecognized action '{}'. Actions are: {}.".format(args.action, actions), file=sys.stderr)
607         sys.exit(1)
608     if args.action == 'start':
609         stop(force=('ARVADOS_TEST_API_HOST' not in os.environ))
610         run(leave_running_atexit=True)
611         host = os.environ['ARVADOS_API_HOST']
612         if args.auth is not None:
613             token = auth_token(args.auth)
614             print("export ARVADOS_API_TOKEN={}".format(pipes.quote(token)))
615             print("export ARVADOS_API_HOST={}".format(pipes.quote(host)))
616             print("export ARVADOS_API_HOST_INSECURE=true")
617         else:
618             print(host)
619     elif args.action == 'stop':
620         stop(force=('ARVADOS_TEST_API_HOST' not in os.environ))
621     elif args.action == 'start_keep':
622         run_keep()
623     elif args.action == 'stop_keep':
624         stop_keep()
625     elif args.action == 'start_keep_proxy':
626         run_keep_proxy()
627     elif args.action == 'stop_keep_proxy':
628         stop_keep_proxy()
629     elif args.action == 'start_arv-git-httpd':
630         run_arv_git_httpd()
631     elif args.action == 'stop_arv-git-httpd':
632         stop_arv_git_httpd()
633     elif args.action == 'start_nginx':
634         run_nginx()
635     elif args.action == 'stop_nginx':
636         stop_nginx()
637     else:
638         raise Exception("action recognized but not implemented!?")