doc/user/cwl/federated-workflows.html.textile.liquid

   1 ---
   2 layout: default
   3 navsection: userguide
   4 title: Federated Multi-Cluster Workflows
   5 ...
   6 {% comment %}
   7 Copyright (C) The Arvados Authors. All rights reserved.
   8
   9 SPDX-License-Identifier: CC-BY-SA-3.0
  10 {% endcomment %}
  11
  12 Arvados supports federated workflows, where different steps of a running workflow may execute on different clusters.  Arvados manages data transfer and delegation of credentials, so this as easy as simply adding cluster target hints to your existing workflow.  This supports running analysis on geographically dispersed data (avoiding expensive data transfers by sending the computation to the data) and "hybrid cloud" configurations where an on-premise cluster can expand its capabilities by delegating work to a cloud-base cluster.
  13
  14 h2. Federated scatter/gather example
  15
  16 {% codeblock as yaml %}
  17 {% include 'federated_cwl' %}
  18 {% endcodeblock %}
  19
  20 {% codeblock as yaml %}
  21 {% include 'shards_yml' %}
  22 {% endcodeblock %}