test/common/mr_api_functions.sh

   1 #!/bin/bash
   2
   3 #  ============LICENSE_START===============================================
   4 #  Copyright (C) 2020 Nordix Foundation. All rights reserved.
   5 #  ========================================================================
   6 #  Licensed under the Apache License, Version 2.0 (the "License");
   7 #  you may not use this file except in compliance with the License.
   8 #  You may obtain a copy of the License at
   9 #
  10 #       http://www.apache.org/licenses/LICENSE-2.0
  11 #
  12 #  Unless required by applicable law or agreed to in writing, software
  13 #  distributed under the License is distributed on an "AS IS" BASIS,
  14 #  WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15 #  See the License for the specific language governing permissions and
  16 #  limitations under the License.
  17 #  ============LICENSE_END=================================================
  18 #
  19
  20 # This is a script that contains container/service management function
  21 # and test functions for Message Router - mr stub
  22
  23 ################ Test engine functions ################
  24
  25 # Create the image var used during the test
  26 # arg: <image-tag-suffix> (selects staging, snapshot, release etc)
  27 # <image-tag-suffix> is present only for images with staging, snapshot,release tags
  28 __MR_imagesetup() {
  29         __check_and_create_image_var MR "MRSTUB_IMAGE" "MRSTUB_IMAGE_BASE" "MRSTUB_IMAGE_TAG" LOCAL "$MR_STUB_DISPLAY_NAME"
  30 }
  31
  32 # Create the image var used during the test
  33 # arg: <image-tag-suffix> (selects staging, snapshot, release etc)
  34 # <image-tag-suffix> is present only for images with staging, snapshot,release tags
  35 __DMAAPMR_imagesetup() {
  36         __check_and_create_image_var DMAAPMR "ONAP_DMAAPMR_IMAGE"    "ONAP_DMAAPMR_IMAGE_BASE"  "ONAP_DMAAPMR_IMAGE_TAG"   REMOTE_RELEASE_ONAP "DMAAP Message Router"
  37         __check_and_create_image_var DMAAPMR "ONAP_ZOOKEEPER_IMAGE" "ONAP_ZOOKEEPER_IMAGE_BASE" "ONAP_ZOOKEEPER_IMAGE_TAG" REMOTE_RELEASE_ONAP "ZooKeeper"
  38         __check_and_create_image_var DMAAPMR "ONAP_KAFKA_IMAGE"     "ONAP_KAFKA_IMAGE_BASE"     "ONAP_KAFKA_IMAGE_TAG"     REMOTE_RELEASE_ONAP "Kafka"
  39 }
  40
  41 # Pull image from remote repo or use locally built image
  42 # arg: <pull-policy-override> <pull-policy-original>
  43 # <pull-policy-override> Shall be used for images allowing overriding. For example use a local image when test is started to use released images
  44 # <pull-policy-original> Shall be used for images that does not allow overriding
  45 # Both var may contain: 'remote', 'remote-remove' or 'local'
  46 __MR_imagepull() {
  47         echo -e $RED"Image for app MR shall never be pulled from remote repo"$ERED
  48 }
  49
  50 # Pull image from remote repo or use locally built image
  51 # arg: <pull-policy-override> <pull-policy-original>
  52 # <pull-policy-override> Shall be used for images allowing overriding. For example use a local image when test is started to use released (remote) images
  53 # <pull-policy-original> Shall be used for images that does not allow overriding
  54 # Both var may contain: 'remote', 'remote-remove' or 'local'
  55 __DMAAPMR_imagepull() {
  56         __check_and_pull_image $2 "DMAAP Message Router" $MR_DMAAP_APP_NAME ONAP_DMAAPMR_IMAGE
  57         __check_and_pull_image $2 "ZooKeeper" $MR_ZOOKEEPER_APP_NAME ONAP_ZOOKEEPER_IMAGE
  58         __check_and_pull_image $2 "Kafka" $MR_KAFKA_APP_NAME ONAP_KAFKA_IMAGE
  59 }
  60
  61 # Build image (only for simulator or interfaces stubs owned by the test environment)
  62 # arg: <image-tag-suffix> (selects staging, snapshot, release etc)
  63 # <image-tag-suffix> is present only for images with staging, snapshot,release tags
  64 __MR_imagebuild() {
  65         cd ../mrstub
  66         echo " Building MR - $MR_STUB_DISPLAY_NAME - image: $MRSTUB_IMAGE"
  67         docker build  --build-arg NEXUS_PROXY_REPO=$NEXUS_PROXY_REPO -t $MRSTUB_IMAGE . &> .dockererr
  68         if [ $? -eq 0 ]; then
  69                 echo -e  $GREEN"  Build Ok"$EGREEN
  70                 __retag_and_push_image MRSTUB_IMAGE
  71                 if [ $? -ne 0 ]; then
  72                         exit 1
  73                 fi
  74         else
  75                 echo -e $RED"  Build Failed"$ERED
  76                 ((RES_CONF_FAIL++))
  77                 cat .dockererr
  78                 echo -e $RED"Exiting...."$ERED
  79                 exit 1
  80         fi
  81 }
  82
  83 # Build image (only for simulator or interfaces stubs owned by the test environment)
  84 # arg: <image-tag-suffix> (selects staging, snapshot, release etc)
  85 # <image-tag-suffix> is present only for images with staging, snapshot,release tags
  86 __DMAAPMR_imagebuild() {
  87         echo -e $RED"Image for app DMAAPMR shall never be built"$ERED
  88 }
  89
  90 # Generate a string for each included image using the app display name and a docker images format string
  91 # If a custom image repo is used then also the source image from the local repo is listed
  92 # arg: <docker-images-format-string> <file-to-append>
  93 __MR_image_data() {
  94         echo -e "$MR_STUB_DISPLAY_NAME\t$(docker images --format $1 $MRSTUB_IMAGE)" >>   $2
  95         if [ ! -z "$MRSTUB_IMAGE_SOURCE" ]; then
  96                 echo -e "-- source image --\t$(docker images --format $1 $MRSTUB_IMAGE_SOURCE)" >>   $2
  97         fi
  98 }
  99
 100 # Generate a string for each included image using the app display name and a docker images format string
 101 # If a custom image repo is used then also the source image from the local repo is listed
 102 # arg: <docker-images-format-string> <file-to-append>
 103 __DMAAPMR_image_data() {
 104         echo -e "DMAAP Message Router\t$(docker images --format $1 $ONAP_DMAAPMR_IMAGE)" >>   $2
 105         if [ ! -z "$ONAP_DMAAPMR_IMAGE_SOURCE" ]; then
 106                 echo -e "-- source image --\t$(docker images --format $1 $ONAP_DMAAPMR_IMAGE_SOURCE)" >>   $2
 107         fi
 108         echo -e "ZooKeeper\t$(docker images --format $1 $ONAP_ZOOKEEPER_IMAGE)" >>   $2
 109         if [ ! -z "$ONAP_ZOOKEEPER_IMAGE_SOURCE" ]; then
 110                 echo -e "-- source image --\t$(docker images --format $1 $ONAP_ZOOKEEPER_IMAGE_SOURCE)" >>   $2
 111         fi
 112         echo -e "Kafka\t$(docker images --format $1 $ONAP_KAFKA_IMAGE)" >>   $2
 113         if [ ! -z "$ONAP_KAFKA_IMAGE_SOURCE" ]; then
 114                 echo -e "-- source image --\t$(docker images --format $1 $ONAP_KAFKA_IMAGE_SOURCE)" >>   $2
 115         fi
 116 }
 117
 118 # Scale kubernetes resources to zero
 119 # All resources shall be ordered to be scaled to 0, if relevant. If not relevant to scale, then do no action.
 120 # This function is called for apps fully managed by the test script
 121 __MR_kube_scale_zero() {
 122         __kube_scale_all_resources $KUBE_ONAP_NAMESPACE autotest MR
 123 }
 124
 125 # Scale kubernetes resources to zero
 126 # All resources shall be ordered to be scaled to 0, if relevant. If not relevant to scale, then do no action.
 127 # This function is called for apps fully managed by the test script
 128 __DMAAPMR_kube_scale_zero() {
 129         __kube_scale_all_resources $KUBE_ONAP_NAMESPACE autotest DMAAPMR
 130 }
 131
 132 # Scale kubernetes resources to zero and wait until this has been accomplished, if relevant. If not relevant to scale, then do no action.
 133 # This function is called for prestarted apps not managed by the test script.
 134 __MR_kube_scale_zero_and_wait() {
 135         echo -e " MR replicas kept as is"
 136 }
 137
 138 # Scale kubernetes resources to zero and wait until this has been accomplished, if relevant. If not relevant to scale, then do no action.
 139 # This function is called for prestarted apps not managed by the test script.
 140 __DMAAPMR_kube_scale_zero_and_wait() {
 141         echo -e " DMAAP replicas kept as is"
 142 }
 143
 144 # Delete all kube resouces for the app
 145 # This function is called for apps managed by the test script.
 146 __MR_kube_delete_all() {
 147         __kube_delete_all_resources $KUBE_ONAP_NAMESPACE autotest MR
 148 }
 149
 150 # Delete all kube resouces for the app
 151 # This function is called for apps managed by the test script.
 152 __DMAAPMR_kube_delete_all() {
 153         __kube_delete_all_resources $KUBE_ONAP_NAMESPACE autotest DMAAPMR
 154 }
 155
 156 # Store docker logs
 157 # This function is called for apps managed by the test script.
 158 # args: <log-dir> <file-prexix>
 159 __MR_store_docker_logs() {
 160         if [ $RUNMODE == "KUBE" ]; then
 161                 kubectl  logs -l "autotest=MR" -n $KUBE_ONAP_NAMESPACE --tail=-1 > $1$2_mr_stub.log 2>&1
 162         else
 163                 docker logs $MR_STUB_APP_NAME > $1$2_mr_stub.log 2>&1
 164         fi
 165 }
 166
 167 # Store docker logs
 168 # This function is called for apps managed by the test script.
 169 # args: <log-dir> <file-prexix>
 170 __DMAAPMR_store_docker_logs() {
 171         if [ $RUNMODE == "KUBE" ]; then
 172                 for podname in $(kubectl get pods -n $KUBE_ONAP_NAMESPACE -l "autotest=DMAAPMR" -o custom-columns=":metadata.name"); do
 173                         kubectl logs -n $KUBE_ONAP_NAMESPACE $podname --tail=-1 > $1$2_$podname.log 2>&1
 174                 done
 175         else
 176                 docker logs $MR_DMAAP_APP_NAME > $1$2mr.log 2>&1
 177                 docker logs $MR_KAFKA_APP_NAME > $1$2_mr_kafka.log 2>&1
 178                 docker logs $MR_ZOOKEEPER_APP_NAME > $1$2_mr_zookeeper.log 2>&1
 179         fi
 180 }
 181
 182 # Initial setup of protocol, host and ports
 183 # This function is called for apps managed by the test script.
 184 # args: -
 185 __MR_initial_setup() {
 186         use_mr_http
 187 }
 188
 189 # Initial setup of protocol, host and ports
 190 # This function is called for apps managed by the test script.
 191 # args: -
 192 __DMAAPMR_initial_setup() {
 193         :  # handle by __MR_initial_setup
 194 }
 195
 196 # Set app short-name, app name and namespace for logging runtime statistics of kubernets pods or docker containers
 197 # For docker, the namespace shall be excluded
 198 # This function is called for apps managed by the test script as well as for prestarted apps.
 199 # args: -
 200 __MR_statisics_setup() {
 201         if [ $RUNMODE == "KUBE" ]; then
 202                 echo "MR-STUB $MR_STUB_APP_NAME $KUBE_ONAP_NAMESPACE"
 203         else
 204                 echo "MR-STUB $MR_STUB_APP_NAME"
 205         fi
 206 }
 207
 208 # Set app short-name, app name and namespace for logging runtime statistics of kubernets pods or docker containers
 209 # For docker, the namespace shall be excluded
 210 # This function is called for apps managed by the test script as well as for prestarted apps.
 211 # args: -
 212 __DMAAPMR_statisics_setup() {
 213         if [ $RUNMODE == "KUBE" ]; then
 214                 echo "KAFKA $MR_KAFKA_APP_NAME $KUBE_ONAP_NAMESPACE MESSAGE-ROUTER $MR_DMAAP_APP_NAME $KUBE_ONAP_NAMESPACE ZOOKEEPER $MR_ZOOKEEPER_APP_NAME $KUBE_ONAP_NAMESPACE"
 215         else
 216                 echo "KAFKA $MR_KAFKA_APP_NAME MESSAGE-ROUTER $MR_DMAAP_APP_NAME ZOOKEEPER $MR_ZOOKEEPER_APP_NAME"
 217         fi
 218 }
 219
 220 #######################################################
 221
 222 # Description of port mappings when running MR-STUB only or MR-STUB + MESSAGE-ROUTER
 223 #
 224 # 'MR-STUB only' is started when only 'MR' is included in the test script. Both the test scripts and app will then use MR-STUB as a message-router simulator.
 225 #
 226 # 'MR-STUB + MESSAGE-ROUTER' is started when 'MR' and 'DMAAPMR' is included in the testscripts. DMAAPMR is the real message router including kafka and zookeeper.
 227 # In this configuration, MR-STUB is used by the test-script as frontend to the message-router while app are using the real message-router.
 228 #
 229 # DOCKER                                                                      KUBE
 230 # ---------------------------------------------------------------------------------------------------------------------------------------------------
 231
 232 #                             MR-STUB                                                             MR-STUB
 233 #                             +++++++                                                             +++++++
 234 # localhost                               container                           service                                 pod
 235 # ==============================================================================================================================================
 236 # 10 MR_STUB_LOCALHOST_PORT          ->   13 MR_INTERNAL_PORT                 15 MR_EXTERNAL_PORT                ->   17 MR_INTERNAL_PORT
 237 # 12 MR_STUB_LOCALHOST_SECURE_PORT   ->   14 MR_INTERNAL_SECURE_PORT          16 MR_EXTERNAL_SECURE_PORT                 ->   18 MR_INTERNAL_SECURE_PORT
 238
 239
 240
 241 #                             MESSAGE-ROUTER                                                      MESSAGE-ROUTER
 242 #                             ++++++++++++++                                                      ++++++++++++++
 243 # localhost                               container                           service                                 pod
 244 # ===================================================================================================================================================
 245 # 20 MR_DMAAP_LOCALHOST_PORT         ->   23 MR_INTERNAL_PORT                 25 MR_EXTERNAL_PORT                ->   27 MR_INTERNAL_PORT
 246 # 22 MR_DMAAP_LOCALHOST_SECURE_PORT  ->   24 MR_INTERNAL_SECURE_PORT          26 MR_EXTERNAL_SECURE_PORT                 ->   28 MR_INTERNAL_SECURE_PORT
 247
 248
 249 # Running only the MR-STUB - apps using MR-STUB
 250 # DOCKER                                                                      KUBE
 251 # localhost:          10 and 12                                                -
 252 # via proxy (script): 13 and 14                                               via proxy (script): 15 and 16
 253 # apps:               13 and 14                                               apps:               15 and 16
 254
 255 # Running MR-STUB (as frontend for test script) and MESSAGE-ROUTER - apps using MESSAGE-ROUTER
 256 # DOCKER                                                                      KUBE
 257 # localhost:          10 and 12                                                -
 258 # via proxy (script): 13 and 14                                               via proxy (script): 15 and 16
 259 # apps:               23 and 24                                               apps:               25 and 26
 260 #
 261
 262
 263
 264 use_mr_http() {
 265         __mr_set_protocoll "http" $MR_INTERNAL_PORT $MR_EXTERNAL_PORT $MR_INTERNAL_SECURE_PORT $MR_EXTERNAL_SECURE_PORT
 266 }
 267
 268 use_mr_https() {
 269         __mr_set_protocoll "https" $MR_INTERNAL_PORT $MR_EXTERNAL_PORT $MR_INTERNAL_SECURE_PORT $MR_EXTERNAL_SECURE_PORT
 270 }
 271
 272 # Setup paths to svc/container for internal and external access
 273 # args: <protocol> <internal-port> <external-port> <internal-secure-port> <external-secure-port>
 274 __mr_set_protocoll() {
 275         echo -e $BOLD"$MR_STUB_DISPLAY_NAME and $MR_DMAAP_DISPLAY_NAME protocol setting"$EBOLD
 276         echo -e " Using $BOLD http $EBOLD towards $MR_STUB_DISPLAY_NAME and $MR_DMAAP_DISPLAY_NAME"
 277
 278         ## Access to Dmaap mediator
 279
 280         MR_HTTPX=$1
 281
 282         if [ $MR_HTTPX == "http" ]; then
 283                 INT_PORT=$2
 284                 EXT_PORT=$3
 285         else
 286                 INT_PORT=$4
 287                 EXT_PORT=$5
 288         fi
 289
 290         # Access via test script
 291         MR_STUB_PATH=$MR_HTTPX"://"$MR_STUB_APP_NAME":"$INT_PORT  # access from script via proxy, docker
 292         MR_DMAAP_PATH=$MR_HTTPX"://"$MR_DMAAP_APP_NAME":"$INT_PORT # access from script via proxy, docker
 293         MR_DMAAP_ADAPTER_HTTP="" # Access to dmaap mr via proyx - set only if app is included
 294
 295         MR_SERVICE_PATH=$MR_STUB_PATH # access container->container, docker -  access pod->svc, kube
 296         MR_KAFKA_SERVICE_PATH=""
 297         MR_ZOOKEEPER_SERVICE_PATH=""
 298         __check_included_image "DMAAPMR"
 299         if [ $? -eq 0 ]; then
 300                 MR_SERVICE_PATH=$MR_DMAAP_PATH # access container->container, docker -  access pod->svc, kube
 301                 MR_DMAAP_ADAPTER_HTTP=$MR_DMAAP_PATH
 302
 303                 MR_KAFKA_SERVICE_PATH=$MR_KAFKA_APP_NAME":"$MR_KAFKA_PORT
 304                 MR_ZOOKEEPER_SERVICE_PATH=$MR_ZOOKEEPER_APP_NAME":"$MR_ZOOKEEPER_PORT
 305         fi
 306
 307         # For directing calls from script to e.g.PMS via message rounter
 308         # These cases shall always go though the  mr-stub
 309         MR_ADAPTER_HTTP="http://"$MR_STUB_APP_NAME":"$2
 310         MR_ADAPTER_HTTPS="https://"$MR_STUB_APP_NAME":"$4
 311
 312         MR_DMAAP_ADAPTER_TYPE="REST"
 313
 314
 315
 316         if [ $RUNMODE == "KUBE" ]; then
 317                 MR_STUB_PATH=$MR_HTTPX"://"$MR_STUB_APP_NAME.$KUBE_ONAP_NAMESPACE":"$EXT_PORT # access from script via proxy, kube
 318                 MR_DMAAP_PATH=$MR_HTTPX"://"$MR_DMAAP_APP_NAME.$KUBE_ONAP_NAMESPACE":"$EXT_PORT # access from script via proxy, kube
 319
 320                 MR_SERVICE_PATH=$MR_STUB_PATH
 321                 __check_included_image "DMAAPMR"
 322                 if [ $? -eq 0 ]; then
 323                         MR_SERVICE_PATH=$MR_DMAAP_PATH
 324                         MR_DMAAP_ADAPTER_HTTP=$MR_DMAAP_PATH
 325                         MR_KAFKA_SERVICE_PATH=$MR_KAFKA_APP_NAME"."$KUBE_ONAP_NAMESPACE":"$MR_KAFKA_PORT
 326                         MR_ZOOKEEPER_SERVICE_PATH=$MR_ZOOKEEPER_APP_NAME"."$KUBE_ONAP_NAMESPACE":"$MR_ZOOKEEPER_PORT
 327                 fi
 328                 __check_prestarted_image "DMAAPMR"
 329                 if [ $? -eq 0 ]; then
 330                         MR_SERVICE_PATH=$MR_DMAAP_PATH
 331                         MR_DMAAP_ADAPTER_HTTP=$MR_DMAAP_PATH
 332                         MR_KAFKA_SERVICE_PATH=$MR_KAFKA_APP_NAME"."$KUBE_ONAP_NAMESPACE":"$MR_KAFKA_PORT
 333                         MR_ZOOKEEPER_SERVICE_PATH=$MR_ZOOKEEPER_APP_NAME"."$KUBE_ONAP_NAMESPACE":"$MR_ZOOKEEPER_PORT
 334                 fi
 335
 336                 # For directing calls from script to e.g.PMS, via message rounter
 337                 # These calls shall always go though the  mr-stub
 338                 MR_ADAPTER_HTTP="http://"$MR_STUB_APP_NAME.$KUBE_ONAP_NAMESPACE":"$3
 339                 MR_ADAPTER_HTTPS="https://"$MR_STUB_APP_NAME.$KUBE_ONAP_NAMESPACE":"$5
 340         fi
 341
 342         # For calls from script to the mr-stub
 343         MR_STUB_ADAPTER=$MR_STUB_PATH
 344         MR_STUB_ADAPTER_TYPE="REST"
 345
 346         echo ""
 347
 348 }
 349
 350 # Export env vars for config files, docker compose and kube resources
 351 # args: -
 352 __dmaapmr_export_vars() {
 353         #Docker only
 354         export DOCKER_SIM_NWNAME
 355         export ONAP_ZOOKEEPER_IMAGE
 356         export MR_ZOOKEEPER_APP_NAME
 357         export ONAP_KAFKA_IMAGE
 358         export MR_KAFKA_APP_NAME
 359         export ONAP_DMAAPMR_IMAGE
 360         export MR_DMAAP_APP_NAME
 361         export MR_DMAAP_LOCALHOST_PORT
 362         export MR_INTERNAL_PORT
 363         export MR_DMAAP_LOCALHOST_SECURE_PORT
 364         export MR_INTERNAL_SECURE_PORT
 365         export MR_DMAAP_HOST_MNT_DIR
 366
 367         export KUBE_ONAP_NAMESPACE
 368         export MR_EXTERNAL_PORT
 369         export MR_EXTERNAL_SECURE_PORT
 370         export MR_KAFKA_PORT
 371         export MR_ZOOKEEPER_PORT
 372
 373         export MR_KAFKA_SERVICE_PATH
 374         export MR_ZOOKEEPER_SERVICE_PATH
 375 }
 376
 377 # Export env vars for config files, docker compose and kube resources
 378 # args: -
 379 __mr_export_vars() {
 380         #Docker only
 381         export DOCKER_SIM_NWNAME
 382         export MR_STUB_APP_NAME
 383         export MRSTUB_IMAGE
 384         export MR_INTERNAL_PORT
 385         export MR_INTERNAL_SECURE_PORT
 386         export MR_EXTERNAL_PORT
 387         export MR_EXTERNAL_SECURE_PORT
 388         export MR_STUB_LOCALHOST_PORT
 389         export MR_STUB_LOCALHOST_SECURE_PORT
 390         export MR_STUB_CERT_MOUNT_DIR
 391         export MR_STUB_DISPLAY_NAME
 392
 393         export KUBE_ONAP_NAMESPACE
 394         export MR_EXTERNAL_PORT
 395
 396         export MR_KAFKA_SERVICE_PATH
 397         export MR_ZOOKEEPER_SERVICE_PATH
 398 }
 399
 400
 401 # Start the Message Router stub interface in the simulator group
 402 # args: -
 403 # (Function for test scripts)
 404 start_mr() {
 405
 406         echo -e $BOLD"Starting $MR_DMAAP_DISPLAY_NAME and/or $MR_STUB_DISPLAY_NAME"$EBOLD
 407
 408         if [ $RUNMODE == "KUBE" ]; then
 409
 410         # Table of possible combinations of included mr and included/prestarted dmaap-mr
 411                 # mr can never be prestarted
 412                 # mr can be used stand alone
 413                 # if dmaapmr is included/prestarted, then mr is needed as well as frontend
 414
 415         # Inverted logic - 0 mean true, 1 means false
 416                 # mr prestarted      0 1 0 1 0 1 0 1 0 1 0 1 0 1 0 1
 417                 # mr included        0 0 1 1 0 0 1 1 0 0 1 1 0 0 1 1
 418                 # dmaap prestarted   0 0 0 0 1 1 1 1 0 0 0 0 1 1 1 1
 419                 # dmaap included     0 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1
 420                 # ==================================================
 421                 # OK                 1 1 1 1 1 0 1 1 1 0 1 1 1 0 1 1
 422
 423                 __check_prestarted_image 'MR'
 424                 retcode_prestarted_mr=$?
 425                 __check_included_image 'MR'
 426                 retcode_included_mr=$?
 427
 428                 __check_prestarted_image 'DMAAPMR'
 429                 retcode_prestarted_dmaapmr=$?
 430                 __check_included_image 'DMAAPMR'
 431                 retcode_included_dmaapmr=$?
 432
 433                 paramerror=1
 434
 435                 if [ $retcode_prestarted_mr -ne 0 ] && [ $retcode_included_mr -eq 0 ]; then
 436                         if [ $retcode_prestarted_dmaapmr -ne 0 ] && [ $retcode_included_dmaapmr -eq 0 ]; then
 437                                 paramerror=0
 438                         fi
 439                 fi
 440
 441                 if [ $retcode_prestarted_mr -ne 0 ] && [ $retcode_included_mr -eq 0 ]; then
 442                         if [ $retcode_prestarted_dmaapmr -eq 0 ] && [ $retcode_included_dmaapmr -ne 0 ]; then
 443                                 paramerror=0
 444                         fi
 445                 fi
 446
 447                 if [ $retcode_prestarted_mr -ne 0 ] && [ $retcode_included_mr -eq 0 ]; then
 448                         if [ $retcode_prestarted_dmaapmr -ne 0 ] && [ $retcode_included_dmaapmr -ne 0 ]; then
 449                                 paramerror=0
 450                         fi
 451                 fi
 452
 453                 if [ $paramerror -ne 0 ]; then
 454                                 echo -e $RED"The Message Router apps 'MR' and/or 'DMAAPMR' are not included in this test script"$ERED
 455                                 echo -e $RED"The Message Router will not be started"$ERED
 456                                 echo -e $RED"Both MR and DAAMPMR  - or - only MR - need to be included and/or prestarted"$ERED
 457                                 exit
 458                 fi
 459
 460                 if [ $retcode_prestarted_dmaapmr -eq 0 ]; then
 461                         echo -e " Using existing $MR_DMAAP_APP_NAME deployment and service"
 462                         __kube_scale deployment $MR_DMAAP_APP_NAME $KUBE_ONAP_NAMESPACE 1
 463                 fi
 464
 465                 if [ $retcode_included_dmaapmr -eq 0 ]; then
 466
 467                         __dmaapmr_export_vars
 468
 469                         #Check if onap namespace exists, if not create it
 470                         __kube_create_namespace $KUBE_ONAP_NAMESPACE
 471
 472                         # copy config files
 473                         MR_MNT_CONFIG_BASEPATH=$SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR$MR_DMAAP_HOST_MNT_DIR
 474                         cp -r $SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR$MR_DMAAP_HOST_CONFIG_DIR/*  $MR_MNT_CONFIG_BASEPATH
 475
 476                         # Create config maps - dmaapmr app
 477                         configfile=$MR_MNT_CONFIG_BASEPATH/mr/MsgRtrApi.properties
 478                         output_yaml=$PWD/tmp/dmaapmr_msgrtrapi_cfc.yaml
 479                         __kube_create_configmap dmaapmr-msgrtrapi.properties $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 480
 481                         configfile=$MR_MNT_CONFIG_BASEPATH/mr/logback.xml
 482                         output_yaml=$PWD/tmp/dmaapmr_logback_cfc.yaml
 483                         __kube_create_configmap dmaapmr-logback.xml $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 484
 485                         configfile=$MR_MNT_CONFIG_BASEPATH/mr/cadi.properties
 486                         output_yaml=$PWD/tmp/dmaapmr_cadi_cfc.yaml
 487                         __kube_create_configmap dmaapmr-cadi.properties $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 488
 489                         # Create config maps - kafka app
 490                         configfile=$MR_MNT_CONFIG_BASEPATH/kafka/zk_client_jaas.conf
 491                         output_yaml=$PWD/tmp/dmaapmr_zk_client_cfc.yaml
 492                         __kube_create_configmap dmaapmr-zk-client-jaas.conf $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 493
 494                         # Create config maps - zookeeper app
 495                         configfile=$MR_MNT_CONFIG_BASEPATH/zk/zk_server_jaas.conf
 496                         output_yaml=$PWD/tmp/dmaapmr_zk_server_cfc.yaml
 497                         __kube_create_configmap dmaapmr-zk-server-jaas.conf $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 498
 499                         # Create service
 500                         input_yaml=$SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR"/"svc.yaml
 501                         output_yaml=$PWD/tmp/dmaapmr_svc.yaml
 502                         __kube_create_instance service $MR_DMAAP_APP_NAME $input_yaml $output_yaml
 503
 504                         # Create app
 505                         input_yaml=$SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR"/"app.yaml
 506                         output_yaml=$PWD/tmp/dmaapmr_app.yaml
 507                         __kube_create_instance app $MR_DMAAP_APP_NAME $input_yaml $output_yaml
 508
 509
 510                         __check_service_start $MR_DMAAP_APP_NAME $MR_DMAAP_PATH$MR_DMAAP_ALIVE_URL
 511
 512                         if [ $# -gt 0 ]; then
 513                                 if [ $(($#%3)) -eq 0 ]; then
 514                                         while [ $# -gt 0 ]; do
 515                                                 __dmaap_pipeclean "$1" "$2/$1" "$2/$1/$3?timeout=1000&limit=100"
 516                                                 shift; shift; shift;
 517                                         done
 518                                 else
 519                                         echo -e $RED" args: start_mr [<topic-name> <base-url> <group-and-user-url>]*"$ERED
 520                                         echo -e $RED" Got: $@"$ERED
 521                                         exit 1
 522                                 fi
 523                         fi
 524
 525                         echo " Current topics:"
 526                         curlString="$MR_DMAAP_PATH/topics"
 527                         result=$(__do_curl "$curlString")
 528                         echo $result | indent2
 529
 530                 fi
 531
 532                 if [ $retcode_included_mr -eq 0 ]; then
 533
 534                         __mr_export_vars
 535
 536                         if [ $retcode_prestarted_dmaapmr -eq 0 ] || [ $retcode_included_dmaapmr -eq 0 ]; then  # Set topics for dmaap
 537                                 export TOPIC_READ="http://$MR_DMAAP_APP_NAME.$KUBE_ONAP_NAMESPACE:$MR_INTERNAL_PORT/events/$MR_READ_TOPIC"
 538                                 export TOPIC_WRITE="http://$MR_DMAAP_APP_NAME.$KUBE_ONAP_NAMESPACE:$MR_INTERNAL_PORT/events/$MR_WRITE_TOPIC/users/mr-stub?timeout=15000&limit=100"
 539                                 export GENERIC_TOPICS_UPLOAD_BASEURL="http://$MR_DMAAP_APP_NAME.$KUBE_ONAP_NAMESPACE:$MR_INTERNAL_PORT"
 540                         else
 541                                 export TOPIC_READ=""
 542                                 export TOPIC_WRITE=""
 543                                 export GENERIC_TOPICS_UPLOAD_BASEURL=""
 544                         fi
 545
 546                         #Check if onap namespace exists, if not create it
 547                         __kube_create_namespace $KUBE_ONAP_NAMESPACE
 548
 549                         # Create service
 550                         input_yaml=$SIM_GROUP"/"$MR_STUB_COMPOSE_DIR"/"svc.yaml
 551                         output_yaml=$PWD/tmp/mr_svc.yaml
 552                         __kube_create_instance service $MR_STUB_APP_NAME $input_yaml $output_yaml
 553
 554                         # Create app
 555                         input_yaml=$SIM_GROUP"/"$MR_STUB_COMPOSE_DIR"/"app.yaml
 556                         output_yaml=$PWD/tmp/mr_app.yaml
 557                         __kube_create_instance app $MR_STUB_APP_NAME $input_yaml $output_yaml
 558
 559
 560                 fi
 561
 562                 __check_service_start $MR_STUB_APP_NAME $MR_STUB_PATH$MR_STUB_ALIVE_URL
 563
 564         else
 565
 566                 __check_included_image 'DMAAPMR'
 567                 retcode_dmaapmr=$?
 568                 __check_included_image 'MR'
 569                 retcode_mr=$?
 570
 571                 if [ $retcode_dmaapmr -ne 0 ] && [ $retcode_mr -ne 0 ]; then
 572                                 echo -e $RED"The Message Router apps 'MR' and/or 'DMAAPMR' are not included in this test script"$ERED
 573                                 echo -e $RED"The Message Router will not be started"$ERED
 574                                 echo -e $RED"Both MR and DAAMPMR  - or - only MR - need to be included"
 575                                 exit
 576                 fi
 577
 578                 if [ $retcode_dmaapmr -eq 0 ] && [ $retcode_mr -ne 0 ]; then
 579                                 echo -e $RED"The Message Router apps 'MR' and/or 'DMAAPMR' are not included in this test script"$ERED
 580                                 echo -e $RED"The Message Router will not be started"$ERED
 581                                 echo -e $RED"Both MR and DAAMPMR  - or - only MR - need to be included"
 582                                 exit
 583                 fi
 584
 585                 export TOPIC_READ=""
 586         export TOPIC_WRITE=""
 587                 export GENERIC_TOPICS_UPLOAD_BASEURL=""
 588                 if [ $retcode_dmaapmr -eq 0 ]; then  # Set topics for dmaap
 589                         export TOPIC_READ="http://$MR_DMAAP_APP_NAME:$MR_INTERNAL_PORT/events/$MR_READ_TOPIC"
 590                         export TOPIC_WRITE="http://$MR_DMAAP_APP_NAME:$MR_INTERNAL_PORT/events/$MR_WRITE_TOPIC/users/mr-stub?timeout=15000&limit=100"
 591                         export GENERIC_TOPICS_UPLOAD_BASEURL="http://$MR_DMAAP_APP_NAME:$MR_INTERNAL_PORT"
 592                 fi
 593
 594                 __dmaapmr_export_vars
 595
 596                 if [ $retcode_dmaapmr -eq 0 ]; then
 597
 598                         # copy config files
 599                         MR_MNT_CONFIG_BASEPATH=$SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR$MR_DMAAP_HOST_MNT_DIR
 600                         cp -r $SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR$MR_DMAAP_HOST_CONFIG_DIR/*  $MR_MNT_CONFIG_BASEPATH
 601
 602                         # substitute vars
 603                         configfile=$MR_MNT_CONFIG_BASEPATH/mr/MsgRtrApi.properties
 604                         cp $configfile $configfile"_tmp"
 605                         envsubst < $configfile"_tmp" > $configfile
 606
 607                         __start_container $MR_DMAAP_COMPOSE_DIR "" NODOCKERARGS 1 $MR_DMAAP_APP_NAME
 608
 609                         __check_service_start $MR_DMAAP_APP_NAME $MR_DMAAP_PATH$MR_DMAAP_ALIVE_URL
 610
 611                         if [ $# -gt 0 ]; then
 612                                 if [ $(($#%3)) -eq 0 ]; then
 613                                         while [ $# -gt 0 ]; do
 614                                                 __dmaap_pipeclean "$1" "$2/$1" "$2/$1/$3?timeout=1000&limit=100"
 615                                                 shift; shift; shift;
 616                                         done
 617                                 else
 618                                         echo -e $RED" args: start_mr [<topic-name> <base-url> <group-and-user-url>]*"$ERED
 619                                         echo -e $RED" Got: $@"$ERED
 620                                         exit 1
 621                                 fi
 622                         fi
 623
 624                         echo " Current topics:"
 625                         curlString="$MR_DMAAP_PATH/topics"
 626                         result=$(__do_curl "$curlString")
 627                         echo $result | indent2
 628                 fi
 629
 630                 __mr_export_vars
 631
 632                 if [ $retcode_mr -eq 0 ]; then
 633                         __start_container $MR_STUB_COMPOSE_DIR "" NODOCKERARGS 1 $MR_STUB_APP_NAME
 634
 635                         __check_service_start $MR_STUB_APP_NAME $MR_STUB_PATH$MR_STUB_ALIVE_URL
 636                 fi
 637
 638         fi
 639         echo ""
 640         return 0
 641 }
 642
 643 # Create a dmaap mr topic
 644 # args: <topic name> <topic-description>
 645 __create_topic() {
 646         echo -ne " Creating topic: $1"$SAMELINE
 647
 648         json_topic="{\"topicName\":\"$1\",\"partitionCount\":\"2\", \"replicationCount\":\"3\", \"transactionEnabled\":\"false\",\"topicDescription\":\"$2\"}"
 649         fname="./tmp/$1.json"
 650         echo $json_topic > $fname
 651
 652         query="/topics/create"
 653         topic_retries=10
 654         while [ $topic_retries -gt 0 ]; do
 655                 let topic_retries=topic_retries-1
 656                 res="$(__do_curl_to_api DMAAPMR POST $query $fname)"
 657                 status=${res:${#res}-3}
 658
 659                 if [[ $status == "2"* ]]; then
 660                         topic_retries=0
 661                         echo -e " Creating topic: $1 $GREEN OK $EGREEN"
 662                 else
 663                         if [ $topic_retries -eq 0 ]; then
 664                                 echo -e " Creating topic: $1 $RED Failed $ERED"
 665                                 ((RES_CONF_FAIL++))
 666                                 return 1
 667                         else
 668                                 sleep 1
 669                         fi
 670                 fi
 671         done
 672         echo
 673         return 0
 674 }
 675
 676 # Do a pipeclean of a topic - to overcome dmaap mr bug...
 677 # args: <topic> <post-url> <read-url> [<num-retries>]
 678 __dmaap_pipeclean() {
 679         pipeclean_retries=50
 680         if [ $# -eq 4 ]; then
 681                 pipeclean_retries=$4
 682         fi
 683         echo -ne " Doing dmaap-mr pipe cleaning on topic: $1"$SAMELINE
 684         while [ $pipeclean_retries -gt 0 ]; do
 685                 if [[ $1 == *".text" ]]; then
 686                         echo "pipeclean-$1:$pipeclean_retries" > ./tmp/__dmaap_pipeclean.txt
 687                         curlString="$MR_DMAAP_PATH$2 -X POST  -H Content-Type:text/plain -d@./tmp/__dmaap_pipeclean.txt"
 688                 else
 689                         echo "{\"pipeclean-$1\":$pipeclean_retries}" > ./tmp/__dmaap_pipeclean.json
 690                         curlString="$MR_DMAAP_PATH$2 -X POST  -H Content-Type:application/json -d@./tmp/__dmaap_pipeclean.json"
 691                 fi
 692                 let pipeclean_retries=pipeclean_retries-1
 693                 result=$(__do_curl "$curlString")
 694                 if [ $? -ne 0 ]; then
 695                         sleep 1
 696                 else
 697                         curlString="$MR_DMAAP_PATH$3"
 698                         result=$(__do_curl "$curlString")
 699                         if [ $? -eq 0 ]; then
 700                                 if [ $result != "[]" ]; then
 701                                         echo -e " Doing dmaap-mr pipe cleaning on topic: $1 $GREEN OK $EGREEN"
 702                                         return 0
 703
 704                                 else
 705                                         sleep 1
 706                                 fi
 707                         fi
 708                 fi
 709         done
 710         echo -e "Doing dmaap-mr pipe cleaning on topic: $1 $RED Failed $ERED"
 711         return 1
 712 }
 713
 714
 715 ### Generic test cases for varaible checking
 716
 717 # Tests if a variable value in the MR stub is equal to a target value and and optional timeout.
 718 # Arg: <variable-name> <target-value> - This test set pass or fail depending on if the variable is
 719 # equal to the target or not.
 720 # Arg: <variable-name> <target-value> <timeout-in-sec>  - This test waits up to the timeout seconds
 721 # before setting pass or fail depending on if the variable value becomes equal to the target
 722 # value or not.
 723 # (Function for test scripts)
 724 mr_equal() {
 725         if [ $# -eq 2 ] || [ $# -eq 3 ]; then
 726                 __var_test "MR" $MR_STUB_PATH/counter/ $1 "=" $2 $3
 727         else
 728                 ((RES_CONF_FAIL++))
 729                 __print_err "Wrong args to mr_equal, needs two or three args: <sim-param> <target-value> [ timeout ]" $@
 730         fi
 731 }
 732
 733 # Tests if a variable value in the MR stub is greater than a target value and and optional timeout.
 734 # Arg: <variable-name> <target-value> - This test set pass or fail depending on if the variable is
 735 # greater than the target or not.
 736 # Arg: <variable-name> <target-value> <timeout-in-sec>  - This test waits up to the timeout seconds
 737 # before setting pass or fail depending on if the variable value becomes greater than the target
 738 # value or not.
 739 # (Function for test scripts)
 740 mr_greater() {
 741         if [ $# -eq 2 ] || [ $# -eq 3 ]; then
 742                 __var_test "MR" $MR_STUB_PATH/counter/ $1 ">" $2 $3
 743         else
 744                 ((RES_CONF_FAIL++))
 745                 __print_err "Wrong args to mr_greater, needs two or three args: <sim-param> <target-value> [ timeout ]" $@
 746         fi
 747 }
 748
 749 # Read a variable value from MR sim and send to stdout. Arg: <variable-name>
 750 mr_read() {
 751         echo "$(__do_curl $MR_STUB_PATH/counter/$1)"
 752 }
 753
 754 # Print a variable value from the MR stub.
 755 # arg: <variable-name>
 756 # (Function for test scripts)
 757 mr_print() {
 758         if [ $# != 1 ]; then
 759                 ((RES_CONF_FAIL++))
 760         __print_err "need one arg, <mr-param>" $@
 761                 exit 1
 762         fi
 763         echo -e $BOLD"INFO(${BASH_LINENO[0]}): mrstub, $1 = $(__do_curl $MR_STUB_PATH/counter/$1)"$EBOLD
 764 }
 765
 766 # Send json to topic in mr-stub.
 767 # arg: <topic-url> <json-msg>
 768 # (Function for test scripts)
 769 mr_api_send_json() {
 770         __log_conf_start $@
 771     if [ $# -ne 2 ]; then
 772         __print_err "<topic-url> <json-msg>" $@
 773         return 1
 774     fi
 775         query=$1
 776         fname=$PWD/tmp/json_payload_to_mr.json
 777         echo $2 > $fname
 778         res="$(__do_curl_to_api MRSTUB POST $query $fname)"
 779
 780         status=${res:${#res}-3}
 781         if [ $status -ne 200 ]; then
 782                 __log_conf_fail_status_code 200 $status
 783                 return 1
 784         fi
 785
 786         __log_conf_ok
 787         return 0
 788 }
 789
 790 # Send text to topic in mr-stub.
 791 # arg: <topic-url> <text-msg>
 792 # (Function for test scripts)
 793 mr_api_send_text() {
 794         __log_conf_start $@
 795     if [ $# -ne 2 ]; then
 796         __print_err "<topic-url> <text-msg>" $@
 797         return 1
 798     fi
 799         query=$1
 800         fname=$PWD/tmp/text_payload_to_mr.txt
 801         echo $2 > $fname
 802         res="$(__do_curl_to_api MRSTUB POST $query $fname text/plain)"
 803
 804         status=${res:${#res}-3}
 805         if [ $status -ne 200 ]; then
 806                 __log_conf_fail_status_code 200 $status
 807                 return 1
 808         fi
 809
 810         __log_conf_ok
 811         return 0
 812 }
 813
 814 # Send json file to topic in mr-stub.
 815 # arg: <topic-url> <json-file>
 816 # (Function for test scripts)
 817 mr_api_send_json_file() {
 818         __log_conf_start $@
 819     if [ $# -ne 2 ]; then
 820         __print_err "<topic-url> <json-file>" $@
 821         return 1
 822     fi
 823         query=$1
 824         if [ ! -f $2 ]; then
 825                 __log_test_fail_general "File $2 does not exist"
 826                 return 1
 827         fi
 828         #Create json array for mr
 829         datafile="tmp/mr_api_send_json_file.json"
 830         { echo -n "[" ; cat $2 ; echo -n "]" ;} > $datafile
 831
 832         res="$(__do_curl_to_api MRSTUB POST $query $datafile)"
 833
 834         status=${res:${#res}-3}
 835         if [ $status -ne 200 ]; then
 836                 __log_conf_fail_status_code 200 $status
 837                 return 1
 838         fi
 839
 840         __log_conf_ok
 841         return 0
 842 }
 843
 844 # Send text file to topic in mr-stub.
 845 # arg: <topic-url> <text-file>
 846 # (Function for test scripts)
 847 mr_api_send_text_file() {
 848         __log_conf_start $@
 849     if [ $# -ne 2 ]; then
 850         __print_err "<topic-url> <text-file>" $@
 851         return 1
 852     fi
 853         query=$1
 854         if [ ! -f $2 ]; then
 855                 __log_test_fail_general "File $2 does not exist"
 856                 return 1
 857         fi
 858
 859         res="$(__do_curl_to_api MRSTUB POST $query $2 text/plain)"
 860
 861         status=${res:${#res}-3}
 862         if [ $status -ne 200 ]; then
 863                 __log_conf_fail_status_code 200 $status
 864                 return 1
 865         fi
 866
 867         __log_conf_ok
 868         return 0
 869 }
 870
 871 # Create json file for payload
 872 # arg: <size-in-kb> <filename>
 873 mr_api_generate_json_payload_file() {
 874         __log_conf_start $@
 875     if [ $# -ne 2 ]; then
 876         __print_err "<topic-url> <json-file>" $@
 877         return 1
 878     fi
 879         if [ $1 -lt 1 ] || [ $1 -gt 10000 ]; then
 880                 __log_conf_fail_general "Only size between 1k and 10000k supported"
 881                 return 1
 882         fi
 883         echo -n "{\"abcdefghijklmno\":[" > $2
 884         LEN=$(($1*100-2))
 885         echo -n "\""ABCDEFG"\"" >> $2
 886         for ((idx=1; idx<$LEN; idx++))
 887         do
 888                 echo -n ",\"ABCDEFG\"" >> $2
 889         done
 890         echo -n "]}" >> $2
 891
 892         __log_conf_ok
 893         return 0
 894 }
 895
 896 # Create tet file for payload
 897 # arg: <size-in-kb> <filename>
 898 mr_api_generate_text_payload_file() {
 899         __log_conf_start $@
 900     if [ $# -ne 2 ]; then
 901         __print_err "<topic-url> <text-file>" $@
 902         return 1
 903     fi
 904         if [ $1 -lt 1 ] || [ $1 -gt 10000 ]; then
 905                 __log_conf_fail_general "Only size between 1k and 10000k supported"
 906                 return 1
 907         fi
 908         echo -n "" > $2
 909         LEN=$(($1*100))
 910         for ((idx=0; idx<$LEN; idx++))
 911         do
 912                 echo -n "ABCDEFGHIJ" >> $2
 913         done
 914
 915         __log_conf_ok
 916         return 0
 917 }