test/common/mr_api_functions.sh

   1 #!/bin/bash
   2
   3 #  ============LICENSE_START===============================================
   4 #  Copyright (C) 2020 Nordix Foundation. All rights reserved.
   5 #  ========================================================================
   6 #  Licensed under the Apache License, Version 2.0 (the "License");
   7 #  you may not use this file except in compliance with the License.
   8 #  You may obtain a copy of the License at
   9 #
  10 #       http://www.apache.org/licenses/LICENSE-2.0
  11 #
  12 #  Unless required by applicable law or agreed to in writing, software
  13 #  distributed under the License is distributed on an "AS IS" BASIS,
  14 #  WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15 #  See the License for the specific language governing permissions and
  16 #  limitations under the License.
  17 #  ============LICENSE_END=================================================
  18 #
  19
  20 # This is a script that contains container/service management function
  21 # and test functions for Message Router - mr stub
  22
  23 ################ Test engine functions ################
  24
  25 # Create the image var used during the test
  26 # arg: <image-tag-suffix> (selects staging, snapshot, release etc)
  27 # <image-tag-suffix> is present only for images with staging, snapshot,release tags
  28 __MR_imagesetup() {
  29         __check_and_create_image_var MR "MRSTUB_IMAGE" "MRSTUB_IMAGE_BASE" "MRSTUB_IMAGE_TAG" LOCAL "$MR_STUB_DISPLAY_NAME"
  30 }
  31
  32 # Create the image var used during the test
  33 # arg: <image-tag-suffix> (selects staging, snapshot, release etc)
  34 # <image-tag-suffix> is present only for images with staging, snapshot,release tags
  35 __DMAAPMR_imagesetup() {
  36         __check_and_create_image_var DMAAPMR "ONAP_DMAAPMR_IMAGE"    "ONAP_DMAAPMR_IMAGE_BASE"  "ONAP_DMAAPMR_IMAGE_TAG"   REMOTE_RELEASE_ONAP "DMAAP Message Router"
  37         __check_and_create_image_var DMAAPMR "ONAP_ZOOKEEPER_IMAGE" "ONAP_ZOOKEEPER_IMAGE_BASE" "ONAP_ZOOKEEPER_IMAGE_TAG" REMOTE_RELEASE_ONAP "ZooKeeper"
  38         __check_and_create_image_var DMAAPMR "ONAP_KAFKA_IMAGE"     "ONAP_KAFKA_IMAGE_BASE"     "ONAP_KAFKA_IMAGE_TAG"     REMOTE_RELEASE_ONAP "Kafka"
  39 }
  40
  41 # Pull image from remote repo or use locally built image
  42 # arg: <pull-policy-override> <pull-policy-original>
  43 # <pull-policy-override> Shall be used for images allowing overriding. For example use a local image when test is started to use released images
  44 # <pull-policy-original> Shall be used for images that does not allow overriding
  45 # Both var may contain: 'remote', 'remote-remove' or 'local'
  46 __MR_imagepull() {
  47         echo -e $RED"Image for app MR shall never be pulled from remote repo"$ERED
  48 }
  49
  50 # Pull image from remote repo or use locally built image
  51 # arg: <pull-policy-override> <pull-policy-original>
  52 # <pull-policy-override> Shall be used for images allowing overriding. For example use a local image when test is started to use released (remote) images
  53 # <pull-policy-original> Shall be used for images that does not allow overriding
  54 # Both var may contain: 'remote', 'remote-remove' or 'local'
  55 __DMAAPMR_imagepull() {
  56         __check_and_pull_image $2 "DMAAP Message Router" $MR_DMAAP_APP_NAME ONAP_DMAAPMR_IMAGE
  57         __check_and_pull_image $2 "ZooKeeper" $MR_ZOOKEEPER_APP_NAME ONAP_ZOOKEEPER_IMAGE
  58         __check_and_pull_image $2 "Kafka" $MR_KAFKA_APP_NAME ONAP_KAFKA_IMAGE
  59 }
  60
  61 # Build image (only for simulator or interfaces stubs owned by the test environment)
  62 # arg: <image-tag-suffix> (selects staging, snapshot, release etc)
  63 # <image-tag-suffix> is present only for images with staging, snapshot,release tags
  64 __MR_imagebuild() {
  65         cd ../mrstub
  66         echo " Building MR - $MR_STUB_DISPLAY_NAME - image: $MRSTUB_IMAGE"
  67         docker build  --build-arg NEXUS_PROXY_REPO=$NEXUS_PROXY_REPO -t $MRSTUB_IMAGE . &> .dockererr
  68         if [ $? -eq 0 ]; then
  69                 echo -e  $GREEN"  Build Ok"$EGREEN
  70                 __retag_and_push_image MRSTUB_IMAGE
  71                 if [ $? -ne 0 ]; then
  72                         exit 1
  73                 fi
  74         else
  75                 echo -e $RED"  Build Failed"$ERED
  76                 ((RES_CONF_FAIL++))
  77                 cat .dockererr
  78                 echo -e $RED"Exiting...."$ERED
  79                 exit 1
  80         fi
  81 }
  82
  83 # Build image (only for simulator or interfaces stubs owned by the test environment)
  84 # arg: <image-tag-suffix> (selects staging, snapshot, release etc)
  85 # <image-tag-suffix> is present only for images with staging, snapshot,release tags
  86 __DMAAPMR_imagebuild() {
  87         echo -e $RED"Image for app DMAAPMR shall never be built"$ERED
  88 }
  89
  90 # Generate a string for each included image using the app display name and a docker images format string
  91 # If a custom image repo is used then also the source image from the local repo is listed
  92 # arg: <docker-images-format-string> <file-to-append>
  93 __MR_image_data() {
  94         echo -e "$MR_STUB_DISPLAY_NAME\t$(docker images --format $1 $MRSTUB_IMAGE)" >>   $2
  95         if [ ! -z "$MRSTUB_IMAGE_SOURCE" ]; then
  96                 echo -e "-- source image --\t$(docker images --format $1 $MRSTUB_IMAGE_SOURCE)" >>   $2
  97         fi
  98 }
  99
 100 # Generate a string for each included image using the app display name and a docker images format string
 101 # If a custom image repo is used then also the source image from the local repo is listed
 102 # arg: <docker-images-format-string> <file-to-append>
 103 __DMAAPMR_image_data() {
 104         echo -e "DMAAP Message Router\t$(docker images --format $1 $ONAP_DMAAPMR_IMAGE)" >>   $2
 105         if [ ! -z "$ONAP_DMAAPMR_IMAGE_SOURCE" ]; then
 106                 echo -e "-- source image --\t$(docker images --format $1 $ONAP_DMAAPMR_IMAGE_SOURCE)" >>   $2
 107         fi
 108         echo -e "ZooKeeper\t$(docker images --format $1 $ONAP_ZOOKEEPER_IMAGE)" >>   $2
 109         if [ ! -z "$ONAP_ZOOKEEPER_IMAGE_SOURCE" ]; then
 110                 echo -e "-- source image --\t$(docker images --format $1 $ONAP_ZOOKEEPER_IMAGE_SOURCE)" >>   $2
 111         fi
 112         echo -e "Kafka\t$(docker images --format $1 $ONAP_KAFKA_IMAGE)" >>   $2
 113         if [ ! -z "$ONAP_KAFKA_IMAGE_SOURCE" ]; then
 114                 echo -e "-- source image --\t$(docker images --format $1 $ONAP_KAFKA_IMAGE_SOURCE)" >>   $2
 115         fi
 116 }
 117
 118 # Scale kubernetes resources to zero
 119 # All resources shall be ordered to be scaled to 0, if relevant. If not relevant to scale, then do no action.
 120 # This function is called for apps fully managed by the test script
 121 __MR_kube_scale_zero() {
 122         __kube_scale_all_resources $KUBE_ONAP_NAMESPACE autotest MR
 123 }
 124
 125 # Scale kubernetes resources to zero
 126 # All resources shall be ordered to be scaled to 0, if relevant. If not relevant to scale, then do no action.
 127 # This function is called for apps fully managed by the test script
 128 __DMAAPMR_kube_scale_zero() {
 129         __kube_scale_all_resources $KUBE_ONAP_NAMESPACE autotest DMAAPMR
 130 }
 131
 132 # Scale kubernetes resources to zero and wait until this has been accomplished, if relevant. If not relevant to scale, then do no action.
 133 # This function is called for prestarted apps not managed by the test script.
 134 __MR_kube_scale_zero_and_wait() {
 135         echo -e " MR replicas kept as is"
 136 }
 137
 138 # Scale kubernetes resources to zero and wait until this has been accomplished, if relevant. If not relevant to scale, then do no action.
 139 # This function is called for prestarted apps not managed by the test script.
 140 __DMAAPMR_kube_scale_zero_and_wait() {
 141         echo -e " DMAAP replicas kept as is"
 142 }
 143
 144 # Delete all kube resouces for the app
 145 # This function is called for apps managed by the test script.
 146 __MR_kube_delete_all() {
 147         __kube_delete_all_resources $KUBE_ONAP_NAMESPACE autotest MR
 148 }
 149
 150 # Delete all kube resouces for the app
 151 # This function is called for apps managed by the test script.
 152 __DMAAPMR_kube_delete_all() {
 153         __kube_delete_all_resources $KUBE_ONAP_NAMESPACE autotest DMAAPMR
 154 }
 155
 156 # Store docker logs
 157 # This function is called for apps managed by the test script.
 158 # args: <log-dir> <file-prexix>
 159 __MR_store_docker_logs() {
 160         if [ $RUNMODE == "KUBE" ]; then
 161                 kubectl  logs -l "autotest=MR" -n $KUBE_ONAP_NAMESPACE --tail=-1 > $1$2_mr_stub.log 2>&1
 162         else
 163                 docker logs $MR_STUB_APP_NAME > $1$2_mr_stub.log 2>&1
 164         fi
 165 }
 166
 167 # Store docker logs
 168 # This function is called for apps managed by the test script.
 169 # args: <log-dir> <file-prexix>
 170 __DMAAPMR_store_docker_logs() {
 171         if [ $RUNMODE == "KUBE" ]; then
 172                 for podname in $(kubectl get pods -n $KUBE_ONAP_NAMESPACE -l "autotest=DMAAPMR" -o custom-columns=":metadata.name"); do
 173                         kubectl logs -n $KUBE_ONAP_NAMESPACE $podname --tail=-1 > $1$2_$podname.log 2>&1
 174                 done
 175         else
 176                 docker logs $MR_DMAAP_APP_NAME > $1$2mr.log 2>&1
 177                 docker logs $MR_KAFKA_APP_NAME > $1$2_mr_kafka.log 2>&1
 178                 docker logs $MR_ZOOKEEPER_APP_NAME > $1$2_mr_zookeeper.log 2>&1
 179         fi
 180 }
 181
 182 # Initial setup of protocol, host and ports
 183 # This function is called for apps managed by the test script.
 184 # args: -
 185 __MR_initial_setup() {
 186         use_mr_http
 187 }
 188
 189 # Initial setup of protocol, host and ports
 190 # This function is called for apps managed by the test script.
 191 # args: -
 192 __DMAAPMR_initial_setup() {
 193         :  # handle by __MR_initial_setup
 194 }
 195
 196 # Set app short-name, app name and namespace for logging runtime statistics of kubernets pods or docker containers
 197 # For docker, the namespace shall be excluded
 198 # This function is called for apps managed by the test script as well as for prestarted apps.
 199 # args: -
 200 __MR_statisics_setup() {
 201         if [ $RUNMODE == "KUBE" ]; then
 202                 echo "MR-STUB $MR_STUB_APP_NAME $KUBE_ONAP_NAMESPACE"
 203         else
 204                 echo "MR-STUB $MR_STUB_APP_NAME"
 205         fi
 206 }
 207
 208 # Set app short-name, app name and namespace for logging runtime statistics of kubernets pods or docker containers
 209 # For docker, the namespace shall be excluded
 210 # This function is called for apps managed by the test script as well as for prestarted apps.
 211 # args: -
 212 __DMAAPMR_statisics_setup() {
 213         if [ $RUNMODE == "KUBE" ]; then
 214                 echo "KAFKA $MR_KAFKA_APP_NAME $KUBE_ONAP_NAMESPACE MESSAGE-ROUTER $MR_DMAAP_APP_NAME $KUBE_ONAP_NAMESPACE ZOOKEEPER $MR_ZOOKEEPER_APP_NAME $KUBE_ONAP_NAMESPACE"
 215         else
 216                 echo "KAFKA $MR_KAFKA_APP_NAME MESSAGE-ROUTER $MR_DMAAP_APP_NAME ZOOKEEPER $MR_ZOOKEEPER_APP_NAME"
 217         fi
 218 }
 219
 220 #######################################################
 221
 222 # Description of port mappings when running MR-STUB only or MR-STUB + MESSAGE-ROUTER
 223 #
 224 # 'MR-STUB only' is started when only 'MR' is included in the test script. Both the test scripts and app will then use MR-STUB as a message-router simulator.
 225 #
 226 # 'MR-STUB + MESSAGE-ROUTER' is started when 'MR' and 'DMAAPMR' is included in the testscripts. DMAAPMR is the real message router including kafka and zookeeper.
 227 # In this configuration, MR-STUB is used by the test-script as frontend to the message-router while app are using the real message-router.
 228 #
 229 # DOCKER                                                                      KUBE
 230 # ---------------------------------------------------------------------------------------------------------------------------------------------------
 231
 232 #                             MR-STUB                                                             MR-STUB
 233 #                             +++++++                                                             +++++++
 234 # localhost                               container                           service                                 pod
 235 # ==============================================================================================================================================
 236 # 10 MR_STUB_LOCALHOST_PORT          ->   13 MR_INTERNAL_PORT                 15 MR_EXTERNAL_PORT                ->   17 MR_INTERNAL_PORT
 237 # 12 MR_STUB_LOCALHOST_SECURE_PORT   ->   14 MR_INTERNAL_SECURE_PORT          16 MR_EXTERNAL_SECURE_PORT                 ->   18 MR_INTERNAL_SECURE_PORT
 238
 239
 240
 241 #                             MESSAGE-ROUTER                                                      MESSAGE-ROUTER
 242 #                             ++++++++++++++                                                      ++++++++++++++
 243 # localhost                               container                           service                                 pod
 244 # ===================================================================================================================================================
 245 # 20 MR_DMAAP_LOCALHOST_PORT         ->   23 MR_INTERNAL_PORT                 25 MR_EXTERNAL_PORT                ->   27 MR_INTERNAL_PORT
 246 # 22 MR_DMAAP_LOCALHOST_SECURE_PORT  ->   24 MR_INTERNAL_SECURE_PORT          26 MR_EXTERNAL_SECURE_PORT                 ->   28 MR_INTERNAL_SECURE_PORT
 247
 248
 249 # Running only the MR-STUB - apps using MR-STUB
 250 # DOCKER                                                                      KUBE
 251 # localhost:          10 and 12                                                -
 252 # via proxy (script): 13 and 14                                               via proxy (script): 15 and 16
 253 # apps:               13 and 14                                               apps:               15 and 16
 254
 255 # Running MR-STUB (as frontend for test script) and MESSAGE-ROUTER - apps using MESSAGE-ROUTER
 256 # DOCKER                                                                      KUBE
 257 # localhost:          10 and 12                                                -
 258 # via proxy (script): 13 and 14                                               via proxy (script): 15 and 16
 259 # apps:               23 and 24                                               apps:               25 and 26
 260 #
 261
 262
 263
 264 use_mr_http() {
 265         __mr_set_protocoll "http" $MR_INTERNAL_PORT $MR_EXTERNAL_PORT $MR_INTERNAL_SECURE_PORT $MR_EXTERNAL_SECURE_PORT
 266 }
 267
 268 use_mr_https() {
 269         __mr_set_protocoll "https" $MR_INTERNAL_PORT $MR_EXTERNAL_PORT $MR_INTERNAL_SECURE_PORT $MR_EXTERNAL_SECURE_PORT
 270 }
 271
 272 # Setup paths to svc/container for internal and external access
 273 # args: <protocol> <internal-port> <external-port> <internal-secure-port> <external-secure-port>
 274 __mr_set_protocoll() {
 275         echo -e $BOLD"$MR_STUB_DISPLAY_NAME and $MR_DMAAP_DISPLAY_NAME protocol setting"$EBOLD
 276         echo -e " Using $BOLD $1 $EBOLD towards $MR_STUB_DISPLAY_NAME and $MR_DMAAP_DISPLAY_NAME"
 277
 278         ## Access to Dmaap mediator
 279
 280         MR_HTTPX=$1
 281
 282         if [ $MR_HTTPX == "http" ]; then
 283                 INT_PORT=$2
 284                 EXT_PORT=$3
 285         else
 286                 INT_PORT=$4
 287                 EXT_PORT=$5
 288         fi
 289
 290         # Access via test script
 291         MR_STUB_PATH=$MR_HTTPX"://"$MR_STUB_APP_NAME":"$INT_PORT  # access from script via proxy, docker
 292         MR_DMAAP_PATH=$MR_HTTPX"://"$MR_DMAAP_APP_NAME":"$INT_PORT # access from script via proxy, docker
 293         MR_DMAAP_ADAPTER_HTTP="" # Access to dmaap mr via proyx - set only if app is included
 294
 295         MR_SERVICE_PATH=$MR_STUB_PATH # access container->container, docker -  access pod->svc, kube
 296         MR_KAFKA_SERVICE_PATH=""
 297         MR_ZOOKEEPER_SERVICE_PATH=""
 298         __check_included_image "DMAAPMR"
 299         if [ $? -eq 0 ]; then
 300                 MR_SERVICE_PATH=$MR_DMAAP_PATH # access container->container, docker -  access pod->svc, kube
 301                 MR_DMAAP_ADAPTER_HTTP=$MR_DMAAP_PATH
 302
 303                 MR_KAFKA_SERVICE_PATH=$MR_KAFKA_APP_NAME":"$MR_KAFKA_PORT
 304                 MR_ZOOKEEPER_SERVICE_PATH=$MR_ZOOKEEPER_APP_NAME":"$MR_ZOOKEEPER_PORT
 305         fi
 306
 307         # For directing calls from script to e.g.PMS via message rounter
 308         # These cases shall always go though the  mr-stub
 309         MR_ADAPTER_HTTP="http://"$MR_STUB_APP_NAME":"$2
 310         MR_ADAPTER_HTTPS="https://"$MR_STUB_APP_NAME":"$4
 311
 312         MR_DMAAP_ADAPTER_TYPE="REST"
 313
 314
 315
 316         if [ $RUNMODE == "KUBE" ]; then
 317                 MR_STUB_PATH=$MR_HTTPX"://"$MR_STUB_APP_NAME.$KUBE_ONAP_NAMESPACE":"$EXT_PORT # access from script via proxy, kube
 318                 MR_DMAAP_PATH=$MR_HTTPX"://"$MR_DMAAP_APP_NAME.$KUBE_ONAP_NAMESPACE":"$EXT_PORT # access from script via proxy, kube
 319
 320                 MR_SERVICE_PATH=$MR_STUB_PATH
 321                 __check_included_image "DMAAPMR"
 322                 if [ $? -eq 0 ]; then
 323                         MR_SERVICE_PATH=$MR_DMAAP_PATH
 324                         MR_DMAAP_ADAPTER_HTTP=$MR_DMAAP_PATH
 325                         MR_KAFKA_SERVICE_PATH=$MR_KAFKA_APP_NAME"."$KUBE_ONAP_NAMESPACE":"$MR_KAFKA_PORT
 326                         MR_ZOOKEEPER_SERVICE_PATH=$MR_ZOOKEEPER_APP_NAME"."$KUBE_ONAP_NAMESPACE":"$MR_ZOOKEEPER_PORT
 327                 fi
 328                 __check_prestarted_image "DMAAPMR"
 329                 if [ $? -eq 0 ]; then
 330                         MR_SERVICE_PATH=$MR_DMAAP_PATH
 331                         MR_DMAAP_ADAPTER_HTTP=$MR_DMAAP_PATH
 332                         MR_KAFKA_SERVICE_PATH=$MR_KAFKA_APP_NAME"."$KUBE_ONAP_NAMESPACE":"$MR_KAFKA_PORT
 333                         MR_ZOOKEEPER_SERVICE_PATH=$MR_ZOOKEEPER_APP_NAME"."$KUBE_ONAP_NAMESPACE":"$MR_ZOOKEEPER_PORT
 334                 fi
 335
 336                 # For directing calls from script to e.g.PMS, via message rounter
 337                 # These calls shall always go though the  mr-stub
 338                 MR_ADAPTER_HTTP="http://"$MR_STUB_APP_NAME.$KUBE_ONAP_NAMESPACE":"$3
 339                 MR_ADAPTER_HTTPS="https://"$MR_STUB_APP_NAME.$KUBE_ONAP_NAMESPACE":"$5
 340         fi
 341
 342         # For calls from script to the mr-stub
 343         MR_STUB_ADAPTER=$MR_STUB_PATH
 344         MR_STUB_ADAPTER_TYPE="REST"
 345
 346         echo ""
 347
 348 }
 349
 350 # Export env vars for config files, docker compose and kube resources
 351 # args: -
 352 __dmaapmr_export_vars() {
 353         #Docker only
 354         export DOCKER_SIM_NWNAME
 355         export ONAP_ZOOKEEPER_IMAGE
 356         export MR_ZOOKEEPER_APP_NAME
 357         export ONAP_KAFKA_IMAGE
 358         export MR_KAFKA_APP_NAME
 359         export ONAP_DMAAPMR_IMAGE
 360         export MR_DMAAP_APP_NAME
 361         export MR_DMAAP_LOCALHOST_PORT
 362         export MR_INTERNAL_PORT
 363         export MR_DMAAP_LOCALHOST_SECURE_PORT
 364         export MR_INTERNAL_SECURE_PORT
 365         export MR_DMAAP_HOST_MNT_DIR
 366
 367         export KUBE_ONAP_NAMESPACE
 368         export MR_EXTERNAL_PORT
 369         export MR_EXTERNAL_SECURE_PORT
 370         export MR_KAFKA_PORT
 371         export MR_ZOOKEEPER_PORT
 372
 373         export MR_KAFKA_SERVICE_PATH
 374         export MR_ZOOKEEPER_SERVICE_PATH
 375
 376         export MR_KAFKA_KUBE_NODE_PORT
 377         export MR_KAFKA_DOCKER_LOCALHOST_PORT
 378 }
 379
 380 # Export env vars for config files, docker compose and kube resources
 381 # args: -
 382 __mr_export_vars() {
 383         #Docker only
 384         export DOCKER_SIM_NWNAME
 385         export MR_STUB_APP_NAME
 386         export MRSTUB_IMAGE
 387         export MR_INTERNAL_PORT
 388         export MR_INTERNAL_SECURE_PORT
 389         export MR_EXTERNAL_PORT
 390         export MR_EXTERNAL_SECURE_PORT
 391         export MR_STUB_LOCALHOST_PORT
 392         export MR_STUB_LOCALHOST_SECURE_PORT
 393         export MR_STUB_CERT_MOUNT_DIR
 394         export MR_STUB_DISPLAY_NAME
 395
 396         export KUBE_ONAP_NAMESPACE
 397         export MR_EXTERNAL_PORT
 398
 399         export MR_KAFKA_SERVICE_PATH
 400         export MR_ZOOKEEPER_SERVICE_PATH
 401 }
 402
 403
 404 # Start the Message Router stub interface in the simulator group
 405 # args: -
 406 # (Function for test scripts)
 407 start_mr() {
 408
 409         echo -e $BOLD"Starting $MR_DMAAP_DISPLAY_NAME and/or $MR_STUB_DISPLAY_NAME"$EBOLD
 410
 411         if [ $RUNMODE == "KUBE" ]; then
 412
 413         # Table of possible combinations of included mr and included/prestarted dmaap-mr
 414                 # mr can never be prestarted
 415                 # mr can be used stand alone
 416                 # if dmaapmr is included/prestarted, then mr is needed as well as frontend
 417
 418         # Inverted logic - 0 mean true, 1 means false
 419                 # mr prestarted      0 1 0 1 0 1 0 1 0 1 0 1 0 1 0 1
 420                 # mr included        0 0 1 1 0 0 1 1 0 0 1 1 0 0 1 1
 421                 # dmaap prestarted   0 0 0 0 1 1 1 1 0 0 0 0 1 1 1 1
 422                 # dmaap included     0 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1
 423                 # ==================================================
 424                 # OK                 1 1 1 1 1 0 1 1 1 0 1 1 1 0 1 1
 425
 426                 __check_prestarted_image 'MR'
 427                 retcode_prestarted_mr=$?
 428                 __check_included_image 'MR'
 429                 retcode_included_mr=$?
 430
 431                 __check_prestarted_image 'DMAAPMR'
 432                 retcode_prestarted_dmaapmr=$?
 433                 __check_included_image 'DMAAPMR'
 434                 retcode_included_dmaapmr=$?
 435
 436                 paramerror=1
 437
 438                 if [ $retcode_prestarted_mr -ne 0 ] && [ $retcode_included_mr -eq 0 ]; then
 439                         if [ $retcode_prestarted_dmaapmr -ne 0 ] && [ $retcode_included_dmaapmr -eq 0 ]; then
 440                                 paramerror=0
 441                         fi
 442                 fi
 443
 444                 if [ $retcode_prestarted_mr -ne 0 ] && [ $retcode_included_mr -eq 0 ]; then
 445                         if [ $retcode_prestarted_dmaapmr -eq 0 ] && [ $retcode_included_dmaapmr -ne 0 ]; then
 446                                 paramerror=0
 447                         fi
 448                 fi
 449
 450                 if [ $retcode_prestarted_mr -ne 0 ] && [ $retcode_included_mr -eq 0 ]; then
 451                         if [ $retcode_prestarted_dmaapmr -ne 0 ] && [ $retcode_included_dmaapmr -ne 0 ]; then
 452                                 paramerror=0
 453                         fi
 454                 fi
 455
 456                 if [ $paramerror -ne 0 ]; then
 457                                 echo -e $RED"The Message Router apps 'MR' and/or 'DMAAPMR' are not included in this test script"$ERED
 458                                 echo -e $RED"The Message Router will not be started"$ERED
 459                                 echo -e $RED"Both MR and DAAMPMR  - or - only MR - need to be included and/or prestarted"$ERED
 460                                 exit
 461                 fi
 462
 463                 if [ $retcode_prestarted_dmaapmr -eq 0 ]; then
 464                         echo -e " Using existing $MR_DMAAP_APP_NAME deployment and service"
 465                         __kube_scale deployment $MR_DMAAP_APP_NAME $KUBE_ONAP_NAMESPACE 1
 466                 fi
 467
 468                 if [ $retcode_included_dmaapmr -eq 0 ]; then
 469
 470                         __dmaapmr_export_vars
 471
 472                         #Check if onap namespace exists, if not create it
 473                         __kube_create_namespace $KUBE_ONAP_NAMESPACE
 474
 475                         # copy config files
 476                         MR_MNT_CONFIG_BASEPATH=$SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR$MR_DMAAP_HOST_MNT_DIR
 477                         cp -r $SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR$MR_DMAAP_HOST_CONFIG_DIR/*  $MR_MNT_CONFIG_BASEPATH
 478
 479                         # Create config maps - dmaapmr app
 480                         configfile=$MR_MNT_CONFIG_BASEPATH/mr/MsgRtrApi.properties
 481                         output_yaml=$PWD/tmp/dmaapmr_msgrtrapi_cfc.yaml
 482                         __kube_create_configmap dmaapmr-msgrtrapi.properties $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 483
 484                         configfile=$MR_MNT_CONFIG_BASEPATH/mr/logback.xml
 485                         output_yaml=$PWD/tmp/dmaapmr_logback_cfc.yaml
 486                         __kube_create_configmap dmaapmr-logback.xml $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 487
 488                         configfile=$MR_MNT_CONFIG_BASEPATH/mr/cadi.properties
 489                         output_yaml=$PWD/tmp/dmaapmr_cadi_cfc.yaml
 490                         __kube_create_configmap dmaapmr-cadi.properties $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 491
 492                         # Create config maps - kafka app
 493                         configfile=$MR_MNT_CONFIG_BASEPATH/kafka/zk_client_jaas.conf
 494                         output_yaml=$PWD/tmp/dmaapmr_zk_client_cfc.yaml
 495                         __kube_create_configmap dmaapmr-zk-client-jaas.conf $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 496
 497                         # Create config maps - zookeeper app
 498                         configfile=$MR_MNT_CONFIG_BASEPATH/zk/zk_server_jaas.conf
 499                         output_yaml=$PWD/tmp/dmaapmr_zk_server_cfc.yaml
 500                         __kube_create_configmap dmaapmr-zk-server-jaas.conf $KUBE_ONAP_NAMESPACE autotest DMAAPMR $configfile $output_yaml
 501
 502                         # Create service
 503                         input_yaml=$SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR"/"svc.yaml
 504                         output_yaml=$PWD/tmp/dmaapmr_svc.yaml
 505                         __kube_create_instance service $MR_DMAAP_APP_NAME $input_yaml $output_yaml
 506
 507                         # Create app
 508                         input_yaml=$SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR"/"app.yaml
 509                         output_yaml=$PWD/tmp/dmaapmr_app.yaml
 510                         __kube_create_instance app $MR_DMAAP_APP_NAME $input_yaml $output_yaml
 511
 512
 513                         __check_service_start $MR_DMAAP_APP_NAME $MR_DMAAP_PATH$MR_DMAAP_ALIVE_URL
 514
 515                         echo " Kafka TCP node port $MR_KAFKA_KUBE_NODE_PORT"
 516
 517
 518                         if [ $# -gt 0 ]; then
 519                                 if [ $(($#%3)) -eq 0 ]; then
 520                                         while [ $# -gt 0 ]; do
 521                                                 __dmaap_pipeclean "$1" "$2/$1" "$2/$1/$3?timeout=1000&limit=100"
 522                                                 shift; shift; shift;
 523                                         done
 524                                 else
 525                                         echo -e $RED" args: start_mr [<topic-name> <base-url> <group-and-user-url>]*"$ERED
 526                                         echo -e $RED" Got: $@"$ERED
 527                                         exit 1
 528                                 fi
 529                         fi
 530
 531                         echo " Current topics:"
 532                         curlString="$MR_DMAAP_PATH/topics"
 533                         result=$(__do_curl "$curlString")
 534                         echo $result | indent2
 535
 536                 fi
 537
 538                 if [ $retcode_included_mr -eq 0 ]; then
 539
 540                         __mr_export_vars
 541
 542                         if [ $retcode_prestarted_dmaapmr -eq 0 ] || [ $retcode_included_dmaapmr -eq 0 ]; then  # Set topics for dmaap
 543                                 export TOPIC_READ="http://$MR_DMAAP_APP_NAME.$KUBE_ONAP_NAMESPACE:$MR_INTERNAL_PORT/events/$MR_READ_TOPIC"
 544                                 export TOPIC_WRITE="http://$MR_DMAAP_APP_NAME.$KUBE_ONAP_NAMESPACE:$MR_INTERNAL_PORT/events/$MR_WRITE_TOPIC/users/mr-stub?timeout=15000&limit=100"
 545                                 export GENERIC_TOPICS_UPLOAD_BASEURL="http://$MR_DMAAP_APP_NAME.$KUBE_ONAP_NAMESPACE:$MR_INTERNAL_PORT"
 546                         else
 547                                 export TOPIC_READ=""
 548                                 export TOPIC_WRITE=""
 549                                 export GENERIC_TOPICS_UPLOAD_BASEURL=""
 550                         fi
 551
 552                         #Check if onap namespace exists, if not create it
 553                         __kube_create_namespace $KUBE_ONAP_NAMESPACE
 554
 555                         # Create service
 556                         input_yaml=$SIM_GROUP"/"$MR_STUB_COMPOSE_DIR"/"svc.yaml
 557                         output_yaml=$PWD/tmp/mr_svc.yaml
 558                         __kube_create_instance service $MR_STUB_APP_NAME $input_yaml $output_yaml
 559
 560                         # Create app
 561                         input_yaml=$SIM_GROUP"/"$MR_STUB_COMPOSE_DIR"/"app.yaml
 562                         output_yaml=$PWD/tmp/mr_app.yaml
 563                         __kube_create_instance app $MR_STUB_APP_NAME $input_yaml $output_yaml
 564
 565
 566                 fi
 567
 568                 __check_service_start $MR_STUB_APP_NAME $MR_STUB_PATH$MR_STUB_ALIVE_URL
 569
 570         else
 571
 572                 __check_included_image 'DMAAPMR'
 573                 retcode_dmaapmr=$?
 574                 __check_included_image 'MR'
 575                 retcode_mr=$?
 576
 577                 if [ $retcode_dmaapmr -ne 0 ] && [ $retcode_mr -ne 0 ]; then
 578                                 echo -e $RED"The Message Router apps 'MR' and/or 'DMAAPMR' are not included in this test script"$ERED
 579                                 echo -e $RED"The Message Router will not be started"$ERED
 580                                 echo -e $RED"Both MR and DAAMPMR  - or - only MR - need to be included"
 581                                 exit
 582                 fi
 583
 584                 if [ $retcode_dmaapmr -eq 0 ] && [ $retcode_mr -ne 0 ]; then
 585                                 echo -e $RED"The Message Router apps 'MR' and/or 'DMAAPMR' are not included in this test script"$ERED
 586                                 echo -e $RED"The Message Router will not be started"$ERED
 587                                 echo -e $RED"Both MR and DAAMPMR  - or - only MR - need to be included"
 588                                 exit
 589                 fi
 590
 591                 export TOPIC_READ=""
 592         export TOPIC_WRITE=""
 593                 export GENERIC_TOPICS_UPLOAD_BASEURL=""
 594                 if [ $retcode_dmaapmr -eq 0 ]; then  # Set topics for dmaap
 595                         export TOPIC_READ="http://$MR_DMAAP_APP_NAME:$MR_INTERNAL_PORT/events/$MR_READ_TOPIC"
 596                         export TOPIC_WRITE="http://$MR_DMAAP_APP_NAME:$MR_INTERNAL_PORT/events/$MR_WRITE_TOPIC/users/mr-stub?timeout=15000&limit=100"
 597                         export GENERIC_TOPICS_UPLOAD_BASEURL="http://$MR_DMAAP_APP_NAME:$MR_INTERNAL_PORT"
 598                 fi
 599
 600                 __dmaapmr_export_vars
 601
 602                 if [ $retcode_dmaapmr -eq 0 ]; then
 603
 604                         # copy config files
 605                         MR_MNT_CONFIG_BASEPATH=$SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR$MR_DMAAP_HOST_MNT_DIR
 606                         cp -r $SIM_GROUP"/"$MR_DMAAP_COMPOSE_DIR$MR_DMAAP_HOST_CONFIG_DIR/*  $MR_MNT_CONFIG_BASEPATH
 607
 608                         # substitute vars
 609                         configfile=$MR_MNT_CONFIG_BASEPATH/mr/MsgRtrApi.properties
 610                         cp $configfile $configfile"_tmp"
 611                         envsubst < $configfile"_tmp" > $configfile
 612
 613                         __start_container $MR_DMAAP_COMPOSE_DIR "" NODOCKERARGS 1 $MR_DMAAP_APP_NAME
 614
 615                         __check_service_start $MR_DMAAP_APP_NAME $MR_DMAAP_PATH$MR_DMAAP_ALIVE_URL
 616
 617                         echo " Kafka TCP node port $MR_KAFKA_DOCKER_LOCALHOST_PORT"
 618
 619                         if [ $# -gt 0 ]; then
 620                                 if [ $(($#%3)) -eq 0 ]; then
 621                                         while [ $# -gt 0 ]; do
 622                                                 __dmaap_pipeclean "$1" "$2/$1" "$2/$1/$3?timeout=1000&limit=100"
 623                                                 shift; shift; shift;
 624                                         done
 625                                 else
 626                                         echo -e $RED" args: start_mr [<topic-name> <base-url> <group-and-user-url>]*"$ERED
 627                                         echo -e $RED" Got: $@"$ERED
 628                                         exit 1
 629                                 fi
 630                         fi
 631
 632                         echo " Current topics:"
 633                         curlString="$MR_DMAAP_PATH/topics"
 634                         result=$(__do_curl "$curlString")
 635                         echo $result | indent2
 636                 fi
 637
 638                 __mr_export_vars
 639
 640                 if [ $retcode_mr -eq 0 ]; then
 641                         __start_container $MR_STUB_COMPOSE_DIR "" NODOCKERARGS 1 $MR_STUB_APP_NAME
 642
 643                         __check_service_start $MR_STUB_APP_NAME $MR_STUB_PATH$MR_STUB_ALIVE_URL
 644                 fi
 645
 646         fi
 647         echo ""
 648         return 0
 649 }
 650
 651 # Create a dmaap mr topic
 652 # args: <topic name> <topic-description>
 653 __create_topic() {
 654         echo -ne " Creating topic: $1"$SAMELINE
 655
 656         json_topic="{\"topicName\":\"$1\",\"partitionCount\":\"2\", \"replicationCount\":\"3\", \"transactionEnabled\":\"false\",\"topicDescription\":\"$2\"}"
 657         fname="./tmp/$1.json"
 658         echo $json_topic > $fname
 659
 660         query="/topics/create"
 661         topic_retries=10
 662         while [ $topic_retries -gt 0 ]; do
 663                 let topic_retries=topic_retries-1
 664                 res="$(__do_curl_to_api DMAAPMR POST $query $fname)"
 665                 status=${res:${#res}-3}
 666
 667                 if [[ $status == "2"* ]]; then
 668                         topic_retries=0
 669                         echo -e " Creating topic: $1 $GREEN OK $EGREEN"
 670                 else
 671                         if [ $topic_retries -eq 0 ]; then
 672                                 echo -e " Creating topic: $1 $RED Failed $ERED"
 673                                 ((RES_CONF_FAIL++))
 674                                 return 1
 675                         else
 676                                 sleep 1
 677                         fi
 678                 fi
 679         done
 680         echo
 681         return 0
 682 }
 683
 684 # Do a pipeclean of a topic - to overcome dmaap mr bug...
 685 # args: <topic> <post-url> <read-url> [<num-retries>]
 686 __dmaap_pipeclean() {
 687         pipeclean_retries=50
 688         if [ $# -eq 4 ]; then
 689                 pipeclean_retries=$4
 690         fi
 691         echo -ne " Doing dmaap-mr pipe cleaning on topic: $1"$SAMELINE
 692         while [ $pipeclean_retries -gt 0 ]; do
 693                 if [[ $1 == *".text" ]]; then
 694                         echo "pipeclean-$1:$pipeclean_retries" > ./tmp/__dmaap_pipeclean.txt
 695                         curlString="$MR_DMAAP_PATH$2 -X POST  -H Content-Type:text/plain -d@./tmp/__dmaap_pipeclean.txt"
 696                 else
 697                         echo "{\"pipeclean-$1\":$pipeclean_retries}" > ./tmp/__dmaap_pipeclean.json
 698                         curlString="$MR_DMAAP_PATH$2 -X POST  -H Content-Type:application/json -d@./tmp/__dmaap_pipeclean.json"
 699                 fi
 700                 let pipeclean_retries=pipeclean_retries-1
 701                 result=$(__do_curl "$curlString")
 702                 if [ $? -ne 0 ]; then
 703                         sleep 1
 704                 else
 705                         curlString="$MR_DMAAP_PATH$3"
 706                         result=$(__do_curl "$curlString")
 707                         if [ $? -eq 0 ]; then
 708                                 if [ $result != "[]" ]; then
 709                                         echo -e " Doing dmaap-mr pipe cleaning on topic: $1 $GREEN OK $EGREEN"
 710                                         return 0
 711
 712                                 else
 713                                         sleep 1
 714                                 fi
 715                         fi
 716                 fi
 717         done
 718         echo -e "Doing dmaap-mr pipe cleaning on topic: $1 $RED Failed $ERED"
 719         return 1
 720 }
 721
 722
 723 ### Generic test cases for varaible checking
 724
 725 # Tests if a variable value in the MR stub is equal to a target value and and optional timeout.
 726 # Arg: <variable-name> <target-value> - This test set pass or fail depending on if the variable is
 727 # equal to the target or not.
 728 # Arg: <variable-name> <target-value> <timeout-in-sec>  - This test waits up to the timeout seconds
 729 # before setting pass or fail depending on if the variable value becomes equal to the target
 730 # value or not.
 731 # (Function for test scripts)
 732 mr_equal() {
 733         if [ $# -eq 2 ] || [ $# -eq 3 ]; then
 734                 __var_test "MR" $MR_STUB_PATH/counter/ $1 "=" $2 $3
 735         else
 736                 ((RES_CONF_FAIL++))
 737                 __print_err "Wrong args to mr_equal, needs two or three args: <sim-param> <target-value> [ timeout ]" $@
 738         fi
 739 }
 740
 741 # Tests if a variable value in the MR stub is greater than a target value and and optional timeout.
 742 # Arg: <variable-name> <target-value> - This test set pass or fail depending on if the variable is
 743 # greater than the target or not.
 744 # Arg: <variable-name> <target-value> <timeout-in-sec>  - This test waits up to the timeout seconds
 745 # before setting pass or fail depending on if the variable value becomes greater than the target
 746 # value or not.
 747 # (Function for test scripts)
 748 mr_greater() {
 749         if [ $# -eq 2 ] || [ $# -eq 3 ]; then
 750                 __var_test "MR" $MR_STUB_PATH/counter/ $1 ">" $2 $3
 751         else
 752                 ((RES_CONF_FAIL++))
 753                 __print_err "Wrong args to mr_greater, needs two or three args: <sim-param> <target-value> [ timeout ]" $@
 754         fi
 755 }
 756
 757 # Read a variable value from MR sim and send to stdout. Arg: <variable-name>
 758 mr_read() {
 759         echo "$(__do_curl $MR_STUB_PATH/counter/$1)"
 760 }
 761
 762 # Print a variable value from the MR stub.
 763 # arg: <variable-name>
 764 # (Function for test scripts)
 765 mr_print() {
 766         if [ $# != 1 ]; then
 767                 ((RES_CONF_FAIL++))
 768         __print_err "need one arg, <mr-param>" $@
 769                 exit 1
 770         fi
 771         echo -e $BOLD"INFO(${BASH_LINENO[0]}): mrstub, $1 = $(__do_curl $MR_STUB_PATH/counter/$1)"$EBOLD
 772 }
 773
 774 # Send json to topic in mr-stub.
 775 # arg: <topic-url> <json-msg>
 776 # (Function for test scripts)
 777 mr_api_send_json() {
 778         __log_conf_start $@
 779     if [ $# -ne 2 ]; then
 780         __print_err "<topic-url> <json-msg>" $@
 781         return 1
 782     fi
 783         query=$1
 784         fname=$PWD/tmp/json_payload_to_mr.json
 785         echo $2 > $fname
 786         res="$(__do_curl_to_api MRSTUB POST $query $fname)"
 787
 788         status=${res:${#res}-3}
 789         if [ $status -ne 200 ]; then
 790                 __log_conf_fail_status_code 200 $status
 791                 return 1
 792         fi
 793
 794         __log_conf_ok
 795         return 0
 796 }
 797
 798 # Send text to topic in mr-stub.
 799 # arg: <topic-url> <text-msg>
 800 # (Function for test scripts)
 801 mr_api_send_text() {
 802         __log_conf_start $@
 803     if [ $# -ne 2 ]; then
 804         __print_err "<topic-url> <text-msg>" $@
 805         return 1
 806     fi
 807         query=$1
 808         fname=$PWD/tmp/text_payload_to_mr.txt
 809         echo $2 > $fname
 810         res="$(__do_curl_to_api MRSTUB POST $query $fname text/plain)"
 811
 812         status=${res:${#res}-3}
 813         if [ $status -ne 200 ]; then
 814                 __log_conf_fail_status_code 200 $status
 815                 return 1
 816         fi
 817
 818         __log_conf_ok
 819         return 0
 820 }
 821
 822 # Send json file to topic in mr-stub.
 823 # arg: <topic-url> <json-file>
 824 # (Function for test scripts)
 825 mr_api_send_json_file() {
 826         __log_conf_start $@
 827     if [ $# -ne 2 ]; then
 828         __print_err "<topic-url> <json-file>" $@
 829         return 1
 830     fi
 831         query=$1
 832         if [ ! -f $2 ]; then
 833                 __log_test_fail_general "File $2 does not exist"
 834                 return 1
 835         fi
 836         #Create json array for mr
 837         datafile="tmp/mr_api_send_json_file.json"
 838         { echo -n "[" ; cat $2 ; echo -n "]" ;} > $datafile
 839
 840         res="$(__do_curl_to_api MRSTUB POST $query $datafile)"
 841
 842         status=${res:${#res}-3}
 843         if [ $status -ne 200 ]; then
 844                 __log_conf_fail_status_code 200 $status
 845                 return 1
 846         fi
 847
 848         __log_conf_ok
 849         return 0
 850 }
 851
 852 # Send text file to topic in mr-stub.
 853 # arg: <topic-url> <text-file>
 854 # (Function for test scripts)
 855 mr_api_send_text_file() {
 856         __log_conf_start $@
 857     if [ $# -ne 2 ]; then
 858         __print_err "<topic-url> <text-file>" $@
 859         return 1
 860     fi
 861         query=$1
 862         if [ ! -f $2 ]; then
 863                 __log_test_fail_general "File $2 does not exist"
 864                 return 1
 865         fi
 866
 867         res="$(__do_curl_to_api MRSTUB POST $query $2 text/plain)"
 868
 869         status=${res:${#res}-3}
 870         if [ $status -ne 200 ]; then
 871                 __log_conf_fail_status_code 200 $status
 872                 return 1
 873         fi
 874
 875         __log_conf_ok
 876         return 0
 877 }
 878
 879 # Create json file for payload
 880 # arg: <size-in-kb> <filename>
 881 mr_api_generate_json_payload_file() {
 882         __log_conf_start $@
 883     if [ $# -ne 2 ]; then
 884         __print_err "<topic-url> <json-file>" $@
 885         return 1
 886     fi
 887         if [ $1 -lt 1 ] || [ $1 -gt 10000 ]; then
 888                 __log_conf_fail_general "Only size between 1k and 10000k supported"
 889                 return 1
 890         fi
 891         echo -n "{\"abcdefghijklmno\":[" > $2
 892         LEN=$(($1*100-2))
 893         echo -n "\""ABCDEFG"\"" >> $2
 894         for ((idx=1; idx<$LEN; idx++))
 895         do
 896                 echo -n ",\"ABCDEFG\"" >> $2
 897         done
 898         echo -n "]}" >> $2
 899
 900         __log_conf_ok
 901         return 0
 902 }
 903
 904 # Create tet file for payload
 905 # arg: <size-in-kb> <filename>
 906 mr_api_generate_text_payload_file() {
 907         __log_conf_start $@
 908     if [ $# -ne 2 ]; then
 909         __print_err "<topic-url> <text-file>" $@
 910         return 1
 911     fi
 912         if [ $1 -lt 1 ] || [ $1 -gt 10000 ]; then
 913                 __log_conf_fail_general "Only size between 1k and 10000k supported"
 914                 return 1
 915         fi
 916         echo -n "" > $2
 917         LEN=$(($1*100))
 918         for ((idx=0; idx<$LEN; idx++))
 919         do
 920                 echo -n "ABCDEFGHIJ" >> $2
 921         done
 922
 923         __log_conf_ok
 924         return 0
 925 }