一键部署失败(MySql)

[root@node1 ~]# kubectl get job -n choerodon-devops-prod
NAME                         DESIRED   SUCCESSFUL   AGE
create-choerodon-databases   1         1            7d
create-gitlab-databases      1         0            7d
[root@node1 ~]# kubectl get job "create-gitlab-databases" -n choerodon-devops-prod -o json | jq 'del(.spec.selector)' | jq 'del(.spec.template.metadata.labels)' | kubectl replace --force -f
Error: flag needs an argument: 'f' in -f

按照你给的命令,走到第二个命令就报错了,是命令有问题吗?

-f 后边还有个 -

[root@node1 ~]# kubectl get pod -n choerodon-devops-prod -w
NAME                                                     READY     STATUS             RESTARTS   AGE
choerodon-harbor-harbor-adminserver-0                    1/1       Running            4          7d
choerodon-harbor-harbor-clair-7c8ff8b6cd-dnggq           1/1       Running            5          7d
choerodon-harbor-harbor-database-0                       1/1       Running            0          7d
choerodon-harbor-harbor-jobservice-7d7f4bd85d-8ck9l      0/1       CrashLoopBackOff   1712       7d
choerodon-harbor-harbor-notary-server-67489d79f6-cwkn2   1/1       Running            5          7d
choerodon-harbor-harbor-notary-signer-5f5df64769-dfdqm   1/1       Running            3          7d
choerodon-harbor-harbor-registry-0                       1/1       Running            0          7d
choerodon-harbor-harbor-ui-6bcdbbccf9-qvg8m              1/1       Running            3          7d
choerodon-harbor-redis-master-0                          0/1       CrashLoopBackOff   2209       7d
choerodon-kafka-0                                        0/1       CrashLoopBackOff   2236       7d
choerodon-minio-684c84c6fc-7srgx                         1/1       Running            0          7d
choerodon-mysql-dcb9b88cd-jfvmd                          1/1       Running            0          7d
choerodon-zookeeper-0                                    1/1       Running            0          7d
create-choerodon-databases-h54m5                         0/1       Completed          0          7d
create-gitlab-databases-dl26p                            0/1       Completed          0          2m
dnsmasq-5f5777c999-lznnl                                 1/1       Running            0          26d
choerodon-harbor-harbor-jobservice-7d7f4bd85d-8ck9l   1/1       Running   1713      7d
choerodon-harbor-harbor-jobservice-7d7f4bd85d-8ck9l   0/1       Error     1713      7d
choerodon-harbor-harbor-jobservice-7d7f4bd85d-8ck9l   0/1       CrashLoopBackOff   1713      7d
choerodon-harbor-redis-master-0   0/1       Running   2210      7d
choerodon-harbor-redis-master-0   0/1       Error     2210      7d
choerodon-harbor-redis-master-0   0/1       CrashLoopBackOff   2210      7d
choerodon-kafka-0   0/1       Running   2237      7d
choerodon-kafka-0   0/1       Error     2237      7d
choerodon-kafka-0   0/1       CrashLoopBackOff   2237      7d

看日志好像choerodon-harbor-harbor-jobservice-7d7f4bd85d-8ck9l、choerodon-harbor-redis-master-0、choerodon-kafka-0都是重复的,但不知道原因。

这个是我的values.sh:

#########################  全局配置  ############################
# Helm release 前缀,解决release冲突问题(必须是小写字母,不能以数字开头,不能有特殊字符)
#RELEASE_PREFIX="prefix"
# 设置部署的namespace,请按:"组织Code-项目Code-环境Code" 格式进行设置,以方便后期将应用自动扫描到数据库中。
# 比如:组织Code为choerodon,项目Code为demo,环境Code为prod,那么最终定义的namespace为:choerodon-devops-prod
NAMESPACE="choerodon-devops-prod"
# 提供NFS服务的主机地址(可以为IP地址)
NFS_SERVER_HOST="nfs.example.choerodon.io"

#######################  choerodon配置  ##########################
# 搭建服务时镜像仓库前缀,默认"registry.cn-shanghai.aliyuncs.com/choerodon"
#IMAGE_REPO_PRE="registry.cn-shanghai.aliyuncs.com/choerodon"
# Choerodon api地址(仅为域名地址,不能为IP地址)
CHOERODON_API_EXTERNAL_URL="api.example.choerodon.io"
# Choerodon devops service地址(仅为域名地址,不能为IP地址)
CHOERODON_DEVOPS_EXTERNAL_URL="devops.example.choerodon.io"
# Choerodon前端访问地址(仅为域名地址,不能为IP地址)
CHOERODON_FRONT_EXTERNAL_URL="example.choerodon.io"

########################### Kafka 配置  ############################
# 是否使用外部Kafka,若使用请设置为true
EXTERNAL_KAFKA="false"

# 定义多少个ZOOKEEPER目录,就创建多少个ZOOKEEPER副本,最好为单数,防止脑裂;若使用外部kafka,请忽略
ZOOKEEPER_DIR[0]="/u01/io-choerodon/zookeeper/00"

# 定义多少个KAFKA目录,就创建多少个KAFKA副本,最好为单数;若使用外部kafka,请忽略
KAFKA_DIR[0]="/u01/io-choerodon/kafka/00"

############################  数据库配置  ############################
# 是否使用外部mysql,若使用请设置为true
EXTERNAL_MYSQL="false"
# mysql参数定义,若使用外部mysql,请忽略
MYSQL_ROOT_PASSWORD="password"
MYSQL_USER="choerodon"
MYSQL_PASSWORD="password"
# mysql数据存储目录,若使用外部mysql,请忽略
MYSQL_DIR="/u01/io-choerodon/mysql"

########################### Gitlab配置 ############################
# 是否使用外部Gitlab,若使用请设置为true
EXTERNAL_GITLAB="false"
# gitlab域名(仅为域名地址,不能为IP地址)
GITLAB_EXTERNAL_URL="gitlab.example.choerodon.io"
# gitlab 所需目录,使用外部gitlab请忽略。
GITLAB_DIR="/u01/io-choerodon/gitlab"
# gitlab root用户密码,使用外部gitlab请忽略。(不能少于8位)
GITLAB_ROOT_PASSWORD="password"
# 通过choerodon平台创建的用户,gitlab初始密码(不能少于8位)
GITLAB_USER_PASSWORD="password"
# 通过choerodon平台创建的用户,最多可以创建的git仓库数量
GITLAB_PROJECTLIMIT=100
# 一个admin角色用户的的impersonation token(有以下权限 api、read_use、sudo);使用内部gitlab请忽略。
#GITLAB_TOKEN="sdfjaTnlnlWNCsdfvd"

########################### chartmuseum配置 ########################
# chartmuseum数据存储目录
CHARTMUSEUM_DIR="/u01/io-choerodon/chartmuseum"
# 访问地址(仅为域名地址,不能为IP地址)
CHARTMUSEUM_EXTERNAL_URL="charts.example.choerodon.io"

########################### Minio 配置  ############################
# 是否使用外部Minio,若使用请设置为true
EXTERNAL_MINIO="false"
# minio数据存储目录,使用外部minio请忽略
MINIO_DIR="/u01/io-choerodon/minio"
# minio访问地址(仅为域名地址,不能为IP地址)
MINIO_EXTERNAL_URL="minio.example.choerodon.io"
# minio access key
MINIO_ACCESS_KEY="admin"
# minio secret key(不能低于8位)
MINIO_SECRET_KEY="password"

########################### Harbar 配置  ############################
# 是否使用外部Harbor,若使用请设置为true
EXTERNAL_HARBOR="false"
# Harbar 所需目录,若使用外部Harbor,请忽略。
HARBOR_ADMINSERVER_DIR="/u01/io-choerodon/harbor/adminserver"
HARBOR_DB_DIR="/u01/io-choerodon/harbor/db"
HARBOR_REGISTRY_DIR="/u01/io-choerodon/harbor/registry"
# Harbar访问地址(仅为域名地址,不能为IP地址)
HARBOR_EXTERNAL_URL="registry.example.choerodon.io"
# Harbar管理员密码(长度8-20位,必须包含至少1个大写字母,至少1个小写字母,至少1个数字)
HARBOR_ADMIN_PASSWORD="Password123"

你使用了这个地址是否搭建了DNS?

嗯,这个问题之前问过,k8s机器上是这样的:
NFS_SERVER_HOST=“172.16.27.142” ,这个是最新的

当出现create-gitlab-databases-xxx时打印一下这里面的日志

kubectl logs -f create-gitlab-databases-xxx -n choerodon-devops-prod

执行kubectl logs命令,没有日志输出

一点日志都没有吗

kubectl get pod -n choerodon-devops-prod -w
执行完这句,出现dnsmasq-5f5777c999-lznnl 1/1 Running 0 26d
这句后,ctrl+c,马上运行kubectl logs -f create-gitlab-databases-dl26p -n choerodon-devops-prod,等了2,3秒,就退出了,没有任何日志。

create-gitlab-databases-dl26p 这个pod是没有日志的,它只是执行了一个创建数据库的sql语句而已。只要该pod状态没有出现Error,则为正常结束创建数据库成功。

现在看状态是complete的,但是安装部署时是报错的:
[Step 14]: install Gitlab …
Error: Job failed: DeadlineExceeded
:heavy_multiplication_x: create gitlab database failed

请问下这个问题应该怎么解决或者定位问题?

你好,请在集群执行一下这个命令,看看是否有返回结果

showmount -e 172.16.27.142

[root@node1 ~]# showmount -e 172.16.27.142
Export list for 172.16.27.142:
/u01 172.16.27.141

在这个机子172.16.27.141上是有/u01/io-choerodon/mysql目录的吗?
如果有的话,集群中每个节点是否都安装了nfs-utils?

现在只搞了单节点的k8s,mysql下面是有东西的,mysql那个问题已经可以了,现在的问题是第14个步骤,gitlab那里安装失败了

[root@node1 ~]# ll /u01/io-choerodon/mysql
总用量 188484
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 18 10:10 agile_service
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 18 10:10 asgard_service
-rw-r-----. 1 systemd-bus-proxy ssh_keys 56 9月 18 10:10 auto.cnf
-rw-------. 1 systemd-bus-proxy ssh_keys 1679 9月 18 10:10 ca-key.pem
-rw-r–r--. 1 systemd-bus-proxy ssh_keys 1107 9月 18 10:10 ca.pem
-rw-r–r--. 1 systemd-bus-proxy ssh_keys 1107 9月 18 10:10 client-cert.pem
-rw-------. 1 systemd-bus-proxy ssh_keys 1679 9月 18 10:10 client-key.pem
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 18 10:10 devops_service
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 26 09:10 gitlabhq_production
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 18 10:10 gitlab_service
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 18 10:10 iam_service
-rw-r-----. 1 systemd-bus-proxy ssh_keys 1341 9月 18 10:10 ib_buffer_pool
-rw-r-----. 1 systemd-bus-proxy ssh_keys 79691776 9月 18 10:10 ibdata1
-rw-r-----. 1 systemd-bus-proxy ssh_keys 50331648 9月 18 10:10 ib_logfile0
-rw-r-----. 1 systemd-bus-proxy ssh_keys 50331648 9月 18 10:10 ib_logfile1
-rw-r-----. 1 systemd-bus-proxy ssh_keys 12582912 9月 18 10:11 ibtmp1
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 18 10:10 manager_service
drwxr-x—. 2 systemd-bus-proxy ssh_keys 4096 9月 18 10:10 mysql
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 18 10:10 notify_service
drwxr-x—. 2 systemd-bus-proxy ssh_keys 8192 9月 18 10:10 performance_schema
-rw-------. 1 systemd-bus-proxy ssh_keys 1679 9月 18 10:10 private_key.pem
-rw-r–r--. 1 systemd-bus-proxy ssh_keys 451 9月 18 10:10 public_key.pem
-rw-r–r--. 1 systemd-bus-proxy ssh_keys 1107 9月 18 10:10 server-cert.pem
-rw-------. 1 systemd-bus-proxy ssh_keys 1679 9月 18 10:10 server-key.pem
drwxr-x—. 2 systemd-bus-proxy ssh_keys 8192 9月 18 10:10 sys
drwxr-x—. 2 systemd-bus-proxy ssh_keys 19 9月 18 10:10 test_manager_service