东岳网络工作室

Ayi

at15 Go

简介

Ayi 是一个跨平台的命令行工具,类似于busybox。 开始于 2015 年 7 月。主要目的是为了方便配置环境和解决各种由于配置环境导致的问题,比如:

  • 我这里跑的好好的,怎么到了你那(服务器上)就挂了
  • 我用 Mac 自带的 PHP 和 Apache 就挺好,我不用 Vagrant 和 Nginx
  • 我就想用 Windows 下的一键安装包

考虑到没钱给大家每人配个 Mac,以及东岳的男女比例。 我们需要一个跨平台的配置环境和收集环境信息的工具,用于快速的解决上述问题。

技术选型

在选择 Ayi 使用的技术时主要考虑的是以下几个问题

  • 跨平台
  • 可维护性
  • 对于东岳其他项目的帮助

最开始和咩的考虑是使用 shell 来进行操作, 但是 shell 的问题在于很难维护,基本不可能测试。 东岳 shell 用的很少,并且 shell 对于其他项目帮助十分有限。

之后考虑到 PHP, python, java 都需要运行时,C/C++ 写起来太累, Rust 没人会 (那会还没有 Ivan 和 Codeworm), 就选择了 Golang,当时版本是 1.5。

Golang 的主要优点是

  • 跨平台 & 交叉编译
  • 简洁的包管理
  • 性能好,可以用来改进东岳现有的纯 PHP 服务端体系
  • 一个活跃的社区,PHP 沉浸在 CMS 和抄 Rails 中不能自拔,JS 日新月异
  • Google 老爹

主要问题

  • 人太少,基本只有 @at15 (我) 一个人
  • 需求不是很明确
  • 对 Golang 语言本身很不熟悉
  • Golang 的一些工具链不是很成熟,比如不支持依赖的 vendor 。

但是由于项目拖了很长时间,后面三个问题基本都解决了

第一个问题的话,基本无解,目前东岳经常写 Golang 的人好像只有我和策策。策策有空就要去陪妹子,自然不可能陪我来填坑。 (要有妹子的话我还会去填坑么?)

实现的功能

Git 操作的简化

前提是:你习惯使用 Golang 的 workspace,有关 workspace 我在以前东岳的讲座中有提到 (btw: 按方向键而不是)。我个人的工作区是这样的 (cd ~/workspace && tree -L 4)。

├── bin
│   ├── Ayi
│   ├── glide
│   └── ink
├── pkg
│   └── linux_amd64
│       └── github.com
│           └── dyweb
└── src
    └── github.com
        ├── at15
        │   └── at15.github.io
        ├── dyweb
        │   ├── Ayi
        │   └── blog
        └── xephonhq
            └── xephon-b

当使用 git clone 时后面必须跟完整的 remote 地址,并且默认 clone 到当前文件夹下,而使用 Ayi git clone 地址可以是浏览器地址,并且根据配置文件,可以支持非默认端口的 ssh,比如东岳的 GitLab。 从下面的输出可以看到 Ayi git clone github.com/at15/at15.gihub.io 被展开成了 git clone git@github.com:at15/at15.github.io.git /home/at15/workspace/src/github.com/at15/at15.github.io

at15@pc4038:~/workspace|⇒  Ayi git clone github.com/at15/at15.github.io
INFO[0000] git clone git@github.com:at15/at15.github.io.git /home/at15/workspace/src/github.com/at15/at15.github.io pkg=a.a.git
Cloning into '/home/at15/workspace/src/github.com/at15/at15.github.io'...
remote: Counting objects: 435, done.
remote: Total 435 (delta 0), reused 0 (delta 0), pack-reused 435
Receiving objects: 100% (435/435), 3.56 MiB | 1.64 MiB/s, done.
Resolving deltas: 100% (234/234), done.
Checking connectivity... done.
INFO[0002] Sucessfully cloned to: /home/at15/workspace/src/github.com/at15/at15.github.io pkg=a.cmd

btw: Ayi 的 log 组件看上去很像 logrus,但其实是自己的轮子

自动化

自动化部分很类似 npm run,但是主要有以下区别

  • 使用 yaml 而不是 json, json 不支持注释,而且即使使用支持注释的 parser,编辑器也会有提示
  • 支持一个指令对应一系列命令, 类似 Travis 等 CI 的配置文件
  • 目前新的重构可能会把它改成类似 + 的工具
debug: true
dep-install:
    - go get github.com/at15/go.rice/rice
    - go get github.com/mitchellh/gox
    - glide install
install:
    - go build -o Ayi
    - rice append -i github.com/dyweb/Ayi/app/web --exec Ayi
    - sh -c "mv Ayi $GOPATH/bin/Ayi"
test:
    - go install
    - sh -c "go test -v -cover $(glide novendor)"
scripts:
    build: gox -output="build/Ayi_{{.OS}}_{{.Arch}}"

内置指令如install, testAyi run <script-name> 都是使用 util/runner。 目前准备把 runner 做成一个通用的 package, 因此又在重构来增加如下的功能

静态服务器

双击一个 html 文件多半会看不了,经典的解决方案是 python -m SimpleHTTPServer <port>, 然而 windows 并不预装 py,而且有时候我想侧边栏显示文件树,markdown 高亮, 遇到学习文件夹自动播放并且在没有插耳机的情况下静音。 以前自己挖了一个坑 doc-viewer 。 Ayi 里目前只实现了基本的静态服务器 Ayi web static(不要被 help 骗了,根本没有 highlight)。

⇒  Ayi web static -h
serve static file like python's SimpleHTTPServer, support highlight and markdown render inspired by https://github.com/at15/doc-viewer

Usage:
  Ayi web static [flags]

Global Flags:
      --config string   config file (default is $HOME/.ayi.yaml)
  -n, --dry-run         show commands to execute
  -p, --port int        port to listen on (default 3000)
      --root string     server root folder
  -v, --verbose         verbose output

使用开源库中遇到的问题

虽然我们要站在巨人的肩膀上,但是站的久了就会发现有些巨人其实也有点 low,比如

一些库虽然 star 很高,但是其实如果仔细看代码的话会发现很多问题,同时看别人的代码可以学到一些自己以前忽略的问题,比如 Golang 里 struct 的方法的 thread safe。 相关的 issue dyweb/Ayi#59 at15/go-learning#3。 logrus 里对应的代码如下,作为读者的练习

// This function is not declared with a pointer value because otherwise
// race conditions will occur when using multiple goroutines
func (entry Entry) log(level Level, msg string) {
        var buffer *bytes.Buffer
	entry.Time = time.Now()
	entry.Level = level
	entry.Message = msg

一些(很多)开源库都维护状态都是很不乐观的,上面提到的几个开 PR 和 Feature Request 的 issue 都是没人鸟的,既然已经看了那么多了,为什么不自己写呢? 所以就开始造轮子了(其实还是想造轮子)。

btw: 在使用开源项目的过程中完全没有必要去埋怨作者无视你的各种请求和贡献,换位思考一下, 你是愿意陪妹子玩一晚上呢,还是愿意改 Gayhub 上某个不认识的人反馈的 bug 呢 (没有妹子的人表示思考不出来,我选择去改 bug)。

通用库 (轮子)

自己造轮子有以下几个优点:

  • 方便维护
  • 代码风格一致,比如 spf13vipercobra
  • 可以共用很多 code base

当然关键还是程序员的天性,上面的都是借口。

Ayi 里抽出来的库有以下几个

Log

https://github.com/dyweb/Ayi/tree/master/common/log 仿照 logrus 实现, 目标功能类似 log4j (logback)

有以下几个特点

  • 支持类似 log4j 的按照 package 进行 filter,避免了:
    • 开启 debug 之后大量输出淹没了需要的信息
    • 为了 debug,把代码里的 debug 改成 info,忘记改回去
  • 支持更多的 Level (你想加个 Hearbreak 什么的 Level 也可以 log.Hearbreak("got a good man card on New Year's Eve"))
  • 减少了 lock (不过没做 benchmark)
  • 移除了 logger 上与 logEntry 重复的接口

之后计划

  • 改用 generator 生成代码,Debugf 和其他所有 *f 都只差一个单词,为什么要人写呢 (我就不说我拼写错误然后 painc 了)。
  • 支持 log4j 的 appender, transformer, xml etc.

Runner

之前在自动化的部分已经基本说过了,所以就不说了(就是想加个标题)。

Structure

Golang 内置的数据结构少的可怜,作为一个用了3天 python 的人当然要加一点数据结构。

目前实现的有

  • Set (一开始只有 Contains 没有 Add 用了才发现这个 Set 是 immutable 的)。
  • 没有然后了

Requests

net/http 很好用,但是 pythonrequests 更简洁,不过这个轮子目前在另一项目(xephon-b)里

Before

func (client *KairosDBHTTPClient) Ping() error {
	res, err := http.Get(client.Config.Host.HostURL() + "/api/v1/version")
	if err != nil {
		log.Warn("can't get kairosdb version")
		log.Debug(err.Error())
		return err
	}
	defer res.Body.Close()
	resContent, err := ioutil.ReadAll(res.Body)
	if err != nil {
		log.Warn("can't read response body")
		log.Debug(err.Error())
		return err
	}
	var resData map[string]string
	if err := json.Unmarshal(resContent, &resData); err != nil {
		log.Warn("can't parse json")
		log.Debug(err.Error())
		return err
	}
	log.Info("KairosDB version is " + resData["version"])
	return nil
}

After

func (client *KairosDBHTTPClient) Ping() error {
	versionURL := client.Config.Host.HostURL() + "/api/v1/version"
	res, err := requests.GetJSON(versionURL)
	if err != nil {
		return errors.Wrapf(err, "can't reach KairosDB via %s", versionURL)
	}
	log.Info("KairosDB version is " + res["version"])
	return nil
}

开发计划

上面说了那么多,一半都是画饼,可以从 issue 里看最近的进度

欢迎感兴趣的女同学联系我! 我的微信是 uictor

预计等到国内寒假的时候很多坑可以填完了,到时候欢迎假期想了解一下 Golang 的小伙伴来玩,我会加 help wanted 和难度的 label。

开发人员

GitHub 传送门

  • 咩在项目开始时提交了一些 shell 脚本,但是由于转到了 Golang 以及咩一向很忙,遂弃婶
  • @kdplus (丘) 参与过 Ayi check 的开发,不过那时我 Golang 菜的抠脚,导致丘也在划水。
  • @gaocegege (策策) 因为周报的功能,参与过一段时间的开发, 引入了Godep 交叉编译,不过最后周报的功能并没有投入实用。

总结

  • 等有钱了,给大家都配 MBP
  • 自己开的坑,不能让别人填 (我去开个找妹子的坑先)

杂项

  • 使用 git log -reverse 可以反过来看 log, 可以用来找第一个提交。
  • shell 在 windows 下基本不会有问题,因为为了使用 git,东岳所有的 windows 用户都安装了 msysgit (现在叫 git for windows),它自带了 bash 和一些基本的工具。
  • 周报的功能作为 MOS 的一个项目交给了 @codeworm96, 进度见这个issue
  • 所有带 backlog 标签的 issue

第一个提交

commit 19858fe3958317da08dc512116c58acbd82b2a35
Author: At15 <at15@outlook.com>
Date:   Sun Jul 26 13:24:38 2015 +0800

    Initial commit

更新

引用

许可协议

at15
开坑不填的婶婶