前言
最近Release的MySQL5.7.12增加了新的协议支持,通过X Plugin实现,同时增加了新的客户端API,开发者可以通过API来把MySQL作为document store的服务端,可以完成和MongoDB类似的document操作,例如支持CRUD等操作,但底层存储依然支持传统数据库的ACID,操作本身在底层也被扩展成标准SQL。从目前的MySQL来看,NOSQL和传统数据库的界限越来越小。目前这个特性还未Production Ready,建议仅用于测试环境。
本文只是记录下学习过程的笔记,不涉及任何内核实现知识。
相关概念
JSON
MySQL从5.7开始支持相对完整的JSON,并开发了完整的JSON函数(WL#7909)
Generated Column
通过表达式的方式来定义列,可以是虚拟的(查询时计算),也可以是物理存储的(DML时变更到文件)
Document
document存储的是一堆key-value的集合,通常使用JSON来进行描述。
Colllection
用于存储Document的容器,在MySQL里表现为一张普通的InnoDB表, 每行存储一个document
CRUD操作
即四种对Document的操作,包括CREATE, READ, UPDATE, DELETE
X PLUGIN及X PROTOCOL
X PLUGIN是官方新引入的插件,需要显式安装到服务器上,主要用于处理来自X协议的请求。用户通过X DevAPI发送基于X Protocol的请求到服务器端,请求可以是异步的,也可以是同步的。
准备工作
安装:
- 手动编译安装MySQL5.7.12
- 需要安装protobuf库: yum install protobuf
- 下载新的命令行shell并安装
- 启动MySQL,并安装X Plugin:
INSTALL PLUGIN mysqlx SONAME 'mysqlx.so'
文档学习
- X DevAPI用户手册
- 新的命令行Shell文档
- 官方文档
- 官方Youtube视频
- X Plugin的Worklog WL#8338
-
官方博客系列文章:
- More than a Maintenance Release
- MySQL 5.7.12 – Part 2: Improving the MySQL Protocol
- MySQL 5.7.12 – Part 3: More Than “Just” SQL?
- MySQL 5.7.12 – Part 4: A new MySQL Command Line Shell
- MySQL 5.7.12 – Part 5: Connector/Node.js
- MySQL 5.7.12 – Part 6: MySQL Document Store – A New Chapter in the MySQL Story
以下所有的操作API你都可以从官方的文档上获取到
登录
当前shell支持三种模式:JavaScript,Python以及传统的SQL模式。对于SQL模式,你需要在启动客户端时指定--sql,如果不指定,则默认登录模式为javascript
$mysqlsh -S /u01/my57/run/mysql.sock --sql -usb test Creating a Node Session to sb@localhost:33060/test Enter password: Default schema `test` accessible through db ... 然后从sql模式可以切换到别的模式: mysql-sql> select database(); +------------+ | database() | +------------+ | test | +------------+ 1 row in set (0.00 sec) mysql-sql> \py Switching to Python mode... mysql-py>session.sql("select database()"); +------------+ | database() | +------------+ | test | +------------+ 1 row in set (0.00 sec) mysql-py>\js Switching to JavaScript mode... mysql-js> session.sql("select database()"); +------------+ | database() | +------------+ | test | +------------+ 1 row in set (0.00 sec) 下文我们以javascript为例进行阐述。
schema操作
schema在MySQL里对应的就是一个database,包含操作如下:
/* 创建Schema */ mysql-js> session.getSchemas() { "information_schema": <Schema:information_schema>, "mysql": <Schema:mysql>, "performance_schema": <Schema:performance_schema> } mysql-js> session.createSchema('sb1') <Schema:sb1> mysql-js> session.createSchema('sb2') <Schema:sb2> mysql-js> session.getSchemas() { "information_schema": <Schema:information_schema>, "mysql": <Schema:mysql>, "performance_schema": <Schema:performance_schema>, "sb1": <Schema:sb1>, "sb2": <Schema:sb2> } mysql-js> session.createSchema('test') <Schema:test> /* 删除Schema */ mysql-js> session.dropSchema('sb1') Query OK, 0 items affected (0.00 sec) mysql-js> session.dropSchema('sb2') Query OK, 0 items affected (0.00 sec) Collection操作
相关操作:
mysql-js> db <Schema:test> mysql-js> db = session.getSchema('test') <Schema:test> /* 创建Collection */ mysql-js> db.createCollection("sbtest1") <Collection:sbtest1> mysql-js> db.createCollection("sbtest2") <Collection:sbtest2> /* 获取Collection */ mysql-js> db.getCollections() { "sbtest1": <Collection:sbtest1>, "sbtest2": <Collection:sbtest2> } /* 获取某个collection */ mysql-js> db.getCollection("sbtest1"); <Collection:sbtest1> mysql-js> coll=db.getCollection("sbtest1"); <Collection:sbtest1> mysql-js> coll.find() Empty set (0.00 sec) mysql-js> coll.add({Name: "zhai weixiang"}); Query OK, 1 item affected (0.00 sec) mysql-js> coll.find() [ { "Name": "zhai weixiang", "_id": "944d76235812e611c867200bc7293cfa" } ] 1 document in set (0.00 sec) /* 删除Collection */ mysql-js> session.dropCollection('test','sbtest2'); Query OK (0.00 sec) mysql-js> db.getCollections(); { "sbtest1": <Collection:sbtest1> } 所谓的collection,在物理存储上就是一张普通的InnoDB表,并且这些表具有相同的表定义
mysql> show tables; +----------------+ | Tables_in_test | +----------------+ | sbtest1 | | sbtest2 | +----------------+ 2 rows in set (0.00 sec) mysql> show create table sbtest1\G *************************** 1. row *************************** Table: sbtest1 Create Table: CREATE TABLE `sbtest1` ( `doc` json DEFAULT NULL, `_id` varchar(32) GENERATED ALWAYS AS (json_unquote(json_extract(`doc`,'$._id'))) STORED NOT NULL, UNIQUE KEY `_id` (`_id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 1 row in set (0.00 sec) 这个自动创建的表上包含两列:doc列的类型为JSON,另一个列为generated column, 从document的_id上提取。_id由MySQL自动生成,你可以显式指定,但需要保证唯一性。
document操作
完整的CRUD的执行见官方文档图示,以下仅尝试了下简单的操作
/* 创建document */ mysql-js> db = session.getSchema('test') <Schema:test> mysql-js> coll=db.getCollection("sbtest1"); <Collection:sbtest1> mysql-js> coll.add({Name: "zhai weixiang"}); Query OK, 1 item affected (0.00 sec) mysql-js> coll.find() [ { "Name": "zhai weixiang", "_id": "da3f9cb56712e61154d7200bc7293cfa" } ] 1 document in set (0.00 sec) mysql-js> coll.add({'name': 'zhai', 'age': 18}) Query OK, 1 item affected (0.00 sec) mysql-js> coll.add([ {'name': 'zhaiwx', 'age': 17},{'name': 'zhaiweixiang', 'age': 16} ]) Query OK, 2 items affected (0.00 sec) mysql-js> coll.find() [ { "_id": "4ccd04526812e61154d7200bc7293cfa", "age": 16, "name": "zhaiweixiang" }, { "_id": "b2cb04526812e61154d7200bc7293cfa", "age": 17, "name": "zhaiwx" }, { "_id": "c84e9a3c6812e61154d7200bc7293cfa", "age": 18, "name": "zhai" }, { "Name": "zhai weixiang", "_id": "da3f9cb56712e61154d7200bc7293cfa" } ] 4 documents in set (0.00 sec) /* 查询Document */ mysql-js> coll.find('age < 18') [ { "_id": "4ccd04526812e61154d7200bc7293cfa", "age": 16, "name": "zhaiweixiang" }, { "_id": "b2cb04526812e61154d7200bc7293cfa", "age": 17, "name": "zhaiwx" } ] 2 documents in set (0.00 sec) /* 更新Document */ mysql-js> coll.modify("name = 'zhaiweixiang'").set("age",22) Query OK, 1 item affected (0.00 sec) mysql-js> coll.find("name = 'zhaiweixiang'") [ { "_id": "4ccd04526812e61154d7200bc7293cfa", "age": 22, "name": "zhaiweixiang" } ] 1 document in set (0.00 sec) /* 删除Document */ mysql-js> coll.remove("name = 'zhaiweixiang'") Query OK, 1 item affected (0.00 sec) mysql-js> coll.find("name = 'zhaiweixiang'") Empty set (0.00 sec) /* 创建索引 */ mysql-js> coll.createIndex("_age").field("age", "INTEGER", false).execute() Query OK (0.19 sec) /*上述语句在服务器端执行时转换成SQL: ALTER TABLE `test`.`sbtest1` ADD COLUMN ` $ix_i_F177B50B40803DD7D3962E25071AC5CAA3D1139C` INTEGER GENERATED ALWAYS AS (JSON_EXTRACT(doc, '$.age')) VIRTUAL , ADD INDEX `_age` (` $ix_i_F177B50B40803DD7D3962E25071AC5CAA3D1139C`) 会创建出一个虚拟列,并基于其上建立二级索引 */ /* 删除索引,会将索引和虚拟列同时删除 */ mysql-js> coll.dropIndex("_age").execute() Query OK (0.18 sec) /* 支持事务操作,可以通过如下3个接口开启、提交、回滚事务 */ mysql-js> session.startTransaction() Query OK, 0 items affected (0.00 sec) mysql-js> session.commit() Query OK, 0 items affected (0.00 sec) mysql-js> session.rollback() Query OK, 0 items affected (0.00 sec) 关系表操作
除了操作JSON外,你还可以通过新的命令行shell来进行其他表的操作。
/* 在普通的终端下创建一张表 */ create table t1 (a int, b int); /* 查询表 */ mysql-js> tb = db.getTable('t1') <Table:t1> /* 插入数据 */ mysql-js> tb.insert().values(1,2) Query OK, 1 item affected (0.00 sec) mysql-js> tb.insert('a','b').values(2,3) Query OK, 1 item affected (0.01 sec) /* 查询数据 */ mysql-js> tb.select(['a', 'a + b']).where ('b < :b').bind('b',10).execute() +---+-------------+ | a | (`a` + `b`) | +---+-------------+ | 1 | 3 | | 2 | 5 | +---+-------------+ 2 rows in set (0.00 sec) /** 实际在服务器端执行的SQL为 SELECT `a`,(`a` + `b`) FROM `test`.`t1` WHERE (`b` < 10) */