API开发日记(一):基本概念

2014-09-04发布在 Web技术12545 次访问

jquery

基本概念

开发者、客户、用户

开发者是云存储服务的使用者,因此各种云服务中的客户等同于开发者。用户则是开发者所推出产品的直接使用者,也是云服务的间接使用者。

 

键值对(Key-Value)

键值对(Key-Value,简称KV)是一个常用的数据结构概念,通常又被称为字典(Dictionary)或映射(Map)。每个存放到该数据结构中的数据(Value)都对应到一个全局唯一的键(Key)。该数据结构的特征是以空间换时间,通过键查询值通常是比较快速的过程。

 

在存储系统中,键值对是和树形文件系统(File System,简称FS)对应的一个概念。树形文件系统的特征是以文件夹和文件的方式管理存储内容。一般人所了解的文件系统类型,比如Windows系统的FAT32和NTFS、Linux系统的EXT3等,都是树形文件系统的典型实现。

 

在IT系统演进早期,树形文件系统比较符合常规使用场景,令用户可以对大量内容进行有效归类管理,比如桌面操作系统通常会缺省创建这些文件夹:图片、视频、文档、下载等。但当系统内的节点(即文件和文件夹)数量达到某个级数后,系统性能将急剧下降到不可用的程度,因此文件系统在设计时一般会对文件夹中可包含的子节点数目设置一个上限。

 

在设计海量存储系统时,树形文件系统的两个缺陷就会凸显出来:性能限制、无法横向无限扩展。在这种考虑下,海量存储系统一般设计为键值对方式。

 

键可以是一个任意字符串(有些设计中可能会保留一些字符),值就是一个具体文件。写入文件时,用户可以自行指定键(比如看起来接近于文件系统的格式:data/imgs/2011/1/1/img001.jpg),或者让存储系统自动生成一个唯一的键并返回给上传端。使用者只需要知道下载出口的域名,而无需了解文件具体会被存放到哪个机房的哪个设备,也无需知道具体存放形式。要读取时用标准的HTTP GET方式访问对应的URL即可,如:

 

GET https://www.liaosam.com/images/logo.png

 

资源(Resource)

资源是存储服务中的逻辑存储单元。对于每一个账号,该账号里存放的每个资源都有唯一的一对属主空间(Bucket)与键名(Key),作为识别标识。

 

资源键名是一个字符串,大部分情况下接近于Linux文件路径的风格,比如:level1/level2/example1.jpg。

但对于一些云存储服务商,并没有路径的概念,因此这个键名并不表示目录level1/level2/下的一个名为example1.jpg的文件,而是该键名就是这样一个完整的字符串。

 

因此,与Linux文件路径不同,资源的标识符可以包含任意字符(包括UTF-8编码形式的Unicode字符)。

 

使用者可以在上传资源时为其指定一个方便管理的键名,通过设计好的前缀来达到类似于文件目录的分类和层次效果。比如对于一个网站的资源,我们可以命名如下的资源列表:

index.html

features/index.html

features/feature1.html

features/feature2.html

imgs/features/feature1.png

imgs/features/feature2.png

about.html

 

假设这些资源都位于某个绑定了域名example.com的公开空间中,则用户可以通过组合这样的URL访问这些资源:http://www.example.com/features/index.html

 

或省略掉index.html,比如:http://www.example.com/features/

 

空间(Bucket)

空间是资源的组织管理单位,一个资源必然位于某个空间中。可以为每个空间设置一系列的属性,以对资源提供合理的管理动作。

常见的属性有如下:

将空间设置为公开或私有,以控制空间内资源的访问权限;
设置资源的数据处理样式(Style),以便于用简短方式对资源进行处理。

 

数据处理(Fop)

数据处理是云存储提供的一种强大的数据处理机制。开发者可以在上传或访问资源时触发数据处理流程,从而得到资源进行按需变换后的结果。

 

数据处理的执行非常简单,就是在资源请求中加上数据处理动作和参数,比如以下的URL对图片进行缩放,就是调用了一个名为imageView的数据处理操作:

 

http://qiniuphotos.qiniudn.com/gogopher.jpg?imageView/2/w/200/h/200
多个数据处理操作可以通过管道(Pipe)进行连接,实现级联操作,每一级的输出作为下一级的输入。比如我们可以在一次请求中完成先对图片进行缩放,然后再在图片右下角添加一个透明图片水印,其中缩放和添加水印分别是一个数据处理操作。

 

http://qiniuphotos.qiniudn.com/gogopher.jpg?imageView/2/w/400
|watermark/1/image/aHR0cDovL3d3dy5iMS5xaW5pdWRuLmNvbS9pbWFnZXMvbG9nby0yLnBuZw==

 

数据处理样式(Fop Style)

如果觉得url?|||这种形式过于冗长,还可以为这些串行的集合定义一个友好别名,之后可以用这个友好的别名来取代冗长的指令和参数。我们称这个别名为样式。样式是对一个或一组数据处理操作的命名。

 

还以上一个Fop处理的URL为例,看起来非常长且难以理解目的。我们可以定义一个名为watermark的样式,对应以上的数据处理操作:imageView/2/w/400 |watermark/1/image/aHR0cDovL3d3dy5iMS5xaW5pdWRuLmNvbS9pbWFnZXMvbG9nby0yLnBuZw== ,则之后我们可以用如下使用方式进行访问:

 

http://qiniuphotos.qiniudn.com/gogopher.jpg-watermark
显然简洁很多也方便很多(注:上面的 ‘-’ 我们称为数据处理样式的分隔符)。

 

其实以上“空间(Bucket)” 可以用资源池(pool)、集(set)、模块(module) 等程序员更容易理解的词来描述。

 

注1:上面的 ‘-’ 称为数据处理样式的分隔符,如果资源里带有这个中横线的字符,会起冲突。因此资源文件中尽量选用别的分隔符。

 

注2:问:Key-Value, Key全局唯一的键,这个键值我用一个文件的MD5 或 GUID,会不会与系统的保留字符或者格式冲突?

答:Key是Bucket内唯一的,不是账号内唯一的。使用文件的MD5或GUID都可以的,不会有冲突,但需要注意长度。


本站所有文章除注明“转载”的文章之外,均为原创。未经本站允许,请勿随意转载或用作任何商业用途,否则依法追究侵权者法律责任的权利。

分享到微信朋友圈

LiaoSam
LiaoSam
外贸综合症患者

相关文章

    暂无

17条评论

发表我的评论

取消评论

邮箱白名单说明:最近料网自动提醒邮件经常会被一些邮件服务商拦截。为了您顺利并及时地收取留言被回复的提醒邮件,请在您邮箱中把料网 liaosam.com 加入白名单域名。

已读说明
设为私密评论
添加表情

Hi,您需要填写昵称和邮箱!

您的邮箱地址不会公开,仅仅用于收取回复。建议填写QQ邮箱,不宜填写工作邮箱。
  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址 (没有就留空)
呃,评论有点多呢... 料网小秘书为您玩命加载中...
  1. #11
    星空雪苒

    真是甩开人类一条街,不过看着并不感到枯燥,吼吼

    1年前 (2015-11-05)回复
  2. #10

    好深奥,不懂

    2年前 (2014-11-11)回复
  3. #9
    阳光的ac0

    看不懂, 留名,以后仔细读

    2年前 (2014-11-03)回复
  4. #8
    Mike

    这些web 开发是你自己写的吗? 都懂吗?

    2年前 (2014-10-31)回复
  5. #7
    can

    啧啧,收了!O(∩_∩)O哈哈~,虽然还没有全部弄懂,不过用得上^_^

    2年前 (2014-09-09)回复
  6. #6
    sheila

    :oops: :arrow:

    2年前 (2014-09-06)回复
  7. #5
    Nick

    较难看懂,或许电脑还得加强吧。。

    2年前 (2014-09-05)回复
  8. #4
    岁月静好

    真心看不懂。但可以记一下。以后或许会懂。

    2年前 (2014-09-05)回复
  9. #3
    mike

    也是没有看懂,隔行如隔山啊!

    2年前 (2014-09-04)回复
  10. #2
    朝暾

    我看了两遍也是没懂,好深奥的感觉 :eek:

    2年前 (2014-09-04)回复
    • LiaoSam
      料神SAM,外贸综合症患者。
      @朝暾 嗯,默认是首页显示任何新的文章。给加个了判断,如果属于WEB开发类的文章就不在首页显示了。呵呵,抱歉!我自己笔记用的。
      2年前 (2014-09-04)回复
    • 朝暾

      @朝暾 难怪我的头像没了,用错邮箱了……

      2年前 (2014-09-04)回复
  11. #1
    jasmine

    这篇完全没看懂 :sad:

    2年前 (2014-09-04)回复
    • LiaoSam
      料神SAM,外贸综合症患者。
      @jasmine 汗,这篇是我写的日记,存博客上方便查看的。回头我设置一下关于此类的,都放到互联网那个分类下显示。
      2年前 (2014-09-04)回复
      • Jasmine

        @料神SAM 幼稚的问一下,这文仅方便自己查看?每每看到类似的文章,头都大了

        2年前 (2014-09-04)回复
        • LiaoSam
          料神SAM,外贸综合症患者。
          @Jasmine 嗯,搞定了,不显示在首页了。有些内容不适合放在首页,不然不像个外贸的站点了。
          2年前 (2014-09-04)回复
          • Jasmine

            @料神SAM :!:

            2年前 (2014-09-04)回复