タグ

kvsに関するhiro_yのブックマーク (35)

  • NoSQLデータモデリング技法

    NoSQLデータモデリング技法.markdown #NoSQLデータモデリング技法 原文:NoSQL Data Modeling Techniques « Highly Scalable Blog I translated this article for study. contact matope[dot]ono[gmail] if any problem. NoSQLデータベースはスケーラビリティ、パフォーマンス、一貫性といった様々な非機能要件から比較される。NoSQLのこの側面は実践と理論の両面からよく研究されている。ある種の非機能特性はNoSQLを利用する主な動機であり、NoSQLシステムによく適用されるCAP定理がそうであるように分散システムの基的原則だからだ。一方で、NoSQLデータモデリングはあまり研究されておらず、リレーショナルデータベースに見られるようなシステマティック

    NoSQLデータモデリング技法
    hiro_y
    hiro_y 2012/04/17
    NoSQLモデリング
  • AvocadoDB | The universal nosql database

    AvocadoDB is an easy to use mostly memory, high performance, open source db with a unique combination of features like support for graph & geo algorithms.We recently started a new open source project – a nosql database called AvocadoDB. Key features include: Schema-free schemata let you combine the space efficiency of MySQL with the performance power of NoSQL Use AvocadoDB as an application server

    hiro_y
    hiro_y 2012/04/14
    「AvocadoDB – the universal nosql database」
  • いまさら聞けないKVSの常識をHbaseで身につける

    いまさら聞けないKVSの常識をHbaseで身につける:ビッグデータ処理の常識をJavaで身につける(3)(1/3 ページ) Hadoopをはじめ、Java言語を使って構築されることが多い「ビッグデータ」処理のためのフレームワーク/ライブラリを紹介しながら、大量データを活用するための技術の常識を身に付けていく連載 ビッグデータの要! KVSとは何なのか 「KVS(Key-Value Store)」とは、Key値を指定してValue値の格納や取得を行う方式です。それに対して、RDBではキー(プライマリキー)が必須ではなく、逆に複数のカラムをセットしてキーにすることもできます。 テーブル構造だけを見れば、KVSとRDBは似ています。例えば、RDBでプライマリキーと1つのBLOB型を持ったテーブルを作れば、KVSと同じような構造にもなります。しかし、RDBでKVSのまねごとをするのと、KVSとして

    いまさら聞けないKVSの常識をHbaseで身につける
  • GitHub - google/leveldb: LevelDB is a fast key-value storage library written at Google that provides an ordered mapping from string keys to string values.

    You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

    GitHub - google/leveldb: LevelDB is a fast key-value storage library written at Google that provides an ordered mapping from string keys to string values.
    hiro_y
    hiro_y 2011/07/30
    GoogleによるKVS。SQLite的に使えるみたい
  • blog.katsuma.tv

    当然のごとくmemcachedが最速だろう。。。と思いきや、そうでもない結果に。むしろ一番遅い結果に。なんだこれーーーと思って調べ続けていたのですが、バインディングのgemのコードを追いかけるかぎり、どうもこれはmemcache-clientの実装が原因のよう。 これは、memcache-clientの実装はpure-rubyで実装されているのに対して、TokyoCabinet/TokyoTyrantのバインディングの実装はnativeコードで実装されてあるのが原因のようです。事実、TokyoTyrantはmemcacheプロトコルを実装しているので、memcache-clientを利用してTokyoTyrantにアクセスすると両者はこんな結果になりました。 user system total real

    hiro_y
    hiro_y 2010/12/05
    memcached/TokyoTyrant/Redisのベンチマーク比較
  • NoSQLの成功は1:10問題にかかっている:Kenn's Clairvoyance

    ここ2-3年ほど、いわゆる非SQL系データベースがホットな話題になってきています。このムーブメントを総称して「NoSQL (Not-only SQL)」と呼ばれることが多いようです。まるでSQLを否定しているかのような誤解を招きやすい用語ですが、かといってキー・バリュー型データストアや列指向DBを総称できる他の呼び方もないので、このエントリではNoSQLという用語を使うことにします。 OracleMySQLなどのSQLデータベースが成熟していく一方で、SQLデータベースを特徴づける弱点である柔軟性のなさ、堅牢さと引き換えに犠牲になった更新性能の低さ、スケールアウトの難しさなどから、「何でもかんでもRDB」から「目的に応じた永続化」が模索される流れになってきました。 時を同じくして、キャッシュサーバの世界でも、MemcachedのもつシンプルなAPIの使いやすさが評価される一方、LRUによ

    NoSQLの成功は1:10問題にかかっている:Kenn's Clairvoyance
    hiro_y
    hiro_y 2010/09/20
    Redisの永続化どうする問題
  • memcachedプロトコルCAS操作について

    当ブログをご覧の皆様こんにちは。さくらインターネット研究所の大久保です。 ご存知の方も多いと思いますが、先日、分散KVSの一つであるkumofsが、バージョン0.4.0にてCAS操作をサポートされたそうです。以下は開発者である古橋さんの日記のURLです。 ▽ kumofs-0.4.0リリース - CAS操作をサポート http://d.hatena.ne.jp/viver/20100514/p1 今回は突然ですが、番外編としてCAS操作について取り上げたいと思います。 CAS操作とは?CASは”Check and Set”の略で、KVS上でトランザクション処理を行うために必要なものです。それ自体少々複雑ですので、以前当ブログにてmemcachedプロトコルの紹介をした際には、CAS操作のコマンド説明は省いておりました。なお、これまでとりあげてきたFlareでは、CAS操作は既にサポートされ

    memcachedプロトコルCAS操作について
    hiro_y
    hiro_y 2010/09/14
    memcachedなどでサポートされているCASについて
  • Membase vs memcached vs TokyoTyrant vs Redis - #詰んでる日記

    Membaseを入れてみたので、実際にどれくらいの速度が出るのか試してみました。 memcached vs TokyoCabinet vs TokyoTyrant vs Redis - blog.katsuma.tv この記事のパクリですね。これにMembaseを加えてみた感じです。 クライアントによって速度が変わるのが嫌だったので、すべてPythonのmemcachedクライアントを使って、1万回setを行いその時間を計測してみました。 Membase 1.18884205818 memcached 0.683738946915 TokyoTyrant 0.788640022278 Redis 0.642278909683 思ったよりMembaseが遅い…。って言うかRedis速い。 まとめ 使おう!Redis!APIも豊富だし、レプリケーションとかも簡単らしいよ! ちなみに今回計測に使

    Membase vs memcached vs TokyoTyrant vs Redis - #詰んでる日記
    hiro_y
    hiro_y 2010/09/13
    Membaseと他のKVSの速度比較。Membase遅い
  • Membase.org

    Whether you’re new to Couchbase or a longtime user, our Community Team and thousands of developers are here to accompany you on your Couchbase journey! Join the Couchbase community Explore all the ways you can connect, learn, and share with other developers. Let’s talk Couchbase Exchange ideas in real time, connect with fellow Couchbasers, and most importantly share cat photos!

    Membase.org
    hiro_y
    hiro_y 2010/09/13
    memcached互換のKVS
  • Presentation: NoSQL: Dealing with the Data Deluge

    Copyright © 2009-2015. All rights reserved. This blog is called myNoSQL and it is written by me, Alex Popescu, a software architect with a passion for open source and communities. It records my readings, learnings, and opinions on NoSQL databases, polyglot persistence, and distributed systems -- subjects that I'm passionate about. The opinions expressed here are my own, and no other party necessar

    hiro_y
    hiro_y 2010/04/21
    DiggのエンジニアによるNoSQL概説。
  • Apache Cassandra | Apache Cassandra Documentation

    What is Apache Cassandra? Apache Cassandra is an open source NoSQL distributed database trusted by thousands of companies for scalability and high availability without compromising performance. Linear scalability and proven fault-tolerance on commodity hardware or cloud infrastructure make it the perfect platform for mission-critical data.

    hiro_y
    hiro_y 2010/03/20
    Facebookによってオープンソース化されたKVS。Bigtable。
  • http://1978th.net/tech/promenade.cgi?id=72

    hiro_y
    hiro_y 2010/02/22
    Tokyo Cabinet/Tokyo Tyrant紹介。
  • Memcached のベンチマークツールを公開しました - higepon blog

    Memcached のベンチマークツールを公開しました。自作の KVS のパフォーマンス測定に使っていたものです。 以下のように簡単にベンチマークがとれます。 $ mcbench -b 10000 -t 10 -n 1000 -s 127.0.0.1 -p 11211 -c get ==== mcbench started ======================= Server: 127.0.0.1:11211 10 threads x 1000 = 10000 commands. Inserting base data 10000 ... done Sending get Commands ... done ==== mcbench result ======================== Interval: 138 msec Performance: 72661 comma

    Memcached のベンチマークツールを公開しました - higepon blog
    hiro_y
    hiro_y 2010/02/10
    memcachedのベンチマークツール、要Erlang。
  • CouchDBとMongoDBを比較してみた - Masatomo Nakano Blog

    ドキュメント指向なKVSってことと、字面が似ていると言うことぐらいしか比較する意味がなさそうなCouchDBとMongoDBだけど、ここ2,3ヶ月で両方をそれなりに突っ込んで見てきたので比較してみた。実装面やパフォーマンス、ということよりはどちらかというと(私が感じる)思想的なものや、ユーザ側からの視点での比較。 共通するところ これはもう簡単に、 ドキュメント指向データベース - RDBMSのようなカラムと言ったものを持たずにスキーマレスで好きな情報を入れられる Javascript/JSONを使用 - データ自体もJSONというJavascript由来のフォーマットで持ち(MongoDBはJSONを元にしたBSONというものだが)、データベースのアクセスにはJavascriptを使用する スケールアウトするように考えられている NoSQLな流行 CouchDBの特徴 機能を限定している

    hiro_y
    hiro_y 2010/02/05
    CouchDBとMongoDBの比較。
  • 分散Key-Valueストア「kumofs」を公開しました! - Blog by Sadayuki Furuhashi

    分散Key-Valueストア kumofs を、日オープンソースソフトウェアとしてリリースしました! kumofs@SourceForge kumofs関連資料まとめ kumofsとは? kumofs(クモエフエス)は、実用性を重視した分散データストアです。レプリケーション機能を備え、一部のサーバーに障害が発生しても動作し続けます。単体でも高い性能を持ちながら、サーバーを追加することで読み・書き両方の性能が向上する特徴を持ち、低コストで極めて高速なストレージシステムを構築・運用できます。 kumofsの大きな特徴は、システムの構成の簡単に変更できる点です。システムを止めることなく、簡単な手順でサーバーを追加したり復旧したりできます。アプリケーションには一切影響を与えません。 またkumofsは、広く利用されている分散キャッシュシステムの「memcached」と互換性のあるプロトコルを実装

    分散Key-Valueストア「kumofs」を公開しました! - Blog by Sadayuki Furuhashi
    hiro_y
    hiro_y 2010/01/19
    kumofsについて概観。
  • GitHub - etolabo/kumofs: kumofs is a scalable and highly available distributed key-value store.

    Kumofs is a simple and fast distributed key-value store. You can use a memcached client library to set, get, CAS or delete values from/into kumofs. Backend storage is Tokyo Cabinet and it will give you great performance. Data is partitioned and replicated over multiple servers. Extreme single node performance; comparable with memcached. Both read and write performance got improved as servers added

    GitHub - etolabo/kumofs: kumofs is a scalable and highly available distributed key-value store.
    hiro_y
    hiro_y 2010/01/18
    レプリケーション機能もある分散KVS。サーバーの追加がしやすくなっている。TokyoCabinetベース、memcachedプロトコルを一部サポート。
  • Webアプリをとりまく最近のKVS事情、雑感 - Tous Les Jours 攻防記

    RDBの復権はしばらくないと思う 最近目にしたのは、「これからRDBが十分速くなっていくので、memcachedに代わってRDBがまた使われるようになる」という意見。これはしばらくの間は無いんじゃないかと思う。全データがオンメモリだったとしても、KVSはRDBより一桁以上速い(Memcachedで100,000req/sec出せるマシンで、MySQLのpkeyによる単純なSELECTをした場合、10,000req/sec出るかどうか)。SQLパーサやらなんやらを捨てない限りこの速さには対抗できない。RDBには、1コネクション1スレッドというモデルが持つ、接続数がスケールしないという制約もある。 また、memcacheプロトコルは、get_multiが使える。get_multiを効果的に活用した場合、RDBとの差はさらに広がると思う。 RDBで大丈夫なアプリも Viewキャッシュが効果的なア

    Webアプリをとりまく最近のKVS事情、雑感 - Tous Les Jours 攻防記
    hiro_y
    hiro_y 2009/11/15
    KVSの優位性、そしてRDBと違って諦めなければいけないこと。「レンジクエリが使えない場合、インデックス構造自体をKVS上の1レコードとして持つ必要がある」とか、トランザクションの有無とか。
  • Google Code Archive - Long-term storage for Google Code Project Hosting.

    Code Archive Skip to content Google About Google Privacy Terms

    hiro_y
    hiro_y 2009/10/25
    ROMA、Rubyによる分散key-value store実装、memcachedプロトコルと互換性あり。Java版とRuby版のクライアントが用意されてる。停止コマンドはbalse。
  • Richard Jones | Anti-RDBMS: A list of distributed key-value stores | Richard Jones, Esq.

    Please Note: this was written January 2009 - see the comments for updates and additional information. A lot has changed since I wrote this. Perhaps you’re considering using a dedicated key-value or document store instead of a traditional relational database. Reasons for this might include: You're suffering from Cloud-computing Mania. You need an excuse to 'get your Erlang on' You heard CouchDB was

    hiro_y
    hiro_y 2009/10/20
    KVS比較。日本からはKaiが。MemcacheDBの評価高い。
  • Tokyo TyrantによるHAなセッションストレージ 3 デュアルマスタ篇 - Webと何かとその近所

    デュアルマスタ構成にする基的な方法についてはチュートリアルにもあるので省略。 期限切れレコードの削除はどちらで行うか デュアルマスタにした場合、期限切れレコードの削除を行うttexpire.luaはどこで動かすのが良いか。 セッションデータの一貫性を保つためアクティブ-スタンバイ構成を想定しているので、アクティブ側でのみ動かすのが正統な選択になると思う。 しかし、そうするとスタンバイに切り替わった後にexpireの実行が行われなくなってしまう。今のところTokyo Tyrant(TT)は起動中にextpcオプションに相当する機能を操作する事はできないようだ。 解決策を2つ考えてみた アクティブとスタンバイの両方でexpireを実行する TT起動中にexpireの実行/停止を行えるようにする アクティブとスタンバイの両方でexpireを実行する 両マスタでexpireを実行して問題なければ

    Tokyo TyrantによるHAなセッションストレージ 3 デュアルマスタ篇 - Webと何かとその近所
    hiro_y
    hiro_y 2009/10/12
    Tokyo Tyrantをデュアルマスタ構成でセッションストレージとして利用した場合、どう扱えばよいか。