mirror of
https://github.com/mongodb/mongo.git
synced 2024-12-01 09:32:32 +01:00
shard object cleaning, split, ShardKey api cleaning
This commit is contained in:
parent
54b560c635
commit
8f65a14db1
132
s/shard.cpp
132
s/shard.cpp
@ -21,8 +21,19 @@
|
|||||||
#include "config.h"
|
#include "config.h"
|
||||||
|
|
||||||
namespace mongo {
|
namespace mongo {
|
||||||
|
|
||||||
|
// ------- Shard --------
|
||||||
|
|
||||||
Shard::Shard( ShardInfo * info , BSONObj data ) : _info( info ) , _data( data ){
|
Shard::Shard( ShardInfo * info , BSONObj data ) : _info( info ) , _data( data ){
|
||||||
|
_min = _data.getObjectField( "min" );
|
||||||
|
_max = _data.getObjectField( "max" );
|
||||||
|
}
|
||||||
|
|
||||||
|
Shard::Shard( const Shard& s ){
|
||||||
|
_info = s._info;
|
||||||
|
_data = s._data.copy();
|
||||||
|
_min = _data.getObjectField( "min" );
|
||||||
|
_max = _data.getObjectField( "max" );
|
||||||
}
|
}
|
||||||
|
|
||||||
string ShardInfo::modelServer() {
|
string ShardInfo::modelServer() {
|
||||||
@ -30,15 +41,85 @@ namespace mongo {
|
|||||||
return configServer.modelServer();
|
return configServer.modelServer();
|
||||||
}
|
}
|
||||||
|
|
||||||
void ShardInfo::serialize(BSONObjBuilder& to) {
|
bool Shard::contains( const BSONObj& obj ){
|
||||||
|
return
|
||||||
|
_info->getShardKey().compare( getMin() , obj ) <= 0 &&
|
||||||
|
_info->getShardKey().compare( obj , getMax() ) < 0;
|
||||||
|
}
|
||||||
|
|
||||||
|
void Shard::split(){
|
||||||
|
|
||||||
|
BSONObj m = _info->getShardKey().middle( getMin() , getMax() );
|
||||||
|
|
||||||
|
{
|
||||||
|
BSONObjBuilder l;
|
||||||
|
l.append( "min" , _min );
|
||||||
|
l.append( "max" , m );
|
||||||
|
l.append( "server" , getServer() );
|
||||||
|
_info->_shards.push_back( new Shard( _info , l.obj() ) );
|
||||||
|
}
|
||||||
|
|
||||||
|
{
|
||||||
|
BSONObjBuilder r;
|
||||||
|
r.append( "min" , m );
|
||||||
|
r.append( "max" , _max );
|
||||||
|
r.append( "server" , getServer() );
|
||||||
|
_info->_shards.push_back( new Shard( _info , r.obj() ) );
|
||||||
|
}
|
||||||
|
|
||||||
|
for ( vector<Shard*>::iterator i=_info->_shards.begin(); i != _info->_shards.end(); i++ ){
|
||||||
|
Shard * s = *i;
|
||||||
|
if ( s == this ){
|
||||||
|
_info->_shards.erase( i );
|
||||||
|
delete( s );
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
bool Shard::operator==( const Shard& s ){
|
||||||
|
return
|
||||||
|
_info->getShardKey().compare( _min , s._min ) == 0 &&
|
||||||
|
_info->getShardKey().compare( _max , s._max ) == 0
|
||||||
|
;
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
string Shard::toString() const {
|
||||||
|
return _data.toString();
|
||||||
|
}
|
||||||
|
|
||||||
|
// ------- ShardInfo --------
|
||||||
|
|
||||||
|
ShardInfo::ShardInfo( DBConfig * config ) : _config( config ){
|
||||||
|
}
|
||||||
|
|
||||||
|
ShardInfo::~ShardInfo(){
|
||||||
|
for ( vector<Shard*>::iterator i=_shards.begin(); i != _shards.end(); i++ ){
|
||||||
|
delete( *i );
|
||||||
|
}
|
||||||
|
_shards.clear();
|
||||||
|
}
|
||||||
|
|
||||||
|
Shard& ShardInfo::findShard( const BSONObj & obj ){
|
||||||
|
for ( vector<Shard*>::iterator i=_shards.begin(); i != _shards.end(); i++ ){
|
||||||
|
Shard * s = *i;
|
||||||
|
if ( s->contains( obj ) )
|
||||||
|
return *s;
|
||||||
|
}
|
||||||
|
throw UserException( "couldn't find a shard which should be impossible" );
|
||||||
|
}
|
||||||
|
|
||||||
|
void ShardInfo::serialize(BSONObjBuilder& to){
|
||||||
to.append( "ns", _ns );
|
to.append( "ns", _ns );
|
||||||
to.append( "key" , _key.key() );
|
to.append( "key" , _key.key() );
|
||||||
|
|
||||||
BSONObjBuilder shards;
|
BSONObjBuilder shards;
|
||||||
int num=0;
|
int num=0;
|
||||||
for ( vector<Shard>::iterator i=_shards.begin(); i != _shards.end(); i++ ){
|
for ( vector<Shard*>::iterator i=_shards.begin(); i != _shards.end(); i++ ){
|
||||||
string s = shards.numStr( num++ );
|
string s = shards.numStr( num++ );
|
||||||
shards.append( s.c_str() , i->_data );
|
shards.append( s.c_str() , (*i)->_data );
|
||||||
}
|
}
|
||||||
to.append( "shards" , shards.obj() );
|
to.append( "shards" , shards.obj() );
|
||||||
}
|
}
|
||||||
@ -49,16 +130,17 @@ namespace mongo {
|
|||||||
|
|
||||||
_key.init( from.getObjectField( "key" ) );
|
_key.init( from.getObjectField( "key" ) );
|
||||||
|
|
||||||
_shards.clear();
|
assert( _shards.size() == 0 );
|
||||||
|
|
||||||
BSONObj shards = from.getObjectField( "shards" );
|
BSONObj shards = from.getObjectField( "shards" );
|
||||||
if ( shards.isEmpty() ){
|
if ( shards.isEmpty() ){
|
||||||
BSONObjBuilder all;
|
BSONObjBuilder all;
|
||||||
|
|
||||||
// TODO: server
|
|
||||||
all.append( "min" , _key.globalMin() );
|
all.append( "min" , _key.globalMin() );
|
||||||
all.append( "max" , _key.globalMax() );
|
all.append( "max" , _key.globalMax() );
|
||||||
|
all.append( "server" , _config ? _config->getPrimary() : "noserver" );
|
||||||
|
|
||||||
_shards.push_back( Shard( this , all.obj() ) );
|
_shards.push_back( new Shard( this , all.obj() ) );
|
||||||
}
|
}
|
||||||
else {
|
else {
|
||||||
int num=0;
|
int num=0;
|
||||||
@ -67,16 +149,28 @@ namespace mongo {
|
|||||||
BSONObj next = shards.getObjectField( s.c_str() );
|
BSONObj next = shards.getObjectField( s.c_str() );
|
||||||
if ( next.isEmpty() )
|
if ( next.isEmpty() )
|
||||||
break;
|
break;
|
||||||
_shards.push_back( Shard( this , next ) );
|
_shards.push_back( new Shard( this , next ) );
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
|
|
||||||
|
string ShardInfo::toString() const {
|
||||||
|
stringstream ss;
|
||||||
|
ss << "ShardInfo: " << _ns << " key:" << _key.toString() << "\n";
|
||||||
|
for ( vector<Shard*>::const_iterator i=_shards.begin(); i!=_shards.end(); i++ ){
|
||||||
|
const Shard* s = *i;
|
||||||
|
ss << "\t" << s->toString() << "\n";
|
||||||
|
}
|
||||||
|
return ss.str();
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
void shardObjTest(){
|
void shardObjTest(){
|
||||||
string ns = "alleyinsider.blog.posts";
|
string ns = "alleyinsider.blog.posts";
|
||||||
BSONObj o = BSON( "ns" << ns << "key" << BSON( "num" << 1 ) );
|
BSONObj o = BSON( "ns" << ns << "key" << BSON( "num" << 1 ) );
|
||||||
|
|
||||||
ShardInfo si;
|
ShardInfo si(0);
|
||||||
si.unserialize( o );
|
si.unserialize( o );
|
||||||
assert( si.getns() == ns );
|
assert( si.getns() == ns );
|
||||||
|
|
||||||
@ -89,13 +183,33 @@ namespace mongo {
|
|||||||
log(2) << a << endl;
|
log(2) << a << endl;
|
||||||
|
|
||||||
{
|
{
|
||||||
ShardInfo si2;
|
ShardInfo si2(0);
|
||||||
si2.unserialize( a );
|
si2.unserialize( a );
|
||||||
BSONObjBuilder b2;
|
BSONObjBuilder b2;
|
||||||
si2.serialize( b2 );
|
si2.serialize( b2 );
|
||||||
assert( b2.obj().jsonString() == a.jsonString() );
|
assert( b2.obj().jsonString() == a.jsonString() );
|
||||||
}
|
}
|
||||||
|
|
||||||
|
{
|
||||||
|
BSONObj num = BSON( "num" << 5 );
|
||||||
|
si.findShard( num );
|
||||||
|
|
||||||
|
assert( si.findShard( BSON( "num" << -1 ) ) ==
|
||||||
|
si.findShard( BSON( "num" << 1 ) ) );
|
||||||
|
|
||||||
|
log(2) << "before split: " << si << endl;
|
||||||
|
si.findShard( num ).split();
|
||||||
|
log(2) << "after split: " << si << endl;
|
||||||
|
|
||||||
|
log() << "-1 : " << si.findShard( BSON( "num" << -1 ) ) << endl;
|
||||||
|
log() << " 1 : " << si.findShard( BSON( "num" << 1 ) ) << endl;
|
||||||
|
assert( si.findShard( BSON( "num" << -1 ) ) !=
|
||||||
|
si.findShard( BSON( "num" << 1 ) ) );
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
log(1) << "shardObjTest passed" << endl;
|
log(1) << "shardObjTest passed" << endl;
|
||||||
}
|
}
|
||||||
|
|
||||||
|
48
s/shard.h
48
s/shard.h
@ -29,27 +29,45 @@
|
|||||||
|
|
||||||
namespace mongo {
|
namespace mongo {
|
||||||
|
|
||||||
|
class DBConfig;
|
||||||
class ShardInfo;
|
class ShardInfo;
|
||||||
|
|
||||||
class Shard {
|
class Shard : public Stringable {
|
||||||
public:
|
public:
|
||||||
|
|
||||||
BSONObj getMin(){
|
BSONObj& getMin(){
|
||||||
return _data.getObjectField( "min" );
|
return _min;
|
||||||
}
|
}
|
||||||
BSONObj getMax(){
|
BSONObj& getMax(){
|
||||||
return _data.getObjectField( "max" );
|
return _max;
|
||||||
}
|
}
|
||||||
string getServer(){
|
string getServer(){
|
||||||
return _data.getStringField( "server" );
|
return _data.getStringField( "server" );
|
||||||
}
|
}
|
||||||
|
|
||||||
|
bool contains( const BSONObj& obj );
|
||||||
|
|
||||||
|
void split();
|
||||||
|
|
||||||
|
virtual string toString() const;
|
||||||
|
|
||||||
|
bool operator==(const Shard& s);
|
||||||
|
|
||||||
|
bool operator!=(const Shard& s){
|
||||||
|
return ! ( *this == s );
|
||||||
|
}
|
||||||
|
|
||||||
|
Shard( const Shard& s );
|
||||||
|
|
||||||
private:
|
private:
|
||||||
Shard( ShardInfo * info , BSONObj data );
|
Shard( ShardInfo * info , BSONObj data );
|
||||||
|
|
||||||
ShardInfo * _info;
|
ShardInfo * _info;
|
||||||
BSONObj _data;
|
BSONObj _data;
|
||||||
|
|
||||||
|
BSONObj _min;
|
||||||
|
BSONObj _max;
|
||||||
|
|
||||||
void _split( BSONObj& middle );
|
void _split( BSONObj& middle );
|
||||||
|
|
||||||
friend class ShardInfo;
|
friend class ShardInfo;
|
||||||
@ -61,25 +79,39 @@ namespace mongo {
|
|||||||
shards: [ { min: 1, max: 100, server: a } , { min: 101, max: 200 , server : b } ]
|
shards: [ { min: 1, max: 100, server: a } , { min: 101, max: 200 , server : b } ]
|
||||||
}
|
}
|
||||||
*/
|
*/
|
||||||
class ShardInfo : public Model {
|
class ShardInfo : public Model , public Stringable {
|
||||||
public:
|
public:
|
||||||
|
|
||||||
|
ShardInfo( DBConfig * config );
|
||||||
|
virtual ~ShardInfo();
|
||||||
|
|
||||||
string getns(){
|
string getns(){
|
||||||
return _ns;
|
return _ns;
|
||||||
}
|
}
|
||||||
|
|
||||||
|
Shard& findShard( const BSONObj & obj );
|
||||||
|
|
||||||
|
ShardKey& getShardKey(){
|
||||||
|
return _key;
|
||||||
|
}
|
||||||
|
|
||||||
virtual const char * getNS() {
|
virtual const char * getNS() {
|
||||||
return "config.sharding";
|
return "config.sharding";
|
||||||
}
|
}
|
||||||
|
|
||||||
virtual void serialize(BSONObjBuilder& to);
|
virtual void serialize(BSONObjBuilder& to);
|
||||||
virtual void unserialize(BSONObj& from);
|
virtual void unserialize(BSONObj& from);
|
||||||
virtual string modelServer();
|
virtual string modelServer();
|
||||||
|
|
||||||
|
virtual string toString() const;
|
||||||
|
|
||||||
private:
|
private:
|
||||||
|
DBConfig * _config;
|
||||||
string _ns;
|
string _ns;
|
||||||
ShardKey _key;
|
ShardKey _key;
|
||||||
vector<Shard> _shards;
|
vector<Shard*> _shards;
|
||||||
|
|
||||||
|
friend class Shard;
|
||||||
};
|
};
|
||||||
|
|
||||||
void shardObjTest();
|
void shardObjTest();
|
||||||
|
@ -58,7 +58,7 @@ namespace mongo {
|
|||||||
b << _fieldName << (int)(0xfffffff);
|
b << _fieldName << (int)(0xfffffff);
|
||||||
}
|
}
|
||||||
|
|
||||||
int ShardKey::compare( BSONObj& lObject , BSONObj& rObject ){
|
int ShardKey::compare( const BSONObj& lObject , const BSONObj& rObject ) const {
|
||||||
uassert( "not valid yet" , _fieldName );
|
uassert( "not valid yet" , _fieldName );
|
||||||
|
|
||||||
BSONElement lElement = lObject[ _fieldsAndOrder.firstElement().fieldName() ];
|
BSONElement lElement = lObject[ _fieldsAndOrder.firstElement().fieldName() ];
|
||||||
@ -78,6 +78,22 @@ namespace mongo {
|
|||||||
return 0;
|
return 0;
|
||||||
}
|
}
|
||||||
|
|
||||||
|
void ShardKey::middle( BSONObjBuilder & b , BSONObj & lObject , BSONObj & rObject ){
|
||||||
|
BSONElement lElement = lObject[ _fieldsAndOrder.firstElement().fieldName() ];
|
||||||
|
uassert( "left key doesn't have the shard key" , ! lElement.eoo() );
|
||||||
|
uassert( "left key isn't number" , lElement.isNumber() );
|
||||||
|
|
||||||
|
BSONElement rElement = rObject[ _fieldsAndOrder.firstElement().fieldName() ];
|
||||||
|
uassert( "right key doesn't have the shard key" , ! rElement.eoo() );
|
||||||
|
uassert( "right key isn't number" , rElement.isNumber() );
|
||||||
|
|
||||||
|
b.append( _fieldName , ( lElement.number() + rElement.number() ) / 2 );
|
||||||
|
}
|
||||||
|
|
||||||
|
string ShardKey::toString() const {
|
||||||
|
return _fieldsAndOrder.toString();
|
||||||
|
}
|
||||||
|
|
||||||
void shardKeyTest(){
|
void shardKeyTest(){
|
||||||
ShardKey k( BSON( "key" << 1 ) );
|
ShardKey k( BSON( "key" << 1 ) );
|
||||||
|
|
||||||
|
@ -33,15 +33,17 @@ namespace mongo {
|
|||||||
void globalMax( BSONObjBuilder & b );
|
void globalMax( BSONObjBuilder & b );
|
||||||
BSONObj globalMax(){ BSONObjBuilder b; globalMax( b ); return b.obj(); }
|
BSONObj globalMax(){ BSONObjBuilder b; globalMax( b ); return b.obj(); }
|
||||||
|
|
||||||
void split( BSONObjBuilder & b , BSONObj & min , BSONObj & max );
|
void middle( BSONObjBuilder & b , BSONObj & min , BSONObj & max );
|
||||||
BSONObj split( BSONObj & min , BSONObj & max ){ BSONObjBuilder b; split( b , min , max ); return b.obj(); }
|
BSONObj middle( BSONObj & min , BSONObj & max ){ BSONObjBuilder b; middle( b , min , max ); return b.obj(); }
|
||||||
|
|
||||||
int compare( BSONObj& l , BSONObj& r );
|
int compare( const BSONObj& l , const BSONObj& r ) const;
|
||||||
|
|
||||||
BSONObj& key(){
|
BSONObj& key(){
|
||||||
return _fieldsAndOrder;
|
return _fieldsAndOrder;
|
||||||
}
|
}
|
||||||
|
|
||||||
|
virtual string toString() const;
|
||||||
|
|
||||||
private:
|
private:
|
||||||
void _init();
|
void _init();
|
||||||
BSONObj _fieldsAndOrder;
|
BSONObj _fieldsAndOrder;
|
||||||
|
Loading…
Reference in New Issue
Block a user