MongoDB: объединить данные из нескольких коллекций в один .. как?

229

Как я могу (в MongoDB) объединить данные из нескольких коллекций в одну коллекцию?

Могу ли я использовать map-Reduce и если да, то как?

Я был бы очень признателен за пример, так как я новичок.

user697697
источник
18
Вы просто хотите скопировать документы из разных коллекций в одну коллекцию или каков ваш план? Можете ли вы указать «объединить»? Если вы просто хотите скопировать через оболочку mongo db.collection1.find().forEach(function(doc){db.collection2.save(doc)});, достаточно. Пожалуйста, укажите используемый драйвер (java, php, ...), если вы не используете оболочку mongo.
Проксим
так что у меня есть коллекция (скажем, пользователи), чем другие коллекции, такие как коллекция адресных книг, список коллекций книг и т. д. Как я могу на основе ключа say user_id объединить эти коллекции в одну коллекцию. ?
user697697
Похожие
страницы

Ответы:

147

Несмотря на то, что вы не можете сделать это в режиме реального времени, вы можете запустить map-Reduction несколько раз, чтобы объединить данные, используя опцию «Reduce» Out в MongoDB 1.8+ map / проводить (см. Http://www.mongodb.org/ display / DOCS / MapReduce # MapReduce-Outputoptions ). У вас должен быть какой-то ключ в обеих коллекциях, который вы можете использовать как _id.

Например, допустим, у вас есть usersколлекция и commentsколлекция, и вы хотите иметь новую коллекцию, в которой есть демографические данные для каждого комментария.

Допустим, usersколлекция имеет следующие поля:

  • _мне бы
  • Имя
  • Фамилия
  • страна
  • Пол
  • возраст

И тогда в commentsколлекции есть следующие поля:

  • _мне бы
  • Логин пользователя
  • комментарий
  • созданный

Вы бы сделали эту карту / уменьшить:

var mapUsers, mapComments, reduce;
db.users_comments.remove();

// setup sample data - wouldn't actually use this in production
db.users.remove();
db.comments.remove();
db.users.save({firstName:"Rich",lastName:"S",gender:"M",country:"CA",age:"18"});
db.users.save({firstName:"Rob",lastName:"M",gender:"M",country:"US",age:"25"});
db.users.save({firstName:"Sarah",lastName:"T",gender:"F",country:"US",age:"13"});
var users = db.users.find();
db.comments.save({userId: users[0]._id, "comment": "Hey, what's up?", created: new ISODate()});
db.comments.save({userId: users[1]._id, "comment": "Not much", created: new ISODate()});
db.comments.save({userId: users[0]._id, "comment": "Cool", created: new ISODate()});
// end sample data setup

mapUsers = function() {
    var values = {
        country: this.country,
        gender: this.gender,
        age: this.age
    };
    emit(this._id, values);
};
mapComments = function() {
    var values = {
        commentId: this._id,
        comment: this.comment,
        created: this.created
    };
    emit(this.userId, values);
};
reduce = function(k, values) {
    var result = {}, commentFields = {
        "commentId": '', 
        "comment": '',
        "created": ''
    };
    values.forEach(function(value) {
        var field;
        if ("comment" in value) {
            if (!("comments" in result)) {
                result.comments = [];
            }
            result.comments.push(value);
        } else if ("comments" in value) {
            if (!("comments" in result)) {
                result.comments = [];
            }
            result.comments.push.apply(result.comments, value.comments);
        }
        for (field in value) {
            if (value.hasOwnProperty(field) && !(field in commentFields)) {
                result[field] = value[field];
            }
        }
    });
    return result;
};
db.users.mapReduce(mapUsers, reduce, {"out": {"reduce": "users_comments"}});
db.comments.mapReduce(mapComments, reduce, {"out": {"reduce": "users_comments"}});
db.users_comments.find().pretty(); // see the resulting collection

На этом этапе у вас будет новая коллекция под названием, users_commentsкоторая содержит объединенные данные, и теперь вы можете использовать ее. Все эти уменьшенные коллекции имеют _idключ, который вы выдавали в функциях карты, и тогда все значения являются подобъектом внутри valueключа - значения не находятся на верхнем уровне этих сокращенных документов.

Это несколько простой пример. Вы можете повторить это с большим количеством коллекций, сколько хотите, чтобы создать сокращенную коллекцию. Вы также можете сделать резюме и агрегацию данных в процессе. Вероятно, вы бы определили более одной функции сокращения, поскольку логика для агрегирования и сохранения существующих полей становится более сложной.

Вы также заметите, что теперь существует один документ для каждого пользователя со всеми комментариями этого пользователя в массиве. Если бы мы объединяли данные, которые имеют отношение один-к-одному, а не один-ко-многим, это было бы плоско, и вы могли бы просто использовать функцию сокращения, например так:

reduce = function(k, values) {
    var result = {};
    values.forEach(function(value) {
        var field;
        for (field in value) {
            if (value.hasOwnProperty(field)) {
                result[field] = value[field];
            }
        }
    });
    return result;
};

Если вы хотите сгладить users_commentsколлекцию, чтобы она содержала один документ на комментарий, дополнительно запустите:

var map, reduce;
map = function() {
    var debug = function(value) {
        var field;
        for (field in value) {
            print(field + ": " + value[field]);
        }
    };
    debug(this);
    var that = this;
    if ("comments" in this.value) {
        this.value.comments.forEach(function(value) {
            emit(value.commentId, {
                userId: that._id,
                country: that.value.country,
                age: that.value.age,
                comment: value.comment,
                created: value.created,
            });
        });
    }
};
reduce = function(k, values) {
    var result = {};
    values.forEach(function(value) {
        var field;
        for (field in value) {
            if (value.hasOwnProperty(field)) {
                result[field] = value[field];
            }
        }
    });
    return result;
};
db.users_comments.mapReduce(map, reduce, {"out": "comments_with_demographics"});

Эта техника определенно не должна выполняться на лету. Он подходит для работы cron или чего-то подобного, который периодически обновляет объединенные данные. Вы, вероятно, захотите запустить ensureIndexновую коллекцию, чтобы убедиться, что запросы, которые вы выполняете против нее, выполняются быстро (имейте в виду, что ваши данные все еще находятся внутри valueключа, поэтому, если вы захотите проиндексировать comments_with_demographicsвремя комментария created, это будетdb.comments_with_demographics.ensureIndex({"value.created": 1});

rmarscher
источник
1
Я бы, наверное, никогда не сделал бы этого в программном обеспечении производства, но это все еще злая крутая техника.
Дэйв Гриффит
3
Спасибо, Дэйв. Я использовал эту технику для генерации таблиц экспорта и отчетности для сайта с высоким трафиком в производстве за последние 3 месяца без проблем. Вот еще одна статья , которая описывает подобное использование техники: tebros.com/2011/07/...
rmarscher
1
Спасибо @rmarscher ваши дополнительные детали действительно помогли мне лучше понять все.
benstr
5
Я должен обновить этот ответ примером, использующим конвейер агрегации и новую операцию $ lookup. Упоминая это здесь, пока я не смогу составить правильную рецензию. docs.mongodb.org/manual/reference/operator/aggregation/lookup
rmarscher
1
FYI для тех , кто хочет быстро обращали внимание на то , что это делает, вот что в users_commentsколлекции после первого блока кода gist.github.com/nolanamy/83d7fb6a9bf92482a1c4311ad9c78835
Нолан Amy
127

MongoDB 3.2 теперь позволяет объединять данные из нескольких коллекций в одну через этап агрегации $ lookup . В качестве практического примера предположим, что у вас есть данные о книгах, разделенных на две разные коллекции.

Первый сбор называется books, имея следующие данные:

{
    "isbn": "978-3-16-148410-0",
    "title": "Some cool book",
    "author": "John Doe"
}
{
    "isbn": "978-3-16-148999-9",
    "title": "Another awesome book",
    "author": "Jane Roe"
}

И называется вторая коллекция books_selling_data, имеющая следующие данные:

{
    "_id": ObjectId("56e31bcf76cdf52e541d9d26"),
    "isbn": "978-3-16-148410-0",
    "copies_sold": 12500
}
{
    "_id": ObjectId("56e31ce076cdf52e541d9d28"),
    "isbn": "978-3-16-148999-9",
    "copies_sold": 720050
}
{
    "_id": ObjectId("56e31ce076cdf52e541d9d29"),
    "isbn": "978-3-16-148999-9",
    "copies_sold": 1000
}

Чтобы объединить обе коллекции, достаточно использовать $ lookup следующим образом:

db.books.aggregate([{
    $lookup: {
            from: "books_selling_data",
            localField: "isbn",
            foreignField: "isbn",
            as: "copies_sold"
        }
}])

После этой агрегации booksколлекция будет выглядеть следующим образом:

{
    "isbn": "978-3-16-148410-0",
    "title": "Some cool book",
    "author": "John Doe",
    "copies_sold": [
        {
            "_id": ObjectId("56e31bcf76cdf52e541d9d26"),
            "isbn": "978-3-16-148410-0",
            "copies_sold": 12500
        }
    ]
}
{
    "isbn": "978-3-16-148999-9",
    "title": "Another awesome book",
    "author": "Jane Roe",
    "copies_sold": [
        {
            "_id": ObjectId("56e31ce076cdf52e541d9d28"),
            "isbn": "978-3-16-148999-9",
            "copies_sold": 720050
        },
        {
            "_id": ObjectId("56e31ce076cdf52e541d9d28"),
            "isbn": "978-3-16-148999-9",
            "copies_sold": 1000
        }
    ]
}

Важно отметить несколько вещей:

  1. Коллекция «from» в этом случае books_selling_dataне может быть очищена.
  2. Поле «as» будет массивом, как в примере выше.
  3. Параметры «localField» и «foreignField» на этапе $ lookup будут рассматриваться как пустые для сопоставления, если они не существуют в соответствующих коллекциях ( документация $ lookup имеет прекрасный пример по этому поводу).

Итак, в заключение, если вы хотите объединить обе коллекции, имея в данном случае плоское поле copy_sold с общим количеством проданных копий, вам придется работать немного больше, возможно, с использованием промежуточной коллекции, которая затем быть $ до окончательной коллекции.

Бруно Кребс
источник
Привет, пожалуйста, вы можете сказать, каким будет оптимизированный способ управления данными: User, file.files и file.chunks - это три коллекции, я хочу, чтобы конкретный пользователь со всеми связанными файлами в ответе был возможен.? {"name": "batMan", "email": "bt@gmail.com", "files": [{file1}, {file2}, {file3}, .... так далее]}
mfaisalhyder
Официальные примеры документации для вышеупомянутого решения можно найти здесь: docs.mongodb.com/manual/reference/operator/aggregation/lookup
Якуб Чаплицкий
4
Ну, на самом деле мой ответ уже имел три ссылки на официальную документацию. Но все равно спасибо за ваш вклад. @JakubCzaplicki
Бруно Кребс
2
У меня может быть полная неисправность мозга (скорее всего), но $lookupне все ли "localField" и "foreignField" равны "isbn"? не "_id", а "isbn"?
Dev01
13

Если нет массовой вставки в mongodb, мы зациклим все объекты в small_collectionи вставим их один за другим в big_collection:

db.small_collection.find().forEach(function(obj){ 
   db.big_collection.insert(obj)
});
Хеу Ле
источник
db.colleciton.insert ([{}, {}, {}]) Вставка принимает массивы.
Авгурон
2
это отлично работает для небольших коллекций, но не забудьте перенести индексы :)
Себастьен Лорбер
12

Очень простой пример с $ lookup.

db.getCollection('users').aggregate([
    {
        $lookup: {
            from: "userinfo",
            localField: "userId",
            foreignField: "userId",
            as: "userInfoData"
        }
    },
    {
        $lookup: {
            from: "userrole",
            localField: "userId",
            foreignField: "userId",
            as: "userRoleData"
        }
    },
    { $unwind: { path: "$userInfoData", preserveNullAndEmptyArrays: true }},
    { $unwind: { path: "$userRoleData", preserveNullAndEmptyArrays: true }}
])

Здесь используется

 { $unwind: { path: "$userInfoData", preserveNullAndEmptyArrays: true }}, 
 { $unwind: { path: "$userRoleData", preserveNullAndEmptyArrays: true }}

Вместо того

{ $unwind:"$userRoleData"} 
{ $unwind:"$userRoleData"}

Потому что {$ unwind: "$ userRoleData"} возвращает пустой или 0 результат, если не найдена соответствующая запись с $ lookup.

Аниш Агарвал
источник
11

Создание объединений в MongoDB в режиме «SQL UNION» возможно с использованием агрегации и поиска в одном запросе. Вот пример, который я протестировал, который работает с MongoDB 4.0:

// Create employees data for testing the union.
db.getCollection('employees').insert({ name: "John", type: "employee", department: "sales" });
db.getCollection('employees').insert({ name: "Martha", type: "employee", department: "accounting" });
db.getCollection('employees').insert({ name: "Amy", type: "employee", department: "warehouse" });
db.getCollection('employees').insert({ name: "Mike", type: "employee", department: "warehouse"  });

// Create freelancers data for testing the union.
db.getCollection('freelancers').insert({ name: "Stephany", type: "freelancer", department: "accounting" });
db.getCollection('freelancers').insert({ name: "Martin", type: "freelancer", department: "sales" });
db.getCollection('freelancers').insert({ name: "Doug", type: "freelancer", department: "warehouse"  });
db.getCollection('freelancers').insert({ name: "Brenda", type: "freelancer", department: "sales"  });

// Here we do a union of the employees and freelancers using a single aggregation query.
db.getCollection('freelancers').aggregate( // 1. Use any collection containing at least one document.
  [
    { $limit: 1 }, // 2. Keep only one document of the collection.
    { $project: { _id: '$$REMOVE' } }, // 3. Remove everything from the document.

    // 4. Lookup collections to union together.
    { $lookup: { from: 'employees', pipeline: [{ $match: { department: 'sales' } }], as: 'employees' } },
    { $lookup: { from: 'freelancers', pipeline: [{ $match: { department: 'sales' } }], as: 'freelancers' } },

    // 5. Union the collections together with a projection.
    { $project: { union: { $concatArrays: ["$employees", "$freelancers"] } } },

    // 6. Unwind and replace root so you end up with a result set.
    { $unwind: '$union' },
    { $replaceRoot: { newRoot: '$union' } }
  ]);

Вот объяснение того, как это работает:

  1. Создайте aggregateиз любой коллекции вашей базы данных, в которой есть хотя бы один документ. Если вы не можете гарантировать, что любая коллекция вашей базы данных не будет пустой, вы можете обойти эту проблему, создав в своей базе данных своего рода «фиктивную» коллекцию, содержащую один пустой документ, который будет там специально для выполнения запросов объединения.

  2. Сделайте первый этап вашего конвейера, чтобы быть { $limit: 1 }. Это лишит все документы коллекции кроме первого.

  3. Удалите все поля оставшегося документа, используя $projectэтап:

    { $project: { _id: '$$REMOVE' } }
  4. Ваш агрегат теперь содержит один пустой документ. Пришло время добавить поиск для каждой коллекции, которую вы хотите объединить вместе. Вы можете использовать pipelineполе , чтобы сделать некоторые конкретные фильтрации, или оставить localFieldи foreignFieldв нуле , чтобы соответствовать всей коллекции.

    { $lookup: { from: 'collectionToUnion1', pipeline: [...], as: 'Collection1' } },
    { $lookup: { from: 'collectionToUnion2', pipeline: [...], as: 'Collection2' } },
    { $lookup: { from: 'collectionToUnion3', pipeline: [...], as: 'Collection3' } }
  5. Теперь у вас есть агрегат, содержащий один документ, который содержит 3 массива, например:

    {
        Collection1: [...],
        Collection2: [...],
        Collection3: [...]
    }

    Затем вы можете объединить их в один массив, используя $projectэтап вместе с $concatArraysоператором агрегирования:

    {
      "$project" :
      {
        "Union" : { $concatArrays: ["$Collection1", "$Collection2", "$Collection3"] }
      }
    }
  6. Теперь у вас есть агрегат, содержащий один документ, в котором расположен массив, содержащий ваше объединение коллекций. Что еще предстоит сделать , это добавить $unwindи на $replaceRootсцену , чтобы разделить ваш массив на отдельные документы:

    { $unwind: "$Union" },
    { $replaceRoot: { newRoot: "$Union" } }
  7. Вуаля. Теперь у вас есть набор результатов, содержащий коллекции, которые вы хотите объединить вместе. Затем вы можете добавить дополнительные этапы для дальнейшей фильтрации, сортировки, применения skip () и limit (). Практически все, что вы хотите.

sboisse
источник
Запрос не выполняется с сообщением «$ projection требуется хотя бы одно поле вывода».
abhishek_ganta
@abhishek Если вы получаете это, потому что вы пытались удалить все поля из одного документа в одной стадии проекции. MongoDB не позволит вам сделать это. Чтобы обойти это, вам нужно сделать 2 последовательных проекции, где первый снимает все, кроме _id, а второй - оставшийся _id.
sboisse
@abhishek Я еще больше упростил запрос, заменив этапы $ project на один, использующий переменную $$ REMOVE. Я также добавил конкретный пример, который вы можете просто скопировать и вставить непосредственно в тестер запросов, чтобы убедиться, что он работает.
sboisse
@sboisse, это решение работает для небольших коллекций, однако, если я хочу сделать это для больших коллекций (более 100 000 документов), я сталкиваюсь с «Общий размер документов в collectionToUnion1 превышает максимальный размер документа». В документах предлагается помещать $ unwind непосредственно после поиска $, чтобы избежать создания больших промежуточных документов. Мне не удалось изменить это решение с помощью этого метода. Вы сталкивались с этой проблемой и должны были использовать этот метод? Ссылка на документы, на которые я ссылаюсь : [ссылка] ( docs.mongodb.com/manual/core/aggregation-pipeline-optimization/… )
lucky7samson
@ lucky7samson, к сожалению, объем данных, с которыми мне приходилось иметь дело, был не таким большим. Поэтому мне не пришлось сталкиваться с проблемой, о которой вы говорите. В моем случае я мог применить фильтрацию к коллекции для поиска перед объединением записей с остальными, поэтому объем данных для объединения был довольно небольшим.
sboisse
9

использовать несколько $ lookup для нескольких коллекций в агрегации

запрос:

db.getCollection('servicelocations').aggregate([
  {
    $match: {
      serviceLocationId: {
        $in: ["36728"]
      }
    }
  },
  {
    $lookup: {
      from: "orders",
      localField: "serviceLocationId",
      foreignField: "serviceLocationId",
      as: "orders"
    }
  },
  {
    $lookup: {
      from: "timewindowtypes",
      localField: "timeWindow.timeWindowTypeId",
      foreignField: "timeWindowTypeId",
      as: "timeWindow"
    }
  },
  {
    $lookup: {
      from: "servicetimetypes",
      localField: "serviceTimeTypeId",
      foreignField: "serviceTimeTypeId",
      as: "serviceTime"
    }
  },
  {
    $unwind: "$orders"
  },
  {
    $unwind: "$serviceTime"
  },
  {
    $limit: 14
  }
])

результат:

{
    "_id" : ObjectId("59c3ac4bb7799c90ebb3279b"),
    "serviceLocationId" : "36728",
    "regionId" : 1.0,
    "zoneId" : "DXBZONE1",
    "description" : "AL HALLAB REST EMIRATES MALL",
    "locationPriority" : 1.0,
    "accountTypeId" : 1.0,
    "locationType" : "SERVICELOCATION",
    "location" : {
        "makani" : "",
        "lat" : 25.119035,
        "lng" : 55.198694
    },
    "deliveryDays" : "MTWRFSU",
    "timeWindow" : [ 
        {
            "_id" : ObjectId("59c3b0a3b7799c90ebb32cde"),
            "timeWindowTypeId" : "1",
            "Description" : "MORNING",
            "timeWindow" : {
                "openTime" : "06:00",
                "closeTime" : "08:00"
            },
            "accountId" : 1.0
        }, 
        {
            "_id" : ObjectId("59c3b0a3b7799c90ebb32cdf"),
            "timeWindowTypeId" : "1",
            "Description" : "MORNING",
            "timeWindow" : {
                "openTime" : "09:00",
                "closeTime" : "10:00"
            },
            "accountId" : 1.0
        }, 
        {
            "_id" : ObjectId("59c3b0a3b7799c90ebb32ce0"),
            "timeWindowTypeId" : "1",
            "Description" : "MORNING",
            "timeWindow" : {
                "openTime" : "10:30",
                "closeTime" : "11:30"
            },
            "accountId" : 1.0
        }
    ],
    "address1" : "",
    "address2" : "",
    "phone" : "",
    "city" : "",
    "county" : "",
    "state" : "",
    "country" : "",
    "zipcode" : "",
    "imageUrl" : "",
    "contact" : {
        "name" : "",
        "email" : ""
    },
    "status" : "ACTIVE",
    "createdBy" : "",
    "updatedBy" : "",
    "updateDate" : "",
    "accountId" : 1.0,
    "serviceTimeTypeId" : "1",
    "orders" : [ 
        {
            "_id" : ObjectId("59c3b291f251c77f15790f92"),
            "orderId" : "AQ18O1704264",
            "serviceLocationId" : "36728",
            "orderNo" : "AQ18O1704264",
            "orderDate" : "18-Sep-17",
            "description" : "AQ18O1704264",
            "serviceType" : "Delivery",
            "orderSource" : "Import",
            "takenBy" : "KARIM",
            "plannedDeliveryDate" : ISODate("2017-08-26T00:00:00.000Z"),
            "plannedDeliveryTime" : "",
            "actualDeliveryDate" : "",
            "actualDeliveryTime" : "",
            "deliveredBy" : "",
            "size1" : 296.0,
            "size2" : 3573.355,
            "size3" : 240.811,
            "jobPriority" : 1.0,
            "cancelReason" : "",
            "cancelDate" : "",
            "cancelBy" : "",
            "reasonCode" : "",
            "reasonText" : "",
            "status" : "",
            "lineItems" : [ 
                {
                    "ItemId" : "BNWB020",
                    "size1" : 15.0,
                    "size2" : 78.6,
                    "size3" : 6.0
                }, 
                {
                    "ItemId" : "BNWB021",
                    "size1" : 20.0,
                    "size2" : 252.0,
                    "size3" : 11.538
                }, 
                {
                    "ItemId" : "BNWB023",
                    "size1" : 15.0,
                    "size2" : 285.0,
                    "size3" : 16.071
                }, 
                {
                    "ItemId" : "CPMW112",
                    "size1" : 3.0,
                    "size2" : 25.38,
                    "size3" : 1.731
                }, 
                {
                    "ItemId" : "MMGW001",
                    "size1" : 25.0,
                    "size2" : 464.375,
                    "size3" : 46.875
                }, 
                {
                    "ItemId" : "MMNB218",
                    "size1" : 50.0,
                    "size2" : 920.0,
                    "size3" : 60.0
                }, 
                {
                    "ItemId" : "MMNB219",
                    "size1" : 50.0,
                    "size2" : 630.0,
                    "size3" : 40.0
                }, 
                {
                    "ItemId" : "MMNB220",
                    "size1" : 50.0,
                    "size2" : 416.0,
                    "size3" : 28.846
                }, 
                {
                    "ItemId" : "MMNB270",
                    "size1" : 50.0,
                    "size2" : 262.0,
                    "size3" : 20.0
                }, 
                {
                    "ItemId" : "MMNB302",
                    "size1" : 15.0,
                    "size2" : 195.0,
                    "size3" : 6.0
                }, 
                {
                    "ItemId" : "MMNB373",
                    "size1" : 3.0,
                    "size2" : 45.0,
                    "size3" : 3.75
                }
            ],
            "accountId" : 1.0
        }, 
        {
            "_id" : ObjectId("59c3b291f251c77f15790f9d"),
            "orderId" : "AQ137O1701240",
            "serviceLocationId" : "36728",
            "orderNo" : "AQ137O1701240",
            "orderDate" : "18-Sep-17",
            "description" : "AQ137O1701240",
            "serviceType" : "Delivery",
            "orderSource" : "Import",
            "takenBy" : "KARIM",
            "plannedDeliveryDate" : ISODate("2017-08-26T00:00:00.000Z"),
            "plannedDeliveryTime" : "",
            "actualDeliveryDate" : "",
            "actualDeliveryTime" : "",
            "deliveredBy" : "",
            "size1" : 28.0,
            "size2" : 520.11,
            "size3" : 52.5,
            "jobPriority" : 1.0,
            "cancelReason" : "",
            "cancelDate" : "",
            "cancelBy" : "",
            "reasonCode" : "",
            "reasonText" : "",
            "status" : "",
            "lineItems" : [ 
                {
                    "ItemId" : "MMGW001",
                    "size1" : 25.0,
                    "size2" : 464.38,
                    "size3" : 46.875
                }, 
                {
                    "ItemId" : "MMGW001-F1",
                    "size1" : 3.0,
                    "size2" : 55.73,
                    "size3" : 5.625
                }
            ],
            "accountId" : 1.0
        }, 
        {
            "_id" : ObjectId("59c3b291f251c77f15790fd8"),
            "orderId" : "AQ110O1705036",
            "serviceLocationId" : "36728",
            "orderNo" : "AQ110O1705036",
            "orderDate" : "18-Sep-17",
            "description" : "AQ110O1705036",
            "serviceType" : "Delivery",
            "orderSource" : "Import",
            "takenBy" : "KARIM",
            "plannedDeliveryDate" : ISODate("2017-08-26T00:00:00.000Z"),
            "plannedDeliveryTime" : "",
            "actualDeliveryDate" : "",
            "actualDeliveryTime" : "",
            "deliveredBy" : "",
            "size1" : 60.0,
            "size2" : 1046.0,
            "size3" : 68.0,
            "jobPriority" : 1.0,
            "cancelReason" : "",
            "cancelDate" : "",
            "cancelBy" : "",
            "reasonCode" : "",
            "reasonText" : "",
            "status" : "",
            "lineItems" : [ 
                {
                    "ItemId" : "MMNB218",
                    "size1" : 50.0,
                    "size2" : 920.0,
                    "size3" : 60.0
                }, 
                {
                    "ItemId" : "MMNB219",
                    "size1" : 10.0,
                    "size2" : 126.0,
                    "size3" : 8.0
                }
            ],
            "accountId" : 1.0
        }
    ],
    "serviceTime" : {
        "_id" : ObjectId("59c3b07cb7799c90ebb32cdc"),
        "serviceTimeTypeId" : "1",
        "serviceTimeType" : "nohelper",
        "description" : "",
        "fixedTime" : 30.0,
        "variableTime" : 0.0,
        "accountId" : 1.0
    }
}
KARTHIKEYAN.A
источник
1

Mongorestore имеет эту функцию добавления поверх того, что уже есть в базе данных, поэтому это поведение можно использовать для объединения двух коллекций:

  1. mongodump collection1
  2. collection2.rename (collection1)
  3. mongorestore

Пока не пробовал, но он может работать быстрее, чем подход "карта / уменьшение".

Шаули
источник
1

Начнем с того Mongo 4.4, что мы можем достичь этого объединения в конвейере агрегации, связав новый $unionWithэтап агрегации с $groupновым $accumulatorоператором:

// > db.users.find()
//   [{ user: 1, name: "x" }, { user: 2, name: "y" }]
// > db.books.find()
//   [{ user: 1, book: "a" }, { user: 1, book: "b" }, { user: 2, book: "c" }]
// > db.movies.find()
//   [{ user: 1, movie: "g" }, { user: 2, movie: "h" }, { user: 2, movie: "i" }]
db.users.aggregate([
  { $unionWith: "books"  },
  { $unionWith: "movies" },
  { $group: {
    _id: "$user",
    user: {
      $accumulator: {
        accumulateArgs: ["$name", "$book", "$movie"],
        init: function() { return { books: [], movies: [] } },
        accumulate: function(user, name, book, movie) {
          if (name) user.name = name;
          if (book) user.books.push(book);
          if (movie) user.movies.push(movie);
          return user;
        },
        merge: function(userV1, userV2) {
          if (userV2.name) userV1.name = userV2.name;
          userV1.books.concat(userV2.books);
          userV1.movies.concat(userV2.movies);
          return userV1;
        },
        lang: "js"
      }
    }
  }}
])
// { _id: 1, user: { books: ["a", "b"], movies: ["g"], name: "x" } }
// { _id: 2, user: { books: ["c"], movies: ["h", "i"], name: "y" } }
  • $unionWithобъединяет записи из данной коллекции в документы, уже находящиеся в конвейере агрегации. После двух этапов объединения у нас есть все пользователи, книги и записи фильмов в конвейере.

  • Затем мы $groupрегистрируем $userи накапливаем элементы, используя $accumulatorоператор, позволяющий настраивать накопления документов по мере их группировки:

    • поля, которые мы заинтересованы в накоплении, определены с accumulateArgs.
    • init определяет состояние, которое будет накапливаться при группировании элементов.
    • accumulateфункция позволяет выполнять пользовательские действия с записью группируется, чтобы построить накопленное состояние. Например, если для сгруппированного элемента bookопределено поле, мы обновляем booksчасть состояния.
    • mergeиспользуется для объединения двух внутренних состояний. Он используется только для агрегатов, работающих на сегментированных кластерах или когда операция превышает пределы памяти.
Ксавье Гихот
источник
Можно ли получить аналогичный вывод для: версии 4.2.6
Nixit Patel
0

Да, вы можете: Возьмите эту служебную функцию, которую я написал сегодня:

function shangMergeCol() {
  tcol= db.getCollection(arguments[0]);
  for (var i=1; i<arguments.length; i++){
    scol= db.getCollection(arguments[i]);
    scol.find().forEach(
        function (d) {
            tcol.insert(d);
        }
    )
  }
}

Вы можете передать в эту функцию любое количество коллекций, первая из которых будет целевой. Все остальные коллекции являются источниками, которые необходимо перенести в целевой.

Shangab
источник
-1

Фрагмент кода. Courtesy-Несколько сообщений о переполнении стека, включая этот.

 db.cust.drop();
 db.zip.drop();
 db.cust.insert({cust_id:1, zip_id: 101});
 db.cust.insert({cust_id:2, zip_id: 101});
 db.cust.insert({cust_id:3, zip_id: 101});
 db.cust.insert({cust_id:4, zip_id: 102});
 db.cust.insert({cust_id:5, zip_id: 102});

 db.zip.insert({zip_id:101, zip_cd:'AAA'});
 db.zip.insert({zip_id:102, zip_cd:'BBB'});
 db.zip.insert({zip_id:103, zip_cd:'CCC'});

mapCust = function() {
    var values = {
        cust_id: this.cust_id
    };
    emit(this.zip_id, values);
};

mapZip = function() {
    var values = {
    zip_cd: this.zip_cd
    };
    emit(this.zip_id, values);
};

reduceCustZip =  function(k, values) {
    var result = {};
    values.forEach(function(value) {
    var field;
        if ("cust_id" in value) {
            if (!("cust_ids" in result)) {
                result.cust_ids = [];
            }
            result.cust_ids.push(value);
        } else {
    for (field in value) {
        if (value.hasOwnProperty(field) ) {
                result[field] = value[field];
        }
         };  
       }
      });
       return result;
};


db.cust_zip.drop();
db.cust.mapReduce(mapCust, reduceCustZip, {"out": {"reduce": "cust_zip"}});
db.zip.mapReduce(mapZip, reduceCustZip, {"out": {"reduce": "cust_zip"}});
db.cust_zip.find();


mapCZ = function() {
    var that = this;
    if ("cust_ids" in this.value) {
        this.value.cust_ids.forEach(function(value) {
            emit(value.cust_id, {
                zip_id: that._id,
                zip_cd: that.value.zip_cd
            });
        });
    }
};

reduceCZ = function(k, values) {
    var result = {};
    values.forEach(function(value) {
        var field;
        for (field in value) {
            if (value.hasOwnProperty(field)) {
                result[field] = value[field];
            }
        }
    });
    return result;
};
db.cust_zip_joined.drop();
db.cust_zip.mapReduce(mapCZ, reduceCZ, {"out": "cust_zip_joined"}); 
db.cust_zip_joined.find().pretty();


var flattenMRCollection=function(dbName,collectionName) {
    var collection=db.getSiblingDB(dbName)[collectionName];

    var i=0;
    var bulk=collection.initializeUnorderedBulkOp();
    collection.find({ value: { $exists: true } }).addOption(16).forEach(function(result) {
        print((++i));
        //collection.update({_id: result._id},result.value);

        bulk.find({_id: result._id}).replaceOne(result.value);

        if(i%1000==0)
        {
            print("Executing bulk...");
            bulk.execute();
            bulk=collection.initializeUnorderedBulkOp();
        }
    });
    bulk.execute();
};


flattenMRCollection("mydb","cust_zip_joined");
db.cust_zip_joined.find().pretty();
Випул Мехта
источник
-2

Вы должны сделать это на уровне приложения. Если вы используете ORM, он может использовать аннотации (или что-то подобное) для извлечения ссылок, которые существуют в других коллекциях. Я работал только с Morphia , и @Referenceаннотация извлекает ссылочную сущность при запросе, поэтому я могу избежать делать это самостоятельно в коде.

lobster1234
источник