Вопросы с тегом «parallel-processing»

112
Разрыв parallel.foreach?

Как мне выйти из цикла parallel.for ? У меня есть довольно сложное утверждение, которое выглядит следующим образом: Parallel.ForEach<ColorIndexHolder>(ColorIndex.AsEnumerable(), new Action<ColorIndexHolder>((ColorIndexHolder Element) => { if (Element.StartIndex <= I &&...

111
Насколько дорого стоит заявление о блокировке?

Я экспериментировал с многопоточностью и параллельной обработкой, и мне нужен был счетчик для базового подсчета и статистического анализа скорости обработки. Чтобы избежать проблем с одновременным использованием моего класса, я использовал оператор блокировки для частной переменной в моем классе:...

110
выбор между подпроцессом, многопроцессорностью и потоком в Python?

Я хотел бы распараллелить мою программу Python, чтобы она могла использовать несколько процессоров на машине, на которой она работает. Мое распараллеливание очень простое, поскольку все параллельные «потоки» программы независимы и записывают свой вывод в отдельные файлы. Мне не нужны потоки для...

110
Как работает алгоритм сортировки MapReduce?

Одним из основных примеров, который используется для демонстрации возможностей MapReduce, является тест Terasort . Мне сложно понять основы алгоритма сортировки, используемого в среде MapReduce. Для меня сортировка просто включает определение относительного положения элемента по отношению ко всем...

96
Совместное использование очереди результатов между несколькими процессами

В документации к multiprocessingмодулю показано, как передать очередь процессу, запущенному с multiprocessing.Process. Но как я могу разделить очередь с запущенными асинхронными рабочими процессами apply_async? Мне не нужно динамическое объединение или что-то еще, просто способ для рабочих...

95
SLURM `srun` vs` sbatch` и их параметры

Я пытаюсь понять, в чем разница между SLURM srunи sbatchкомандами. Я буду рад общему объяснению, а не конкретным ответам на следующие вопросы, но вот некоторые конкретные моменты путаницы, которые могут стать отправной точкой и дать представление о том, что я ищу. Согласно документации , он...

90
Параллельный mapM на массивах Repa

В своей недавней работе с Gibbs sampling, я делал большую пользу из RVarкоторых, на мой взгляд, обеспечивает почти идеальный интерфейс для генерации случайных чисел. К сожалению, мне не удалось использовать Repa из-за невозможности использовать монадические действия на картах. Хотя очевидно, что...

86
Параллельный запуск программ с использованием xargs

В настоящее время у меня есть текущий сценарий. #!/bin/bash # script.sh for i in {0..99}; do script-to-run.sh input/ output/ $i done Я хочу запустить его параллельно, используя xargs. я пытался script.sh | xargs -P8 Но выполнение описанного выше выполняется только один раз. Не повезло и с -n8....

84
Многопроцессорность Python: понимание логики `chunksize`

Какие факторы определяют оптимальный chunksizeаргумент в пользу таких методов multiprocessing.Pool.map()? .map()Похоже, что этот метод использует произвольную эвристику для размера фрагмента по умолчанию (поясняется ниже); что мотивирует этот выбор и существует ли более продуманный подход,...

79
Координация параллельного выполнения в node.js

Модель программирования node.js, управляемая событиями, несколько усложняет координацию выполнения программы. Простое последовательное выполнение превращается во вложенные обратные вызовы, что достаточно легко (хотя и немного запутано для записи). Но как насчет параллельного выполнения? Скажем, у...

11
Могу ли я использовать std :: transform вместо политики параллельного выполнения?

Если я не ошибаюсь, я могу заставить std::transformработать на месте , используя тот же диапазон, что и итератор ввода и вывода. Предположим, у меня есть какой-то std::vectorобъект vec, тогда я бы написал std::transform(vec.cbegin(),vec.cend(),vec.begin(),unary_op) используя подходящую унарную...

9
Параллельное «любое» или «все» в Haskell

Шаблон, с которым я сталкивался несколько раз, - это тот, в котором список значений должен быть проверен путем сопоставления некоторого теста и проверки, прошел ли какой-либо или все элементы. Типичное решение - просто использовать удобные встроенные функции allи any. Проблема в том, что они...

9
Применение функции Python к сгруппированной в DataFrame группе Pandas - какой наиболее эффективный подход для ускорения вычислений?

Я имею дело с довольно большим Pandas DataFrame - мой набор данных похож на следующую dfнастройку: import pandas as pd import numpy as np #--------------------------------------------- SIZING PARAMETERS : R1 = 20 # .repeat( repeats = R1 ) R2 = 10 # .repeat( repeats = R2 ) R3 = 541680 # .repeat(...