Scala: List [Future] to Future [List] без учета неудачных фьючерсов

116

Я ищу способ преобразовать список Futures произвольной длины в Future of List. Я использую Playframework, поэтому в конечном итоге я действительно хочу Future[Result], но чтобы упростить задачу, скажем так Future[List[Int]]. Обычный способ сделать это - использовать, Future.sequence(...)но есть поворот ... В списке, который мне дают, обычно есть в нем около 10-20 фьючерсов, и нередко один из этих фьючерсов терпит неудачу (они делают запросы внешних веб-сервисов). Вместо того, чтобы повторять все из них в случае сбоя одного из них, я хотел бы иметь возможность получить те, которые были успешными, и вернуть их.

Например, следующее не работает

import scala.concurrent._
import scala.concurrent.ExecutionContext.Implicits.global
import scala.util.Success
import scala.util.Failure

val listOfFutures = Future.successful(1) :: Future.failed(new Exception("Failure")) :: 
                    Future.successful(3) :: Nil

val futureOfList = Future.sequence(listOfFutures)

futureOfList onComplete {
  case Success(x) => println("Success!!! " + x)
  case Failure(ex) => println("Failed !!! " + ex)
}

scala> Failed !!! java.lang.Exception: Failure

Вместо того, чтобы получить единственное исключение, я хотел бы вытащить оттуда 1 и 3. Я пробовал использовать Future.fold, но, видимо, это просто Future.sequenceзакулисные звонки .

Заранее спасибо за помощь!

Джо
источник

Ответы:

148

Уловка состоит в том, чтобы сначала убедиться, что ни один из фьючерсов не провалился. .recoverявляется вашим другом, вы можете комбинировать его с, mapчтобы преобразовать все Future[T]результаты в Future[Try[T]]]экземпляры, каждый из которых наверняка будет успешным в будущем.

примечание: вы также можете использовать Optionили Eitherздесь, но Tryэто самый чистый способ, если вы специально хотите перехватить исключения

def futureToFutureTry[T](f: Future[T]): Future[Try[T]] =
  f.map(Success(_)).recover { case x => Failure(x)}

val listOfFutures = ...
val listOfFutureTrys = listOfFutures.map(futureToFutureTry(_))

Затем используйте, Future.sequenceкак прежде, чтобы получитьFuture[List[Try[T]]]

val futureListOfTrys = Future.sequence(listOfFutureTrys)

Затем отфильтруйте:

val futureListOfSuccesses = futureListOfTrys.map(_.filter(_.isSuccess))

Вы даже можете вытащить конкретные сбои, если они вам понадобятся:

val futureListOfFailures = futureListOfTrys.map(_.filter(_.isFailure))
Кевин Райт
источник
Спасибо! .recoverдействительно был для меня недостающей частью.
Джо
20
Вы можете использовать _.collect{ case Success(x) => x}вместо того, _.filter(_.isSuccess)чтобы избавиться от Tryтипа futureListOfSuccesses.
senia 02
43
В scala 2010 .recover(x => Failure(x))недействительно, используйте .recover({case e => Failure(e)})вместо него
FGRibreau
Я думаю, вам не хватает будущей оболочки: def futureToFutureOfTry [A] (f: Future [A]): ​​Future [Try [A]] = {val p = Promise [Try [A]] () f.map {a => p.success (scala.util.Success (a))} .recover {case x: Throwable => p.success (Failure (x))} p.future}
Дарио
не так. Я сопоставляю будущее с другим будущим, промежуточное обещание не нужно и было бы расточительным
Кевин Райт
12

В Scala 2.12 есть улучшение, Future.transformкоторое заключается в ответе с меньшим количеством кодов.

val futures = Seq(Future{1},Future{throw new Exception})

// instead of `map` and `recover`, use `transform`
val seq = Future.sequence(futures.map(_.transform(Success(_)))) 

val successes = seq.map(_.collect{case Success(x)=>x})
successes
//res1: Future[Seq[Int]] = Future(Success(List(1)))

val failures = seq.map(_.collect{case Failure(x)=>x})
failures
//res2: Future[Seq[Throwable]] = Future(Success(List(java.lang.Exception)))
WeiChing 林 煒 清
источник
11

Я попробовал ответить Кевина, и у меня возникла проблема с моей версией Scala (2.11.5) ... Я исправил это и написал несколько дополнительных тестов, если кому-то интересно ... вот моя версия>

implicit class FutureCompanionOps(val f: Future.type) extends AnyVal {

    /** Given a list of futures `fs`, returns the future holding the list of Try's of the futures from `fs`.
      * The returned future is completed only once all of the futures in `fs` have been completed.
      */
    def allAsTrys[T](fItems: /* future items */ List[Future[T]]): Future[List[Try[T]]] = {
      val listOfFutureTrys: List[Future[Try[T]]] = fItems.map(futureToFutureTry)
      Future.sequence(listOfFutureTrys)
    }

    def futureToFutureTry[T](f: Future[T]): Future[Try[T]] = {
      f.map(Success(_)) .recover({case x => Failure(x)})
    }

    def allFailedAsTrys[T](fItems: /* future items */ List[Future[T]]): Future[List[Try[T]]] = {
      allAsTrys(fItems).map(_.filter(_.isFailure))
    }

    def allSucceededAsTrys[T](fItems: /* future items */ List[Future[T]]): Future[List[Try[T]]] = {
      allAsTrys(fItems).map(_.filter(_.isSuccess))
    }
}


// Tests... 



  // allAsTrys tests
  //
  test("futureToFutureTry returns Success if no exception") {
    val future =  Future.futureToFutureTry(Future{"mouse"})
    Thread.sleep(0, 100)
    val futureValue = future.value
    assert(futureValue == Some(Success(Success("mouse"))))
  }
  test("futureToFutureTry returns Failure if exception thrown") {
    val future =  Future.futureToFutureTry(Future{throw new IllegalStateException("bad news")})
    Thread.sleep(5)            // need to sleep a LOT longer to get Exception from failure case... interesting.....
    val futureValue = future.value

    assertResult(true) {
      futureValue match {
        case Some(Success(Failure(error: IllegalStateException)))  => true
      }
    }
  }
  test("Future.allAsTrys returns Nil given Nil list as input") {
    val future =  Future.allAsTrys(Nil)
    assert ( Await.result(future, 100 nanosecond).isEmpty )
  }
  test("Future.allAsTrys returns successful item even if preceded by failing item") {
    val future1 =  Future{throw new IllegalStateException("bad news")}
    var future2 = Future{"dog"}

    val futureListOfTrys =  Future.allAsTrys(List(future1,future2))
    val listOfTrys =  Await.result(futureListOfTrys, 10 milli)
    System.out.println("successItem:" + listOfTrys);

    assert(listOfTrys(0).failed.get.getMessage.contains("bad news"))
    assert(listOfTrys(1) == Success("dog"))
  }
  test("Future.allAsTrys returns successful item even if followed by failing item") {
    var future1 = Future{"dog"}
    val future2 =  Future{throw new IllegalStateException("bad news")}

    val futureListOfTrys =  Future.allAsTrys(List(future1,future2))
    val listOfTrys =  Await.result(futureListOfTrys,  10 milli)
    System.out.println("successItem:" + listOfTrys);

    assert(listOfTrys(1).failed.get.getMessage.contains("bad news"))
    assert(listOfTrys(0) == Success("dog"))
  }
  test("Future.allFailedAsTrys returns the failed item and only that item") {
    var future1 = Future{"dog"}
    val future2 =  Future{throw new IllegalStateException("bad news")}

    val futureListOfTrys =  Future.allFailedAsTrys(List(future1,future2))
    val listOfTrys =  Await.result(futureListOfTrys,  10 milli)
    assert(listOfTrys(0).failed.get.getMessage.contains("bad news"))
    assert(listOfTrys.size == 1)
  }
  test("Future.allSucceededAsTrys returns the succeeded item and only that item") {
    var future1 = Future{"dog"}
    val future2 =  Future{throw new IllegalStateException("bad news")}

    val futureListOfTrys =  Future.allSucceededAsTrys(List(future1,future2))
    val listOfTrys =  Await.result(futureListOfTrys,  10 milli)
    assert(listOfTrys(0) == Success("dog"))
    assert(listOfTrys.size == 1)
  }
Крис Бедфорд
источник
7

Я только что столкнулся с этим вопросом и могу предложить другое решение:

def allSuccessful[A, M[X] <: TraversableOnce[X]](in: M[Future[A]])
                                                (implicit cbf: CanBuildFrom[M[Future[A]], A, M[A]], 
                                                 executor: ExecutionContext): Future[M[A]] = {
    in.foldLeft(Future.successful(cbf(in))) {
      (fr, fa)(for (r ← fr; a ← fa) yield r += a) fallbackTo fr
    } map (_.result())
}

Идея здесь в том, что внутри свертки вы ждете завершения следующего элемента в списке (с использованием синтаксиса for-computing), а если следующий не работает, вы просто отключаетесь к тому, что у вас уже есть.

Идан Вайсман
источник
Мне не нравится это название, но мне нравится, как оно сделано, прямо из последовательности impl
crak
1

Вы можете легко обернуть будущий результат с помощью option, а затем сгладить список:

def futureToFutureOption[T](f: Future[T]): Future[Option[T]] =
    f.map(Some(_)).recover {
      case e => None
    }
val listOfFutureOptions = listOfFutures.map(futureToFutureOption(_))

val futureListOfOptions = Future.sequence(listOfFutureOptions)

val futureListOfSuccesses = futureListOfOptions.flatten
Амир Хоссейн Яван
источник
На случай, если кто-то еще обнаружит ошибку с Some в первой функции, первую функцию можно переписать так, чтобы предотвратить ошибку компилятора: def futureToFutureOption [T] (f: Future [T]): Future [Option [T]] = f.map (Option (_)). restore {case e => None}
Зи
0

Вы также можете собирать успешные и неудачные результаты в разные списки:

def safeSequence[A](futures: List[Future[A]]): Future[(List[Throwable], List[A])] = {
  futures.foldLeft(Future.successful((List.empty[Throwable], List.empty[A]))) { (flist, future) =>
    flist.flatMap { case (elist, alist) =>
      future
        .map { success => (elist, alist :+ success) }
        .recover { case error: Throwable => (elist :+ error, alist) }
    }
  }
}
Евгений Лютиков
источник