Mi sugerencia es que se permita utilizar las ramas y ensamblados obtenidos en una exploración con diferentes funciones objetivo sin tener obligatoriamente que borrar los sets obtenidos anteriormente.
Puede resultar que tengamos algunos sets aceptables pero queramos obtener algunos más o simplemente obtener otros mejores o estudiar qué combinación de hiperparametros genera mejores sets.
Esto simplemente se podría realizar dando la opción de poner un nombre diferente al archivo y permitiría mayor control sobre la bondad en el ajuste de hiperparametros de la función objetivo.