Para mover um arquivo para outro diretório em java basta utilizar o método renameTo da classe File. Veja o exemplo abaixo ou baixe o zip do projeto exemplo.

package com.marvinsiq.arquivo;
import java.io.File;
public class MoveArquivo {
    public static void main(String[] args) {
        // Arquivo a ser movido
        File arquivo = new File("teste.txt");
        if (!arquivo.exists()) {
            System.out.println("Arquivo não encontrado");
        } else {
            // Diretorio de destino
            File diretorioDestino = new File("/tmp");
            // Move o arquivo para o novo diretorio
            boolean sucesso = arquivo.renameTo(new File(diretorioDestino, arquivo.getName()));
            if (sucesso) {
                System.out.println("Arquivo movido para '" + diretorioDestino.getAbsolutePath() + "'");
            } else {
                System.out.println("Erro ao mover arquivo '" + arquivo.getAbsolutePath() + "' para '"
                        + diretorioDestino.getAbsolutePath() + "'");
            }
        }
    }
}