Я написал код вот так, но понятно, что в этом случае всё будет записано в конец первого файла:
package com.javarush.task.task18.task1819;

import java.io.*;

/*
Объединение файлов
*/

public class Solution {
    public static void main(String[] args) throws IOException {
        String fileName1 = readFileName();
        String fileName2 = readFileName();
        writeFromFile2ToBeginningFile1(fileName1, fileName2);


    }

    private static String readFileName() throws IOException {
        BufferedReader bufferedReader = new BufferedReader(new InputStreamReader(System.in));
        String fileName = bufferedReader.readLine();
        bufferedReader.close();
        return fileName;
    }

    private static void writeFromFile2ToBeginningFile1(String fileName1, String fileName2) throws IOException {
        FileOutputStream fileOutputStream = new FileOutputStream(fileName1, true);
        FileInputStream fileInputStream = new FileInputStream(fileName2);
        int temp;
        while (fileInputStream.available() > 0) {
            temp = fileInputStream.read();
            fileOutputStream.write(temp);
        }
        fileOutputStream.close();
        fileInputStream.close();
    }
}
А как записать в начало первого файла? Какие у кого есть мысли на этот счет?