lzw-assignment/src/compress.cc

149 lines
4.4 KiB
C++
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

/**
* \file compress.cc
* \brief Implementation of compression
*/
#include "compress.hh"
#include "utf8.hh"
#include <cassert>
#include <cstdlib>
#include <fstream>
#include <iostream>
#include <memory>
#include <thread>
#ifdef Debug
constexpr bool debug_mode = true;
#else
constexpr bool debug_mode = false;
#endif
using dict_t = std::map<std::pair<uint32_t, uint8_t>, uint32_t>;
using ustring = std::basic_string<uint8_t>; // chaîne non encodée
using uvec = std::vector<uint32_t>; // chaîne encodée
using std::printf;
void join_and_write(
std::vector<std::pair<std::unique_ptr<std::thread>, uvec>> &t_threads,
FILE *t_out) {
for (auto &elem : t_threads) {
(*elem.first).join();
}
for (auto &elem : t_threads) {
for (const auto c : elem.second) {
write_utf8(t_out, c);
}
}
t_threads.clear();
}
/**
* La chaîne de caractère \p t_text est lue caractère par caractère, et est et
* selon la valeur de retour de la fonction \ref dico (permettant dans le même
* temps la création du dictionnaire), on rajoute un mot ou pas dans le vecteur
* de caractères UTF-8 représentant des mots de chars compressés. La fonction
* renvoie ledit vecteur de uint32_t via le paramètre \p t_res.
*
* \param[in] t_text Chaîne de caractères uint8_t représentant le fichier
* d'entrée \param[out] t_res Chaîne de caractères de sortie
*/
void lzw_compress(const std::vector<char> &t_text, uvec &t_res) {
dict_t dictionary{};
std::puts("Compressing...");
uint32_t w = 0xFFFF;
constexpr size_t DICT_MAX = 7936; /* 12 bits */
for (const auto &c : t_text) {
if (dictionary.size() >= DICT_MAX) {
t_res.push_back(static_cast<uint32_t>(w));
w = static_cast<uint32_t>(c);
} else if (const auto &[exists, pos] =
dico(dictionary, w, static_cast<std::uint8_t>(c));
exists) {
w = pos;
} else {
t_res.push_back(static_cast<uint32_t>(w));
w = static_cast<std::uint8_t>(c);
}
}
}
/**
* \brief function description
*
* Wrapper de la fonction \ref lzw_compress gérant l'ouverture, la lecture,
* l'écriture et la fermeture des fichiers dentrée et de sortie. Si \p
* t_out_file est nul (chemin non spécifié), il prendra alors la valeur de
* \p t_in_file à laquelle sera annexé lextension `.lzw`.
*
* \param t_in_file Chemin vers le fichier dentrée
* \param t_out_file Chemin vers le fichier de sortie
*/
void compress(const std::string &t_in_file, const char *t_out_file) {
// Fichier dentrée
std::ifstream input_file{t_in_file};
if (!input_file.is_open()) {
std::cerr << "Error at " << __FILE__ << ":" << __LINE__ - 2
<< ": could not open output file \"" << t_in_file
<< "\". Aborting...\n";
exit(1);
}
// Fichier de sortie
const char *filename = (t_out_file) ? t_out_file : "output.lzw";
FILE *out = fopen(filename, "wb");
if (!out) {
std::cerr << "Error at " << __FILE__ << ":" << __LINE__ - 4
<< ": could not open output file \"" << filename
<< "\". Aborting...\n";
input_file.close();
exit(1);
}
// thread pool
std::vector<std::pair<std::unique_ptr<std::thread>, uvec>> threads{};
// char chunk[32768];
std::vector<char> chunk(32768, 0);
while (input_file.read(chunk.data(),
static_cast<std::streamsize>(chunk.size()))) {
threads.emplace_back(nullptr, uvec{});
threads.back().first = std::make_unique<std::thread>(
std::thread{lzw_compress, chunk, ref(threads.back().second)});
assert(threads.back().first);
if (threads.size() >= 8) {
join_and_write(threads, out);
}
}
if (!threads.empty()) {
join_and_write(threads, out);
}
if (input_file.tellg() != std::ios::end) {
std::puts("Leftovers, compressing...");
{
const auto prev_pos = input_file.tellg();
input_file.seekg(0, std::ios::end);
chunk.reserve(static_cast<size_t>(input_file.tellg() - prev_pos));
input_file.seekg(prev_pos, std::ios::beg);
std::istreambuf_iterator<char> itr(input_file);
for (std::streamoff i = 0; i < prev_pos; ++i, ++itr)
;
chunk.assign((itr), std::istreambuf_iterator<char>());
}
uvec ret{};
lzw_compress(chunk, ret);
for (const auto c : ret) {
if constexpr (debug_mode) {
printf("%c\t", c);
}
write_utf8(out, c);
}
}
fclose(out);
input_file.close();
}