Resumo: A evolução dos sistemas ópticos coerentes permitiu a utilização de formatos de modulação que carregam informação através da fase, amplitude e polarização do sinal óptico. Ao mesmo tempo, o desenvolvimento da eletrônica permite que esses sinais, agora disponíveis no domínio digital, possam ser tratados por algoritmos de processamento de forma a compensar os principais efeitos responsáveis por deteriorar o sinal ao longo do enlace de transmissão. Dentre as distorções tratadas estão a dispersão cromática e a dispersão de modo de polarização, cujas compensações são vitais para sistemas acima de 40 Gb/s. A sincronia temporal e a recuperação de portadora também é realizada no domínio digital, tornando desnecessário o controle temporal dos lasers utilizados na transmissão e recepção, barateando os custos e propiciando a disseminação de sistemas com taxas mais elevadas. O próximo obstáculo na obtenção de maiores capacidades se torna então a compensação dos chamados efeitos não lineares da fibra óptica. Nesta dissertação, os conceitos de transmissão coerente digital e os principais algoritmos para a recepção e recuperação de sinal são apresentados. A partir daí, discutimos as origens e consequências dos efeitos não lineares que deterioram o sinal transmitido e impedem a elevação da potência de lançamento na fibra óptica. Duas soluções para o problema são apresentadas e discutidas: o algoritmo de Retropropagação Digital (DBP) e o estimador de sequência de máxima verossimilhança (MLSE), além de variações que possam melhorar o seu desempenho. Os resultados de simulações e experimentos são apresentados e demonstram a eficácia dos métodos discutidos. Em uma transmissão experimental DP-16QAM com taxa de 224 Gb/s foi possível perceber um ganho em distância de mais de duas vezes com a utilização do DBP, em comparação com a equalização puramente linear, enquanto que a combinação dos dois métodos proporcional quase três vezes o alcance original. Por fim, realizamos um estudo da complexidade do algoritmo DBP em termos de multiplicações complexas e uma estimativa de ocupação de área em \textit{chip} que o módulo de compensação de não linearidade teria. Os resultados mostram a importância que a compensação de não linearidades terá em sistemas ópticos de altas taxas no futuro e o grande desafio nessa área de estudo que é a redução da complexidade das soluções Ver menos

Abstract: The evolution of coherent optical systems allowed the use of advanced modulation formats that carry information through the phase, amplitude and polarization of the optical signal. At the same time, the development of electronics enabled these signals, now available in the digital domain, to be treated with digital processing algorithms so the main effects responsible for deteriorating the signal along the transmission link would be compensated. Among those distortions chromatic dispersion and polarization mode dispersion, whose compensation is vital for systems above 40 Gb/s. Time synchronization and carrier recovery are also performed in the digital domain, making it unnecessary to make a strict control of the lasers used in the transmission and reception, cheapening the costs and allowing the spread of systems with higher rates. The next hurdle in getting higher capacity then becomes the compensation of so-called non-linear effects of the optical fiber. In this work, the concepts of digital coherent transmission and the main algorithms for signal reception and recovery are presented. Thereafter, we discussed the origins and consequences of non-linear effects which degrade the transmitted signal and prevent the increase of the launch power into the optical fiber. Two solutions to the problem are presented and discussed: the Digital Backpropagation algorithm (DBP) and the Maximum Likelihood Sequence Estimator (MLSE), and some variations that can improve their performance. The results of simulations and experiments are shown, and demonstrate the effectiveness of the methods discussed. In an experimental transmission DP-16QAM with a rate of 224 Gb/s is possible to double the achieved distance, when DBP is used, in comparison with pure linear equalization, while the combination of DBP and MLSE provides almost three times the original range. Finally, we conducted a study of the complexity of the DBP algorithm in terms of complex multiplications and the chip area which a DBP module would have is estimated. The results show the importance that non-linearities compensation will have in future systems and the major challenge in this area which is to reduce the complexity of the solutions Ver menos