O que é Server Side Rendering (SSR) e Static Site Generation (SSG)?

Nos últimos anos, projetos como o NextJS do Zeit e o Gatsby têm recebido elogios e números cada vez maiores de uso. Não apenas isso, mas seus conceitos centrais de Server Side Rendering (SSR) e Static Site Generation (SSG) foram vistos em outros projetos e estruturas, como Angular Universal, ScullyIO e NuxtJS. Por que é que? O que é SSR e SSG? Como posso usar esses conceitos em meus aplicativos?