zakladamy konto i subskrypcję w AWS

Przygotowanie środowiska

Terraform

Tworzymy infrastrukturę

Logujemy się na VM przez SSH

Przygotowujemy VM - NVIDIA

Przygotowujemy VM - DOCKER

Przygotowujemy VM - NVIDIA CONTAINER TOOLKIT

URUCHAMIAMY BIELIKA - KWANTYZACJA Q4

URUCHAMIAMY BIELIKA - KWANTYZACJA Q8

URUCHAMIAMY PLLUM-a - 8B

TUNEL SSH DO LOKALNEJ MASZYNY

TESTUJEMY API - NA LOKALNEJ MASZYNIE

ZABEZPIECZAMY API - API KEY Z DOCKER COMPOSE

KONFIGURACJA CADDY

URUCHAMIAMY DOCKER COMPOSE

TESTUJEMY API Z API KEY - NA LOKALNEJ MASZYNIE

ZARZĄDZAMY VM ZA POMOCĄ AZ CLI

USUWAMY INFRASTRUKTURĘ ZA POMOCA TERRAFORM

KONIEC
🎬 https://www.youtube.com/qooba
💬 SPEAKLEASH DISCORD