Zrušil jsem všechny své předplatné a místo toho si sestavil vlastní nastavení

Předplatné má legrační způsob, jak na vás vplížit. Přihlásíte se k jedné věci, pak k další, a než se nadějete, každý měsíc utrácíte spoustu peněz za věci, na které sotva myslíte.

Vlastně jsem si spočítal, kolik utrácím, a nebylo to pěkné číslo. Tak jsem začal nahrazovat věci jednu po druhé alternativami, které hostuji sám, a od té doby jsem se neohlédl zpět.

LM Studio

Nejlepší způsob, jak spouštět LLM lokálně

Platil jsem za ChatGPT Plus každý měsíc, a čím více jsem o tom přemýšlel, tím těžší bylo to ospravedlnit. Lokální modely se v poslední době opravdu zlepšily a pro většinu toho, k čemu AI denně skutečně používám, mi 7 miliard parametrů stačí tak na 80 %. A pokud máte výkonnější stroj, můžete vždy spustit něco mnohem schopnějšího.

Osobně provozuji LM Studio na svém Macu a porovnal jsem jej s Ollamou. LM Studio vítězí na Apple Silicon a také podporuje MLX, což je vlastní framework Applu pro inferenci LLM. Rozdíl ve výkonu je znatelný.

Nejlepší na tom je, že nic nikdy neopouští vaše zařízení. Vaše konverzace, vaše data, všechno zůstává lokálně. Ale pokud chcete přistupovat ke svým modelům z telefonu nebo jiného zařízení, LM Studio vám tuto možnost také nabízí. Můžete použít LM Link, který vám poskytuje koncové šifrované připojení k vašemu lokálnímu instanci přímo přes Tailscale, takže ničím neohrozíte bezpečnost, jen abyste získali tuto flexibilitu.

Na Macu bych doporučil alespoň 16 GB sjednocené paměti, aby základní modely běžely pohodlně. Pokud používáte počítač s Windows nebo Linuxem, budete potřebovat GPU s solidní VRAM. Z mé zkušenosti 8 GB stačí na to, abyste mohli spouštět modely s 4 až 7 miliardami parametrů bez přílišného frustrace.

Nextcloud

Drž své soubory pro sebe

Nextcloud je nejlepší aplikace, kterou jsem používal pro ukládání a sdílení souborů na vlastním serveru. Je to v podstatě váš vlastní Google Drive, jen máte každý jeho kousek ve vlastnictví.

Největší důvod, který vidím, proč se lidé odvracejí od Nextcloudu, je předpoklad, že k začátku potřebujete luxusní NAS nastavení s tonami úložiště. Chápu to, tyto věci se mohou rychle stát složitými. Ale opravdu toho nepotřebujete vůbec nic, abyste začali. Můžete nasměrovat Nextcloud na externí disk a můžete vyrazit. To je všechno, co je potřeba k začátku.

Odtud můžete přistupovat ke svým souborům odkudkoli, synchronizovat je na všech svých zařízeních a sdílet věci stejně jako s Google Drive. A Nextcloud umí mnohem víc než jen soubory. Existuje podpora pro kalendáře, kontakty, poznámky a spoustu dalších aplikací, které si můžete přidat. Ale v jádru, při nahrazování cloudového úložiště, nic se mu nevyrovná.

To znamená, že nepříjemná pravda je, že Nextcloud není tak snadné nastavit. Nebo alespoň není tak snadné jako vytvořit účet Google. Budete ho muset nainstalovat prostřednictvím Dockeru, a pokud jste úplně noví v samostatném hostování, určitě narazíte na některé překážky na začátku.

Immich

Google Fotky, na vašem kovu

Pokud jste stále na Google Photos, Immich vám vyrazí dech. Je to vlastnoručně hostovaná fotoknihovna, která vypadá a funguje téměř stejně jako Google Photos, a myslím to tím nejlepším způsobem. Automatické zálohování z vašeho telefonu funguje přesně tak, jak byste očekávali. Otevřete aplikaci a vaše fotky se již synchronizují na pozadí, aniž byste o tom museli přemýšlet.

Sada funkcí je opravdu působivá. Dostanete rozpoznávání obličeje, alba, vzpomínky, zobrazení mapy, které vám ukáže, kde byly všechny vaše fotografie pořízeny, a stále se to zlepšuje. Vývojáři jsou neuvěřitelně aktivní a nové funkce přicházejí docela pravidelně.

S Immichem vlastníte disk, vlastníte úložiště a neexistuje žádný limit. Zaplaťte za hardware jednou a už na něj nikdy znovu nezapomeňte. Náklady zaplatíte nyní a později ušetříte peníze.

Plex

Zlatý standard pro všechna vaše média

Plex je v podstatě váš vlastní osobní Netflix. Nahrajete své filmy a seriály na disk, ukážete Plexu, kde to je, a tím to končí. Funguje prakticky na každém zařízení, které vlastníte; na vaší televizi, telefonu, tabletu, v prohlížeči, všechno.

Plex ve skutečnosti nabízí bezplatnou vestavěnou streamovací službu, takže ji můžete začít používat hned, ještě než si vybudujete vlastní knihovnu. Nakonec si ale pravděpodobně budete chtít zajistit vlastní soubory. Může to být nahrávání vašich vlastních Blu-ray disků nebo něco podobného. Jakmile to uděláte, nebudete se chtít vrátit zpět. Streamovací služby všechno komprimují a vy si prostě neuvědomíte, jak špatné to je, dokud neuvidíte své médium v skutečné plné kvalitě.

Bezplatná verze vás také dostane docela daleko. Plex Pass je opravdu nutný jen tehdy, pokud chcete offline stahování nebo živé vysílání. A už se nikdy nemusíte obávat, že by se nějaký pořad náhle z platformy stáhl. Pokud je ve vaší knihovně, zůstane tam. Nastavení Plexu je také poměrně jednoduché a rozhodně byste mu měli dát šanci.

Nastavení vyžaduje úsilí, ale stojí to za to.

Nic z toho není připoj a hraj, a chci být v tom upřímný. Existuje křivka učení a narazíte na překážky, zejména na začátku. Ale věc je, že to musíte vyřešit jen jednou. Poté už všechno jen funguje.

A ten pocit, že skutečně vlastníte své zařízení, je těžké popsat, dokud ho nemáte. Vaše soubory jsou vaše, vaše fotografie jsou vaše, vaše média jsou vaše. Nic neleží na cizím serveru, nic se nezruší nebo nezvýší cena a nikdo nenaroubuje vaše vzpomínky, aby ušetřil na úložných nákladech.

Peněz, které ušetříte, je v tomto bodě téměř vedlejší efekt. Skutečným vítězstvím je kontrola.