100 dnů s AI a Martinem

Den 10/100, “Na spousta věcí stačí klasický AI chat”: povídám si při nastavování tiskového serveru na linuxu. Jedná se o činnost, ke které jsem se dlouho nutil, a díky AI jsem to měl hotovo za půl hoďky pro mojí tiskárnu Brother DCP-1512. Mimochodem, tato tiskárna je deal, funguje plně pod linuxem (včetně scanneru), a toner či tiskový válec se do ní dají sehnat za 200 - 300 Kč. Ale to předbíhám.

Dneska jsem opět stal brzy ráno, nakonec jsem se dokopal a autem zajel do Galerie Fénix do Form Factory, je tam bazén a vířivka, nic jiného jsem v plánu vlastně ani neměl. Před nedávnem jsem si koupil plné členství Form Factory, takže můžu do všech klubů, ne že by to bylo tak skvělé fitko, ale velmi příjemná otvíračka na Chodově (6-22) + sauna z toho dělají bezkonkurenční fitko.

Radši bych sice chodil do nějakého rodinnějšího fitka, ale pro mě je asi nepostradatelná ta sauna. Díky tomu, že chodím do sauny, a ještě nosím bederní pás od nicebelly se přes zimu většinou moc nenachladím, a pokud už ano, je to většinou velmi jemné a skončí to během pár dnů. Dokud jsem nechodil do sauny, trávil jsem dva týdny nemocný každou zimu, takže za mě se to rozhodně vyplatí.

Zpět k AI, určitě ho používám i v DevOps, ale často si právě vystačím s tím chatem. Teď jsem někde četl zajímavý článek o tom, že se tím dají vygenerovat bezpečnostní politiky v Terraform pro AWS nebo Azure. To byl vždy ten největší “opruz” pokud jsem psal něco v Terraformu pro cloud, který vyžadovaly korporáty. Mít nastaveny pouze nezbytně nutná oprávnění, podle nějakého webu jsem se dočetl, že stačí spustit jen Terraform plan, pak copy + paste do chatu, a vyjede vám IAM politika pro vaší infrastrukturu, jedná se o rozhodně zajímavé využití.

Taky jsem si dneska hrál s LM Studio, což je podobný nástroj jako Ollama (tedy lokální AI), ale pro Windows, Mac i Linux v grafickém rozhraní. Výhoda je, že se mi podařilo rozjet velký model qwen3.5 s 35 miliardou tokenů, a fungovalo to, i když se to nevešlo do grafiky - v Ollama mi to prostě nešlo, alespoň ne ve WSL. To LM Studio vám umožní i rozběhnout lokální API server, je to na ovládání mnohem lepší než Ollama, nicméně pravda, neustále trošku pomalé oproti cloudovým modelům.

Rozdíl mezi malým Qwen modelem s 1 miliardou tokenů, a tím co má 35 miliard tokenů je zásadní. V tom menším modelu je Václav Havel prý známý spisovatel, který napsal mnoho knížek i dramat. V tom větším už je naštestí politik a disident 😂, a představitel Charty 77.

To je pro dnešek vše.