Kódování AI s volnou náladou by mohlo navždy zničit open source software

Na světě by bylo mnohem více programátorů, kdyby nebylo faktu, že programování je těžké, a je potřeba trávit spoustu času učením se, cvičením a testováním svého kódu.

Pak přišlo kódování "vibe", a najednou jste mohli nechat AI psát kód za vás, ať už jste rozuměli tomu, co kód znamená, nebo ne.

Kódování vibe se setkává s open source

Ať už s dobrými úmysly nebo ne, problémy se rýsují

Už jsem psal, že programování podle nálady je riskantní, ale když se zamyslíte nad tím, jak funguje vývoj open-source softwaru, stává se to ještě znepokojivějším trendem. Mnoho open-source projektů je otevřeno pro kohokoli, kdo chce přispět kódem, který je pak zkontrolován správcem projektu, který buď příspěvek přijme, nebo odmítne.

I když vám jeden konkrétní projekt nedovolí přispívat, nic vám nebrání vzít open source kód a vytvořit vlastní fork, kde budete správcem, a poté integrovat své změny kódu.

To fungovalo docela dobře, když jediní lidé, kteří mohli přispívat kódem, byli ti, kteří byli schopni ten kód napsat, protože to je přirozeně malý podíl lidí. Nicméně, pokud každý člověk může jednoduše generovat kód pomocí AI, pak můžete vidět, kam to směřuje.

Povodeň požadavků na začlenění a problémů generovaných umělou inteligencí

Příliš mnoho „dobré“ věci?

Správci projektů některých repozitářů otevřeného zdrojového kódu už vyvolali poplach ohledně přívalu příspěvků kódu od AI, se kterými se musí vypořádat. Na Mediumu je dobrý článek od JP Capary (bohužel za paywallem), který uvádí časovou osu ukazující, jak tldraw zavírá externí pull requesty, curl ukončuje svůj bug bounty program a RedMonk vytváří termín „Slopaggedon“.

Mezitím preprint akademického článku z Cornellu prohlašuje, že Vibe Coding Ničí Open Source, poté co zkoumá, jak tento jev ovlivňuje OSS na několika úrovních. Krátká verze je, že způsob, jakým dosud fungoval vývoj open-source softwaru, není vůbec připraven na nástup AI vibe codingu.

Kvalita, kontext a zátěž při hodnocení

Žádná kvalita ani kontrola

Všechny tyto pull requesty nejsou jen o lidech, kteří dělají ‚vibe coding‘ a pak se snaží odeslat ten kód. Lidé také používají agentní AI k hledání nebo vymýšlení problémů, aby získali odměny za chyby, nebo jen k tomu, aby narušili projekt jeho spamováním.

Github nyní umožňuje správcům zakázat pull requesty, a faktem je, že lidské kontroly jednoduše nemohou projít množství kódu nebo žádostí jakýmkoli praktickým způsobem.

Samozřejmě, GitHub by byl rád, kdybyste používali jeho AI modely k boji proti AI modelům spammerů, ale osobně se mi ten nápad nelíbí, protože stále odstraňujete lidi z části procesu kontroly kvality. To nic nevyřeší.

Komunitní tření a kulturní napětí

Open source je postaven na lidské komunitě

Jak bylo podrobně popsáno ve videu od Jeffa Geerlinga, které jsem výše vložil, AI agenti způsobují chaos v komunitě open source, dokonce dělají skutečně šílené věci, jako napsat hanlivý článek o správci poté, co odmítl kód agenta.

Velkým problémem všeho toho podle mého názoru je, že jedinou životaschopnou možností pro open-source projekty je stát se uzavřenými. Nyní mohou přispívat nebo se dokonce účastnit diskuse o tom softwaru pouze lidé, kterým se důvěřuje nebo kteří byli prověřeni. Aby byla zachována integrita, bude se muset zúžit okruh přispěvatelů a testerů.

Jen tím, že to uděláte, zbavujete se většiny skutečných výhod vývoje open-source softwaru. Bezpečnostní a kvalitativní výhody, které přináší tisíce programátorů a testerů přispívajících do vašeho projektu, jsou tím, co tento software umožňuje. Vývoj se zpomalí na šnečí tempo, kvalita klesne a pocit komunity a sdílené vize zmizí.

Může se to stát udržitelné?

Je s přístrojem rovnováha?

Tvrdá pravda je, že vibe coding nikam nezmizí a lidské programování také ne. Ve skutečnosti je pravděpodobně chytrý tah učit se programovat v době vibe codingu. Tato technologie je mocná a užitečná v rukou zkušeného programátora, ale přímo nebezpečná v rukou někoho, kdo nechápe kód vycházející z LLM.

Avšak džin je z lahve, což znamená, že tyto projekty budou muset upravit tak, aby našly rovnováhu mezi otevřeností a zabráněním tomu, aby AI „bordel“ všechno zničila. Je potřeba mít systémy důvěry, způsoby, jak třídit, co by mělo být přezkoumáno jako první nebo vůbec, a jak začlenit lidský dohled, aniž by se AI úplně zakázala.

Nebudu lhát, myslím, že to bude těžký oříšek k rozlousknutí. Možná existuje budoucnost, kde bude celý kód vytvářen umělou inteligencí a nebude to vlastně vůbec důležité. Možná každý člověk bude mít pouze své vlastní personalizované aplikace, ale ten den možná nikdy nepřijde. Nástroje pro kódování s AI a LLM obecně dosahují svého vrcholu a nejsou dost dobré na to, aby je mohli bezmyšlenkovitě používat nešikovní uživatelé. Najít udržitelné řešení pro otevřený zdroj je doslova existenciální krize, a měli bychom se všichni o to obávat.